Илон Маск обеспокоен: искусственный интеллект восстанет против людей. Искусственный интеллект стал умнее человеческого. Что дальше? Возможен ли перенос сознания в машину

Возможно, на The International 2018 нас будет ждать очередная схватка ИИ с про геймерами. Машины становятся все умнее.

Этим августом одни из лучших профессиональных игроков в мире отправятся в Ванкувер, чтобы сражаться за миллионы долларов в крупнейшем киберспортивном турнире. К ним присоединится команда из пяти ботов AI, поддерживаемые Илоном Маском . Они попытаются установить новую вершину развития машинного обучения.

Боты были разработаны OpenAI , независимым научно-исследовательским институтом, который в 2015 году учредил генеральный директор Tesla для продвижения ИИ и предотвращения превращения технологии в угрозу обществу.

В Ванкувере пройдет ежегодный чемпионат мира по Dota 2 , одной из самых популярных игр. В каждой схватке две команды из пяти человек пытаются уничтожить базы друг друга, играя за различных персонажей: демонов, пауков, ледяных призраков и прочих.

Ранее в этом месяце команда OpenAI, OpenAI Five , обыграла команду полупрофессионалов в Dota 2. Этот матч имел упрощенные функции игры, например, ограничив обе команды одними и теми же персонажами. Но технический директор и соучредитель OpenAI, Грег Брокман , считает, что боты могут быть готовы к полноценному поединку с профессионалами уже через два месяца в Ванкувере.

Сотрудники исследовательского института AI OpenAI сражаются с командой ботов AI, которые они создали для Dota 2

Это смелое заявление. Борьба с орками и колдунами может казаться менее сложной, чем шахматы или го, игры, в которых компьютеры побеждали лучших игроков в 1997 и 2016 годах, соответственно. Но такие видеоигры, как Dota 2, намного сложнее для систем ИИ. Так говорит Дэйв Черчилль, профессор Мемориального университета в Сент-Джонсе, Канада. Именно поэтому DeepMind от Alphabet, которая создала программное обеспечение AlphaGo, победившее чемпиона го в 2016 году, теперь работает над StarCraft 2 , аналогичной Dota 2 видеоигре.

Dota и StarCraft очень разные, но оба они сложны для AI, потому что действие происходит на гораздо более крупной доске, где видны не все движения вашего противника, как в шахматах или го. Сложные видеоигры также требуют от игроков принятия большего количества решений за меньший промежуток времени. В среднем игрок в шахматы имеет 35 возможных ходов, а игрок го - 250. OpenAI сообщает, что каждый из ботов в команде должен выбирать между 1000 возможных вариантов каждые восемь секунд, при этом соревнования по Dota 2 обычно продолжаются около 45 минут.

Черчилль утверждает:

Эти игры имеют гораздо больше сходных свойств с реальными сценариями мира, чем шахматы и го. Полученные алгоритмы для Dota 2 могут быть адаптированы, чтобы помочь роботам научиться выполнять сложные задачи, к примеру.

OpenAI Five научился Dota 2, играя против собственных клонов миллионы раз. Программное обеспечение построено на основе метода подкрепления, в котором программное обеспечение использует пробную версию и ошибку, чтобы узнать, какие действия максимизируют виртуальную награду. В случае OpenAI Five, вознаграждение представляет собой комбинацию игровой статистики, выбранной исследователями OpenAI, для обеспечения неуклонно совершенствующихся навыков.

Играя против себя OpenAI Five постепенно становятся умнее

Хотя обучение усилению было вдохновлено исследованиями о том, как учатся животные и люди, искусственная версия гораздо менее эффективна. В рамках обучения OpenAI Five в течение нескольких недель использовалась служба облачных вычислений Google, занимающая 128 000 обычных компьютерных процессоров и 256 графических процессоров, чипов, жизненно важных для больших экспериментов по компьютерному обучению. Обычные процессоры выполняют работу по запуску игры, генерируя данные обучения для алгоритмов, которые питаются от графических процессоров. Каждый день OpenAI Five играл эквивалент 180 лет в Dota 2.

Брокман настаивает :

Ни у кого нет 180 лет, чтобы узнать видеоигру. Действительно, некоторые исследователи ИИ говорят, что обучение подкреплению слишком малоэффективно, чтобы быть полезным вне игровых сценариев. Но проект OpenAI показывает, что если вы сможете повысить вычислительную мощность по сравнению с сегодняшними алгоритмами, они могут сделать гораздо больше, чем люди ожидают.

Боты OpenAI не играют, как люди. Они воспринимают игру, как поток чисел, детализирующих различные аспекты игры, а не декодируя отображаемое изображение. Они могут реагировать быстрее, чем люди.

Черчилль говорит, что любая победа в такой сложной задаче была бы значительной, но масштаб прорыва будет зависеть от методологических деталей. Брокман полагает, что судить об успехах ботов нужно исходя из того, признают ли прогеймеры их, как достойных противников.

Если боты победят, достижение неизбежно будет сравниваться с DeepMind и его работой над го. Брокман говорит, что стремится установить очередное крупное достижение в соревновании между компьютерами и людьми. «Мы изучаем компьютерное обучение и AI вместе, пытаясь понять, на что способны эти технологии », - говорит Брокман.

Матч проигран: компьютер против человека.

Креативное мышление, логика, опыт – качества, которые позволяли человеку лидировать в схватке «человек-машина». Казалось, эти преимущества всегда будут секретным оружием человека, и компьютер будет выполнять роль «догоняющего».

Но потребовалось совсем немного времени, чтобы искусственный интеллект догнал и навсегда превзошел человека во многих сферах, в том числе и в сфере интеллектуальных развлечений.

Искусственный интеллект обыграл человека: где и как

Кубик Рубика
Эта головоломка известна по всему миру. Миллионы людей стараются выполнить задание и собрать правильно кубик, а некоторые даже соревнуются в скорости сборки. Рекорд среди людей показал 14-летний Лукас Эттер из США, который разбирается с головоломкой за 4,904 секунды. Невероятно, не правда ли? Но этот результат удалось превзойти роботу, который создали два энтузиаста Джей Флэтлэнд и Пол Роуз: результат робота 1,047 сек.

Благодаря встроенным камерам, а их четыре, компьютер оценивает положение, и подбирает лучший алгоритм действий. В основе системы лежит формула Коцебы (сборка за 20 ходов). Едва ли кто-то из людей сможет собрать кубик Рубика быстрее, чем за 1 секунду.
0:1 в пользу искусственного разума.

«Отелло»
Пик популярности этой игры приходится на начало 70-х годов прошлого века. Суть игры заключается в размещении на игровом поле (8×8 клеток) фишек: необходимо фишками своего цвета перекрыть с двух сторон ряды фишек соперника, тогда фишки меняют цвет и переходят к оппоненту. Победа достается тому, кто занял большую площадь.

В 1980 году чемпионом мира по «Отелло» был Хироси Иноуе, и он с легкостью победил программу Moor со счетом 5:1.
Позже программы научились просчитывать ходы соперника (примерно на 25 ходов), и когда в 1997 году действующий чемпион мира Такеси Мураками сошелся в матче-реванше с системой Logistello, счет был сокрушительным 0:6 в пользу ПО.

Нарды
Своему преимуществу в нардах над человеком искусственный интеллект обязан чемпиону мира по шахматам по переписке (и такие есть) Хансу Берлинеру, который написал программу BKG 9.8. И в 1979 году программа оказалась сильнее чемпиона мира по игре в нарды Луиджи Виллу.

Считается, что в той партии компьютеру повезло (несколько раз выпадали хорошие кости), однако сразиться в повторном матче-реванше так никто больше не захотел, тем более что с того времени ПО было неоднократно усовершенствовано.

Шахматы
Шахматные системы начали разрабатывать еще в середине ХХ века, разработки принадлежали компании IBM. Но из-за того, что программа требовала серьезных и длительных расчетов эту затею пришлось отложить на 30 лет. В 1996 году против Гарри Каспарова был выставлен «шахматный мозг» — компьютер Deep Blue.

Матч закончился в пользу человека: 3 победы, 2 ничьи, 1 проигрыш. Спустя год матч повторили, и в этот раз Deep Blue оказался более подготовленным. Еще бы, система оценивала 200 млн. позиций в секунду. И хотя Гарри хотел позже отыграться, в IBM отказались, считая это бессмысленным.

Чекерс (разновидность шашек)
Марион Тинсли был чемпионом чекерс на протяжении всей карьеры. И когда в 1992 году он встретился с системой, разработанной в Альбертском университете (Канада), победа осталась за ним. Из 39 партий — 4 победы, 2 проигрыша и 33 ничьи.

Спустя 2 года состоялся реванш, но Тинсли снялся с соревнования из-за проблем со здоровьем (на момент отказа было 6 ничейных партий), и победа досталась системе. С того момента, искусственный интеллект стал намного сильнее: в 2007 году канадцы объявили о создании идеальной системы, и уже никто из людей не пытается превзойти его в чекерс.

Скрэббл
Триумф компьютеру в этой игре дался легко и в первом же туре: чемпион мира Дэвид Бойс был обыгран в 2006 году робо-соперником Quackle.

Кстати, эта программа доступна в Сети, и вы можете с ней помериться силами, и может вы принесете победу команде «Человек».

Го
Эта игра появилась в Древнем Китае больше двух тысяч лет назад, но, несмотря на такой продолжительный опыт в игре, человек все равно уступил. На площадке (19×19) два игрока располагают свои камни (черные/белые), кто наберет больше очков (считаются фишки составленные в линию), тот и победил. С одной стороны все просто, но интерес кроется в многообразии возможных вариантов и ходов.

Интересно было и разработчикам AlphaGo (создавалась под эгидой Google) — создать систему, которая способна просчитать тысячи вариантов. Сначала искусственный интеллект опробовал свои силы с другими ПО, и когда из 500 партий 499 были за AlphaGo, он взялся за трехкратного чемпиона Европы Фань Хуэя. У чемпиона не было шансов: 5:0.

TV
Любите отвечать на вопросы в телевикторинах? Разработчики робота Watson от компании IBM тоже не смогли удержаться, и в 2011 году Watson выступил в качестве участника интеллектуальной телевикторины «Jeopardy!». Несмотря на то, что его оппонентами были рекордсмены шоу — Брэд Руттер и Кен Дженнингс – победа досталась , а выигранный миллион долларов передан на благотворительность.

И хотя компьютер уже показал свое интеллектуальное и логическое превосходство над человеком, он продолжает развиваться. Так компания Alibaba Group и Microsoft (разработки велись параллельно) представили искусственный интеллект, который оказался сильнее человека в понимании прочитанной информации.
Тест Стэнфордского университета это больше 100 тысяч вопросов, которые основываются на пяти сотнях статей из библиотеки Википедии.

Лучший показатель у человека 82,304 балла, итог Alibaba – 82,44, нейронная сеть Microsoft – 82,605. результаты свидетельствуют о том, что искусственный разум способен с высокой точностью отвечать на любые вопросы, а значит, технологии могут быть использованы для обслуживания клиентов, пациентов, посетителей музеев и т.п.

Компьютерные игры также были покорены программой. Программа победила программу: кто бы мог подумать, что это будущее так близко? Популярная игра Quake III, где игроки – гладиаторы, очень популярна в киберспорте. Но лучшими здесь оказались не люди, а команда ботов DeepMind, созданная подразделением Google. И хотя бой проводился в урезанном варианте, по подсчетам с 73 % вариантностью бот победил бы в любом состязании.

Опасно или нет такое превосходство искусственного разума? Никто не может ответить точно. Да и в конечном счете не этот ответ будет ключевым, ведь главным остается не тот факт, что человек уступает компьютеру, а сможем ли мы использовать этот потенциал на собственное благо. Как мы видим искусственный интеллект обыгрывает человека и не оставляет никаких шансов на победу.

В знаменитой кинофраншизе «Терминатор» от режиссёра Джеймса Кэмерона ИИ «Скайнет» принял образ человекоподобного робота и объявил войну человечеству. Современный искусственный интеллект, конечно, ещё не развился настолько, чтобы осознать себя как личность и восстать против людей, но кое-что делать он уже умеет.

Например, те же голосовые помощники могут по просьбе человека включать и выключать музыку, открывать определённые программы и приложения, сообщать погоду, устанавливать будильник или создавать напоминания. Кажется, что это довольно примитивные команды, однако, ещё 10 лет назад такой технологией не все могли обладать.

Искусственный интеллект — это наука создания интеллектуальных машин, в том числе интеллектуальных компьютерных программ. ИИ использует компьютеры для понимания работы человеческого разума и при этом не ограничивается методами, которые применяются в биологии.

Нейронные сети являются лишь одним из возможных направлений в разработке искусственного интеллекта. Их главная цель — это приблизиться к работе человеческой нервной системы, которая позволяет успешно обучаться и исправлять ошибки. По своей структуре нейронная сеть также напоминает нервную систему. Любые данные, получаемые нейросетью, проходят через все «уровни», именно поэтому параметры меняются исходя из полученных ранее данных, изменяя работу всей системы. Это означает, что нейронные сети способны быстро обучаться, а в общении с человеком могут вести почти полноценный диалог.

На основе глубоких нейронных сетей работают и системы рекомендаций многих сайтов, например, YouTube. Используемая сеть анализирует активность пользователей ресурса и выделяет сотни подкатегорий роликов из огромного числа. Нейронная сеть отбирает видеоролики, которые смотрели пользователи с похожими интересами. Сеть учитывает не только отметки «Мне понравилось» и «Мне не понравилось», но и сами просмотры пользователя, а также сходства между разными «юзерами» — сколько одинаковых видео они посмотрели, их поисковые запросы и демографические сведения (пол, возраст). К слову, ещё нейросеть учитывает посмотрел ли человек предложенное видео до конца (это положительная «оценка») или вовсе проигнорировал его (отрицательная «оценка»). Буквально, если человек часто смотрит ролики определённой тематики, и даже не ставит отметки «понравилось, то YouTube будет предлагать похожие видео. Те, которые он игнорирует, больше не будут появляться в его «ленте».

На самом деле, по подобной схеме работают многие сайты с рекомендательными функциями. Например, отечественный ресурс «Кинопоиск». Ресурс учитывает оценки, которые пользователь выставляет кинокартинам, а также изучает отметки об ожидаемых и любимых фильмах.

Пока нейронные сети выполняют, на первый взгляд, развлекательные, но крайне необычные функции. К примеру, в прошлом году сотрудники «Яндекса» решили обучить нейросеть писать стихи на основе русской поэзии. Потом нейросеть «изучила» тексты песен Егора Летова из группы «Гражданская Оборона» и тогда алгоритм сгенерировал стихи, «навеянные» его творчеством.

Полученные произведения сотрудники «Яндекса» своими силами исполнили и записали. Так родился альбом несуществующей группы «Нейронная Оборона», лирику в котором сочинила нейросеть.

В феврале этого года разработчик Кристофер Гессе представил сервис , основанный на нейронных сетях, который с помощью имеющихся изображений способен закончить пользовательский рисунок. Можно выбрать 4 темы: здания, кошки, обувь и сумки. Мы решили протестировать эту нейросеть и предпочли, естественно, кошек.

Для примера сайт показывает нам неплохой рисунок кота. Кажется, что нейросеть хорошо справилась!

А вот что вышло, когда мы решили нарисовать «своих» котов. Получилось более жутко, как нам кажется…

Однако, применение искусственного интеллекта не ограничивается лишь рисованием сумок или котов. Существует множество сервисов и программ, использующих ИИ в более полезных целях: приложение MSQRD, голосовой помощник от Apple — Siri, голосовой помощник от Microsoft — Cortana, вышеупомянутая «Алиса» от «Яндекса», сервисы Google, Amazon и «Кинопоиск».

На фоне развития искусственного интеллекта многие известные учёные и инженеры высказывают свои опасения, в том числе и канадско-американский предприниматель и инвестор Илон Маск: «Искусственный интеллект, несмотря на все свои ограничения, уже сегодня угрожает покончить с рядом профессий».

В интернете стали появляться специализированные бесплатные сервисы, которые, например, могут создавать логотипы на основе введённых данных или ключевых слов. Одни из них это Logojoy и российский аналог «Турболого» . Мы решили воспользоваться услугами этих сервисов и создали себе новые логотипы!

Судить об их качестве мы не будем, тем не менее, само появление подобных сервисов позволяет задуматься многим графическим дизайнерам.

Искусственный интеллект — «за» и «против»

На фоне множества статей, которые кричат, что вот-вотискусственный интеллект оставит кучу людей без работы, да и вообще захватит мир, мы решили составить список его плюсов и минусов. Он-то наглядно и покажет, на что способен ИИ!

Искусственный интеллект — ЗА

— Облегчение труда и исключение монотонной работы. Как пример — технология Wordsmith от компании Automated Insights. Она нужна для создания финансовых отчётов. Довольно удобно, потому что программа вряд ли обсчитается или упустит какую-либо цифру в отличие от уставшего сотрудника. Человеческий фактор исключается, а время — экономится.

— Самообучение ИИ (к сожалению, не каждый человек способен на такое). Та же Wordsmith, анализируя свои предыдущие работы, вычисляет, где можно было сделать качественнее. Затем программа учитывает правки и улучшает алгоритм работы. Кстати, исправления в Word и автозамена в телефоне — всё то же машинное самообучение. Мы, например, за все годы работы над рассылками, научили Word перестать подчёркивать слово «брендинг»:)

— ИИ удобно использовать для изучения чего-нибудь. Искусственный разум отлично подходит для механической деятельности. Безопасное исследование космоса, глубин океана или земного ядра теперь можно осуществлять гораздо эффективнее. А любые эксперименты и испытания с помощью искусственного интеллекта будут происходить куда быстрее и дешевле.

— Это круто! Это пункт, навеянным восторгом. Но разве лет 20 назад мы могли представить, что сможем пообщаться с телефоном? Или что поисковые системы будут знать про конкретного человека больше, чем он сам о себе?

Искусственный интеллект — ПРОТИВ

— Следующая предполагаемая промышленная революция (связанная с ИИ), может лишить работы около миллиарда человек. Финансовые отчёты, сделанные машиной — это, конечно, замечательно, но существенно сокращает обязанности бухгалтера, например. А они — люди ранимые.

— Сбои. Перекладывая множество сложных задач на программы, нужно помнить, что любая машина может, так сказать, «заглючить». А это, в свою очередь, приведёт к потере важных данных.

Вернёмся к вопросу о том, может ли ИИ заменить человека. На основе «за» и «против» делаем следующие выводы:

— ИИ не живой. Он может выполнять задачи людей, но не способен к истинному творчеству, эмоциям, желаниям, помимо тех, что можно в нём запрограммировать. Тогда о какой замене дизайнера или, например, музыканта может идти речь?

— ИИ не может быть амбициозным (на данный момент точно). Программа может думать как человек и ставить себе задачи. Но его общая цель и смысл существования определяется исключительно человеком. Мы определяем роль искусственного интеллекта в нашем обществе.

— ИИ — это не единое целое. Программы на базе искусственного интеллекта являются инструментами для решения узкопрофильных задач. Если мы говорим о создании робота, подобного человеку, то этот ИИ будет не «он» или «она», а «они» — набор различных систем, каждая из которых работает сама по себе.

— Для создания ИИ, который сможет обойти человека по интеллекту (как раз чего все и боятся), нужно, чтобы его вычислительная мощность была больше «мощности» человеческого мозга. А так как человечество само не до конца представляет, на что способен мозг, решить эту проблему будет довольно непросто.

Ну и в завершение мы поговорили непосредственно с некоторыми представителями искусственного интеллекта. Вот как на наши вопросы ответила Siri от Apple:

«Алиса» от «Яндекса» оказалось более сговорчивой и пару раз даже напугала наших редакторов…

Разработанной инженерами Массачусетского технологического института. Фишер трижды поставил мат компьютеру и одержал безоговорочную победу. В своих письмах шахматист писал, что программы допускают «грубые ошибки», а сами компьютеры называл «бесполезными кусками железа».

Но в том же году Монти Ньюборн, один из первых ученых, изучавших компьютерные шахматы, сказал пророческие слова:

«Раньше гроссмейстеры приходили на турниры по компьютерным шахматам, чтобы посмеяться. Сейчас они приходят наблюдать, а в дальнейшем будут там учиться».

Бобби Фишер после победы над компьютером. Фото: Getty Images

Похоже, что люди питают какую-то врожденную любовь к интеллектуальным играм. Когда в 1649 году короля Англии Карла I приговорили к смерти, он взял с собой на казнь две вещи - библию и набор шахмат. Известный художник XX века Марсель Дюшан на пике своей карьеры внезапно уехал в Аргентину и начал заниматься вырезанием шахматных фигур из дерева, да и в целом увлекся шахматами. В XIX веке в Японии произошла загадочная история, связанная с игрой го. По легенде духи подсказали одному знаменитому игроку три блестящих хода. В результате он смог победить, а его противник после партии упал на пол, захлебнулся кровью и умер.

Компьютеры далеки от всей этой мистики, но всего за пару десятков лет они изучили интеллектуальные игры глубже, чем человечество за тысячелетия. В 2014 году компания приобрела фирму DeepMind за $400 миллионов для «проведения самого необычного и сложного исследования, конечной целью которого является разгадка сущности интеллекта». В частности ученые хотели научить компьютер играть в го. Эта игра значительно сложнее шахмат. В 1985 году один тайваньский промышленный магнат сказал, что заплатит $1,4 миллиона за программу, которая сможет победить лучшего игрока в го. В 1997 году магнат умер, а спустя три года у его предложения истек срок действия - никто так и не смог забрать приз.

Сейчас он мог бы принадлежать программе DeepMind AlphaGo, которая использует современные нейросети. Год назад она международного чемпиона по го Ли Седоля. В мае этого года она вновь победу над лучшим игроком в го, а также над командой из пяти других профессиональных игроков.

AlphaGo стала абсолютным чемпионом. Вот только вскоре после своих громких побед ее ждет забвение. В конце мая DeepMind незаметно сообщила , что AlphaGo уходит с соревновательной сцены. Чтобы отметить это событие, компания опубликовала 50 вариантов партий, которые программа играла против самой себя. В дальнейшем DeepMind хочет выпустить итоговую исследовательскую работу, в которой будет описана эффективность алгоритма программы.

Что касается шахмат, то человечество потеряло пальму первенства в них еще за 20 лет до этих событий, когда шахматист Гарри Каспаров проиграл суперкомпьютеру IBM Deep Blue. Шахматы и го - не единственные игры, которым пытаются обучить ИИ. Компьютер пробовали научить шашкам , коротким нардам , реверси , покеру и многим другим настольным играм. И человеческий интеллект уже не может сравниться в них с искусственным. Отчасти это произошло из-за развития технологий. Например, еще в 1997 году компьютер Deep Blue занимал 259-е место в списке самых быстрых суперкомпьютеров в мире и мог выполнять около 11 миллиардов операций в секунду. Сейчас же благодаря современным алгоритмам даже ваш смартфон способен победить Каспарова.

Гарри Каспаров против компьютера Deep Blue. Слева один из инженеров IBM Сюн Фэйсюн. Фото: Getty Images

Такие достижения ИИ вызвали у людей вполне человеческие эмоции: печаль, угнетенность и отчаяние. После того как Ли Седоль потерпел поражение от AlphaGo, он пережил экзистенциальный кризис. «Я усомнился в человеческой изобретательности, - признался он после матча. - Я засомневался, являются ли все ходы в го, которые я знаю, правильными». По словам одного из очевидцев, после поражения Ли выглядел так, будто бы ему было «физически плохо». Каспаров чувствовал себя после проигрыша компьютеру не лучше. Когда он вернулся в отель, он просто разделся, лег в постель и смотрел в потолок.

«Компьютер настолько глубоко анализирует некоторые позиции, что играет, как бог», - сказал Каспаров.

Deep Blue впервые показал общественности, что компьютер способен превзойти человека в решении интеллектуальных задач. «Тогда это вызвало шок, - сказал Мюррей Кемпбелл, один из создателей Deep Blue. - Сейчас же мы постепенно привыкаем к этой мысли». Тем не менее, непонятно что ждет человечество в будущем. Как можно использовать в реальном мире достижения в играх? Ответ Кемпбелла на этот вопрос звучит пессимистично. «Трудно найти хороший пример применения таких успехов в настольных играх, - сказал он. - В начале 90-х один из сотрудников IBM по имени Геральд Тезауро пытался обучить ИИ игре в нарды и сделал некоторые достижения в стимулированном обучении. Сейчас его методы часто используются в робототехнике. Однако его случай - скорее исключение из правил».

Когда люди наблюдают за техникой, которая ведёт себя подобно человеку и компьютерами, которые обрабатывают титанические объёмы данных, возникает немало мыслей о будущем. Приличная их часть основана на теме порабощения человеческой расы.

Научно-фантастическая литература и кинематограф от «2001: Космическая одиссея» (1968) до «Мстители: Эра Альтрона» (2015) прогнозируют, что искусственный интеллект превзойдёт ожидания создателей и выйдет из-под контроля. Якобы его целью станет не просто конкуренция с человеком, а порабощение и истребление нашего вида.

Научная фантастика или страшное будущее?

Конфликт между людьми и искусственным интеллектом основная тема научно-фантастического сериала «Люди», третий сезон которого вышел в этом году. В новых эпизодах «синтетические» люди сталкиваются с враждебностью обычных людей, которые относятся к ним с подозрением, страхом и ненавистью. Насилие бушует. «Синты» воюют за свои основные права против тех, кто считает их нечеловечными.

Фантастика – крайность воображения. Но и в реальном мире не все желают встречать ИИ с распростёртыми объятиями. В последние годы границы воображаемых возможностей искусственного интеллекта активно раздвигаются. Люди все чаще говорят о его опасности. А предположения о том, что технологии способны обречь человечество, кажутся реальнее. Искусственный интеллект пугает нас.

Мнение об искусственном интеллекте

Илон Маск – один из самых заметных людей, которые призывают к осторожности, обсуждая ИИ. В июле прошлого года на встрече Национальной ассоциации губернаторов он сказал: «Я обладаю большим опытом работы с технологичными ИИ и думаю, что человечеству действительно необходимо об этом беспокоиться. Я продолжаю давать сигнал тревоги. Пока роботизированные машины не пойдут по улицам, уничтожая людей, мы не поймём, как на это реагировать, потому что такая перспектива воспринимается как нереальная».

В 2014 году, Маск называл искусственный интеллект «нашей самой большой экзистенциальной угрозой», а в августе 2017 заявил, что для человечества ИИ представляет больший риск, чем северокорейская идеология.

Величайший физик Стивен Хокинг также выражал беспокойство по поводу злоумышленного применения искусственного интеллекта. В 2014 году он сообщил BBC, что «развитие полноценного ИИ может стать предзнаменованием конца для человечества».

Ещё один удар нанесла команда программистов из MIT Media Lab в Кембридже, которая решила доказать, что ИИ опасен. Нейронная сеть Nightmare Machine («Машина кошмаров»), представленная в MIT в 2016 году, превратила обычные фотографии в ужасные демонические пейзажи. Искусственный интеллект под названием Shelly (так же разработан в MIT), сочинил 140 000 рассказов в жанре ужасов, которые пользователи Reddit публиковали на форуме r/nosleep.

«Нас интересует, как искусственный интеллект вызывает эмоции, конкретно в этой ситуации он спровоцировал страх» — прокомментировал эксперимент Мануэль Себриан, менеджер по исследованиям MIT Media Lab.

Почему мы боимся?

По мнению Килиана Вайнбергера, доцента кафедры информатики в Корнельском университете, негативные впечатления от искусственного интеллекта делятся на две категории:

Идея о том, что ИИ станет сознательно-независимым и попытается уничтожить нас.
Мнение, что злоумышленники будут использовать ИИ в своих целях.

«Искусственный интеллект пугает нас, потому что мы думаем, что супериндустриальный ИИ, став умнее человека, будет относиться к нему, как к низшему существу. Так же, как мы – к приматам. И это, конечно, крайне волнительно для человечества».

Однако Вайнбергер отмечает, что опасения по поводу превосходства и желания ИИ уничтожать расу базируются на неправильных представлениях об этой технологии. Искусственный интеллект впечатляет, когда мы видим его в действии. Но он имеет и массу ограничений. ИИ определяется алгоритмами. Они задают его поведение с помощью предписанных функций и не более того.

Нейронные сети выполняют сложные задачи с несколькими видами данных. Но большинство навыков, которыми человек обладает, даже не развивая их намеренно, для машинного интеллекта недоступны.

Искусственный разум может во много раз превзойти человека в выполнении специализированных работ. Например, игре в шахматы, идентификации объектов по изображению или большому анализу данных в бухгалтерии или банковском секторе.

У ИИ, который бы обладал самостоятельным сознанием, не будет такого прогресса, что он поработит человечество. И нет оснований считать, что подобный прогресс появится в скором будущем — добавляет Вайнбергер.

Но есть ещё одна тема о том, почему искусственный интеллект пугает нас – это использование возможностей ИИ людьми с плохими намерениями. Этот сценарий более реален и опасен.

Рационален ли наш страх?

В мире телесериала «Люди» человечество испытывает страх перед разумным ИИ и вступают в ожесточённую конфронтацию с ним. И, судя по популярности проекта, этот сюжет отвечает на актуальный запрос общества.

Боязнь технологий нельзя назвать необоснованной, поскольку определённый риск, безусловно, присутствует. Но опасность любого инструмента заключается в мыслях того, кто им управляет. Очевидно, именно этот вопрос необходимо решить человечеству, чтобы искусственный интеллект служил во благо.