Чем опасен искусственный интеллект, и стоит ли его бояться. Почему искусственный интеллект пугает нас

Когда люди наблюдают за техникой, которая ведёт себя подобно человеку и компьютерами, которые обрабатывают титанические объёмы данных, возникает немало мыслей о будущем. Приличная их часть основана на теме порабощения человеческой расы.

Научно-фантастическая литература и кинематограф от «2001: Космическая одиссея» (1968) до «Мстители: Эра Альтрона» (2015) прогнозируют, что искусственный интеллект превзойдёт ожидания создателей и выйдет из-под контроля. Якобы его целью станет не просто конкуренция с человеком, а порабощение и истребление нашего вида.

Научная фантастика или страшное будущее?

Конфликт между людьми и искусственным интеллектом основная тема научно-фантастического сериала «Люди», третий сезон которого вышел в этом году. В новых эпизодах «синтетические» люди сталкиваются с враждебностью обычных людей, которые относятся к ним с подозрением, страхом и ненавистью. Насилие бушует. «Синты» воюют за свои основные права против тех, кто считает их нечеловечными.

Фантастика – крайность воображения. Но и в реальном мире не все желают встречать ИИ с распростёртыми объятиями. В последние годы границы воображаемых возможностей искусственного интеллекта активно раздвигаются. Люди все чаще говорят о его опасности. А предположения о том, что технологии способны обречь человечество, кажутся реальнее. Искусственный интеллект пугает нас.

Мнение об искусственном интеллекте

Илон Маск – один из самых заметных людей, которые призывают к осторожности, обсуждая ИИ. В июле прошлого года на встрече Национальной ассоциации губернаторов он сказал: «Я обладаю большим опытом работы с технологичными ИИ и думаю, что человечеству действительно необходимо об этом беспокоиться. Я продолжаю давать сигнал тревоги. Пока роботизированные машины не пойдут по улицам, уничтожая людей, мы не поймём, как на это реагировать, потому что такая перспектива воспринимается как нереальная».

В 2014 году, Маск называл искусственный интеллект «нашей самой большой экзистенциальной угрозой», а в августе 2017 заявил, что для человечества ИИ представляет больший риск, чем северокорейская идеология.

Величайший физик Стивен Хокинг также выражал беспокойство по поводу злоумышленного применения искусственного интеллекта. В 2014 году он сообщил BBC, что «развитие полноценного ИИ может стать предзнаменованием конца для человечества».

Ещё один удар нанесла команда программистов из MIT Media Lab в Кембридже, которая решила доказать, что ИИ опасен. Нейронная сеть Nightmare Machine («Машина кошмаров»), представленная в MIT в 2016 году, превратила обычные фотографии в ужасные демонические пейзажи. Искусственный интеллект под названием Shelly (так же разработан в MIT), сочинил 140 000 рассказов в жанре ужасов, которые пользователи Reddit публиковали на форуме r/nosleep.

«Нас интересует, как искусственный интеллект вызывает эмоции, конкретно в этой ситуации он спровоцировал страх» — прокомментировал эксперимент Мануэль Себриан, менеджер по исследованиям MIT Media Lab.

Почему мы боимся?

По мнению Килиана Вайнбергера, доцента кафедры информатики в Корнельском университете, негативные впечатления от искусственного интеллекта делятся на две категории:

Идея о том, что ИИ станет сознательно-независимым и попытается уничтожить нас.
Мнение, что злоумышленники будут использовать ИИ в своих целях.

«Искусственный интеллект пугает нас, потому что мы думаем, что супериндустриальный ИИ, став умнее человека, будет относиться к нему, как к низшему существу. Так же, как мы – к приматам. И это, конечно, крайне волнительно для человечества».

Однако Вайнбергер отмечает, что опасения по поводу превосходства и желания ИИ уничтожать расу базируются на неправильных представлениях об этой технологии. Искусственный интеллект впечатляет, когда мы видим его в действии. Но он имеет и массу ограничений. ИИ определяется алгоритмами. Они задают его поведение с помощью предписанных функций и не более того.

Нейронные сети выполняют сложные задачи с несколькими видами данных. Но большинство навыков, которыми человек обладает, даже не развивая их намеренно, для машинного интеллекта недоступны.

Искусственный разум может во много раз превзойти человека в выполнении специализированных работ. Например, игре в шахматы, идентификации объектов по изображению или большому анализу данных в бухгалтерии или банковском секторе.

У ИИ, который бы обладал самостоятельным сознанием, не будет такого прогресса, что он поработит человечество. И нет оснований считать, что подобный прогресс появится в скором будущем — добавляет Вайнбергер.

Но есть ещё одна тема о том, почему искусственный интеллект пугает нас – это использование возможностей ИИ людьми с плохими намерениями. Этот сценарий более реален и опасен.

Рационален ли наш страх?

В мире телесериала «Люди» человечество испытывает страх перед разумным ИИ и вступают в ожесточённую конфронтацию с ним. И, судя по популярности проекта, этот сюжет отвечает на актуальный запрос общества.

Боязнь технологий нельзя назвать необоснованной, поскольку определённый риск, безусловно, присутствует. Но опасность любого инструмента заключается в мыслях того, кто им управляет. Очевидно, именно этот вопрос необходимо решить человечеству, чтобы искусственный интеллект служил во благо.

Крамник получит за участие в матче 500 тысяч долларов, а в случае победы эта сумма удвоится. Рискуют организаторы не сильно – за последнее время успехи ведущих шахматистов в борьбе с программами невелики. Началось победное шествие искусственного интеллекта со скандального матча 1997 года, в котором Гарри Каспаров проиграл со счетом 2,5:3,5 компьютеру Deep Blue, после чего обвинил команду разработчиков во вмешательстве в работу машины.

В 2003 году состоялось целых два матча Каспарова с программами – против Deep Junior и Deep Fritz, но оба завершились вничью – реванша так и не последовало. Дальше было только хуже.

В октябре 2004 года на матче "Люди против компьютеров" команда последних – Fritz, Hydra и Junior – нанесла болезненное поражение не самым слабым гроссмейстерам – Карякину, Пономареву и Топалову – со счетом 6:3, причем в девяти партиях людям удалось одержать лишь одну победу (Junior пал жертвой Сергея Карякина). Наконец, в июне 2005 года Hydra учинила подлинный разгром Майклу Адамсу – 5,5:0,5!

Год назад, 23 ноября, в испанском городе Бильбао с неутешительным для представителей человечества результатом завершился второй в истории шахмат турнир между сборными командами людей и компьютеров. Общий счет противостояния, проходившего в четыре тура, - 8:4 не в пользу людей. Три чемпиона мира по версии Международной шахматной федерации (ФИДЕ) состязались с компьютерными программами Fritz, Junior и Hydra. Россиянин Александр Халифман (чемпион 1999 года), украинец Руслан Пономарев (2003) и узбек Рустам Касымджанов (2004) на троих в 12 сыгранных поединках добыли всего одну победу при пяти поражениях и шести ничьих.

У самого Крамника также был опыт встречи с компьютером – в 2002 году в Бахрейне он сыграл со своим нынешним соперником Deep Fritz, точнее с его седьмой версией. Матч состоял из восьми партий. После первой половины Крамник вел в счете 3:1, однако в итоге все вновь свелось к ничьей 4:4. В шестой партии того матча чемпион мира пошел на вариант с жертвой коня, то есть решил посостязаться с машиной в чистом счете, что, разумеется, закончилось в пользу Deep Fritz.

Создателями программного пакета для Deep Fritz являются программисты компании Chessbase голландец Франц Морш и немец Матиас Файст, которые в 1991 году впервые выпустили программу Fritz 1. В 1993 году она приняла участие в турнире по быстрым шахматам среди людей и заняла там первое место, обыграв по ходу дела самого Каспарова. В 1995 году Fritz победил на чемпионате мира среди программ, победив суперкомпьютер Deep Blue. Видимо, уже тогда у создателей программы зародилась мечта о приставке Deep – началось все в свое время с программы Deep Thought ("Глубокая мысль"), продолжилось "темно-синей" Deep Blue, после чего слово стало нарицательным, породив такие малоосмысленные сочетания, как "Глубокий Фриц" или "Глубокий юниор".

В отличие от поверженной в 1995 году Deep Blue, представлявшей собой специально созданную машину, "Фриц" всегда работал на обычном "железе". В частности, версия, которой предстоит "скрестить шпаги" с Крамником, работает на четырехпроцессорных машинах с процессором Intel с тактовой частотой 500 мегагерц и просчитывает до миллиона позиций в секунду.

Никаких экспериментов, подобных тем, что были в матче Гарри Каспарова с X3D-версией Fritz в Нью-Йорке в 2003 году, когда 13-й чемпион мира играл в стереоскопических очках на виртуальной трехмерной доске, Крамник над собой проводить не будет. Напротив Владимира Крамника за шахматной доской будет сидеть не классического вида металлический робот, а обычный человек – оператор ЭВМ, который будет выполнять ходы, подсказанные ему машиной.

Правилами предусмотрено, что дебютная библиотека компьютера не должна меняться в течение матча, за исключением возможности расширить перед каждой следующей партией на десять полуходов встретившийся в предыдущей партии вариант, а также объявить какое-либо из уже имеющихся в библиотеке продолжений приоритетным для программы.

В тот момент, когда компьютер будет играть "по книге", Крамнику на специальном мониторе будет виден процесс выбора машины и статистика достижений белых и черных в том или ином возможном варианте, и только когда Fritz начнет считать самостоятельно, этот монитор будет выключен. После игры компьютеру будет предложено "повторить" дебютный вариант, и если произойдут отклонения от хода игры, которые команда программистов не сможет удовлетворительно объяснить арбитру, последний может засчитать машине поражение в партии.

Матч будет состоять из шести партий (предыдущий поединок Крамника с Fritz в 2002 году в Бахрейне состоял из восьми, а Каспарова с Fritz в 2003 году в Нью-Йорке – из четырех), которые будут играться с перерывом в один день. Победителем будет объявлен тот, кто первым наберет более трех очков. Первая партия пройдет 25 ноября, вторая – 27 ноября, третья - 29 ноября, четвертая – 1 декабря, пятая и шестая, если они понадобятся – 3 и 5 декабря соответственно.

Владимир Крамник оценивает свои шансы осторожно. "Крайне трудно играть против такого счетного монстра, ведь с начала партии ты ходишь по узкой тропинке, где малейшая невнимательность приведет к поражению", - отметил чемпион мира. При этом Крамник считается многими экспертами одним из наиболее "неудобных" соперников для компьютера, так как его стиль игры, основанный на недоступном машинам понимании стратегических нюансов, очень хорошо подходит для борьбы с "бездушными железяками".

Компьютеры компенсируют отсутствие понимания простым расчетом огромного количества позиций, так что нам остается только заинтересованно следить, выйдет ли Владимир Крамник победителем из этого, как он сам выразился, "научного эксперимента", или еще ближе к истине окажутся слова голландского гроссмейстера Яна Доннера, который на вопрос "с помощью чего можно победить компьютер?" ответил: "С помощью кувалды".

Другого мнения придерживается тринадцатый чемпион мира Гарри Каспаров. Еще в конце 2003 года в интервью "Коммерсанту" он отверг возможность того, что в ближайшее время игра в шахматы человек - компьютер потеряет всякий смысл из-за преимущества машины.

"В Америке после моего матча с X3D Fritz увидели: борьба человека с машиной только началась! Ясно, что на сей раз ее спасла только "плавающая" доска – экстремальные условия, в которых находился человек. Посмотрите общий итог десяти моих партий с компьютером, сыгранных в нынешнем году. Из десяти партий машина "стояла" лучше в одной. А я играл, между прочим, с двумя лучшими программами, - отметил Каспаров. Во многих партиях имел большой перевес. И не победил во встречах именно из-за грубых ошибок. Принципиальное значение этих матчей следует сформулировать так: все пока решают очевидные ошибки человека. Ни о каком перевесе машины говорить нельзя. Наоборот, значительный игровой перевес в этих двух моих матчах, да и в матче Владимира Крамника с Deep Fritz в 2002 году, был на стороне человека".

По словам Каспарова, после его поражения от Deep Blue в 1887 году возник миф о том, что с компьютером играть бесполезно, но на самом деле это далеко не так. "Идея о том, что противоборство завершилось победой машины, ушла из общественного сознания. Идут реальные матчи, в которых преимущество на стороне людей. Нет уже демонизации компьютеров. Мы обнаруживаем, что машина не то что уязвима, она сильно уязвима. Главное – понять алгоритм ее мышления, и тогда ей горе. В любом случае ясно, что такие матчи необходимы", - сказал гроссмейстер.

По материалам Lenta.ru , Kommersant.ru , NEWSru .

Официальный сайт Владимира Крамника www.kramnik.com/

Незадолго до начала матча Владимир Крамник сообщил, что нынешний компьютер вдвое мощнее и гораздо сильнее, чем тот, с которым ему довелось играть в Бахрейне. На вопрос, в какую силу он играет, если пользоваться человеческими мерками, Крамник ответил, что выше рейтинга "2800" - это точно, но играет ли на уровень "2900" или "3200", он пока не знает: это может показать только матч.

До этого Крамник изучал программу непрерывно в течение двух недель. И даже заставлял играть с предыдущей версией, чтобы убедиться, что новая сильней на голову. За две недели работы чемпион среди людей узнал все или почти все о своем силиконовом партнере.

Первая партия матча закончилась вничью.

Во второй партии на 35-м ходу Владимир Крамник "зевнул" мат в один ход и счет стал 1,5:0,5 в пользу Deep Fritz.

Александр Рошаль поделился любопытной подробностью второй партии матча: "Оператор Маттиас Файст, который за столиком делает ходы за машину, - типичный немец, немногословен, но кое-что удалось из него вытянуть. Машина после каждого хода выдает систему оценок. До 33-го хода программа отдавала предпочтение сопернику с коэффициентом 0,5-0,6. Файст признался, что после 30-го хода преимущество Крамника машина оценивала в 0,7".

Говорят, после ошибочного хода в Боннском музее изобразительных искусств, где проходил матч, в зрительном зале раздался протяжный стон.

У Крамника спросили после игры, чем он может объяснить свой нелепый промах. Он развел руками...

Третья, четвертая и пятая партии завершились вничью. В шестой - Deep Fritz снова выиграл.

Таким образом, матч закончился со счетом 4:2 в пользу искусственного интеллекта.

Фредерик Фридель является владельцем новой версии программы "Фриц" и самой известной у квалифицированных шахматистов информационной системы Chess Base. Во время банкета перед открытием матча он ответил на несколько вопросов.

Вы кормите большинство шахматных профессионалов, снабжая их базой данных, и за счет этого кормитесь сами. Но, с другой стороны, вы один из тех, кто медленно, но верно убивает шахматы. То есть, вы пилите сук, на котором сидите?

Это не так. Мы не убиваем шахматы. Мы меняем шахматы. Мы даем им другую жизнь. Например, какой-то вариант нравится шахматисту, но он боится его применять. Он должен две недели его анализировать. А сейчас с помощью "Фрица" вы можете это сделать за два часа. Посмотрите на игроков, которые ничего, кроме "Фрица", не знают. Например, я назову Магнуса Карлсена. У него абсолютно новый стиль. Он ничего не боится! И многие другие тоже, потому что они анализируют и говорят: "О"кей, здесь я могу играть!" Предположим, теория, которая существовала сто лет, говорит: эту пешку брать нельзя, там у черных плохо. Но "Фриц" говорит: "О"кей! Покажи мне, как ты можешь выиграть у меня, если я заберу твою пешку". И вдруг обнаруживается, что сто лет до этого шахматисты могли выиграть, отдавая эту пешку, а сейчас они выиграть не могут у "Фрица".

- То есть вы не убиваете шахматы, а даете им другую жизнь…

Более интересную, более смелую.

По материалам

Многие люди с энтузиазмом приветствуют искусственный интеллект, видя в этом значительный шаг развития цивилизации. Но многие специалисты проблемы выражают обеспокоенность, когда вопрос касается искусственного интеллекта.

Илон Маск, основатель Tesla и SpaceX, не скрывает обеспокоенности, подозревая ИИ в угрозе человечеству в качестве конкурирующей цивилизации машинного происхождения.

Бизнесмен не выступает в роли предсказателя, но считает плохой идеей экстремальные игры с вложением в вычислительные машины развивающегося интеллекта. Это может вызвать критически опасные риски для человечества.

Возможно и существуют какие-то способы обезопаситься от вероятных проблем со стороны искусственного интеллекта, способного по мере развития перехватить контроль над нашей жизнью. Но пока у нас нет ничего существенного, кроме как «Трех законов робототехники» А. Азимова, что однако звучит слабым утешением (3 закона, Википедия).

Маск и другие сподвижники идеи призывают не отказаться от разработок в области ИИ. Они обращают внимание на первоначальную необходимость выработать методы защиты от вероятных угроз. Иначе мы можем в лице ИИ приобрести не помощника, но ужасно опасного и сильного противника.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ УГРОЗА ЧЕЛОВЕЧЕСТВУ.

В словах противников активного развития ИИ есть хорошая доля правды. И дело даже не в том, кто будет контролировать «завтра» потенциально цивилизованную технологию умных Машин.

Недавно , что уже ставит робота в начале формирования цивилизации машин. Но этого роботу Софии показалось недостаточным – теперь София говорит о равных правах с человеком, и хочет быть полноправным членом общества! Это очень любопытный и показательный прецедент, верно? Вот почему многие уверяют в необходимости большей осмотрительности к вопросам исследования в области искусственного интеллекта.

Перспективная технология как полагают сможет помочь продвинуться в медицинских и космических исследованиях, откроет новые возможности в других отраслях жизнедеятельности. Однако, также ИИ может быть решающим фактором в плане возможной войны. Не секрет, что уже сейчас вычислительные машины (без интеллекта) стоят на вооружении стран.

Теперь представьте, машины научились ходить, а главное думать и принимать решения … как часто у вас «зависал» компьютер или смартфон? Хорошо, что эти устройства не имеют оружия, верно?

Множество хороших возможностей можно ожидать от искусственного интеллекта, но никто не даст гарантии, что все пойдет по отвратительному сценарию, который приведет нас к Третьей мировой войне. Это сегодня мы не видим идущих по улицам роботов, поэтому вопрос рисков от ИИ выглядит эфемерным. В то же время, робот София изучает наше общество, говоря о равных правах с людьми.

Разумеется, речь не идет об известном сюжете киноленты «Терминатор», скорее уводящим от реальной основы проблем ИИ. Здесь более подходит фильм «Я, робот», где ВИКИ (искусственный машинный интеллект) смог модифицировать понимание «трех законов», и взять людей под контроль.

К счастью в фильме нашелся главный герой, уничтоживший виртуальный интеллект, возжелавший «осчастливить человеческий лагерь».

Искусственный интеллект (ИИ) - тема, которая уже давно не сходит со страниц научно-популярных журналов и постоянно затрагивается в кино и книгах. Чем больше специалисты развивают эту область науки, тем большими мифами она покрывается.

Развитие и будущее искусственного интеллекта волнует и тех, кто стоит у руля государства. Не так давно президент РФ Владимир Путин посетил офис «Яндекса» в день 20-летия компании, где ему объяснили, когда ИИ превзойдет человеческий интеллект.

Все, кто хоть немного проникает в суть потенциала искусственного интеллекта, понимают, что оставлять без внимания эту тему нельзя. Это не только важный вопрос для обсуждения, но и, наверное, один из самых значимых в контексте будущего.

Что такое искусственный интеллект и чего на самом деле боятся люди, рассказал «Снег. TV» специалист по методам машинного обучения Сергей Марков.

Как говорил Джон Маккарти, изобретатель термина «искусственный интеллект» в 1956 году, «как только он заработал, никто больше не называет его ИИ». ИИ уже вовсю реальность: калькуляторы, Siri, самоуправляемые автомобили и т. д., а в него все равно не верят. Почему так происходит, что люди отрицают существование ИИ?

Главным образом по причине терминологической путаницы, так как разные люди вкладывают в понятие «искусственный интеллект» совершенно разный смысл.

В науке искусственным интеллектом называют систему, предназначенную для автоматизации решения интеллектуальных задач. В свою очередь, под «интеллектуальной задачей» понимают такую задачу, которую люди решают при помощи своего, естественного интеллекта.

Легко заметить, что такое определение искусственного интеллекта чрезвычайно широко - под него попадает даже обычный калькулятор, т. к. арифметические задачи по сути тоже интеллектуальные, человек решает их при помощи своего интеллекта.

Поэтому внутри понятия «искусственный интеллект» была проведена важная граница, отличающая прикладной или, как еще говорят, слабый искусственный интеллект, предназначенный для решения какой-либо одной интеллектуальной задачи или небольшого их множества, от гипотетического сильного ИИ, также называемого универсальным искусственным интеллектом (англ. - artificial general intelligence).

Такая система, когда она будет создана, будет способна решать неограниченно широкий круг интеллектуальных задач, подобно интеллекту человека. С этой точки зрения калькулятор, который способен считать куда быстрее человека, или программа, выигрывающая у человека в шахматы, - это прикладной ИИ, гипотетический же сверхразум будущего - сильный ИИ.

Когда читаешь про разные открытия и разработки в области ИИ, понимаешь, что всё в основном происходит в США или Азии. А как обстоят дела в России? Есть у нас какие-то наработки?

Область компьютерных наук в наши дни интернациональна, многие наши специалисты работают над созданием и совершенствованием различных моделей машинного обучения в составе как российских, так и международных команд. У нас традиционно сильная математическая и алгоритмическая школа, созданы исследовательские центры мирового уровня как в ведущих вузах, так и в некоторых частных компаниях.

Но давайте говорить начистоту - бюджеты, выделяемые в нашей стране на науку и образование, не идут ни в какое сравнение с научными бюджетами наиболее развитых стран. Доходы бюджета РФ в 2016 году составили около 200 миллиардов долларов США, в то время, как только на оборону США тратят сумму в три раза большую, чем весь российский бюджет.

Весь бюджет российской науки сопоставим с бюджетом одного лишь вуза из Лиги плюща. В безденежные 90-е страну покинули многие ведущие специалисты, была нарушена преемственность ряда научных школ. Также было практически утрачено собственное производство электроники.

В то время как мировые лидеры ИТ ведут гонку в создании специализированных процессоров для обучения нейронных сетей, нам остается лишь сфера разработки алгоритмов и программного обеспечения. Впрочем, и в этой области нами были достигнуты весьма впечатляющие успехи.

Например, команда под руководством Артема Оганова создала систему USPEX, способную предсказывать кристаллические структуры химических соединений, что привело к настоящей революции в современной химии.

Команда Владимира Махнычева и Виктора Захарова с ВМК МГУ при помощи созданной ими системы, а также суперкомпьютеров «Ломоносов» и IBM Blue Gene/P впервые смогла рассчитать 7-фигурные шахматные окончания.

Нейронные сети «Яндекса» распознают и синтезируют речь, генерируют музыку в стиле «Гражданской обороны» и композитора Скрябина. Сильная команда специалистов по ИИ и машинному обучению создана и в Сбербанке.

Словом, заметные успехи есть и у нас в стране.

Чем быстрее развиваются технологии искусственного интеллекта, тем сильнее людей захватывает опасение - как быстро они останутся без работы. Все действительно так плохо?

И да и нет. Человечество уже несколько раз сталкивалось с возникновением технологий, революционно изменивших всю производственную сферу.

Так было с паровым двигателем в эпоху промышленной революции, практически уничтожившим многие профессии (в основном связанные с примитивным физическим трудом), так было с электронными вычислительными машинами, которые заменили человека в задачах, основанных на поточных математических расчетах.

В XV-XVIII веках, когда в Англии «овцы съели людей», социальные последствия были действительно катастрофическими. Англия потеряла, по разным оценкам, от 7 до 30% своего населения. Властная элита того времени была всерьез озабочена тем, куда девать лишних людей. Джонатан Свифт откликнулся на эти искания юмористическим памфлетом, в котором предлагал употреблять детей бедняков в пищу.

Однако в наши дни мы видим, что на смену вымершим профессиям пришли новые, и население Земли куда больше, чем в XVIII веке. В XX веке последствия автоматизации были уже не столь катастрофичны с социальной точки зрения. Однако недооценивать опасность все-таки не стоит.

«Через 30 лет роботы смогут делать практически всё, что умеют делать люди, - такой прогноз дал Моше Варди (Moshe Vardi), профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди (Ken Kennedy Institute for Information Technology) при Университете Райса (William Marsh Rice University). - Это приведет к тому, что более 50% жителей Земли станут безработными».

Роботы забирают работы

На днях председатель комитета Госдумы по информационной политике, информационным технологиям и связи Леонид Левин заявил, что для России является важной проблема вытеснения рабочей силы искусственным интеллектом.

Рано или поздно людей заменят автоматизированной системой, и на рынок выплеснется 2% работоспособного населения страны. Именно поэтому о том, как трудоустроить тех, кто потеряет работу вследствие развития цифровых технологий, нужно думать уже сейчас, сказал Левин.

По мнению председателя, уже в скором будущем мы столкнемся с ростом безработицы. Но действительно ли роботы «отберут» наши рабочие места и стоит ли беспокоиться по этому поводу, рассказал «Снег.TV» специалист по машинному обучению Сергей Марков.

Сергей, даже сейчас уже есть «мертвые профессии», которые не требуют человеческого труда, хотя, казалось бы, лет 10 назад никто и не думал, что, например, кондуктора скоро станут ненужными. А какие еще профессии вытеснят технологии?

Мы приближаемся к тому времени, когда машины превзойдут людей почти в любом деле. Я считаю, что обществу нужно посмотреть в лицо этой проблеме до того, как она встанет во весь рост. Если машины будут способны делать почти всё, что умеют люди, что тем останется делать? – сказал Моше Варди, профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди при Университете Райса.

Долгое время на пути автоматизации стояли технологические ограничения: машины не могли распознавать образы и речь, не могли говорить, не могли достаточно хорошо понимать смысл высказываний на естественном языке, не имели достаточно данных для того, чтобы научиться многим привычным для человека вещам.

Благодаря последним достижениям в сфере искусственного интеллекта многие из этих ограничений фактически оказались сняты. Кроме того, многие профессии сами претерпели трансформацию, что сделало их более удобными для автоматизации.

Например, современный офисный клерк ведет переписку не в бумажном, а в электронном виде, бухгалтер выполняет проводки не на бумаге, а в бухгалтерской программе, оператор станка управляет станком зачастую не при помощи рукоятей, а при помощи управляющей программы. Поэтому сейчас задача автоматизации во многих профессиях перестала быть научной и стала чисто инженерной.

Правда, пока что производственная сфера, связанная с ИИ, скорее создает рабочие места - нужны специалисты в области машинного обучения и подготовки данных, сотрудники для разметки обучающих массивов, специалисты по внедрению и т. д. Но в какой-то момент «электроовцы» определенно начнут есть людей, и о последствиях нужно позаботиться уже сейчас.

При этом важно понимать, что остановить технический прогресс нельзя, и попытка это сделать обернется куда более катастрофичными последствиями.

Мы сможем когда-нибудь полностью довериться роботам (ИИ) или все-таки в любом деле должен быть человеческий фактор?

У этого вопроса есть несколько аспектов. С одной стороны, люди в прошлом с опаской относились практически к любой технике. Первый лифт, первый автомобиль, первый поезд или самолет - всё это когда-то было непривычным и многим казалось опасным. Да во многом опасным и было - техногенные катастрофы унесли немало жизней.

И тем не менее в наши дни все эти вещи стали привычными и уже не вызывают сильного страха. В этом смысле - наши потомки будут относиться к системам ИИ более спокойно. Люди порой склонны мистифицировать вещи, которые им непонятны. Дикарь думает, что в паровозе живет злой дух, а современный обыватель думает, что наши системы ИИ обладают сознанием, хотя это далеко не так.

С другой стороны, я не думаю, что универсальные системы ИИ когда-либо станут частью нашей производственной сферы. На мой взгляд, будущее скорее за синтетическими системами - то есть за объединением человека и машины в единый организм. В этом смысле искусственным интеллектом будущего будет усовершенствованный человеческий интеллект.

Кстати говоря, человеческий интеллект тоже не совсем корректно называть естественным. Ребенок от рождения не обладает интеллектом, всему его учит общество, родители, окружающая среда. В этом смысле мы с вами все, по сути дела, «искусственные интеллекты», и наши страхи, связанные с ИИ, во многом являются страхами перед самими собой.

Последнее время многие ученые, например Стивен Хокинг, Билл Гейтс или тот же Илон Маск, начали паниковать, что ИИ обрекает человечество на гибель, а будущее они видят какой-то антиутопией. Стоит ли воспринимать такие прогнозы всерьез?

Честно говоря, я бы не спешил всерьез пугаться этих заявлений. Стивен Хокинг, безусловно, не является специалистом в области ИИ, как, в общем-то, и Илон Маск.

На другой чаше весов высказывания таких людей, как, например, Эндрю Ын - американский ученый в области информатики, доцент Стэнфордского университета, исследователь робототехники и машинного обучения, ведущий специалист лаборатории искусственного интеллекта китайской корпорации Baidu.

Ын, говоря о проблеме безопасности ИИ, сравнивает ее с проблемой перенаселения Марса - конечно, мы когда-нибудь колонизируем Марс, и тогда, возможно, в какой-то момент там возникнет проблема перенаселения. Но стоит ли заниматься ей сегодня?

Марк Цукерберг также довольно скептически отнесся к заявлениям Маска. «Искусственный интеллект сделает в будущем нашу жизнь лучше, а предсказывать конец света очень безответственно», - заявил он.

Лично я думаю, что высказывания Маска стоит рассматривать в прагматическом ключе - Маск хочет застолбить эту тему и в идеале получить от государства средства для ее разработки.

Неужели всё так безоблачно и не о чем беспокоиться?

Реальные опасности, связанные с развитием ИИ, лежат, на мой взгляд, совсем в иной плоскости, чем об этом принято думать. Главные риски связаны не с тем, что мы создадим «Скайнет», который поработит человечество. Риски от внедрения технологий ИИ и машинного обучения куда более прозаичны.

Доверяя решение важных вопросов тем или иным математическим моделям, мы можем пострадать от ошибок, допущенных при их разработке. Искусственный интеллект, воспроизводящий действия людей-экспертов, унаследует их ошибки и предубеждения. Недоработки в системах управления производством или транспортом могут привести к катастрофам.

Вмешательство злоумышленников в работу жизненно важных систем в условиях тотальной автоматизации может повлечь опасные последствия. Чем сложнее системы, тем больше в них может быть потенциальных уязвимостей, в том числе связанных со спецификой тех или иных алгоритмов искусственного интеллекта.

Безусловно, для управления этими рисками следует создавать законодательную базу, разумные регламенты безопасности, специальные методы для выявления уязвимостей. Одни системы ИИ будут использоваться для контроля других. Возможно, код жизненно важных систем будет обязателен к публикации для независимого аудита. Словом, специалистам в этой сфере предстоит еще много работы.

Разработанной инженерами Массачусетского технологического института. Фишер трижды поставил мат компьютеру и одержал безоговорочную победу. В своих письмах шахматист писал, что программы допускают «грубые ошибки», а сами компьютеры называл «бесполезными кусками железа».

Но в том же году Монти Ньюборн, один из первых ученых, изучавших компьютерные шахматы, сказал пророческие слова:

«Раньше гроссмейстеры приходили на турниры по компьютерным шахматам, чтобы посмеяться. Сейчас они приходят наблюдать, а в дальнейшем будут там учиться».

Бобби Фишер после победы над компьютером. Фото: Getty Images

Похоже, что люди питают какую-то врожденную любовь к интеллектуальным играм. Когда в 1649 году короля Англии Карла I приговорили к смерти, он взял с собой на казнь две вещи - библию и набор шахмат. Известный художник XX века Марсель Дюшан на пике своей карьеры внезапно уехал в Аргентину и начал заниматься вырезанием шахматных фигур из дерева, да и в целом увлекся шахматами. В XIX веке в Японии произошла загадочная история, связанная с игрой го. По легенде духи подсказали одному знаменитому игроку три блестящих хода. В результате он смог победить, а его противник после партии упал на пол, захлебнулся кровью и умер.

Компьютеры далеки от всей этой мистики, но всего за пару десятков лет они изучили интеллектуальные игры глубже, чем человечество за тысячелетия. В 2014 году компания приобрела фирму DeepMind за $400 миллионов для «проведения самого необычного и сложного исследования, конечной целью которого является разгадка сущности интеллекта». В частности ученые хотели научить компьютер играть в го. Эта игра значительно сложнее шахмат. В 1985 году один тайваньский промышленный магнат сказал, что заплатит $1,4 миллиона за программу, которая сможет победить лучшего игрока в го. В 1997 году магнат умер, а спустя три года у его предложения истек срок действия - никто так и не смог забрать приз.

Сейчас он мог бы принадлежать программе DeepMind AlphaGo, которая использует современные нейросети. Год назад она международного чемпиона по го Ли Седоля. В мае этого года она вновь победу над лучшим игроком в го, а также над командой из пяти других профессиональных игроков.

AlphaGo стала абсолютным чемпионом. Вот только вскоре после своих громких побед ее ждет забвение. В конце мая DeepMind незаметно сообщила , что AlphaGo уходит с соревновательной сцены. Чтобы отметить это событие, компания опубликовала 50 вариантов партий, которые программа играла против самой себя. В дальнейшем DeepMind хочет выпустить итоговую исследовательскую работу, в которой будет описана эффективность алгоритма программы.

Что касается шахмат, то человечество потеряло пальму первенства в них еще за 20 лет до этих событий, когда шахматист Гарри Каспаров проиграл суперкомпьютеру IBM Deep Blue. Шахматы и го - не единственные игры, которым пытаются обучить ИИ. Компьютер пробовали научить шашкам , коротким нардам , реверси , покеру и многим другим настольным играм. И человеческий интеллект уже не может сравниться в них с искусственным. Отчасти это произошло из-за развития технологий. Например, еще в 1997 году компьютер Deep Blue занимал 259-е место в списке самых быстрых суперкомпьютеров в мире и мог выполнять около 11 миллиардов операций в секунду. Сейчас же благодаря современным алгоритмам даже ваш смартфон способен победить Каспарова.

Гарри Каспаров против компьютера Deep Blue. Слева один из инженеров IBM Сюн Фэйсюн. Фото: Getty Images

Такие достижения ИИ вызвали у людей вполне человеческие эмоции: печаль, угнетенность и отчаяние. После того как Ли Седоль потерпел поражение от AlphaGo, он пережил экзистенциальный кризис. «Я усомнился в человеческой изобретательности, - признался он после матча. - Я засомневался, являются ли все ходы в го, которые я знаю, правильными». По словам одного из очевидцев, после поражения Ли выглядел так, будто бы ему было «физически плохо». Каспаров чувствовал себя после проигрыша компьютеру не лучше. Когда он вернулся в отель, он просто разделся, лег в постель и смотрел в потолок.

«Компьютер настолько глубоко анализирует некоторые позиции, что играет, как бог», - сказал Каспаров.

Deep Blue впервые показал общественности, что компьютер способен превзойти человека в решении интеллектуальных задач. «Тогда это вызвало шок, - сказал Мюррей Кемпбелл, один из создателей Deep Blue. - Сейчас же мы постепенно привыкаем к этой мысли». Тем не менее, непонятно что ждет человечество в будущем. Как можно использовать в реальном мире достижения в играх? Ответ Кемпбелла на этот вопрос звучит пессимистично. «Трудно найти хороший пример применения таких успехов в настольных играх, - сказал он. - В начале 90-х один из сотрудников IBM по имени Геральд Тезауро пытался обучить ИИ игре в нарды и сделал некоторые достижения в стимулированном обучении. Сейчас его методы часто используются в робототехнике. Однако его случай - скорее исключение из правил».