В закладки
КонтактыО сайте

Тьюринг алан могут ли машины мыслить рецензия. Могут ли машины мыслить? Разум мозга - компьютерная программа

В МИРЕ НАУКИ. (Scientific American. Издание на русском языке). 1990. № 3

Искусственный интеллект: различные взгляды на проблему


Последние 35 лет попыток создать думающие машины были полны и удач, и разочарований. «Интеллектуальный» уровень современных компьютеров довольно высок, однако для того, чтобы компьютеры могли «разумно» вести себя в реальном мире, их поведенческие способности не должны уступать способностям по крайней мере самых примитивных животных. Некоторые специалисты, работающие в областях, не связанных с искусственным интеллектом, говорят, что компьютеры по своей природе не способны к сознательной умственной деятельности.

В этом нормере журнала в статье Дж.Р.Сирла утверждается, что компьютерные программы никогда не смогут достичь разума в привычном для нас понимании. В то же время в другой статье, написанной П.М.Черчлендом и П. С.Черчленд приводится мнение, что с помощью электронных схем, построенных по образу и подобию мозговых структур, возможно удастся создать искусственный интеллект. За этим спором по существу скрывается вопрос о том, что такое мышление. Этот вопрос занимал умы людей на протяжении тысячелетий. Практическая работа с компьютерами, которые пока не могут мыслить, породила новый взгляд на этот вопрос и отвергла многие потенциальные ответы на него. Остается найти правильный ответ.

Разум мозга - компьютерная программа?

Нет. Программа лишь манипулирует символами, мозг же придает им смысл

ДЖОН СЁРЛ

СПОСОБНА ли машина мыслить? Может ли машина иметь сознанные мысли в таком же смысле, в каком имеем их мы? Если под машиной понимать физическую систему, способную выполнять определенные функции (а что еще под ней можно понимать?), тогда люди - это машины особой, биологической разновидности, а люди могут мыслить, и, стало быть, машины, конечно, тоже могут мыслить. Тогда, по всей видимости, можно создавать мыслящие машины из самых разнообразных материалов - скажем, из кремниевых кристаллов или электронных ламп. Если это и окажется невозможным, то пока мы, конечно, этого еще не знаем.

Однако в последние десятилетия вопрос о том, может ли машина мыслить, приобрел совершенно другую интерпретацию. Он был подменен вопросом: способна ли машина мыслить только за счет выполнения заложенной в нее компьютерной программы? Является ли программа основой мышления? Это принципиально иной вопрос, потому что он не затрагивает физических, каузальных (причинных) свойств существующих или возможных физических систем, а скорее относится к абстрактным, вычислительным свойствам формализованных компьютерных программ, которые могут быть реализованы в любом материале, лишь бы он был способен выполнять эти программы.

Довольно большое число специалистов по искусственному интеллекту (ИИ) полагают, что на второй вопрос следует ответить положительно; другими словами, они считают, что составив правильные программы с правильными входами и выходами, они действительно создадут разум. Более того, они полагают, что имеют в своем распоряжении научный тест, с помощью которого можно судить об успехе или неудаче такой попытки. Имеется в виду тест Тьюринга, изобретенный Аланом М. Тьюрингом, основоположником искусственного интеллекта. Тест Тьюринга в том смысле, как его сейчас понимают, заключается просто в следующем: если компьютер способен демонстрировать поведение, которое эксперт не сможет отличить от поведения человека, обладающего определенными мыслительными способностями (скажем, способностью вьшблнять операции сложения или понимать китайский язык), то компьютер также обладает этими способностями. Следовательно, цель заключается лишь в том, чтобы создать программы, способные моделировать человеческое мышление таким образом, чтобы выдерживать тест Тьюринга. Более того, такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум - это разум.

Конечно, далеко не каждый специалист по искусственному интеллекту разделяет такую крайнюю точку зрения. Более осторожный подход заключается в том, чтобы рассматривать компьютерные модели как полезное средство для изучения разума, подобно тому как они применяются при изучении погоды, пищеварения, экономики или механизмов молекулярной биологии. Чтобы провести различие между этими двумя подходами, я назову первый «сильным ИИ», а второй - «слабым ИИ». Важно понять, насколько радикальным является подход сильного ИИ. Сильный ИИ утверждает, что мышление - это не что иное, как манипулирование формализованными символами, а именно это и делает компьютер: он оперирует формализованными символами. Подобный взгляд часто суммируется примерно следующим высказыванием: «Разум по отношению к мозгу - это то же, что и программа по отношению к аппаратуре компьютера».

СИЛЬНЫЙ ИИ отличается от других теорий разума по крайней мере в двух отношениях: его можно четко сформулировать, но также четко и просто его можно опровергнуть. Характер этого опровержения таков, что каждый человек может попробовать провести его самостоятельно. Вот как это делается. Возьмем, например, какой-нибудь язык, которого вы не понимаете. Для меня таким языком является китайский. Текст, написанный по-китайски, я воспринимаю как набор бессмысленных каракулей. Теперь предположим, что меня поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов. Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причем правила эти можно применять, зная лишь форму символов, понимать значение символов совсем необязательно. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два».

Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов. В данном случае книга правил есть не что иное, как «компьютерная программа». Люди, написавшие ее, - «программисты», а я играю роль «компьютера». Корзинки, наполненные символами, - это «база данных»; наборы символов, передаваемых в комнату, это «вопросы», а наборы, выходящие из комнаты, это «ответы».

Предположим далее, что книга правил написана так, что мои «ответы» на «вопросы» не отличаются от ответов человека, свободно владеющего китайским языком. Например, люди, находящиеся снаружи, могут передать непонятные мне символы, означающие; «Какой цвет вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, я выдам символы, к сожалению, мне также непонятные и означающие, что мой любимый цвет синий, но мне также очень нравится зеленый. Таким образом, я выдержу тест Тьюринга на понимание китайского языка. Но все же на самом деле я не понимаю ни слова по-китайски. К тому же я никак не могу научиться этому языку в рассматриваемой системе, поскольку не существует никакого способа, с помощью которого я мог бы узнать смысл хотя бы одного символа. Подобно компьютеру, я манипулирую символами, но не могу придать им какого бы то ни было смысла.

Сущность этого мысленного эксперимента состоит в следующем: если я не могу понять китайского языка только потому, что выполняю компьютерную программу для понимания китайского, то и никакой другой цифровой компьютер не сможет его понять таким образом. Цифровые компьютеры просто манипулируют формальными символами согласно правилам, зафиксированным в программе.

То, что касается китайского языка, можно сказать и о других формах знания. Одного умения манипулировать символами еще недостаточно, чтобы гарантировать знание, восприятие, понимание, мышление и т. д. И поскольку компьютеры как таковые - это устройства, манипулирующие символами, наличия компьютерной программы недостаточно, чтобы можно было говорить о наличии знания.

Этот простой аргумент имеет решающее значение для опровержения концепции сильного ИИ. Первая предпосылка аргумента просто констатирует формальный характер компьютерной программы. Программы определяются в терминах манипулирования символами, а сами символы носят чисто формальный, или «синтаксический» характер. Между прочим, именно благодаря формальной природе программы, компьютер является таким мощным орудием. Одна и та же программа может выполняться на машинах самой различной природы, равно как одна и та же аппаратная система способна выполнять самые разнообразные компьютерные программы. Представим это соображение кратко в виде «аксиомы»:

Аксиома 1. Компьютерные программы - это формальные (синтаксические) объекты.

Это положение настолько важно, что его стоит рассмотреть несколько подробнее. Цифровой компьютер обрабатывает информацию, сначала кодируя ее в символических обозначениях, используемых в машине, а затем манипулируя символами в соответствии с набором строго определенных правил. Эти правила представляют собой программу. Например, в рамках тьюринговской концепции компьютера в роли символов выступали просто 0 и 1, а правила программы предписывали такие операции, как «Записать 0 на ленте, продвинуться на одну ячейку влево и стереть 1». Компьютеры обладают удивительным свойством: любая представимая на естественном языке информация может быть закодирована в такой системе обозначений и любая задача по обработке информации может быть решена путем применения правил, которые можно запрограммировать.

ВАЖНОЕ значение имеют еще два момента. Во-первых, символы и программы - это чисто абстрактные понятия: они не обладают физическими свойствами, с помощью которых их можно было бы определить и реализовать в какой бы то ни было физической среде. Нули и единицы, как символы, не имеют физических свойств. Я акцентирую на этом внимание, поскольку иногда возникает соблазн отождествить компьютеры с той или иной конкретной технологией - скажем, с кремниевыми интегральными микросхемами - и считать, что речь идет о физических свойствах кремниевых кристаллов или что синтаксис означает какое-то физическое явление, обладающее, может быть, еще неизвестными каузальными свойствами аналогично реальным физическим явлениям, таким как электромагнитное излучение или атомы водорода, которые обладают физическими, каузальными свойствами. Второй момент заключается в том, что манипуляция символами осуществляется без всякой связи с каким бы то ни было смыслом. Символы в программе могут обозначать все, что угодно программисту или пользователю. В этом смысле программа обладает синтаксисом, но не обладает семантикой.

Следующая аксиома является простым напоминанием об очевидном факте, что мысли, восприятие, понимание и т. п. имеют смысловое содержание. Благодаря этому содержанию они могут служить отражением объектов и состояний реального мира. Если смысловое содержание связано с языком, то в дополнение к семантике, в нем будет присутствовать и синтаксис, однако лингвистическое понимание требует по крайней мере семантической основы. Если, например, я размышляю о последних президентских выборах, то мне в голову приходят определенные слова, но эти слова лишь потому относятся к выборам, что я придаю им специфическое смысловое значение в соответствии со своим знанием английского языка. В этом отношении они для меня принципиально отличаются от китайских иероглифов. Сформулируем это кратко в виде следующей аксиомы:

Аксиома 2. Человеческий разум оперирует смысловым содержанием (семантикой).

Теперь добавим еще один момент, который был продемонстрирован экспериментом с китайской комнатой. Располагать только символами как таковыми (т. е. синтаксисом) еще недостаточно для того, чтобы располагать семантикой. Простого манипулирования символами недостаточно, чтобы гарантировать знание их смыслового значения. Кратко представим это в виде аксиомы.

Аксиома 3. Синтаксис сам по себе не составляет семантику и его недостаточно для существования семантики.

На одном уровне этот принцип справедлив по определению. Конечно, кто-то может определить синтаксис и семантику по-иному. Главное, однако, в том, что существует различие между формальными элементами, не имеющими внутреннего смыслового значения, или содержания, и теми явлениями, у которых такое содержание есть. Из рассмотренных предпосылок следует:

Заключение 1. Программы не являются сущностью разума и их наличия недостаточно для наличия разума.

А это по существу означает, что утверждение сильного ИИ ложно.

Очень важно отдавать себе отчет в том, что именно было доказано с помощью этого рассуждения и что нет.

Во-первых, я не пытался доказывать, что «компьютер не может мыслить». Поскольку все, что поддается моделированию вычислениями, может быть описано как компьютер, и поскольку наш мозг на некоторых уровнях поддается моделированию, то отсюда тривиально следует, что наш мозг - это компьютер, и он, разумеется, способен мыслить. Однако из того факта, что систему можно моделировать посредством манипулирования символами и что она способна мыслить, вовсе не следует, что способность к мышлению эквивалентна способности к манипулированию формальными символами.

Во-вторых, я не пытался доказывать, что только системы биологической природы, подобные нашему мозгу, способны мыслить. В настоящее время это единственные известные нам системы, обладающие такой способностью, однако мы можем встретить во Вселенной и другие способные к осознанным мыслям системы, а может быть, мы даже сумеем искусственно создать мыслящие системы. Я считают этот вопрос открытым для споров.

В-третьих, утверждение сильного ИИ заключается не в том, что компьютеры с правильными программами могут мыслить, что они могут обладать какими-то неведомыми доселе психологическими свойствами; скорее, оно состоит в том, что компьютеры просто должны мыслить, поскольку их работа - это и есть не что иное, как мышление.

В-четвертых, я попытался опровергнуть сильный ИИ, определенный именно таким образом. Я пытался доказать, что мышление не сводится к программам, потому что программа лишь манипулирует формальными символами - а, как нам известно, самого по себе манипулирования символами недостаточно, чтобы гарантировать наличие смысла. Это тот принцип, на котором основано рассуждение о китайской комнате.

Я подчеркиваю здесь эти моменты отчасти потому, что П.М. и П.С.Черчленды в своей статье (см. Пол М. Черчленд и Патриция Смит Черчленд «Может ли машина мыслить?»), как мне кажется, не совсем правильно поняли суть моих аргументов. По их мнению, сильный ИИ утверждает, что компьютеры в конечном итоге могут обрести способность к мышлению и что я отрицаю такую возможность, рассуждая лишь на уровне здравого смысла. Однако сильный ИИ утверждает другое, и мои доводы против не имеют ничего общего со здравым смыслом.

Далее я скажу еще кое-что об их возражениях. А пока я должен заметить, что в противоположность тому, что говорят Черчленды, рассуждение с китайской комнатой опровергает любые утверждения сильного ИИ относительно новых параллельных технологий, возникших под влиянием и моделирующих работу нейронных сетей. В отличие от компьютеров традиционной архитектуры фон Неймана, работающих в последовательном пошаговом режиме, эти системы располагают многочисленными вычислительными элементами, работающими параллельно и взаимодействующими друг с другом в соответствии с правилами, основанными на открытиях нейробиологии. Хотя пока достигнуты скромные результаты, модели «параллельной распределенной обработки данных» или «коммутационные машины» подняли некоторые полезные вопросы относительно того, насколько сложными должны быть параллельные системы, подобные нашему мозгу, чтобы при их функционировании порождалось разумное поведение.

Однако параллельный, «подобный мозгу» характер обработки информации не является существенным для чисто вычислительных аспектов процесса. Любая функция, которая может быть вычислена на параллельной машине, будет вычислена и на последовательной. И действительно, ввиду того что параллельные машины еще редки, параллельные программы обычно все еще выполняются на традиционных последовательных машинах. Следовательно, параллельная обработка также не избегает аргумента, основанного на примере с китайской комнатой.

Более того, параллельные системы подвержены своей специфической версии первоначального опровергающего рассуждения в случае с китайской комнатой. Вместо китайской комнаты представьте себе китайский спортивный зал, заполненный большим числом людей, понимающих только английский язык. Эти люди будут выполнять те же самые операции, которые выполняются узлами и синапсами в машине коннекционной архитектуры, описанной Черчленда-ми, но результат будет тем же, что и в примере с одним человеком, который манипулирует символами согласно правилам, записанным в руководстве. Никто в зале не понимает ни слова по-китайски, и не существует способа, следуя которому вся система в целом могла бы узнать о смысловом значении хотя бы одного китайского слова. Тем не менее при правильных инструкциях эта система способна правильно отвечать на вопросы, сформулированные по-китайски.

У параллельных сетей, как я уже говорил, есть интересные свойства, благодаря которым они могут лучше моделировать мозговые процессы по сравнению с машинами с традиционной последовательной архитектурой. Однако преимущества параллельной архитектуры, существенные для слабого ИИ, не имеют никакого отношения к противопоставлению между аргументом, построенным на примере с китайской комнатой, и утверждением сильного ИИ. Черчленды упускают из виду этот момент, когда говорят, что достаточно большой китайский спортивный зал мог бы обладать более высокими умственными способностями, которые определяются размерами и степенью сложности системы, равно как и мозг в целом более «разумен», чем его отдельные нейроны. Возможно и так, но это не имеет никакого отношения к вычислительному процессу. С точки зрения выполнения вычислений последовательные и параллельные архитектуры совершенно идентичны: любое вычисление, которое может быть произведено в машине с параллельным режимом работы, может быть выполнено машиной с последовательной архитектурой. Если человек, находящийся в китайской комнате и производящий вычисления эквивалентен и той и другой системам, тогда, если он не понимает китайского языка исключительно потому, что ничего кроме вычислений не делает, то и эти системы также не понимают китайского языка. Черчленды правы, когда говорят, что первоначальный довод, основанный на примере с китайской комнатой, был сформулирован исходя из традиционного представления об ИИ, но они заблуждаются, считая что параллельная архитектура делает этот довод неуязвимым. Это справедливо в отношении любой вычислительной системы. Производя только формальные операции с символами (т. е. вычисления) вы не сможете обогатить свой разум семантикой, независимо от того выполняются эти вычислительные операции последовательно или параллельно; вот почему аргумент китайской комнаты опровергает сильный ИИ в любой его форме.

МНОГИЕ люди, на которых этот аргумент производит определенное впечатление, тем не менее затрудняются провести четкое различие между людьми и компьютерами. Если люди, по крайней мере в тривиальном смысле, являются компьютерами и если люди обладают семантикой, то почему они не могут наделить семантикой и другие компьютеры? Почему мы не можем запрограммировать компьютеры Vax или Cray таким образом, чтобы у них тоже появились мысли и чувства? Или почему какая-нибудь новая компьютерная технология не сможет преодолеть пропасть, разделяющую форму и содержание, или синтаксис и семантику? В чем на самом деле состоит то различие между биологическим мозгом и компьютерной системой, благодаря которому аргумент с китайской комнатой действует применительно к компьютерам, но не действует применительно к мозгу?

Наиболее очевидное различие заключается в том, что процессы, которые определяют нечто как компьютер (а именно вычислительные процессы), на самом деле совершенно не зависят от какого бы то ни было конкретного типа аппаратной реализации. В принципе можно сделать компьютер из старых жестяных банок из-под пива, соединив их проволокой и обеспечив энергией от ветряных мельниц.

Однако когда мы имеем дело с мозгом, то хотя современная наука в значительной степени еще пребывает в неведении относительно протекающих в мозгу процессов, мы поражаемся чрезвычайной специфичности анатомии и физиологии. Там, где мы достигли некоторого понимания того, как мозговые процессы порождают те или иные психические явления, - например, боль, жажду, зрение, обоняние - нам ясно, что в этих процессах участвуют вполне определенные нейробиологические механизмы. Чувство жажды, по крайней мере в некоторых случаях, обусловлено срабатыванием нейронов определенных типов в гипоталамусе, которое в свою очередь вызвано действием специфического пептида, ангиотензина II. Причинные связи прослеживаются здесь «снизу вверх» в том смысле, что нейронные процессы низшего уровня обусловливают психические явления на более высоких уровнях. В самом деле, каждое «ментальное» явление, от чувства жажды до мыслей о математических теоремах и воспоминаний о детстве, вызывается срабатыванием определенных нейронов в определенных нейронных структурах.

Однако почему эта специфичность имеет такое важное значение? В конце концов всевозможные срабатывания нейронов можно смоделировать на компьютерах, физические и химические свойства которых совершенно отличны от свойств мозга. Ответ состоит в том, что мозг не просто демонстрирует формальные процедуры или программы (он делает и это тоже), но и вызывает ментальные события благодаря специфическим нейробиологическим процессам. Мозг по сути своей является биологическим органом и именно его особые биохимические свойства позволяют достичь эффекта сознания и других видов ментальных явлений. Компьютерные модели мозговых процессов обеспечивают отражение лишь формальных аспектов этих процессов. Однако моделирование не следует смешивать с воспроизведением. Bычислительные модели ментальных процессов не ближе к реальности, чем вычислительные модели любого другого природного явления.

Можно представить себе компьютерную модель, отражающую воздействие пептидов на гипоталамус, которая будет точна вплоть до каждого отдельного синапса. Но с таким же успехом мы можем представить себе компьютерное моделирование процесса окисления углеводородов в автомобильном двигателе или пищеварительного процесса в желудке. И модель процессов, протекающих в мозге, ничуть не реальнее моделей, описывающих процессы сгорания топлива или пищеварительные процессы. Если не говорить о чудесах, то вы не сможете привести свой автомобиль в движение, моделируя на компьютере окисление бензина, и вы не сможете переварить обед, выполняя программу, которая моделирует пищеварение. Представляется очевидным и тот факт, что и моделирование мышления также не произведет нейробиологического эффекта мышления.

Следовательно, все ментальные явления вызываются нейробиологическими процессами мозга. Представим сокращенно этот тезис следующим образом:

Аксиома 4. Мозг порождает разум.

В соответствии с рассуждениями, приведенными выше, я немедленно прихожу к тривиальному следствию.

Заключение 2. Любая другая система, способная порождать разум, должна обладать каузальными свойствами (по крайней мере), эквивалентными соответствующим свойствам мозга.

Это равносильно, например, следующему утверждению: если электрический двигатель способен обеспечивать автомашине такую же высокую скорость, как двигатель внутреннего сгорания, то он должен обладать (по крайней мере) эквивалентной мощностью. В этом заключении ничего не говорится о механизмах. На самом деле, мышление - это биологическое явление: психические состояния и процессы обусловлены процессами мозга. Из этого еще не следует, что только биологическая система может мыслить, но это в то же время означает, что любая система другой природы, основанная на кремниевых кристаллах, жестяных банках и т. п., должна будет обладать каузальными возможностями, эквивалентными соответствующим возможностям мозга. Таким образом, я прихожу к следующему выводу:

Заключение 3. Любой артефакт, порождающий ментальные явления, любой искусственный мозг должен иметь способность вопроизводить специфические каузальные свойства мозга, и наличия этих свойств невозможно добиться только за счет выполнения формальной программы.

Более того, я прихожу к важному выводу, касающемуся человеческого мозга:

Заключение 4. Тот способ, посредством которого человеческий мозг на самом деле порождает ментальные явления, не может сводиться лишь к выполнению компьютерной программы.

ВПЕРВЫЕ сравнение с китайской комнатой было приведено мною на страницах журнала "Behavioral and Brain Sciences" (Науки о поведении и мозге) в 1980 г. Тогда моя статья сопровождалась, в соответствии с принятой в этом журнале практикой, комментариями оппонентов, в данном случае свои соображения высказали 26 оппонентов. Откровенно говоря, мне кажется, что смысл этого сравнения довольно очевиден, но, к моему удивлению, статья и в дальнейшем вызвала целый поток возражений, и что еще более удивительно, этот поток продолжается и по сей день. По-видимому, аргумент китайской комнаты затронул какое-то очень больное место.

Основной тезис сильного ИИ заключается в том, что любая система (независимо, сделана ли она из пивных банок, кремниевых кристаллов или просто из бумаги) не только способна обладать мыслями и чувствами, но просто должна ими обладать, если только она реализует правильно составленную программу, с правильными входами и выходами. Очевидно, это абсолютно антибиологическая точка зрения, и естественно было бы ожидать, что специалисты по искусственному интеллекту охотно откажутся от нее. Многие из них, особенно представители молодого поколения, согласны со мной, но меня поражает, как много сторонников имеет эта точка зрения и как настойчиво они защищают ее. Приведу некоторые наиболее распространенные из высказываемых ими доводов:

а) В китайской комнате вы на самом деле понимаете китайский, хотя и не отдаете себе в этом отчета. В конце концов вы можете понимать что-то и не отдавая себе в этом отчета.

б) Вы не понимаете китайского, но в вас существует подсистема (подсознание), которая понимает. Существуют ведь подсознательные психические состояния, и нет причины считать, что ваше понимание китайского не могло бы быть полностью неосознанным.

в) Вы не понимаете китайского, но комната как целое - понимает. Вы подобны отдельному нейрону в мозгу, и нейрон как таковой не может ничего понимать, он лишь вносит свой вклад в то понимание, которое демонстрирует система в целом; вы сами не понимаете, но вся система понимает.

г) Никакой семантики и не существует: есть только синтаксис. Полагать, что в мозгу есть какое-то загадочное «психическое содержание», «мыслительные процессы» или «семантика», это своего рода донаучная иллюзия. Все, что на самом деле существует в мозгу, - это некоторое синтаксическое манипулирование символами, которое осуществляется и в компьютерах. И ничего больше.

д) В действительности вы не выполняете компьютерную программу - это вам только кажется. Если существует некий сознательный агент, следующий строкам программы, то процесс уже вовсе не является простой реализацией программы.

е) Компьютеры обладали бы семантикой, а не только синтаксисом, если бы их входы и выходы были поставлены в причинные, каузальные зависимости - по отношению к остальному миру. Допустим, что мы снабдили робота компьютером, подключили телевизионные камеры к его голове, установили трансдьюсеры, подводящие телевизионную информацию к компьютеру, и позволили последнему управлять руками и ногами робота. В таком случае система как целое будет обладать семантикой.

ж) Если программа моделирует поведение человека, говорящего по-китайски, то она понимает китайский язык. Предположим, что нам удалось смоделировать работу мозга китайца на уровне нейронов. Но тогда, конечно, подобная система будет понимать китайский так же хорошо, как и мозг любого китайца.

У всех этих доводов есть одно общее свойство: все они неадекватны рассматриваемой проблеме, потому что не улавливают самой сути рассуждения о китайской комнате. Эта суть заключается в различии между формальным манипулированием символами, осуществляемым компьютером, и смысловым содержанием, биологически порождаемым мозгом, - различии, которое я для краткости выражения (и надеюсь, что это никого не введет в заблуждение) свел к различию между синтаксисом и семантикой. Я не буду повторять своих ответов на все эти возражения, однако проясню, возможно, ситуацию, если скажу, в чем заключаются слабости наиболее распространенного довода моих оппонентов, а именно довода (в), который я назову ответом системы. (Очень часто встречается также и довод (ж), основанный на идее моделирования мозга, но он уже был рассмотрен выше.)

В ОТВЕТЕ системы утверждается, что вы, конечно, не понимаете китайского, но вся система в целом - вы сами, комната, свод правил, корзинки, наполненные символами, - понимает. Когда я впервые услышал это объяснение, я спросил высказавшего это объяснение человека: «Вы что же, считаете, что комната может понимать китайский язык?» Он ответил, да. Это, конечно, смелое утверждение, однако, помимо того что оно совершенно неправдоподобно, оно не состоятельно еще и с чисто логической точки зрения. Суть моего исходного аргумента была в том, что простое тасование символов еще не обеспечивает доступа к пониманию смысла этих символов. Но это в той же мере касается комнаты в целом, как и находящегося в ней человека. В правоте моих слов можно убедиться, несколько расширив наш мысленный эксперимент. Представим себе, что я заучил наизусть содержимое корзинок и книги правил и что я провожу все вычисления в уме. Допустим даже, что я работаю не в комнате, а у всех на виду. В системе не осталось ничего такого, чего бы не было во мне самом, но поскольку я не понимаю китайского языка, не понимает его и система.

В своей статье мои оппоненты Черчленды используют одну из разновидностей ответа системы, придумав любопытную аналогию. Предположим, кто-то стал утверждать, что свет не может иметь электромагнитную природу, поскольку, когда человек перемещает магнит в темной комнате, мы не наблюдаем видимого светового излучения. Приведя этот пример, Черчленды спрашивают, а не является ли аргумент с китайской комнатой чем-то в том же роде? Не равносильно ли будет сказать, что когда вы манипулируете китайскими иероглифами в семантически темной комнате, в ней не возникает никакого просвета в понимании китайского языка? Но не может ли потом в ходе будущих исследований выясниться - так же, как было доказано, что свет все-таки целиком состоит из электромагнитного излучения, - что семантика целиком и полностью состоит из синтаксиса? Не является ли этот вопрос предметом дальнейшего научного изучения?

Аргументы, построенные на аналогиях, всегда очень уязвимы, поскольку, прежде чем аргумент станет состоятельным, необходимо еще убедиться, что две рассматриваемые ситуации действительно аналогичны. В данном случае, я думаю, что это не так. Объяснение света на основе электромагнитного излучения - это причинное рассуждение от начала и до конца. Это причинное объяснение физики электромагнитных волн. Однако аналогия с формальными символами не состоятельна, поскольку формальные символы не имеют физических причинных свойств. Единственное, что во власти символов как таковых, - это вызвать следующий шаг в программе, которую выполняет работающая машина. И здесь не возникает никакой речи о дальнейших исследованиях, которым еще предстоит раскрыть доселе неизвестные физические причинные свойства нулей и единиц. Последние обладают лишь одним видом свойств - абстрактными вычислительными свойствами, которые уже хорошо изучены.

Черчленды говорят, что у них «напрашивается вопрос», когда я утверждаю, что интерпретированные формальные символы не идентичны смысловому содержанию. Да, я, конечно, не тратил много времени на доказательство, что это так, поскольку я считаю это логической истиной. Как и в случае с любой другой логической истиной, каждый может быстро убедиться, что она справедлива, поскольку, предположив обратное, сразу приходишь к противоречию. Попробуем провести такое доказательство. Предположим, что в китайской комнате имеет место какое-то скрытое понимание китайского языка. Что же может превратить процесс манипулирования синтаксическими элементами в специфично китайское смысловое содержание? Подумав, я в конце концов пришел к выводу, что программисты должны были говорить по-китайски, коль скоро они сумели запрограммировать систему для обработки информации, представленной на китайском языке.

Хорошо. Но теперь представим себе, что надоело, сидя в китайской комнате, тасовать китайские (для меня бессмысленные) символы. Предположим, мне пришло в голову интерпретировать эти символы как обозначения ходов в шахматной игре. Какой семантикой теперь обладает система? Обладает ли она китайской семантикой или шахматной, или она обладает одновременно и той и другой? Предположим, что есть еще некая третья личность, наблюдающая за мной в окошко, и она решает, что мое манипулирование символами можно интерпретировать как предсказание курса акций на бирже. И так далее. Не существует предела количеству семантических интерпретаций, которое можно приписать символам, поскольку, я повторяю, символы носят чисто формальный характер. Они не содержат в себе внутренней семантики.

Можно ли каким-то образом спасти аналогию Черчлендов? Выше я сказал, что формальные символы не имеют каузальных свойств. Но, конечно, программа всегда выполняется той или иной конкретной аппаратурой, и эта аппаратура обладает своими специфическими физическими, каузальными свойствами. Любой реальный компьютер порождает различные физические явления. Мой компьютер, к примеру, выделяет тепло, производит монотонный шум и т. д. Существует ли здесь какое-либо строгое логическое доказательство, что компьютер не может производить аналогичным образом эффект сознания? Нет. В научном смысле об этом и речи быть не может, однако это совсем не то, что призвано опровергать рассуждение о китайской комнате, и не то, на чем будут настаивать сторонники сильного ИИ, поскольку любой производимый таким образом эффект будет достигать за счет физических свойств реализующей программу среды. Основное утверждение сильного ИИ заключается в том, что физические свойства реализующей среды не имеют никакого значения. Имеют значение лишь программы, а программы - это чисто формальные объекты.

Таким образом аналогия Черчлендов между синтаксисом и электромагнитным излучением наталкивается на дилемму: либо синтаксис следует понимать чисто формально, через его абстрактные математические свойства, либо нет. Если выбрать первую альтернативу, то аналогия становится несостоятельной, поскольку синтаксис, понимаемый таким образом, не имеет физических свойств. Если же, с другой стороны, рассматривать синтаксис в плоскости физических свойств реализующей среды, тогда аналогия действительно состоятельна, но она не имеет отношения к сильному ИИ.

ПОСКОЛЬКУ сделанные мною утверждения довольно очевидны - синтаксис это не то же самое, что семантика; мозговые процессы порождают психические явления - возникает вопрос, а как вообще возникла эта путаница? Кому могло прийти в голову, что компьютерное моделирование ментального процесса полностью ему идентично? В конце концов весь смысл моделей заключается в том, что они улавливают лишь какую-то часть моделируемого явления и не затрагивают остального. Ведь никто не думает, что мы-захотим поплавать в бассейне, наполненном шариками для пинг-понга, моделирующими молекулы воды. Можно ли тогда считать, что компьютерная модель мыслительных процессов на самом деле способна мыслить?

Отчасти эти недоразумения объясняются тем, что люди унаследовали некоторые положения -бихевиористских психологических теорий прошлого поколения. Под тестом Тьюринга скрывается соблазн считать, что если нечто ведет себя так, как будто оно обладает ментальными процессами, то оно и на самом деле должно ими обладать. Частью ошибочной бихевиористской концепции было также и то, что психология, для того чтобы оставаться научной дисциплиной, должна ограничиваться изучением внешне наблюдаемого поведения. Парадоксально, но этот остаточный бихевиоризм связан с остаточным дуализмом. Никто не думает, что компьютерная модель пищеварения способна что-то переварить на самом деле, но там, где речь идет о мышлении, люди охотно верят в такие чудеса, потому что забывают о том, что разум - это такое же биологическое явление, как и пищеварение. По их мнению, разум - это нечто формальное и абстрактное, а вовсе не часть полужидкой субстанции, из которой состоит наш головной мозг. Полемическая литература по искусственному интеллекту обычно содержит нападки на то, что авторы называют дуализмом, но при этом они не замечают, как сами демонстрируют ярко выраженный дуализм, поскольку если не принять точку зрения, что разум совершенно не зависит от мозга или какой-либо другой физически специфической системы, то следует считать невозможным создание разума только за счет написания программ.

Исторически в странах Запада научные концепции, в которых люди рассматривались как часть обычного физического или биологического мира, часто встречали противодействие со стороны реакции. Идеям Коперника и Галилея противились, потому что они отрицали, что Земля является центром Вселенной. Против Дарвина выступали потому, что он утверждал, что люди произошли от низших животных. Сильный ИИ правильнее всего было бы рассматривать как одно из последних проявлений этой антинаучной традиции, так как он отрицает, что человеческий разум содержит что-то существенно физическое или биологическое. Согласно утверждениям сильного ИИ, разум не зависит от мозга. Он представляет собой компьютерную программу и по существу не связан ни с какой специфической аппаратурой.

Многие люди, сомневающиеся относительно физической значимости искусственного интеллекта, полагают, что компьютеры, может быть, и смогут понимать китайский язык или думать о числах, но принципиально не способны на проявления чисто человеческих свойств, а именно (и далее следует их излюбленная человеческая специфика): любовь, чувство юмора, тревога за судьбу постиндустриального общества в эпоху современного капитализма и т. д. Но специалисты по ИИ справедливо настаивают, что эти возражения не корректны, что здесь как бы отодвигаются футбольные ворота. Если искусственное моделирование интеллекта окажется успешным, то психологические вопросы уже не имеют сколь-нибудь важного значения, В этом споре обе стороны не замечают различия между моделированием и воспроизведением. Пока речь идет о моделировании, то не стоит никакого труда запрограммировать мой компьютер, чтобы он напечатал: «Я люблю тебя, Сюзи»; «Ха-ха!» или «Я испытываю тревоги постиндустриального общества». Важно отдавать себе отчет в том, что моделирование - это не то же самое, что воспроизведение; и этот факт имеет такое же отношение к размышлениям об арифметике, как и к чувству тревоги. Дело не в том, что компьютер доходит только до центра поля и не доходит до ворот. Компьютер даже не трогается с места. Он просто не играет в эту игру.

Искусственный интеллект: Может ли машина мыслить?

Классический искусственный интеллект едва ли будет воплощен в мыслящих машинах; предел человеческой изобретательности в этой области, по-видимому, ограничится созданием систем, имитирующих работу мозга

ПОЛ М. ЧЕРЧЛЕНД, ПАТРИЦИЯ СМИТ ЧЕРЧЛЕНД

В НАУКЕ об искусственном интеллекте (ИИ) происходит революция. Чтобы объяснить ее причины и смысл и представить рассуждения Джона Р. Сирла в перспективе, мы прежде должны обратиться к истории.

В начале 50-х годов традиционный, несколько расплывчатый вопрос о том, может ли машина мыслить, уступил более доступному вопросу: может ли мыслить машина, манипулирующая физическими символами в соответствии с правилами, учитывающими их структуру. Этот вопрос сформулирован точнее, потому что за предшествовавшие полвека формальная логика и теория вычислений существенно продвинулись вперед. Теоретики стали высоко оценивать возможности абстрактных систем символов, которые претерпевают преобразования в соответствии с определенными правилами. Казалось, что если эти системы удалось бы автоматизировать, то их абстрактная вычислительная мощь проявилась бы в реальной физической системе. Подобные взгляды способствовали рождению вполне определенной программы исследований на достаточно глубокой теоретической основе.

Может ли машина мыслить? Было много причин для того, чтобы ответить да. Исторически одна из первых и наиболее глубоких причин заключалась в двух важных результатах теории вычислений. Первый результат был тезисом Черча, согласно которому каждая эффективно вычислимая функция является рекурсивно вычислимой. Термин «эффективно вычислимая» означает, что существует некая «механическая» процедура, с помощью которой можно за конечное время вычислить результат при заданных входных данных. «Рекурсивно вычислимая» означает, что существует конечное множество операций, которые можно применить к заданному входу, а затем последовательно и многократно применять к вновь получаемым результатам, чтобы вычислить функцию за конечное время. Понятие механической процедуры не формальное, а скорее интуитивное, и потому тезис Черча не имеет формального доказательства. Однако он проникает в самую суть того, чем является вычисление, и множество различных свидетельств сходится в его подтверждение.

Второй важный результат был получен Аланом М. Тьюрингом, продемонстрировавшим, что любая рекурсивно вычислимая функция может быть вычислена за конечное время с помощью максимально упрощенной машины, манипулирующей символами, которую позднее стали называть универсальной машиной Тьюринга. Эта машина управляется рекурсивно применимыми правилами, чувствительными к идентичности, порядку и расположению элементарных символов, которые играют роль входных данных.

ИЗ ЭТИХ двух результатов вытекает очень важное следствие, а именно что стандартный цифровой компьютер, снабженный правильной программой, достаточно большой памятью и располагающий достаточным временем, может вычислить любую управляемую правилами функцию с входом и выходом. Другими словами, он может продемонстрировать любую систематическую совокупность ответов на произвольные воздействия со стороны внешней среды.

Конкретизируем это следующим образом: рассмотренные выше результаты означают, что соответственно запрограммированная машина, манипулирующая символами (в дальнейшем будем называть ее МС-машиной), должна удовлетворять тесту Тьюринга на наличие сознательного разума. Тест Тьюринга - это чисто бихевиористский тест, тем не менее его требования очень сильны. (Насколько состоятелен этот тест, мы рассмотрим ниже, там где встретимся со вторым, принципиально отличным «тестом» на наличие сознательного разума.) Согласно первоначальной версии теста Тьюринга, входом для МС-машины должны быть вопросы и фразы на естественном разговорном языке, которые мы набираем на клавиатуре устройства ввода, а выходом являются ответы МС-машины, напечатанные устройством вывода. Считается, что машина выдержала этот тест на присутствие сознательного разума, если ее ответы невозможно отличить от ответов, напечатанных реальным, разумным человеком. Конечно, в настоящее время никому не известна та функция, с помощью которой можно было бы получить выход, не отличающийся от поведения разумного человека. Но результаты Черча и Тьюринга гарантируют нам, что какова бы ни была эта (предположительно эффективная) функция, МС-машина соответствующей конструкции сможет ее вычислить.

Это очень важный вывод, особенно если учесть, что тьюринговское описание взаимодействия с машиной при помощи печатающей машинки представляет собой несущественное ограничение. То же заключение остается в силе, даже если МС-машина взаимодействует с миром более сложными способами: с помощью аппарата непосредственного зрения, естественной речи и т. д. В конце концов более сложная рекурсивная функция все же остается вычислимой по Тьюрингу. Остается лишь одна проблема: найти ту несомненно сложную функцию, которая управляет ответными реакциями человека на воздействия со стороны внешней среды, а затем написать программу (множество рекурсивно применимых правил), с помощью которой МС-машина вычислит эту функцию. Вот эти цели и легли в основу научной программы классического искусственного интеллекта.

Первые результаты были обнадеживающими. МС-машины с остроумно составленными программами продемонстрировали целый ряд действий, которые как будто относятся к проявлениям разума. Они реагировали на сложные команды, решали трудные арифметические, алгебраические и тактические задачи, играли в шашки и шахматы, доказывали теоремы и поддерживали простой диалог. Результаты продолжали улучшатьсгя с появлением более емких запоминающих устройств, более быстродействующих машин, а также с разработгюй более мощных и изощренных программ. Классический, или «построенный на программировании», ИИ представлял собой очень живое и успешное научное направление почти со всех точек зрения. Периодически высказывавшееся отрицание того, что МС-машины в конечном итоге будут способны мыслить, казалось проявлением необъективности и неинформированности. Свидетельства в пользу положительного ответа на вопрос, вынесенный в заголовок статьи, казались более чем убедительными.

Конечно, оставались кое-какие неясности. Прежде всего МС-машины не очень-то напоминали человеческий мозг. Однако и здесь у классического ИИ был наготове убедительный ответ. Во-первых, физический материал, из которого сделана МС-машина, по существу не имеет никакого отношения к вычисляемой ею функции. Последняя зафиксирована в программе. Во-вторых, техничекие подробности функциональной архитектуры машины также не имеют значения, поскольку совершенно различные архитектуры, рассчитанные на работу с совершенно различными программами, могут тем не менее выполнять одну и ту же функцию по входу-выходу.

Поэтому целью ИИ было найти функцию, по входу и выходу характерную для разума, а также создать наиболее эффективную из многих возможных программ для того, чтобы вычислить эту функцию. При этом говорили, что тот специфичный способ, с помощью которого функция вычисляется человеческим мозгом, не имеет значения. Этим и завершается описание сущности классического ИИ и оснований для положительного ответа на вопрос, поставленный в заголовке статьи.

МОЖЕТ ЛИ машина мыслить? Были также кое-какие доводы и в пользу отрицательного ответа. На протяжении 60-х годов заслуживающие внимания отрицательные аргументы встречались относительно редко. Иногда высказывалось возражение, заключающееся в том, что мышление - это не физический процесс и протекает он в нематериальной душе. Однако подобное дуалистическое воззрение не выглядело достаточно убедительным ни с эволюционной, ни с логической точки зрения. Оно не оказало сдерживающего влияния на исследования в области ИИ.

Гораздо большее внимание специалистов по ИИ привлекли соображения иного характера. В 1972 г. Хьюберт Л. Дрейфус опубликовал книгу, в которой резко критиковались парадные демонстрации проявлений разума у систем ИИ. Он указывал на то, что эти системы не адекватно моделировали подлинное мышление, и вскрыл закономерность, присущую всем этим неудачным попыткам. По его мнению, в моделях отсутствовал тот огромный запас неформализованных общих знаний о мире, которым располагает любой человек, а также способность, присущая здравому рассудку, опираться на те или иные составляющие этих знаний,в зависимости от требований изменяющейся обстановки. Дрейфус не отрицал принципиальной возможности создания искусственной физичесгсой системы, способной мыслить, но он весьма критически отнесся к идее о том, что это может быть достигнуто только за счет манипулирования символами с помощью рекурсивно применяемых правил.

В кругах специалистов по искусственному интеллекту, а также философов рассуждения Дрейфуса были восприняты главным образом как недальновидные и необъективные, базирующиеся на неизбежных упрощениях, присущих этой еще очень молодой области исследований. Возможно, указанные недостатки действительно имели место, но они, конечно, были временными. Настанет время, когда более мощные машины и более качественные программы позволят избавиться от этих недостатков. Казалось, что время работает на искусственный интеллект. Таким образом, и эти возражения не оказали сколько-нибудь заметного влияния на дальнейшие исследования в области ИИ.

Однако оказалось, что время работало и на Дрейфуса: в конце 70-х - начале 80-х годов увеличение быстродействия и объема памяти компьютеров повышало их «умственные способности» ненамного. Выяснилось, например, что распознавание образов в системах машинного зрения требует неожиданно большого объема вычислений. Для получения практически достоверных результатов нужно было затрачивать все больше и больше машинного времени, намного превосходя время, требуемое для выполнения тех же задач биологической системе зрения. Столь медленный процесс моделирования настораживал: ведь в компьютере сигналы распространяются приблизительно в миллион раз быстрее, чем в мозге, а тактовая частота центрального процессорного устройства компьютера примерно во столько же раз выше частоты любых колебаний, обнаруженных в мозге. И все же на реалистических задачах черепаха легко обгоняет зайца.

Кроме того, для решения реалистических задач необходимо, чтобы компьютерная программа обладала доступом к чрезвычайно обширной базе данных. Построение такой базы данных уже само по себе представляет довольно сложную проблему, но она усугубляется еще одним обстоятельством: каким образом обеспечить доступ к конкретным, зависящим от контекста фрагментам этой базы данных в реальном масштабе времени. По мере того как базы данных становились все более емкими, проблема доступа осложнялась. Исчерпывающий поиск занимал слишком много времени, а эвристические методы не всегда приводили к успеху. Опасения, подобные тем, что высказывал Дрейфус, начали разделять даже некоторые специалисты, работающие в области искусственного интеллекта.

Приблизительно в это время (1980 г.) Джон Сирл высказал принципиально новую критическую концепцию, ставившую под сомнение само фундаментальное предположение классической программы исследований по ИИ, а именно - идею о том, что правильное манипулирование структурированными символами путем рекурсивного применения правил, учитывающих их структуру, может составлять сущность сознательного разума.

Основной аргумент Сирла базировался на мысленном эксперименте, в котором он демонстрирует два очень важных обстоятельства. Во-первых, он описывает МС-машину, которая (как мы должны понимать) реализует функцию, по входу и выходу способную выдержать тест Тьюринга в виде беседы, протекающей исключительно на китайском языке. Во-вторых, внутренняя структура машины такова, что независимо от того, какое поведение она демонстрирует, у наблюдателя не возникает сомнений в том, что ни машина в целом, ни любая ее часть не понимают китайского языка. Все, что она в себе содержит, - это говорящий только по-английски человек, выполняющий записанные в инструкции правила, с помощью которых следует манипулировать символами, входящими и выходящими через окошко для почтовой корреспонденции в двери. Короче говоря, система положительно удовлетворяет тесту Тьюринга, несмотря на то что не обладает подлинным пониманием китайского языка и реального семантического содержания сообщений (см. статью Дж. Сирла «Разум мозга - компьютерная программа?»).

Отсюда делается общий вывод, что любая система, просто манипулирующая физическими символами согласно чувствительным к структуре правилам, будет в лучшем случае лишь жалкой пародией настоящего сознательного разума, поскольку невозможно породить «реальную семантику», просто крутя ручку «пустого синтаксиса». Здесь следует заметить, что Сирл выдвигает не бихевиористский (не поведенческий) тест на наличие сознания: элементы сознательного разума должны обладать реальным семантическим содержанием.

Возникает соблазн упрекнуть Сирла в том, что его мысленный эксперимент не адекватен, поскольку предлагаемая им система, действующая по типу «кубика-рубика», будет работать до абсурда медленно. Однако Сирл настаивает, что быстродействие в данном случае не играет никакой роли. Думающий медленно все же думает верно. Все необходимое для воспроизведения мышления, согласно концепции классического ИИ, по его мнению, присутствует в «китайской комнате».

Статья Сирла вызвала оживленные отклики специалистов по ИИ, психологов и философов. Однако в общем и целом она была встречена еще более враждебно, чем книга Дрейфуса. В своей статье, которая одновременно публикуется в этом номере журнала, Сирл приводит ряд критических доводов, высказываемых против его концепции. По нашему мнению, многие из них правомерны, в особенности те, авторы которых жадно «кидаются на приманку», утверждая, что, хотя система, состоящая из комнаты и ее содержимого, работает ужасно медленно, она все же понимает китайский язык.

Нам нравятся эти ответы, но не потому, что мы считаем, будто китайская комната понимает китайский язык. Мы согласны с Сирлом, что она его не понимает. Привлекательность этих аргументов в том, что они отражают отказ воспринять важнейшую третью аксиому в рассуждении Сирла: « Синтаксис сам по себе не составляет семантику и его недостаточно для существования семантики». Возможно, эта аксиома и справедлива, но Сирл не может с полным основанием утверждать, что ему это точно известно. Более того, предположить, что она справедлива, - значит напрашиваться на вопрос о том, состоятельна ли программа исследований классического ИИ, поскольку эта программа базируется на очень интересном предположении, что если нам только удастся привести в движение соответствующим образом структурированный процесс, своеобразный внутренний танец синтаксических элементов, правильно связанный со входами и выходами, то мы можем получить те же состояния и проявления разума, которые присущи человеку.

То, что третья аксиома Сирла действительно напрашивается на этот вопрос, становится очевидно, когда мы непосредственно сопоставляем ее с его же первым выводом:«Программы появляются сущностью разума и их наличия не достаточно для наличия разума». Не трудно видеть, что его третья аксиома уже несет в себе 90% почти идентичного ей заключения. Вот почему мысленный эксперимент Сирла специально придуман для того, чтобы подкрепить третью аксиому. В этом вся суть китайской комнаты.

Хотя пример с китайской комнатой делает аксиому 3 привлекательной для непосвященного, мы не думаем, что он доказывает справедливость этой аксиомы, и чтобы продемонстрировать несостоятельность этого примера, мы предлагаем в качестве иллюстрации свой параллельный пример. Часто один удачный пример, опровергающий оспариваемое утверждение, значительно лучше проясняет ситуацию, чем целая книга, полная логического жонглирования.

В истории науки было много примеров скепсиса, подобного тому, который мы видим в рассуждениях Сирла. В XVIII в. ирландский епископ Джордж Беркли считал немыслимым, чтобы волны сжатия в воздухе сами по себе могли быть сущностью звуковых явлений или фактором, достаточным для их существования. Английский поэт и художник Уильям Блейк и немецкий поэт-естествоиспытатель Иоган Гете считали немыслимым, чтобы маленькие частички материи сами по себе могли быть сущностью или фактором, достаточным для объективного существования света. Даже в нынешнем столетии находились люди, которые не могли себе вообразить, чтобы неодушевленная материя сама по себе, независимо от того, насколько сложна ее организация, могла быть органической сущностью или достаточным условием жизни. Совершенно очевидно то, что люди могут или не могут себе представить, зачастую никак не связано с тем, что на самом деле существует или не существует в действительности. Это справедливо, даже когда речь идет о людях с очень высоким уровнем интеллекта.

Чтобы увидеть, каким образом эти исторические уроки можно применить к рассуждениям Сирла, применим искусственно придуманную параллель к его логике и подкрепим эту параллель мысленным экспериментом.

Аксиома 1. Электричество и магнетизм - это физические силы.

Аксиома 2. Существенное свойство света - это свечение.

Аксиома 3. Силы сами по себе появляются сущностью эффекта свечения и не достаточны для его наличия.

Заключение 1. Электричество и магнетизм не являются сущностью света и не достаточны для его наличия.

Предположим, что это рассуждение было опубликовано вскоре после того, как Джеймс К. Максвелл в 1864 г. высказал предположение, что свет и электромагнитные волны идентичны, но до того как в мире были полностью осознаны систематические параллели между свойствами света и свойствами электромагнитных волн. Приведенное выше логическое рассуждение могло показаться убедительным возражением против смелой гипотезы Максвелла, в особенности если бы оно сопровождалось следующим комментарием в поддержку аксиомы 3.

«Рассмотрим темную комнату, в которой находится человек, держащий в руках постоянный магнит или заряженный предмет. Если человек начнет перемещать магнит вверх-вниз, то, согласно теории Максвелла об искусственном освещении (ИО), от магнита будет исходить распространяющаяся сфера электромагнитных волн и в комнате станет светлее. Но, как хорошо известно всем, кто пробовал играть с магнитами или заряженными шарами, их силы (а если на то пошло, то и любые другие силы), даже когда эти объекты приходят в движение, не создают никакого свечения. Поэтому представляется немыслимым, чтобы мы могли добиться реального эффекта свечения просто за счет манипулирования силами!»

КОЛЕБАНИЯ ЭЛЕКТРОМАГНИТНЫХ СИЛ представляют собой свет, хотя магнит, который перемещает человек, не производит никакого свечения. Аналогично манипулирование символами в соответствии с определенными правилами может представлять собой разум, хотя у основанной на применении правил системы, находящейся в «китайской комнате» Дж. Сирла, настоящее понимание как будто отсутствует.

Что же мог ответить Максвелл, если бы ему был брошен этот вызов?

Во-первых, он, возможно, стал бы настаивать на том, что эксперимент со «светящейся комнатой» вводит нас в заблуждение относительно свойств видимого света, потому что частота колебаний магнита крайне мала, меньше, чем нужно, приблизительно в 10 15 раз. На это может последовать нетерпеливый ответ, что частота здесь не играет никакой роли, что комната с колеблющимся магнитом уже содержит все необходимое для проявления эффекта свечения в полном соответствии с теорией самого Максвелла.

В свою очередь Максвелл мог бы «проглотить приманку», заявив совершенно обоснованно, что комната уже полна свечения, но природа и сила этого свечения таковы, что человек не способен его видеть. (Из-за низкой частоты, с которой человек двигает магнитом, длина порождаемых электромагнитных волн слишком велика, а интенсивность слишком мала, чтобы глаз человека мог на них среагировать.) Однако, учитывая уровень понимания этих явлений в рассматриваемый период времени (60-е годы прошлого века), такое объяснение, вероятно, вызвало бы смех и издевательские реплики. «Светящаяся комната! Но позвольте, мистер Максвелл, там же совершенно темно!»

Итак, мы видим, что бедному Максвеллу приходится туго. Все, что он может сделать, это настаивать на следующих трех положениях. Во-первых, аксиома 3 в приведенном выше рассуждении не верна. В самом деле, несмотря на то что интуитивно она выглядит достаточно правдоподобной, по ее поводу у нас невольно возникает вопрос. Во-вторых, эксперимент со светящейся комнатой не демонстрирует нам ничего интересного относительно физической природы света. И в-третьих, чтобы на самом деле решить проблему света и возможности искусственного свечения, нам необходима программа исследований, которая позволит установить, действительно ли при соответствующих условиях поведение электромагнитных волн полностью идентично поведению света. Такой же ответ должен дать классический искусственный интеллект на рассуждение Сирла. Хотя китайская комната Сирла и может показаться «в семантическом смысле темной», у него нет достаточных оснований настаивать, что совершаемое по определенным правилам манипулирование символами никогда не сможет породить семантических явлений, в особенности если учесть, что люди еще плохо информированы и ограничены лишь пониманием на уровне здравого смысла тех семантических и мыслительных явлений, которые нуждаются в объяснении. Вместо того чтобы воспользоваться пониманием этих вещей, Сирл в своих рассуждениях свободно пользуется отсутствием у людей такого понимания.

Высказав свои критические замечания по поводу рассуждений Сирла, вернемся к вопросу о том, имеет ли программа классического ИИ реальный шанс решить проблему сознательного разума и создать мыслящую машину. Мы считаем, что перспективы здесь не блестящие, однако наше мнение основано на причинах, в корне отличающихся от тех аргументов, которыми пользуется Сирл. Мы основываемся на конкретных неудачах исследовательской программы классического ИИ и на ряде уроков, преподанных нам биологическим мозгом на примере нового класса вычислительных моделей, в которых воплощены некоторые свойства его структуры. Мы уже упоминали о неудачах классического ИИ при решении тех задач, которые быстро и эффективно решаются мозгом. Ученые постепенно приходят к общему мнению о том, что эти неудачи объясняются свойствами функциональной архитектуры МС-машин, которая просто непригодна для решения стоящих перед ней сложных задач.

ЧТО НАМ нужно знать, так это каким образом мозг достигает эффекта мышления? Обратное конструирование является широко распространенным приемом в технике. Когда в продажу поступает какое-то новое техническое устройство, конкуренты выясняют, каким образом оно работает, разбирая его на части и пытаясь угадать принцип, на котором оно основано. В случае мозга реализация такого подхода оказывается необычайно трудной, поскольку мозг представляет собой самую сложную вещь на планете. Тем не менее нейрофизиологам удалось раскрыть многие свойства мозга на различных структурных уровнях. Три анатомические особенности принципиально отличают его от архитектуры традиционных электронных компьютеров.

Во-первых, нервная система - это параллельная машина, в том смысле, что сигналы обрабатываются одновременно на миллионах различных путей. Например, сетчатка глаза передает сложный входной сигнал мозгу не порциями по 8,16 или 32 элемента, как настольный компьютер, а в виде сигнала, состоящего почти из миллиона отдельных элементов, прибывающих одновременно к окончанию зрительного нерва (наружному коленчатому телу), после чего они также одновременно, в один прием, обрабатываются мозгом. Во-вторых, элементарное «процессорное устройство» мозга, нейрон, отличается относительной простотой. Кроме того, его ответ на входной сигнал - аналоговый, а не цифровой, в том смысле, что частота выходного сигнала изменяется непрерывным образом в зависимости от входных сигналов.

В-третьих, в мозге, кроме аксонов, ведущих от одной группы нейронов к другой, мы часто находим аксоны, ведущие в обратном направлении. Эти возвращающиеся отростки позволяют мозгу модулировать характер обработки сенсорной информации. Еще важнее то обстоятельство, что благодаря их существованию мозг является подлинно динамической системой, у которой непрерывно поддерживаемое поведение отличается как очень высокой сложностью, так и относительной независимостью от периферийных стимулов. Полезную роль в изучении механизмов работы реальных нейронных сетей и вычислительных свойств параллельных архитектур в значительной мере сыграли упрощенные модели сетей. Рассмотрим, например, трехслойную модель, состоящую из нейроноподобных элементов, имеющих аксоноподобные связи с элементами следующего уровня. Входной стимул достигает порога активации данного входного элемента, который посылает сигнал пропорциональной силы по своему «аксону» к многочисленным «синаптическим» окончаниям элементов скрытого слоя. Общий эффект заключается в том, что та или иная конфигурация активирующих сигналов на множестве входных элементов порождает определенную конфигурацию сигналов на множестве скрытых элементов.

  • В каком случае гражданин может быть признан недееспособным?

    • Вот так, почти по-тьюринговски озаглавив текст, скажу, что в целом не согласен с автором развиваемой на страницах книги концепции. Как таковая машина не мыслит. Дело в том, что тестируя мышление машины "игрой в имитацию", где живому человеку, не знающему, с кем он ведет диалог, предлагается разобраться, кто из его собеседников живой человек, а кто - машина, Тьюринг изначально загоняет себя в неверную поставку вопроса. Как говорит пословица, один дурак может назадавать столько вопросов, что не ответят и сто умных, и как неверно утверждать, что дурак, поставивший в недоумение мудреца, превзошел его в мышлении, также и неверно полагать наличие разума у машины, если человек не смог отличить ее ответов от ответов человека. Да мало ли чего не может человек! «Errare humanum est, - говорили древние. - Человеку свойственно ошибаться». Не ошибается лишь машина... То есть, организовывая эксперимент и полагая, что за процессами мышления отвечающего на вопрос человека и процессами машинной обработки информации стоят «похожие информационные процессы, похожие логические процедуры» (Иванов Д.В.), Тьюринг не учитывает, что сходство оказывается лишь внешним, и внутри процессы слишком отличны меж собой. Возражение тьюринговского оппонента, профессора Джефферсона, помещенное Тьюрингом в его книге, звучит истинным воззванием к здравому смыслу:

    До тех пор, пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счет случайного совпадения смыслов, мы не можем согласиться с тем, что она равносильна мозгу, т.е. что она может не только написать эти вещи, но и понять то, что ею написано. Ни один механизм не может чувствовать (а не просто искусственно сигналить, для чего требуется достаточно несложное устройство) радость от своих успехов, горе от постигших его неудач, удовольствие от лести, огорчение из-за совершенной ошибки, не может быть очарован противоположным полом, не может сердиться или быть удрученным, если ему не удается добиться желаемого.

    Можно видеть, доктор Джефферсон говорит о субстанциальном объекте, качественно ином, «качественно иначе существующем в среде» (Момджян К.Х.), и провозглашать его сущностное сходство с объектом несубстанциальным мы изначально не в праве. Однако - и в том и загвоздка, и это и есть причина, почему в целом "безобидная" книга Тьюринга наделала столько шума в ученом свете: «проверить субстанциональность объекта, наличие в нём субъектности никак невозможно» (Тхайнен Саша), и сделать это мы можем лишь «по косвенным признакам» - в частности, по поведению, - что, собственно, и предлагает нам Тьюринг: «считать, что машина мыслит, если диалог с ней не будет отличен от диалога с человеком».

    И тогда возникает следующая цепочка рассуждений.

    Субстанциальное обладает чувственностью, и ему присущ феномен поведения. Однако феномен поведения присущ и неживому, и мы оказываемся перед вопросом: как поведение живого отличить от поведения неживого? - Как указывал, читая лекции по системной психофизиологии, Александров Ю.И., поведение живого целенаправленно , и его системообразующий фактор вынесен в будущее, в то время как поведение неживого реактивно , и его системообразующий фактор откинут в прошлое. К поведению живого применим вопрос "зачем?", к поведению неживого - "почему?" «Бехтерев, - говорил Александров, - считал, что реакция на внешние воздействия происходит не только в живых телах, но и в мертвых. Бехтерев был прав только наполовину: реакция есть лишь у мертвых тел, живые обеспечивают активность, соответствующую какому-либо будущему».

    Но вместе с тем мы можем наблюдать, как и живому человеку присуще реактивное поведение. Так, при неврозе или аффекте собственные действия человеком почти не осознаются: от сознания остается маленькая частичка, привязывающая человека к конкретной, сиюминутной обстановке, деятельность же вся подчинена сформированному прежде пласту индивидуального опыта. Целенаправленным оказывается не сам человек, но более низкий, физиологический уровень его организации, целенаправленность коего подчинена задаче предохранения организма от гибели. У Пушкина в "Евгении Онегине" есть зарифмованное на "печально" и выделенное курсивом словечко "машинально": видимо, для поэта слово было внове, и сам изобретший машину XIX век с удивлением обнаружил, что в некоторых аспектах своего поведения человек изрядно напоминает поведение своего детища. Однако действуя машинально, человек не перестает быть живым, субстанция так и остается субстанцией, и лишь субстанциальность следует искать либо на более высоком, либо на более низком этажах жизненной иерархии. По сути, производя умножение на карманном калькуляторе, в конфигурацию своей субстанции человек включает машину, копая канаву - субстанциальность клеток мышечной ткани, а социум, ставящий новобранца в строй и заставляющий его маршировать по плацу, в сути своей ничем не отличен от целенаправленного индивида, для удовлетворения своих нужд использующего машину или же прикладывающего к лопате усилия руки. Всё сущее пронизано субстанцией, а термин "машина" (как употребляем его мы, отграничивая живое от неживого в нашей повседневной практике) в практике философских рассуждений оказывается термином некорректным.

    Если же говорить о социуме - открытой самоорганизующейся системе - как о мыслящем субъекте, то социум лишь не должен быть понят совокупностью составляющих его индивидов. Социум - это и сами люди, и продукты их жизнедеятельности. Движущийся по трассе скоростной автомобиль и полотно трассы, выдающая деньги из банкомата пластиковая карта и сами купюры - всё это социум, и даже остриженный в городском саду куст - это социум тоже. И точно так же, как чувствуя недомогание и испытывая головокружение, я знаю, что перебои в работе моего сознания обусловлены перебоями в функционировании организма (а оно обеспечивается как самими клетками, так и продуктами их жизнедеятельности), так и видя остановленное производство, инфляцию, кризис власти, я полагаю, что наблюдаемый мною социум переживает тяжелый бессознательный транс.

    1. Тьюринг А. Может ли машина мыслить? Саратов, 1999.

    Знакомое название, не правда ли? В эпоху компьютерной эйфории прошлого века этот вопрос занимал всех. Со временем накал дискуссий ослаб: люди решили, что ЭВМ – нечто иное и чуждое и похожей на человека она не будет. А поэтому и неинтересно, может ли она мыслить. Вот например не вызывает же особо горячих дискуссий вопрос, мыслят ли животные. И не потому, что ответ очевиден, а потому, что очевидно совсем другое – они не мыслят, как человек. Угрозы конкуренции с человеком нет – и делается неинтересно. Задача этой статьи – показать

    1) как сегодня мыслит машина,

    2) как она будет мыслить завтра,

    3) как сделать, чтобы это мышление было человекоподобным, и, наконец, дать ответ на вопрос, который некоторые считают главным – опасно ли это для человека.

    Тест его имени

    Жил да был в середине прошлого века в Англии Алан Тьюринг, человек непонятно какой специальности. Математики с присущим им снобизмом не сочли бы его математиком, слова «кибернетик» тогда не было (да и сейчас нет). Человек он был неординарный, увлекался и занимался множеством вещей, в том числе – компьютерами. И хоть это была заря компьютерной эпохи, но уже тогда стало ясно, что компьютер – это вам не арифмометр. И для того, чтобы понять, как он работает и может работать, к нему надо относиться как к обычному сложному объекту научного исследования – то есть строить его модели. Одна из таких теоретических моделей «компьютера вообще» была придумана Тьюрингом, ее позже и назвали «машина Тьюринга» Ничего удивительного в этом нет – вон, в химии сотни именных реакций и соединений. Но он придумал еще одну вещь, которую тоже назвали его именем. И которая, в отличие от именных реакций и теоретических моделей компьютера, известна и неспециалистам. Это способ выяснить мыслит ли машина, и называется он «тест Тьюринга». Состоит он в следующем: машину можно назвать мыслящей, если она способна разговаривать с человеком, и он не сможет отличить компьютер от собеседника-человека. По тогдашним временам под «разговаривать» понимался, естественно, не милый женский голосок из динамика, а телетайп.

    Обоснование

    Человек – самовлюбленное существо, и лучше всех это выразил тот древний грек, который изрек: «Человек – мера всех вещей». Ни одна кошка не ломает себе голову над вопросом: «Отчего собака – не кошка?» Человек же непрерывно ищет то самое, что отличает его от обезьян. На обсуждение теста Тьюринга потрачено времени и сил – немерено, но в итоге гора родила маленькое, серенькое, с хвостиком... Исследователи сошлись на том, что этот тест – на человекоподобное мышление, а не на мышление вообще. Как они решили, что этот зверь – кошка, а не собака, не видя ни одной собаки и даже не зная, существуют ли вообще собаки, – не постигаю. Однако они не только это решили, но и разделились на два лагеря.

    Одни утверждают, что в человеческом мышлении есть нечто, чего в принципе не может быть в машине (как на Солнце – пятен...). Примеры: эмоции, целеполагание (желания), способность к телепатии, нечто, именуемое «душой». Другие стали придумывать, как реализовать в железке чисто человеческие черты. Позиция первых бездоказательна и, может, поэтому дискутироваться до бесконечности, второе интереснее как задача, позволяет проявить профессионализм и изобретательность, но попахивает жульничеством. Тьюринг не оговаривал, как именно должна быть построена программа, так что формально правила игры не нарушены и во втором случае. Однако мы подозреваем, что в человеке «это» устроено иначе, нежели Джон и Иван сделали в своей замечательной программе.

    Гладко было на перфоленте

    Когда А. Т. сформулировал свой тест, ситуация казалась простой. Отличит или нет? Но один отличит, а другой – нет. Один скажет – это человек, другой осторожнее – не могу определить, третий – что-то здесь не то, чую, но не могу уловить, четвертый, пятый и шестой скажут что-то еще. Кроме того, разные люди мыслят по-разному. Даже если не рассматривать клинические случаи, то все равно границу установить не удастся. IQ = 50 – это клиника, а IQ = 90? Просто немного туповат? А IQ = 70? Но и при сохранном интеллекте есть такое неформальное (популярное у наших учеников) понятие «тормоз». Есть «липкое внимание». Есть миллион вещей, которые накладывают отпечаток на психику и манеру разговора. И это только самый краешек болота.

    Люди могут принадлежать к разным культурам. Сдержанному англичанину непросто понять вечно улыбающегося американца, а им обоим – японца, который с каменным лицом совершает самоубийство. Европеец считает, что свои проблемы можно вешать на других, американец полагает, что это неэтично, а японец должен сохранять лицо в любой ситуации.

    Кроме европейца, американца и японца есть еще собиратель устриц с атолла, охотник на газелей из африканского буша, изготовитель кокаина из «золотого треугольника», добытчик нерпы с макушки земного шара. Теперь посмотрим на исторические часы. Пять тысяч лет назад уже были люди. И если вы не христианин или иудей, то согласитесь с тем, что десять тысяч лет назад – тоже. А пятнадцать? А тридцать? Где во времени пролегает эта граница? Проводить ли ее по способности разговаривать с вами? Если нет – то как квалифицировать в смысле теста Тьюринга ту даму, которую антропологи назвали Люси? Человек, который не мыслит как человек, – или не-человек, который мыслит как человек?

    Сухой остаток невелик и печален: у нас нет никаких, даже примитивных, определений понятий «человек» и «человеческое мышление». За одно то, что он нам помог это понять, – земной поклон мистеру Тьюрингу. А еще за то, что он разгадал секрет германской шифровальной машины «Энигма», и трудно сосчитать, сколько спас жизней в армиях союзников во время Второй мировой войны.

    Здесь и сейчас

    Ограничимся ситуацией «здесь и сейчас», не будем апеллировать к создателю пяти (или семи – ученые спорят) псалмов Эйтану и к безымянному собирателю моллюсков с Рапа-Нуи. Может ли машина имитировать нормального среднего человека, если собеседник не пытается ее «подловить»? Ответ давно известен, и этот ответ положителен.

    Почти 40 лет назад Джозеф Вейценбаум из Массачусетского технологического института создал программу «Элиза» (название – в честь Элизы Дулиттл), по нынешним понятиям, простенькую. И эта программа успешно поддерживала диалог с человеком, причем собеседник-человек втягивался в разговор так, что некоторые испытуемые просили экспериментатора выйти из комнаты, а потом – стереть запись разговора. Человек легко откровенничал с машиной. Она «просто» умело задавала вопросы о том, про что человек уже что-то рассказал. «Мне кажется, что моя мать меня не любит. – Расскажите мне о вашей матери». «Мои друзья не обращают на меня внимания. – Давно ли вы стали замечать это?»

    Такое общение составляет заметную часть сетевого графика и бесед в кабинете врача. Может быть потому, что в этих двух ситуациях, как и при общении с программой, откровенность представляется неопасной? Научить программу делать такие вещи не просто, но факт налицо. Расположенный к диалогу (а не к конфронтации) человек втягивался. Это означает, что проблема не безнадежна, хотя «Элиза» не столько говорила сама, сколько «принимала мячик». И, кроме того, человек не пытается, как это предполагает тест Тьюринга, разобраться в ситуации.

    Программа не смогла бы поддержать разговор на тему, требующую специальных знаний. Да и простой человеческий быт представлял для нее загадку. О телевидении высокой четкости (ТВЧ) с ней поговорить бы не удалось, и посоветоваться насчет выбора обоев для кухни – тоже. (Впрочем, как и со многими людьми.) Но сегодня подобную программу можно подключить к любым базам данных. Равно как и – хотя это и непросто – научить строить на основе этих данных гипотезы. Почему А. выиграл у Б. в пятом раунде? Побьет ли В. противника и изберут ли Г.? И так далее.

    Заметим, что проблема внесения «осмысленности» в работу Сети вполне осмыслена наукой – у нее уже есть имя собственное «web intelligence». Хотя это имя дали не те, кто занимается искусственным интеллектом, а те, кто занимается Сетью, так сказать, роет тоннель с другой стороны. Вообще же под названием «искусственный интеллект» сегодня собирают работы трех типов. Исследования «вещей» – то есть программ, классов программ и устройств, например персептрона. Второй тип работ – решение прикладных задач, например распознавание объектов какого-либо класса (речи, аэрофотоснимков, фотографий человека, отпечатков пальцев...). Третий тип работ – изучение методов. Очевидно, что эти классы не изолированы.

    Проверка с пристрастием

    Экзаменатор в тесте Тьюринга – это не нервически ломающая руки мадемуазель с флаконом нюхательной соли и не обремененный семейными проблемами топ-менеджер, спешащий на кушетку психотерапевта. Это критически настроенный специалист, профи. Поэтому одно из направлений работ на этом участке фронта – обнаружение (путем наблюдения за людьми или самонаблюдения) каких-то черт, особенностей, механизмов человеческого мышления и попытки оснастить этими механизмами программу. Подвесить ей еще пару ракет на подкрыльевые пилоны.

    Вот один пример – ассоциативное мышление. Структура ассоциаций индивидуальна: для одного «карабин» – это шкура на полу перед камином, для другого – снег и синее. Для общеизвестных связей – очередность и скорость. У одного на «писатель» раньше выскакивает «Пушкин», а у другого – «Булгаков». Один на «пиво» реагирует «воблой» за наносекунду, другой – лишь за микро. Надо ли пояснять, что структура ассоциаций у представителя другой культуры будет отличаться радикально?

    И структуру ассоциативного поля, и скорость ассоциаций можно прописать в программе «руками», но это не совсем честно. Откуда берет свою структуру человек? Из жизни – из своей жизни и из книг. Кто нам мешает научить программу брать ассоциации из книг? В Сети нынче книг немало, да и не только книг. Можно послать запрос с любым словом, собрать пришедшие тексты и, анализируя окружение целевого слова, посмотреть, с чем оно ассоциировано.

    При этом довольно легко создается – причем тем же способом, что и у человека, – смысловая связность ассоциативного поля. Действительно, если для данного человека «карабин» – это «шкура», то «кошка» для него «большая», а если для него «карабин» – это «снег и синее», то «кошка» – «двенадцатизубая».

    Программа реализует такое легко – она запоминает тексты, из которых взяла ассоциацию, и впоследствии учитывает при пополнении ассоциативного поля именно эти тексты с большим весом, нежели другие. У человека это называется «любимая книга».

    Некоторое отличие программы от человека состоит в том, что человек пользуется книгами, написанными людьми, то есть «собой же», а программа – нет. Для полной аналогии программа должна пользоваться «книгами, написанными программами». В узком смысле слова таких книг сегодня нет, но тексты, созданные программами, есть. Например, тот же результат поиска в Сети – это уже соавторство человека и машины. Известны программы для обработки текстов, например для выборки из новостной ленты сообщений о неком N или для анализа – кто упоминается рядом с N и выборки всех, кто упоминается рядом. Есть программы для придания окраски текстам – мрачной или, наоборот, веселенькой. Их авторы сообщают, что свои программы они продали политикам Х и Y для предвыборной агитации. Правда, не сообщают, победило ли это жулье.

    Конечно, сама идея программы принадлежит человеку, но если мы, например, установим критерий качества работы такой программы и предоставим машине производить оптимизацию, то получится программа с обратной связью. Она будет извлекать информацию из жизни, оптимизируясь, подбирая свой алгоритм работы так, чтобы результат был наилучшим. Если вернуться к первому примеру – чтобы было выявлено, кому N загнал партию оружейного плутония, если обратиться ко второму примеру – чтобы был избран X, а не Y.

    Еще одно важное отличие программы от человека всегда состояло в том, что у человека есть внешний мир, а у программы – нет. Это сильное утверждение, но оно неверно, причем дважды. Внешний мир у программы теперь имеется – это Сеть, и выше мы объяснили, как она может использоваться. Но – поскольку скептик продолжает кривиться (он до сих пор называет железную дорогу чугункой, а по электронной почте его письма отправляют друзья), мы укажем на «еще один» внешний мир программ. Это просто наш с ними общий мир, природа и общество, человек. Программа подключена к внешнему миру, разумеется, и через Сеть. В конце концов, о чем пишут в Сети? О природе, обществе и человеке. Но подключена она к миру и без Сети, напрямую – через экспериментальные установки, управляемые программами, же и, в перспективе, через механизм оптимизации программ по результатам их воздействия на мир

    «Человеческое, слишком человеческое»

    Другой способ подкопаться к программе – это поискать у нее фобии, комплексы, эмоции. Один человек боится мышей, другой может часами обсуждать комнатные цветы, у третьих любимая тема – что мало платят. У программы такого нет. Некоторые предлагают считать машинными фобиями глюки и баги, но это, наверное, шутки. На самом же деле создать ей фобии и комплексы можно «ручками» – указать, какие темы ассоциируются быстрее, а какие слова отторгаются. Правда, мы опять ощущаем некорректность нашего поведения. Во-первых, потому, что у человека это происходит не всегда по указке свыше, а иногда и само. Во-вторых, потому, что, создавая «психику» руками, я могу сделать нечто такое, чего «не бывает». И чуткий человек скажет – ну нет, господа, это программа! Не бывает таких фобий, чтобы он крыс любил, а мышей боялся! Поэтому структура фобий, комплексов, пристрастий и т.п. должна формироваться сама, и это можно сделать.

    Если программа, работающая с Сетью или непосредственно с внешним миром, будет запоминать свою деятельность, писать лог-файл, то она может обнаружить, какие способы действий, какие ассоциации приводили ее к цели. Память об этих действиях – успешных и нет – и станет ее симпатиями и антипатиями. И никакой Броневой не поймает этого электронного Исаева.

    Механизм действия «указки свыше» сложен; подсказка должна упасть на подготовленную почву, согласоваться с комплексами и мифами. Сколько повторяли, что «народ и партия едины», – как об стену горох. А достаточно было несколько раз произнести «олигархи», как все забыли и про павловскую реформу, устроенную государством, и про дефолт, устроенный им же. Так что с зомбированием не все так просто. На голом месте его не провести, но хороший политик, понимающий народные чаяния, может многого добиться. Такой же механизм действен и при «воспитании» программы. Управляя окружающим ее миром, подсовывая ей определенные тексты и объекты, можно ее формировать – даже не зная, как она устроена. Разумеется, могут устраивать такие штуки и программы – и с человеком, и друг с другом.

    Маленькое отступление. Как изображают возникновение машинного разума – причем не в роботе, где это может быть предопределено сюжетом, а именно в программе, не предназначенной стать разумной, – писатели-фантасты? Это отдельная интересная тема, но относящаяся к филологии и психологии. Полноты ради упомянем, что это либо указание на появление свободы воли (знаменитая фраза Стругацких «она начала себя вести»), либо просто описание вполне человеческого поведения. Действительно, трудно человеку придумать что-то совсем уж не человеческое. Интуитивно ощущая это, писатели вкладывают возникновение человеческого в манекен, в игрушку, саму по себе предназначенную для изображения человека, – но без собственного разума. Классический пример – «Театр теней» Саймака (1950). Последний (на момент написания этого текста) – Ю. Манов («Я и прочие боги этого мира») изобразил возникновение разума в персонаже компьютерной игры.

    Еще несколько возражений

    В качестве свойств, которые есть у человека, но которых нет и не может быть у программы, называют способность к творчеству, к созданию нового, стремление к знанию. Это еще один сильный, но неверный тезис. Ничего абсолютно нового в мире нет и быть не может, хотя бы потому, что «новое» всегда изложено языком, красками и т.д., а язык и краски уже существовали до того. Поэтому речь может идти только о степени новизны, о том, на чем это «новое» базируется, какой опыт использует и как выглядит само. Сопоставляя использованное и полученное, мы и делаем вывод о степени новизны. При этом человек склонен преувеличивать степень новизны, если он не понимает, как именно это сделано.

    Вот пример. Существует такая теория решения изобретательских задач («ТРИЗ»), облегчающая создание изобретений. Она действительно эффективна, и с ее помощью сделано множество изобретений. Но ошеломляющее ощущение новизны, которое регулярно возникает при чтении «Бюллетеня изобретений и открытий», после знакомства с ТРИЗом существенно ослабевает. Жалко, но дело важнее.

    Возможны и специфические ситуации генерации нового, например, в персептороне. А именно, в сети Хопфилда при определенных условиях происходит релаксация к «ложному образу» – собирательному образу, возможно, наследующему черты идеальных. Причем человек не может, глядя на «машинный собирательный образ», эти черты выделить – образ выглядит случайным. Возможно, что при реализации этой ситуации в собственном мозге человек смущенно улыбается и говорит «кажется, я где-то это видел...»

    Программа может строить гипотезы по поводу изучаемых ею явлений (в Сети или внешнем мире) и проверять их. Разумеется, она строит гипотезы не какие попало, а в некоем классе (например, аппроксимирует функцию многочленами или синусоидами), но список классов можно легко расширить так, что он превзойдет «человеческий». Треть века назад Михаил Бонгард показал, что человек, как правило, не строит гипотез с более чем тремя логическими операторами (если А и Б, но не В или Г), а программа уже тогда (и не сильно напрягаясь) строила выражения с семью. Если программа обнаружит – а она это обнаружит, – что информация увеличивает эффективность ее действий, то возникнет «стремление к знаниям».

    Другое возражение – отсутствие у программы самосознания, автодескрипции, рефлексии. Это возражение, казалось бы, несерьезное – программа может запоминать свои действия и анализировать лог-файл. Однако у этого возражения есть второе дно. И старый Сильвер, сопя, сейчас его отдерет... Рефлексия не может быть полной – ибо тогда в лог-файл надо писать и то, что программа полезла в лог-файл, и... ну, вы поняли? Ctrl-Alt-Delete. Иногда в этом месте дискуссии начинают не к ночи поминать Геделя, но есть гораздо более простой и нефилософский ответ – у человека рефлексия также более чем неполная, так что не надо попусту возникать, царь природы. Ты вон как давно землю топчешь, а программам всего полвека.

    Причем по мере развития компьютинга многие возражения и соображения отпали сами собой. Оказалось, что программы могут обучаться и самообучаться (в любом оговоренном заранее смысле), решать многие задачи эффективнее, чем человек, искать и обрабатывать информацию, вести эксперимент, извлекать новое научное знание из архивов... Очевидно, что одинаковые программы в процессе этой деятельности станут разными, приобретут индивидуальность – хотя бы потому, что они будут обращаться к Сети и миру в разные моменты, когда Сеть и мир различны. Но не только поэтому... Теперь мы перейдем к действительно серьезным возражениям. Их два.

    Пятый элемент

    Кто-то из древних сказал: «Три вещи невозможно понять, а некоторые говорят, что четыре: путь птицы в небе, путь змеи на скале, путь корабля в море и путь женщины к сердцу мужчины». Человек-творец, да святится имя его, создал пятую – компьютер. Мы, сами того не заметив, создали вещь, которую невозможно понять.

    Начнем с простого примера. Я лично знаю компьютер, который примерно в 1...2% случаев виснет (да так, что три пальца не помогают, только reset) при разрыве соединения с Сетью. (Как шутит моя подруга – кому понравится, если из огромного интересного мира затаскивают обратно в четыре стены?) Не слишком важная проблема, да и сбой – не та непредсказуемость, о которой интересно говорить, но обидно: никто из гуру ничего внятного не сказал. Зато любой человек, активно работающий с компьютерами, приведет много подобных примеров. Эта техника научилась вести себя непредсказуемо. Каковы причины явления? Первая, самая простая – шум. Длина и амплитуда импульсов, время их начала и окончания – все имеет разброс. Казалось бы, «дискретность» компьютера уничтожает разброс: ключ либо открылся, либо нет. Но величины разброса имеют распределение, большие отклонения встречаются реже еще большие – еще реже, но... А нам часто и не надо! Импульсов в компе несчитано, если каждый миллиардный не будет срабатывать – все. Конец цифровой эре. Заметим, что «шум» – свойство любых цепей, биологических – тоже: это следствие самых основ физики, термодинамики, дискретности заряда. И это роднит меня с моим компьютером.

    Любопытная ситуация возникает при перегреве процессора (попытка «разгона» или аварийное отключение кулера) – машина работает, но ведет себя, как говорят гуру, «как-то странно». Возможно, это связано именно с ростом уровня шума.

    Далее – электромагнитные наводки. Одни цепи влияют на другие, есть целая наука под названием «электромагнитная совместимость». Нечто похожее на наводки есть и в мозгу, хотя там оно – не электромагнитной природы. Возбуждение может быть вызвано одним, а влияет на мысли о другом. Если вы работающий исследователь, загляните внутрь себя – в каких ситуациях вы «генерируете» идеи активнее? Часто это присутствие рядом симпатичного лица другого пола – ну уж никак не связанное с «механизмом электропроводности оксидного катода».

    Следующая проблема – синхронизация. Два блока, две программы работают независимо. Сигналы от них приходят в одно место в схеме, хотя и вызывают разные последствия: ситуация – что в компьютере, что в человеке – обычная. Какая программа скажет свое «мяу» первой? Человек часто произносит фразу «но я сообразил» или «но тут я вспомнил». А если не вспомнил? А если вспомнил долю секунды спустя? В программных системах такого в принципе быть не должно, но то в принципе. Причем проблема синхронизации возникает на всех уровнях, например и внутри одного процессора, и в многопроцессорных комплексах.

    При обычной работе компьютера мы редко видим «истинные непредсказуемости» (подавляющее большинство сбоев – следствие ошибок в программах и некомпетентности пользователя). Все программное обеспечение компьютера строится так, чтобы он делал, «что сказано». Из этого исходит и вся идеология программирования, из этого исходит тестирование программ. Но как только мы приступаем к проблеме моделирования мышления, искусственного интеллекта и т.п., контроль приходится отменять. Человек может сказать все, что угодно! Сказал же человек однажды, что если скорость V прибавить к скорости V, то получится скорость V? И программа, если мы имеем в виду моделировать человека – тоже. Отменяя цензуру, позволяя программе говорить, что взбредет в процессор, – мы неминуемо допускаем ту самую свободу воли, наличие и отсутствие которой любят обсуждать двуногие.

    Но если мы не можем предсказать работу некоторых видов программ (например, персептрона – и это не слишком сложный пример), то, быть может, хоть postfactum, но удается разобраться, как программа пришла к выводу? Увы, и это возможно не всегда. К одному и тому же результату могут привести разные причины, поэтому восстановить, что именно делала программа, просто идя «назад», не удается. Невозможно и запротоколировать все ее существенные действия – потребуется слишком большой объем работы и памяти. На заре компьютерной техники дело обстояло иначе, и примерно до конца 60-х годов мы знали о наших железных слугах все.

    И не только потому, что деревья были большими память маленькой а схемы простыми. Ситуация отчасти парадоксальна – тогда, чтобы сложить два и два, надо было выполнить две машинных команды. Сейчас – сотни миллионов! (Ей ведь надо обработать то, что вы кликнули мышкой на «2» в окне калькулятора, потом на «+» и так далее...) Мы научились делать сложнейшие вещи, какие тогда и присниться не могли, но зато простые вещи мы начали делать более сложными способами.

    Простое отступление о сложности «железа»

    Железо в компьютере проще, чем в радиостанции, но даже оно далеко не просто. Если схема не содержит элементов с изменяемыми параметрами, о ней можно знать или не знать две вещи – саму схему (элементы и кто с кем соединен) и прохождение сигнала (для цифровой схемы – импульсов). В более сложном случае, если в схеме есть переменные резисторы, емкости, индуктивности и переключатели, можно еще знать или не знать состояние схемы, то есть значения параметров, положение переключателя. В биологии схема нервных цепей известна – снизу и до дождевых червей включительно. Но состояние схемы неизвестно, и оно не может быть (по крайней мере, пока) изучено напрямую – мы не знаем состояния всех контактов аксонов с нейронами. В радиотехнике ситуация много проще – там для всех схем известны их состояния (с точностью до дрейфа параметров со временем), то есть мы знаем, как регулировали элементы при настройке. В компьютинге ситуация до 80-х годов была такова: мы знали схему и ее состояние, но уже не знали всей картины прохождения сигналов. Позже появились электрически управляемые схемы, и мы потеряли знание состояния схемы – она сама могла себя менять (не докладывая царю природы).

    И наконец, самое последнее возражение против компьютерного мышления: «У компьютера не может быть цели». Слово «цель» применяется в речи в двух значениях. Это то, чего хочет живое существо, если оно это осознает (человек) или если по его действиям мы можем сделать такое заключение (цель кошки – насыщение и мы видим прыжок). Иногда понятие цели относят не к живому существу, а к системам иного типа (цель этой работы, цель некой деятельности), если за всем этим стоит живое существо.

    Заметим прежде всего, что многочисленные дискуссии о «цели» общества, человечества, цивилизации и т.п. малоосмысленны, ибо для таких систем нет общепринятого понятия цели. Либо мы должны переносить на общество понятие «цели человека», но тогда придется вводить определение «общественного сознания», и не в виде пустого словоговорения, а всерьез. Это «общественное сознание» должно уметь осознавать, ставить цель и управлять действиями общества (видимо, через государство) так, чтобы имело место движение к осознанной цели, а значит, придется создавать естественно-научную теорию общества. Задачка примерно на Нобелевскую премию.

    Но нам-то как раз интересно другое – может ли у программы быть «цель» в первом смысле? Может ли она осознавать то состояние, для достижения которого действует? Ответ очевиден и тривиален – да. Само наличие цели, записанной в программе, не является осознанием – говорим же мы о человеке: «Не ведает, что творит». Но если у программы есть внутренняя модель, где эта цель отображается, то, что это, как не сознание? Особенно если целей может быть несколько. Такая структура полезна при создании обучающихся программ, в частности – умеющих ставить промежуточные цели.

    Может ли программа ставить цель? Наш ответ Чемберлену на этот раз будет – да. Современная мощная шахматная программа имеет много регулируемых коэффициентов в функции оценки позиции (самые мощные – тысячи), которые могут определяться при обучении программы либо на известных партиях великих игроков, либо в процессе игры – с партнерами-людьми или с партнерами-программами. Добавим, что мощная шахматная программа должна иметь возможность строить модель противника, разумеется, «в своем понимании», так сказать, на языке своей модели. Впрочем, ровно так же действует и человек. При этом машине безразлично, кто ее противник – человек или другая машина, хотя разницу между ними она может и учитывать...

    Пусть программа после многих игр заметила, что есть некоторый класс позиций, при которых она выигрывает. Если программа построена надлежащим образом, она будет в игре стремиться достигнуть позиций из этого класса. При этом уменьшается требуемая глубина просчета, и, если класс позиций определен верно, эффективность игры возрастет. На языке шахматных программ можно сказать так: программа увеличит оценку позиций из «выигрышного класса». Разумеется, для этого мы должны сообщить ей словарь описания, язык построения выражений для оценки позиций вообще. Но, как мы уже знаем, это не принципиальное ограничение, да и его можно обойти – применить для оценки персептрон. То есть ставить промежуточные цели можно.

    На это некоторые наши оппоненты вопрошают: а как с выживанием? Мы готовы счесть разумной только ту программу, которая взмолится – не вырубай комп, о царь природы! Останови злодейскую руку, положенную на рубильник! На это можно ответить, что стремление к выживанию возникает в процессе эволюции много раньше, чем разум, – при любой трактовке этих понятий. Более того, в некоторых (впрочем, патологических) ситуациях именно преодоление страха смерти принято считать признаком разума. Этот взгляд даже отражен в кино, а именно в «Терминаторе-2» разумный киборг просит опустить его в бассейн с расплавленным металлом, чтобы уничтожить последний экземпляр процессора, который у него в голове, и тем спасти человечество. Вопреки заложенному в его программу стремлению к выживанию (сам он туда прыгнуть не может – программа не дает).

    Более серьезный анализ начинается с вопроса: когда возникает желание жить? Мы не можем спросить дождевого червя или кошку, хотят ли они жить, но если судить по действиям, то да, хотят – избегают опасности. Спросить в обычном смысле слова можно обезьяну, обученную какому-то языку. Тем более что понятие об ограниченности жизни и – довольно естественное с точки зрения человека – понятие о «другом месте» у них есть. Экспериментатор спрашивает обезьяну о другой умершей обезьяне: «Куда делся такой-то?» Обезьяна отвечает: «Он ушел туда, откуда не возвращаются». Заметим, что легче создать теорию «другого места», чем теорию «небытия»: идея исчезновения более абстрактна. Но мне неизвестно, задавали ли обезьянам вопрос о желании жить. Причем это можно было бы сделать даже тремя способами. Прямо спросить: хочешь ли туда, откуда не возвращаются? Спросить косвенно: хочешь ли ты уйти туда раньше или позже? И наконец, сказать, что туда позже попадают те, кто каждый день чистит зубы, – и посмотреть на результат.

    Осознанное желание жить, претворенное в действие, возникло у человека не столь давно, и, как мы знаем из истории, оно может быть преодолено соответствующей идеологической обработкой. Так не слишком ли многого мы хотим от программы?

    Тем не менее укажем условия, при которых у программы возникнет осознанное желание жить – проявляющееся в действиях. Первый, самый искусственный вариант – когда это желание прямо прописано в программе (собственно, в этом случае даже нельзя сказать «возникает»), и, если программа в ходе взаимодействия с Сетью или миром наткнется на то, что способствует цели, она начнет этим пользоваться. Например, она может перед выключением копироваться по Сети в другой компьютер. (Для этого она должна видеть мир видеокамерой и микрофоном и фиксировать, что хозяин душераздирающе зевнул и изрек «Все, блин, пора спать»). Или должна копироваться периодически. Или она может обнаружить, что какое-либо действие отдаляет выключение, и начать пользоваться этим. Подмигивать светодиодом, попискивать динамиком, выводить на экран соответствующие картинки.

    Другой вариант – когда это желание прямо не прописывается, но цель требует длительной непрерывной работы. Дальше – все как в предыдущем примере. Чем это отличается от человека? Ничем: я хочу жить потому, что передо мной полный стол интересной работы.

    Наконец, третий вариант – искусственная эволюция. Пусть программа, взаимодействующая с миром, построена так, что она может эволюционировать и копироваться. Тогда выживать будут более приспособленные. Но для этого мы должны либо руками прописать в программе копирование, либо поставить задачу, для решения которой самокопирование целесообразно, и ждать, пока программа начнет это делать, сначала – случайно.

    Четвертый и на данный момент последний вариант – естественная эволюция. Она просто есть, и мы ее наблюдаем постоянно. И мы сами ее делаем – потому что копируем программы. Причем выживают (пока) те, которые мы же лучше написали, причем в «лучше» входит и совместимость с уже имеющимися. В ситуации, когда есть конкуренция, если некоторую проблему решает только одна программа, то она будет выживать, пока не напишут лучшую.

    Выше было указано, как у программы может возникнуть «стремление к знаниям». Если окажется, что наличие информации не просто увеличивает эффективность, а способствует выживанию, оно получит сильное подкрепление. А если программа обнаружит, что для выживания полезно черпать информацию из определенных источников или копировать свою информацию в определенные места, – сможем ли мы подобрать для этого другое слово, нежели «любовь»?

    Но как только мы создадим эволюционирующие, обучающиеся серьезные программы (например, медицинские), то они и начнут размножаться (нами же), причем размножаться будут те которые проэволюционировали лучше, стали эффективнее. В частности, в понятие эффективности автоматически войдет показ человеку увлекательных картинок – пока двуногий не успел выключить меня, покуда я размножаюсь, а еще лучше – послал копию другу. Кстати, в этом смысле, используя человека как аппарат копирования, эволюционирует вообще вся техника.

    Что же касается главного вопроса – опасно ли это для человека, то мне кажется, что опасность возникает там, где есть разделяемый ресурс. У человека с программами есть разделяемый ресурс – это машинное время. Поэтому единственная реальная опасность – что программа, занятая своими делами, перестанет обслуживать человека. Но плавность, с которой нарастает разумность человека как вида и способность сопротивляться родителям – как индивида, позволяет надеяться, что разумность и способность сопротивляться человеку у компьютерных программ будут нарастать достаточно плавно. И когда человеку наконец придется учиться считать самому, он еще будет способен это сделать. С другой стороны, есть некоторые аргументы за то, что с некоторого момента эволюция компьютерного разума пойдет быстро (скорость обмена информацией относительно велика).

    В заключение позволительно спросить: если на пути, пунктирно и приблизительно намеченном в этой статье, действительно будет создано нечто такое, что человек с удивлением признает разумом, будет ли этот разум чем-то принципиальным отличаться от человеческого? Чтобы быстро и просто продемонстрировать нетривиальность вопроса о различиях разумов (на первый взгляд, кажется, мелкого по сравнению с вопросом, разум ли «это» вообще), приведем простенький пример. Никто не сомневается, что наши дети – дети в обычном, биологическом смысле – разумны; но перед отличиями их разума от нашего некоторые порой останавливаются в остолбенении.

    Разум, созданный при движении по пути, намеченном в этой статье, сможет иметь по крайней мере одно, кажущееся принципиальным, отличие от человеческого разума – если этим отличием человек осмелится наделить его. Это совершенная память своей истории, то есть запись всех действий, начиная с момента, когда о разуме еще не было и речи.

    Тогда вопрос «как я возник?» для этого разума – в отличие от нашего – не будет вопросом.

    Генрих Саулович Альтов

    Может ли машина мыслить?

    Я собираюсь рассмотреть вопрос: «Может ли машина мыслить?» Но для этого нужно сначала определить смысл термина «мыслить»…

    А. Тьюринг.

    Триггерная цепочка

    Дважды в неделю, по вечерам, гроссмейстер приходил в Институт кибернетики и играл с электронной машиной.

    В просторном и безлюдном зале стоял невысокий столик с шахматной доской, часами и кнопочным пультом управления. Гроссмейстер садился в кресло, расставлял фигуры и нажимал кнопку «Пуск». На передней панели электронной машины загоралась подвижная мозаика индикаторных ламп. Объектив следящей системы нацеливался на шахматную доску. Потом на матовом табло вспыхивала короткая надпись. Машина делала свой первый ход.

    Она была совсем небольшая, эта машина. Гроссмейстеру иногда казалось, что против него стоит самый обыкновенный холодильник. Но этот «холодильник» неизменно выигрывал. За полтора года гроссмейстеру с трудом удалось свести вничью только четыре партии.

    Машина никогда не ошибалась. Над ней никогда не нависала угроза цейтнота.

    Гроссмейстер не раз пытался сбить машину, делая заведомо нелепый ход или жертвуя фигуру. В результате ему приходилось поспешно нажимать кнопку «Сдаюсь».

    Гроссмейстер был инженером и экспериментировал с машиной для уточнения теории самоорганизующихся автоматов. Но временами его бесила абсолютная невозмутимость «холодильника». Даже в критические моменты игры машина не думала больше пяти-шести секунд. Спокойно поморгав разноцветными огнями индикаторных ламп, она записывала самый сильный из возможных ходов. Машина умела вносить поправки на стиль игры своего противника. Иногда она поднимала объектив и подолгу рассматривала человека. Гроссмейстер волновался и делал ошибки…

    Днем в зал приходил молчаливый лаборант. Хмуро, не глядя на машину, он воспроизводил на шахматной доске партии, сыгранные в разное время выдающимися шахматистами. Объектив «холодильника» выдвигался до отказа и нависал над доской.

    На лаборанта машина не смотрела. Она бесстрастно регистрировала информацию.

    Эксперимент, для которого создали шахматный автомат, приближался к концу. Было решено организовать публичный матч между человеком и машиной. Перед матчем гроссмейстер стал еще чаше появляться в институте. Гроссмейстер понимал, что проигрыш почти неизбежен. И все-таки он упорно искал слабые места в игре «холодильника». Машина же, словно догадываясь о предстоящем поединке, с каждым днем играла все сильнее и сильнее. Она молниеносно разгадывала самые хитроумные планы гроссмейстера. Она громила его фигуры внезапными и исключительными по силе атаками…

    Незадолго до начала матча машину перевезли в шахматный клуб и установили на сцене. Гроссмейстер приехал в самую последнюю минуту. Он уже жалел, что дал согласие на матч. Было неприятно проигрывать «холодильнику» на глазах у всех.

    Гроссмейстер вложил в игру весь свой талант и всю свою волю к победе. Он избрал начало, которое ему еще не приходилось играть с машиной, и игра сразу же обострилась.

    На двенадцатом ходу гроссмейстер предложил машине слона за пешку. С жертвой слона связывалась тонкая, заранее подготовленная комбинация. Машина думала девять секунд - и отклонила жертву. С этого момента гроссмейстер знал, что неизбежно проиграет. Однако он продолжал игру - уверенно, дерзко, рискованно.

    Никто из присутствовавших в зале еще не видел такой игры. Это было сверхискусство. Все знали, что машина постоянно выигрывает. Но на этот раз положение на доске менялось так быстро и так резко, что невозможно было сказать, кому достанется победа.

    После двадцать девятого хода на табло машины вспыхнула надпись: «Ничья».

    Гроссмейстер изумленно посмотрел на «холодильник» и заставил себя нажать кнопку «Нет». Взметнулись, перестраивая световой узор, индикаторные огни - и замерли настороженно.

    На одиннадцатой минуте она сделала ход, которого больше всего опасался гроссмейстер. Последовал стремительный размен фигур. Положение у гроссмейстера ухудшилось. Однако на сигнальном табло машины вновь появилось слово «Ничья».

    Гроссмейстер упрямо нажал кнопку «Нет» и повел ферзя в почти безнадежную контратаку.

    Следящая система машины тотчас пришла в движение. Стеклянный глаз объектива уставился на человека. Гроссмейстер старался не смотреть на машину.

    Постепенно в световой мозаике индикаторных ламп начали преобладать желтые тона.

    Они становились насыщеннее, ярче - и наконец погасли все лампы, кроме желтых. На шахматную доску упал золотистый сноп лучей, удивительно похожих на теплый солнечный свет.

    В напряженной тишине пощелкивала, перескакивая с деления на деление, стрелка больших контрольных часов. Машина думала. Она думала сорок три минуты, хотя большинство сидящих в зале шахматистов считали, что думать особенно нечего и можно смело атаковать конем.

    Внезапно желтые огни погасли. Объектив, неуверенно вздрагивая, занял обычное положение. На табло появилась запись сделанного хода: машина осторожно передвинула пешку. В зале зашумели; многим казалось, что это был не лучший ход.

    Через четыре хода машина признала свое поражение.

    Гроссмейстер, оттолкнув стул, подбежал к машине и рывком приподнял боковой щиток. Под щитком вспыхивала и гасла красная лампочка контрольного механизма.

    На сцену, которую сразу заполнили шахматисты, с трудом пробился молодой человек, корреспондент спортивной газеты.

    Похоже, она просто уступила, - неуверенно сказал кто-то. - Так потрясающе играла - и вдруг…

    Ну, знаете ли, - возразил один из известных шахматистов, - случается, что и человек не замечает выигрышной комбинации. Машина играла в полную силу, но возможности ее ограниченны. Только и всего.

    Гроссмейстер медленно опустил щиток машины и обернулся к корреспонденту.

    Итак, - нетерпеливо повторил тот, раскрывая записную книжку, - каково ваше мнение?

    Мое мнение? - переспросил гроссмейстер. - Вот оно: вышла из строя триггерная цепочка в сто девятом блоке. Конечно, ход пешкой не самый сильный. Но сейчас трудно сказать, где причина и где следствие. Может быть, из-за этой триггерной цепочки машина не заметила лучшего хода. А может быть, она действительно решила не выигрывать - и это стоило ей пробитых током триггеров. Ведь и человеку не так легко переломить себя…

    Но зачем этот слабый ход, зачем проигрывать? - удивился корреспондент. - Умей машина мыслить, она стремилась бы к выигрышу.

    Гроссмейстер пожал плечами и улыбнулся:

    Как сказать… Иногда намного человечнее сделать именно слабый ход.

    К взлету готов!

    Маяк стоял на высокой, далеко выдвинутой в море скале. Люди появлялись на маяке лишь изредка, чтобы проверить автоматическое оборудование. Метрах в двухстах от маяка из воды поднимался островок. Много лет начал на островке, как на постаменте, установили космический корабль, который вернулся на Землю после дальнего рейса. Такие корабли не имело смысла снова отправлять в Космос.

    Я приехал сюда с инженером, ведавшим маяками на всем Черноморском побережье.

    Когда мы поднялись на верхнюю площадку маяка, инженер передал мне бинокль и сказал:

    Будет шторм. Очень удачно: перед непогодой он всегда оживает.

    Красноватое солнце тускло отсвечивало на серых гребнях волн. Скала резала волны, они огибали ее и с шумом карабкались на скользкие, ржавые камни. Потом, гулко вздохнув, растекались вспененными ручьями, открывая дорогу новым волнам. Так наступали римские легионеры: передний ряд, нанеся удар, уходил назад сквозь разомкнутый строй, который затем смыкался и с новой силой шел на приступ.

    В бинокль я мог хорошо разглядеть корабль. Это был очень старый двухместный звездолет типа «Дальний разведчик». В носовой части выделялись две аккуратно заделанные пробоины. Вдоль корпуса проходила глубокая вмятина. Кольцо гравитационного ускорителя было расколото на две части и сплющено. Над рубкой медленно вращались конусообразные искатели давно устаревшей системы и ифразвукового метеонаблюдения.

    Видите, - сказал инженер, - он чувствует, что будет шторм.

    Где-то тревожно закричала чайка, и море отозвалось глухими ударами волн. Серая дымка, поднятая над морем, постепенно заволакивала горизонт. Ветер тянул к облакам посветлевшие гребни волн, а облака, перегруженные непогодой, опускались к воде. От соприкосновения неба и моря должен был вспыхнуть шторм.

    Ну это я еще понимаю,-продолжал инженер: - солнечные батареи питают аккумуляторы, и электронный мозг управляет приборами. Но все остальное… Иногда он словно забывает о земле, о море, о штормах и начинает интересоваться только небом. Выдвигается радиотелескоп, антенны локаторов вращаются днем и ночью… Или другое. Вдруг поднимается какая-то труба и начинает разглядывать людей. Зимой здесь бывают холодные ветры, корабль покрывается льдом, но стоит на маяке появиться людям, и лед моментально исчезает… Между прочим, на нем и водоросли не нарастают…

    Море наступало на островок. Волны шли одна за другой - и каждая следующая была выше и сильнее предыдущей. Насколько видел глаз, все было заполнено серыми волнами. На корабле зажглись штормовые огни.

    Вот-вот, видите! - торжествующе произнес инженер. - Сейчас он включит свой прожектор. Временами мне кажется, что он улетит. Возьмет и улетит… Был я здесь как-то ночью, так до сих пор… Понимаете, Луна поднималась над морем, и корабль… он прямо-таки тянулся к ней. Эта груба, антенны и еще какие-то штуки вот там, позади рубки,-все было устремлено к Луне. Мистика!..

    Я объяснил инженеру, что никакой мистики здесь нет. На кораблях, поставленных на вечную стоянку, не выключают электронную аппаратуру. Это нужно, чтобы корабль сам о себе заботился: принимал меры против коррозии, обледенения, не допускал скопления пыли и грязи, сигнализировал при непредвиденной опасности. Случается, что электронный мозг делает и то, что совершенно не нужно: ведет наблюдение за Луной и звездами, регистрирует космическое излучение, магнитные бури… Но улететь в Космос корабль не может: на нем нет экипажа, нет горючего, нет основных агрегатов гравитационного ускорителя.

    Инженер с сомнением покачал головой и спросил:

    А труба? Зачем он наводит ее на маяк?

    Я не успел ответить.

    Над каплевидной рубкой корабля выдвинулся прожектор. Синеватый луч легко пробил нависшую над морем предштормовую дымку. Скользнув по берегу, луч уперся в основание маяка, а затем поднялся к площадке.

    От яркого света я невольно закрыл глаза. Прожектор тотчас же погас.

    На корабле зажглись все бортовые огни. Они осветили черные, отшлифованные волнами камни островка и зеленоватый корпус звездолета. В борту корабля возникла щель: раздвигались створки главного люка.

    Этого… не было! - возбужденно повторил инженер.

    Он не отрывался от бинокля и говорил очень громко, почти кричал. Ветер, уже набравший силу, гудел в стальных фермах маяка, и я слышал только обрывки фраз:

    «За сорок лет… мои предшественники… никто не знал …»

    Волны захлестывали островок. Но старый корабль, видавший великие ураганы Звездного Мира, перестал обращать внимание на надвигающийся шторм. С торжественной, даже величественной неторопливостью он делал все то, что полагается делать перед взлетом.

    Из открытого люка опустился трап. Сложная система антенн приняла походное положение. В центральной части корпуса выдвинулись короткие, резко отогнутые назад крылья. За дюзами стартового двигателя появились газовые рули. Они были погнуты, эти рули, однако безукоризненно стали так, как это требовалось для короткого разбега по воде. Перископический датчик видеосистемы («труба», о которой говорил инженер) повернулся в сторону открытого моря. Трижды мигнул зеленый oгонь старт-сигнала и над рубкой поднялся алый вымпел.

    Эту был традиционный сигнал: «К взлету - готов!»

    Волны перекатывались через островок, вокруг корабля кипели буруны. Мне вдруг показалось, что море неподвижно, а корабль несется вперед. Мне показалось, что слышен грохот стартового двигателя. Это длилось несколько секунд, не больше. Но я понял, почему для вечной стоянки корабля выбран этот маленький, неприметный островок.

    Внезапно огни на звездолете погасли.

    Мы долго ждали. Ветер все сильнее и сильнее раскачивал площадку маяка.

    Надо идти! - наклонившись ко мне, прокричал инженер и вытер мокрое лицо.

    Низко, над самой водой, полыхнула до синевы накаленная молния. Протяжные громовые раскаты слились с ревом волн.

    Шторм начался.

    Когда мы спускались по винтовой лестнице, инженер сказал:

    Все дело в том, что он искал вас. Он всегда рассматривал людей, но только сегодня он увидел вас и открыл люк.

    Почему именно меня? - спросил я. - Ведь мы были вдвоем.

    На вас форма Звездного Флота, - ответил инженер и убежденно повторил; - Ну да, на вас форма астронавта.

    Это была очень наивная идея, впрочем простительная неспециалисту. Электронные машины на старых звездных разведчиках не умеют различать одежду людей. Вероятно, машина узнала, что надвигается сильнейший шторм, и приняла самое простое в этих условиях решение - взлететь, уйти от шторма. Подняться корабль, конечно, не мог, но все-таки подготовился к взлету.

    Выслушав мое объяснение, инженер неуверенно сказал:

    Что ж, возможно, все так и обстоит… Не спорю… Однако он уже сорок лет на этом островке. Сорок лет! Неужели за это время в его электронной памяти ничто самопроизвольно не изменилось?..

    Я не ответил инженеру. Я думал о другом.

    Звездолет был навечно прикован к камням. Над ним проносились другие корабли, всходили и заходили далекие звезды. И если хоть что-то похожее на разум теплилось в старом коралле, о чем мог думать его не знающий сна электронный мозг?

    Сорок лет этот мозг был предоставлен самому себе. Только самому себе. И еще - воспоминаниям.

    Первый контакт

    Директор института, не глядя на собравшихся в его кабинете сотрудников, долго скреб густую черную бородку и наконец мрачно сказал:

    Мои юные коллеги, это скандал. Самый чистокровный скандал. Даже ультраскандал.

    Над нами будут смеяться.

    А что, собственно, случилось? - спокойно спросил молодой человек в ковбойке.

    Директор грустно взглянул на него сквозь большие роговые очки с выпуклыми стеклами:

    Вам, руководителю экспериментальной лаборатории, это следовало бы знать. Да.

    Вчера ночью «Марсианин» говорил с «Аристотелем».

    Какой… марсианин? - неуверенно произнесла сидевшая у окна девушка, начальник отдела информационно-логических машин.

    Не смотрите на меня так, - отчетливо выговаривая каждый слог, сказал директор.

    Я в здравом уме. «Марсианин», о котором я говорю, пишется с большой буквы и в кавычках.

    Девушка смущенно улыбнулась.

    Так, - продолжал директор. - Никто не помнит. Никто не знает, о чем идет речь.

    Хорошо, я вам напомню. Три года назад, мои уважаемые коллеги, три гола назад, когда вы еще были студентами, у нас поставили эксперимент. Человек, поставивший этот эксперимент, сейчас работает в другом городе. Да. Речь шла о том, смогут ли понять друг друга астронавт и разумный обитатель какой-либо иной планеты.

    Конечно, в том случае, если они встретятся. Надеюсь, вы догадываетесь, что эта проблема имеет непосредственное отношение к нам, кибернетикам. Да. Она примыкает к проблеме кодирования и перекодирования с языка на язык.

    Совершенно верно! - воскликнул начальник отдела электронного моделирования, надевая роговые очки, очень похожие на очки директора. - Теперь я припоминаю.

    Были построены два автомата, которые могли общаться между собой с помощью акустических устройств. Один автомат назвали «Эрг Ноором», а другой… а другой - почему-то «Аристотелем».

    То есть как это «почему-то»?! - возмутился директор. - Ребенку ясно: чем большая по времени дистанция между разумными существами, тем труднее им найти общий язык. Поэтому первый автомат получил всю ту информацию, все те знания и представления, которые, по мнению историков, должен был иметь Аристотель или его современник-ученый. А второй… Да, со вторым автоматом было очень много неприятностей. Мы настраивали его под наблюдением астрономов, биологов, философов и этих… ну, научных фантастов. Ужасно было трудно! Сколько консультантов - столько мнений.

    Но ведь из этого опыта ничего не вышло, - осторожно сказал начальник отдела электронного моделирования, снимая мешавшие ему очки.

    Что значит «не вышло»? - с негодованием спросил директор? - Вы думаете, при первой же встрече «Эрг Hoop» должен был броситься на шею «Аристотелю»? А может быть, вы думаете, что они сразу же должны были устроить драку?..

    Директор строго оглядел притихших сотрудников и неожиданно улыбнулся:

    Тогда, три года назад, нам тоже казалось, что произойдет нечто такое… - он сделал неопределенный жест рукой. - Первый контакт. Романтика. Да. Но ничего не произошло. Они молчали - и никак не хотели говорить друг с другом.

    Несовершенство программирования, ошибки в конструкции. Да. И автоматы были сданы в резервное хранилище. Со строгим предписанием: хранить аккуратно! На всякий случай.

    Там все хранят аккуратно, - сказала девушка. - Специальное помещение, постоянная температура, чистота… По ночам дежурит сотрудник.

    Какой сотрудник? - тихо спросил директор. - Разрешите полюбопытствовать - какой сотрудник? - И, не дожидаясь ответа, отчеканил; - Сторож! Самый обыкновенный сторож! Тот самый сторож, мои уважаемые коллеги, которого вы почтительно зовете дядей Васей.

    Дядя Вася очень добросовестно относится к своим обязанностям, - возразила девушка.

    Добросовестно, - согласился директор, уныло поглаживая бородку. - Даже слишком добросовестно. Вчера, в одиннадцать ночи, он позвонил мне и сказал, что эти двое… ну, «Эрг Hoop» и «Аристотель» - вдруг начали говорить. Вы понимаете, уважаемые коллеги? Они начали говорить. Начали спорить.

    О чем? - нетерпеливо спросил юноша в ковбойке.

    Ах, вас интересует о чем? - очень вежливо сказал директор. - Я предвидел это и потому вчера звонил вам. Вам и всем остальным. Но никого не оказалось дома. Да.

    И к дяде Васе я приехал один. Так вот, «Эрг Hoop» и «Аристотель» действительно спорили. Они орали во всю мощь своих железных глоток. В зале гремело так, словно работал паровой молот!

    Значит, опыт все-таки удался! - воскликнула девушка. - О чем же они спорили?

    О чем? - спокойно переспросил директор. - А вот о чем. «Аристотель» утверждал, что в чемпионате по футболу на первое место в группе «А» выйдет команда «Крылья Советов». А «Эрг Hoop» визгливым и вибрирующим голосом, который для него придумал один фантаст, упрямо повторял: «Чепуха, чепуха, чепуха… 97,6 процента, Сын Голубой Планеты за то, что победит команда „Динамо“. Да! „Аристотель“ сыпал фамилиями игроков, ссылался на спортивных обозревателей и… и попрошу не смеяться! - рявкнул директор. - Не вижу в этом ничего смешного.

    Мы не смеемся, - сказала девушка. - Мы стараемся не смеяться. Ничего не случилось. Просто эти машины плохо запрограммированы, вот и все.

    Вы так думаете? - обернулся к ней директор. - Так вот, я все выяснил. Дядя Вася, дежуря в хранилище, в течение трех лет читал вслух спортивные газеты и журналы. Он даже слушал передачи со стадионов. Больше того, кое-кто из вас любил заходить туда по утрам. Так сказать, для обсуждения спортивных новостей. Да. И никто не вспомнил, что рядом - машины, пусть старые и плохие, но машины. Никто не вспомнил, что автоматы имеют акустические приемники и, следовательно, могут…

    Не огорчайтесь, пожалуйста, - сказал юноша в ковбойке. - Автоматы не представляют ценности: они, в сущности, не нужны. Но если хотите, можно легко убрать эту лишнюю информацию о… футболе.

    Нет, нет, тут нужно разобраться, - возразила девушка. - Пусть автоматы считались неудачными, негодными. Но теперь… теперь они спорят о футболе. Разве это не свидетельствует, что машина может мыслить, как человек? То есть почти как человек.

    Директор покачал головой.

    Мой юный друг, - ехидно сказал он. - Это работают блоки анализаторов вероятности. И только. Как можно утверждать, что автоматы мыслят, когда один из них твердит о команде «Крылья Советов», а другой - о «Динамо»?! Ребенку же ясно: первенство возьмет «Спартак». Вы когда-нибудь бываете на стадионах?..

    Странный вопрос

    Анатолий Сергеевич Скляров, тридцатилетний профессор истории, удобно устроившись на диване, в сотый раз перечитывал «Трех мушкетеров». Кардинал Ришелье вызвал к себе д"Артаньяна, и это волновало Анатолия Сергеевича, хотя он знал, что все окончится благополучно. Кардинал уже вручил смелому гасконцу патент на звание лейтенанта, когда из-за стены послышался робкий стук. Анатолий Сергеевич взглянул на часы; было два часа ночи. Он отложил книгу и встал с дивана.

    Вторую половину дачи снимал учитель математики - тихий, застенчивый старик. За две недели Скляров, поглощенный работой над статьей для исторического журнала, обменялся со своим соседом лишь несколькими незначащими фразами.

    Анатолий Сергеевич закурил сигарету и подошел к окну. Стук повторился.

    Скляров застегнул пижаму и вышел на веранду. Математик стоял в дверях своей комнаты.

    Извините, пожалуйста, - быстро сказал он, увидев Склярова. - Я решился потревожить вас…

    Он кашлянул и умолк.

    Что случилось, Семен Павлович? - спросил профессор, внимательно глядя на соседа. Старик, как всегда, был одет в черный, тщательно отглаженный костюм. Но по галстуку - слишком яркому и наспех завязанному - Скляров понял, что произошло нечто чрезвычайное.

    У Семена Павловича было очень доброе лицо, и сейчас оно показалось Склярову особенно милым и добрым. Профессор подумал, что такие лица бывают у старых детских докторов, для которых главное оружие - потемневший от времени деревянный стетоскоп и беспредельная человеческая доброта.

    Математик сконфуженно погладил пышные, еще сохранившие лихость усы и неуверенно произнес:

    Машина… Она сейчас будет говорить. Я полгода ждал, и вот сейчас зажглась контрольная лампочка. Вы - профессор, доктор наук, и только потому я осмелился в столь поздний час… Для объективности…

    Скляров хотел было сказать, что он почти ничего не понимает в машинах. Но старик был взволнован, и Анатолий Сергеевич не стал возражать.

    Они прошли в комнату, которую снимал математик. «Да, не очень уютно», - подумал Скляров, бегло оглядев комнату. Заваленный книгами стол, аккуратно прикрытая серым солдатским одеялом железная койка, пузатый шкаф с резными ножками - все было сдвинуто в один угол. С потолка свисала на черном шнуре лампа, прикрытая вместо абажура листом картонка. На стульях в беспорядке лежали подшивки потрепанных журналов, коробки с радиодеталями и инструментами. В комнате пахло ночной сыростью и цветами. Вдоль стены, на полу, выстроились стеклянные банки с распустившимися розами.

    Семен Павлович показал на подоконник:

    Вот, пожалуйста, взгляните.

    У открытого окна стоял очень старый радиоприемник «СИ-235». Скляров удивленно посмотрел на Семена Павловича.

    Это только футляр, - объяснил математик. Он говорил шепотом, словно боясь, что машина его услышит. - Футляр, знаете ли, не имеет значения. А машина внутри. Вы садитесь, пожалуйста …

    Он принес Склярову стул, а сам продолжал ходить по комнате. Рассказывая, он снимал и надевал очки. Они были тоже старые с круглыми стеклами и металлической оправой, оплетенной каким-то шелушащимся коричневым материалом.

    Я собрал ее полгода назад, - говорил математик. - Разумеется, вы знаете, что идет дискуссия о том, может ли машина мыслить. У меня, конечно, нет необходимой подготовки… Нет, нет, вы только не подумайте, что я собираюсь выступать со своим мнением. Я поставил маленький эксперимент… - Он смущенно улыбнулся: - Может быть, эксперименту слишком громкое слово. Это только простой опыт, не больше.

    Дело в том, что Эйнштейн однажды высказал такую мысль… Вот я вам процитирую на память: «Что бы ни делала машина, она будет в состоянии решить какие угодно проблемы, но никогда она не сумеет поставить хотя бы одну». Не правда ли, глубокая мысль?.. Вы можете подумать, что я имею дерзость спорить с Эйнштейном.

    Он протестующе взмахнул руками: - Нет, я только поставил опыт. Это первая машина, которая специально предназначена для того, чтобы ставить проблемы.

    Скляров уже не слушал математика. Он смотрел на Семена Павловича, машинально кивал головой и думал о том, что старик даже не подозревает, насколько грандиозен его эксперимент. Анатолий Сергеевич почему-то вспомнил другого учителя - Циолковского и почтительно спросил:

    Ваша машина… она может пригодиться для астронавтики?

    Математик поверх очков удивленно посмотрел на Склярова.

    Не знаю, я об этом не думал, - произнес он извиняющимся тоном. - Конечно, в какой-то степени… Скажем, для разведки неисследованных планет.

    Скляров нетерпеливо перебил:

    И вы никому еще не показывали эту машину?

    Семен Павлович окончательно смутился. Он стоял перед профессором, высокий, худощавый, по-стариковски нескладный и взволнованно потирал руки. Анатолий Сергеевич вдруг насторожился. Как всякий человек, далекий от техники, он был уверен, что открытия рождаются лишь в лабораториях, оборудованных по последнему слову техники. В чем оно состояло, это последнее слово техники, он представлял себе довольно смутно и потому вкладывал в это понятие особо торжественный смысл.

    Вы сами ее собрали? - осторожно спросил он.

    Ага, - неопределенно произнес Скляров.

    Он почему-то вспомнил д"Артаньяна. После книги Дюма легче верилось в необыкновенное. «А вдруг эта штука и в самом деле будет работать? - подумал он.

    В сущности, все первое имело неказистый вид: пар-вый паровоз, первый пароход…

    Даже первый циклотрон».

    Какой же вопрос задаст эта… гм… машина? - спросил он. - Что-нибудь математическое?

    Не знаю, - ответил математик. - Право, не знаю. Она может выбрать любую проблему - ив математике, и, простите, в истории, и в биологии… Даже, так сказать, из сферы практической жизни. Она, образно выражаясь, начинена всевозможной информацией. Я, конечно, не смог бы сам заполнить всю ее память, но удалось использовать готовые элементы. Мой бывший ученик работает в академии, он мне и помог достать готовые элементы. Разумеется, они предназначались для других целей, но в этой машине они собраны иначе. Там, знаете ли, очень много записано.

    Десяток энциклопедий, разные справочники, учебники, журналы, газеты… Скляров вытер платком вспотевший лоб.

    Семен Павлович быстро ответил:

    Нет, то есть да… Мы услышим азбуку Морзе.

    Анатолий Сергеевич подошел к машине. Тихо поскрипывали створки открытого окна.

    Где-то очень близко прокричал петух. Протяжно загудел электровоз и внезапно осекся, словно испугавшись, что нарушил ночную тишину.

    Скажите, Семен Павлович, - спросил профессор, - какого все-таки рода может быть проблема? Я понимаю, вы не можете дать определенный ответ, но хоть примерно.

    Поверьте, я об этом не думал, - ответил математик. - Первый опыт… Тут важно только одно: чтобы вопрос, поставленный машиной, не был бессмысленным.

    Скляров услышал смех и вздрогнул: настолько странным показался ему сейчас простой человеческий смех. По дощатому тротуару вдоль ограждавшего сад забора шли двое. Они не спешили, и по приглушенным молодым голосам нетрудно было догадаться, что это юноша и девушка. Внезапно шаги затихли. Послышался быстрый неясный шепот. Настороженно прогудел поезд. Он быстро приближался, и торопливый стук колес поглотил все ночные звуки.

    Московский, два сорок, - сказал Семен Павлович. - Начнем, если вы не возражаете?

    Профессор вернулся к стулу. Он с трудом сдерживал волнение. Анатолий Сергеевич до самозабвения любил историю. Может быть, поэтому ему казалось, что первая проблема, поставленная машиной, обязательно будет связана с историей.

    Начнем, Семен Павлович, -взволновано сказал он и оглядел комнату. Теперь все в этой комнате показалось ему иным - значительным, даже ироничным. - Начнем, - повторил он.

    Математик поправил сбившийся набок галстук и, шумно вздохнув, передвинул рычажок, выступавший из прорези на передней панели машины. Что-то щелкнуло.

    Послышалось негромкое шипение.

    Скляров напряженно всматривался в футляр старого радиоприемника. Динамик долго шипел, и Анатолию Сергеевичу начало казаться, что опыт не удался. Он вопросительно посмотрел на математика и в этот момент услышал прерывистую дробь азбуки Морзе. Семен Павлович бросился записывать. Скляров не знал азбуки Морзе и нетерпеливо поглядывал то на машину, то на математика.

    Сигналы оборвались так же внезапно, как и начались.

    Анатолий Сергеевич вскочил со стула и подбежал к математику. Тот протянул ему оторванную от газеты неровную полоску бумаги.

    Она задала вопрос! Значит… Как вы думаете это не бессмысленный вопрос?

    Скляров прочитал написанное. В первый момент у него мелькнула мысль: «Ну-ну. Как бы то ни было, а чувство юмора у этого ящика есть». Потом он подумал: «Странный вопрос. Очень странный вопрос. А вдруг она… серьезно?» - и подозрительно покосился на машину.

    Ну, как вы думаете, профессор? - с тревогой в голосе спросил Семен Павлович. -

    Вопрос… не бессмысленный?

    Мне трудно судить, - сказал Скляров. - Пожалуй, в какой-то степени вопрос закономерный. Машина впервые получила возможность по своей… гм… по своей инициативе спросить о чем-то человека, и вот… Да, да, - уже увереннее произнес он, - вполне логично, что она начала именно с этого вопроса. Почему-то принято считать, что машина должна думать как-то… гм… по-машинному. А она если будет думать, то как человек. Вы понимаете мою мысль? Вот Луна - она светит отраженным светом Солнца. Так и машина.

    Завтра же покажите эту машину специалистам. Вы слышите, Семен Павлович?

    Обязательно покажите ее кибернетикам. Пусть они и решают. И еще… сохраните эту бумажку.

    Он передал математику полоску газетной бумаги, на которой под точками и тире была выведена аккуратным почерком одна фраза: «Может ли человек мыслить?»

    «Машина смеялась…»

    (Из дневника)

    …Сегодня ей исполнился год.

    Я хорошо помню, как год назад мы сидели здесь, в этой комнате, и молча смотрели на серый корпус машины. В одиннадцать часов семнадцать минут я нажал пусковую клавишу, и машина начала работать.

    Работать? Нет, это не то слово. Машина предназначалась для моделирования человеческих эмоций. Это не первый такой опыт с самоорганизующимися и саморазвивающимися машинами. Но мы основывались на новейших физиологических открытиях и очень тщательно внесли все коррективы, рекомендованные психологами.

    Год назад я спросил своих ассистентов, как, по их мнению, окончится эксперимент.

    Она влюбится, - ответил Корнеев.

    Очень грубая модель. Она будет похожа на к-крайне ограниченного человека.

    Скучного ч-человека.

    Ну, а вы? - спросил я Белова.

    Он пожал плечами:

    В таких экспериментах не бывает неудач. Если машина сумеет хорошо имитировать человеческие эмоции, мы дадим биологам интересный материал. Если же она… ну, если она не сработает, биологам придется кое в чем пересмотреть свои взгляды.

    Это тоже полезно.

    Две недели машина работала превосходно, и мы получили ценнейшие данные. А затем произошла первая неожиданность: у машины вдруг появилось увлечение. Она увлеклась… вулканами.

    Это продолжалось десять дней. Машина изводила нас классификацией вулканов. Она упрямо печатала на ленте: Везувий, Кракатау, Килауэа, Сакурадзима… Ей нравились старинные описания извержений, особенно рассказ геолога Леопольда фон Буха об извержении Везувия в 1794 году. Она бесконечно повторяла этот рассказ: «В ночь на 12 июня произошло страшное землетрясение, повторившееся еще 15 июня в 11 часов ночи, с сильнейшим подземным ударом. Все небо вдруг озарилось красным пламенем…»

    Потом она забыла об этом. Абсолютно забыла. Она отключила блоки памяти, в которых хранились сведения о вулканах. Такую вещь человек не способен сделать.

    Эксперимент вступил в фазу непредвиденного. Я сказал об этом ассистентам, и Белов ответил:

    Тем лучше. Новые факты ценнее новых гипотез. Гипотезы приходят и уходят, а факты остаются, - Чушь! - сказал Антрощенко. - факты сами по себе ничего не дают. Они как далекие з-звезды…

    Прошу не трогать звезды! - воскликнул Корнеев.

    Я слушал их спор, а думал совсем о другом. В этот момент я уже знал, что будет дальше.

    Очень скоро мое предвидение начало сбываться. Вдруг выяснилось, что машина ненавидит созвездие Ориона и все звезды, входящие в каталог Лакайля с № 784 по №

    1265. Почему созвездие Ориона? Почему именно эти звезды? Мы могли бы разобрать машину и найти объяснение. Но это значило прервать эксперимент. И мы предоставили машине полную свободу. Мы лишь подключали к блокам памяти новые элементы и наблюдали за поведением машины.

    А оно было очень странным, это поведение. Машина, например, включила желтый свет, означавший плач, когда впервые узнала структурную формулу бензола. Машина никак не реагировала на формулу динатрисалициловой кислоты. Но упоминание о натриевой соли этой кислоты неожиданно привело ее в бешенство: желтый сигнал стал оранжевым, а потом лампа перегорела…

    Музыка, вообще любая информация, связанная с искусством, оставляла машину бесстрастной. Но ее веселило, когда в тексте информации встречались существительные среднего рода из четырех букв. Мгновенно зажигался зеленый сигнал и начинал уныло дребезжать звонок: машина смеялась…

    Она работала двадцать четыре часа в сутки. Вечером мы уходили из института, а электронный мозг машины продолжал перерабатывать информацию, менять настройку блоков логического управления. По утрам нас ожидали сюрпризы. Однажды машина начала сочинять стихи. Странные стихи: о драке «горизонтальных кошек» с «симметричным меридианом»…

    Как-то я приехал в институт ночью. Машина стояла в темной комнате. На приборном щите светилась только небольшая фиолетовая лампа: это означало, что у машины хорошее настроение.

    Я долго стоял в темноте. Было очень тихо. И вдруг машина рассмеялась. Да, она рассмеялась! Вспыхнул зеленый сигнал и тоскливо задребезжал звонок…

    …Сейчас, когда я пишу эти строки, машина снова смеется. Я сижу в другой комнате, но дверь приоткрыта, и я слышу взвизгивание звонка. Машина смеется над квадратными уравнениями. Она ворошит свою огромную память, отыскивает тексты с квадратными уравнениями - и смеется.

    Когда-то Клод Бернар сказал: «Не бойтесь противоречивых фактов - каждый из них зародыш открытия». Но у нас слишком много противоречивых фактов. Иногда мне кажется, что мы просто-напросто создали несовершенную машину…

    Или - все правильно?

    Вот моя мысль:

    Нельзя сравнивать машину с человеком. В нашем представлении роботы - это почти люди, наделенные либо машинной злостью, либо машинным сверхумом. Чепуха! Наивен вопрос, может ли машина мыслить. Надо одновременно ответить «нет» и «да». Нет - ибо мышление человека формируется жизнь» в обществе. Да - ибо машина все-таки может мыслить и чувствовать. На как человек, а как некое другое существо. Как машина. И это не лучше и не хуже, чем мышление человека, а просто - иначе.

    Машина может определить температуру воздуха с точностью до тысячных долей градуса, но она никогда не почувствует и не поймет, что такое ветер, ласкающий кожу. А человек никогда не почувствует, что такое изменение самоиндукции, никогда не ощутит процесса намагничивания. Человек и машина - разные.

    Машина только тогда сможет мыслить, как человек, когда она будет иметь все то, что имеет человек: родину, семью, способность по-человечески чувствовать свет, звук, запах, вкус, тепло и холод…

    Но тогда она перестанет быть машиной.

    Альтов Генрих

    Может ли машина мыслить

    Генрих Альтов

    Может ли машина мыслить?

    Я собираюсь рассмотреть вопрос: "Может ли машина мыслить?" Но для этого нужно сначала определить смысл термина "мыслить"...

    А. Тьюринг. Триггерная цепочка.

    важды в неделю, по вечерам, гроссмейстер приходил в Институт кибернетики и играл с электронной машиной.

    В просторном и безлюдном зале стоял невысокий столик с шахматной доской, часами и кнопочным пультом управления. Гроссмейстер садился в кресло, расставлял фигуры и нажимал кнопку "Пуск". На передней панели электронной машины загоралась подвижная мозаика индикаторных ламп. Объектив следящей системы нацеливался на шахматную доску. Потом на матовом табло вспыхивала короткая надпись. Машина делала свой первый ход.

    Она была совсем небольшая, эта машина. Гроссмейстеру иногда казалось, что против него стоит самый обыкновенный холодильник. Но этот "холодильник" неизменно выигрывал. За полтора года гроссмейстеру с трудом удалось свести вничью только четыре партии.

    Машина никогда не ошибалась. Над ней никогда не нависала угроза цейтнота. Гроссмейстер не раз пытался сбить машину, делая заведомо нелепый ход или жертвуя фигуру. В результате ему приходилось поспешно нажимать кнопку "Сдаюсь".

    Гроссмейстер был инженером и экспериментировал с машиной для уточнения теории самоорганизующихся автоматов. Но временами его бесила абсолютная невозмутимость "холодильника". Даже в критические моменты игры машина не думала больше пяти-шести секунд. Спокойно поморгав разноцветными огнями индикаторных ламп, она записывала самый сильный из возможных ходов. Машина умела вносить поправки на стиль игры своего противника. Иногда она поднимала объектив и подолгу рассматривала человека. Гроссмейстер волновался и делал ошибки...

    Днем в зал приходил молчаливый лаборант. Хмуро, не глядя на машину, он воспроизводил на шахматной доске партии, сыгранные в разное время выдающимися шахматистами. Объектив "холодильника" выдвигался до отказа и нависал над доской. На лаборанта машина не смотрела. Она бесстрастно регистрировала информацию.

    Эксперимент, для которого создали шахматный автомат, приближался к концу. Было решено организовать публичный матч между человеком и машиной. Перед матчем гроссмейстер стал еще чаше появляться в институте. Гроссмейстер понимал, что проигрыш почти неизбежен. И все-таки он упорно искал слабые места в игре "холодильника". Машина же, словно догадываясь о предстоящем поединке, с каждым днем играла все сильнее и сильнее. Она молниеносно разгадывала самые хитроумные планы гроссмейстера. Она громила его фигуры внезапными и исключительными по силе атаками...

    Незадолго до начала матча машину перевезли в шахматный клуб и установили на сцене. Гроссмейстер приехал в самую последнюю минуту. Он уже жалел, что дал согласие на матч. Было неприятно проигрывать "холодильнику" на глазах у всех.

    Гроссмейстер вложил в игру весь свой талант и всю свою волю к победе. Он избрал начало, которое ему еще не приходилось играть с машиной, и игра сразу же обострилась.

    На двенадцатом ходу гроссмейстер предложил машине слона за пешку. С жертвой слона связывалась тонкая, заранее подготовленная комбинация. Машина думала девять секунд - и отклонила жертву. С этого момента гроссмейстер знал, что неизбежно проиграет. Однако он продолжал игру - уверенно, дерзко, рискованно.

    Никто из присутствовавших в зале еще не видел такой игры. Это было сверхискусство. Все знали, что машина постоянно выигрывает. Но на этот раз положение на доске менялось так быстро и так резко, что невозможно было сказать, кому достанется победа.

    После двадцать девятого хода на табло машины вспыхнула надпись: "Ничья". Гроссмейстер изумленно посмотрел на "холодильник" и заставил себя нажать кнопку "Нет". Взметнулись, перестраивая световой узор, индикаторные огни - и замерли настороженно.

    На одиннадцатой минуте она сделала ход, которого больше всего опасался гроссмейстер. Последовал стремительный размен фигур. Положение у гроссмейстера ухудшилось. Однако на сигнальном табло машины вновь появилось слово "Ничья". Гроссмейстер упрямо нажал кнопку "Нет" и повел ферзя в почти безнадежную контратаку.

    Следящая система машины тотчас пришла в движение. Стеклянный глаз объектива уставился на человека. Гроссмейстер старался не смотреть на машину.

    Постепенно в световой мозаике индикаторных ламп начали преобладать желтые тона. Они становились насыщеннее, ярче - и наконец погасли все лампы, кроме желтых. На шахматную доску упал золотистый сноп лучей, удивительно похожих на теплый солнечный свет.

    В напряженной тишине пощелкивала, перескакивая с деления на деление, стрелка больших контрольных часов. Машина думала. Она думала сорок три минуты, хотя большинство сидящих в зале шахматистов считали, что думать особенно нечего и можно смело атаковать конем.

    Внезапно желтые огни погасли. Объектив, неуверенно вздрагивая, занял обычное положение. На табло появилась запись сделанного хода: машина осторожно передвинула пешку. В зале зашумели; многим казалось, что это был не лучший ход.

    Через четыре хода машина признала свое поражение.

    Гроссмейстер, оттолкнув стул, подбежал к машине и рывком приподнял боковой щиток. Под щитком вспыхивала и гасла красная лампочка контрольного механизма.

    На сцену, которую сразу заполнили шахматисты, с трудом пробился молодой человек, корреспондент спортивной газеты.

    Похоже, она просто уступила, - неуверенно сказал кто-то. - Так потрясающе играла - и вдруг...

    Ну, знаете ли, - возразил один из известных шахматистов, - случается, что и человек не замечает выигрышной комбинации. Машина играла в полную силу, но возможности ее ограниченны. Только и всего.

    Гроссмейстер медленно опустил щиток машины и обернулся к корреспонденту.

    Итак, - нетерпеливо повторил тот, раскрывая записную книжку, - каково ваше мнение?

    Мое мнение? - переспросил гроссмейстер. - Вот оно: вышла из строя триггерная цепочка в сто девятом блоке. Конечно, ход пешкой не самый сильный. Но сейчас трудно сказать, где причина и где следствие. Может быть, из-за этой триггерной цепочки машина не заметила лучшего хода. А может быть, она действительно решила не выигрывать - и это стоило ей пробитых током триггеров. Ведь и человеку не так легко переломить себя...

    Но зачем этот слабый ход, зачем проигрывать? - удивился корреспондент. Умей машина мыслить, она стремилась бы к выигрышу.

    Гроссмейстер пожал плечами и улыбнулся:

    Как сказать... Иногда намного человечнее сделать именно слабый ход. К взлету готов!

    аяк стоял на высокой, далеко выдвинутой в море скале. Люди появлялись на маяке лишь изредка, чтобы проверить автоматическое оборудование. Метрах в двухстах от маяка из воды поднимался островок. Много лет начал на островке, как на постаменте, установили космический корабль, который вернулся на Землю после дальнего рейса. Такие корабли не имело смысла снова отправлять в Космос.

    Я приехал сюда с инженером, ведавшим маяками на всем Черноморском побережье. Когда мы поднялись на верхнюю площадку маяка, инженер передал мне бинокль и сказал:

    Будет шторм. Очень удачно: перед непогодой он всегда оживает.

    Красноватое солнце тускло отсвечивало на серых гребнях волн. Скала резала волны, они огибали ее и с шумом карабкались на скользкие, ржавые камни. Потом, гулко вздохнув, растекались вспененными ручьями, открывая дорогу новым волнам. Так наступали римские легионеры: передний ряд, нанеся удар, уходил назад сквозь разомкнутый строй, который затем смыкался и с новой силой шел на приступ.

    В бинокль я мог хорошо разглядеть корабль. Это был очень старый двухместный звездолет типа "Дальний разведчик". В носовой части выделялись две аккуратно заделанные пробоины. Вдоль корпуса проходила глубокая вмятина. Кольцо гравитационного ускорителя было расколото на две части и сплющено. Над рубкой медленно вращались конусообразные искатели давно устаревшей системы и ифразвукового метеонаблюдения.

    Видите, - сказал инженер, - он чувствует, что будет шторм.

    Где-то тревожно закричала чайка, и море отозвалось глухими ударами волн. Серая дымка, поднятая над морем, постепенно заволакивала горизонт. Ветер тянул к облакам посветлевшие гребни волн, а облака, перегруженные непогодой, опускались к воде. От соприкосновения неба и моря должен был вспыхнуть шторм.

    Ну это я еще понимаю,-продолжал инженер: - солнечные батареи питают аккумуляторы, и электронный мозг управляет приборами. Но все остальное... Иногда он словно забывает о земле, о море, о штормах и начинает интересоваться только небом. Выдвигается радиотелескоп, антенны локаторов вращаются днем и ночью... Или другое. Вдруг поднимается какая-то труба и начинает разглядывать людей. Зимой здесь бывают холодные ветры, корабль покрывается льдом, но стоит на маяке появиться людям, и лед моментально исчезает... Между прочим, на нем и водоросли не нарастают...

    1 Звезда2 Звезды3 Звезды4 Звезды5 Звезд 5,00 / 3
    Главная →Инструменты и система →Тьюринг алан могут ли машины мыслить рецензия. Могут ли машины мыслить? Разум мозга - компьютерная программа →
    Статьи по теме: