10 ЗАПОВЕДЕЙ НЕСТАБИЛЬНОСТИ. ЗАМЕЧАТЕЛЬНЫЕ ИДЕИ XX ВЕКА
Шрифт:
В этом тесте неявно подразумевается, что сознание является продуктом работы мозга, т. е. считается, что можно «скопировать сознание», смоделировав работу некоторых отделов мозга или, по крайней мере, той части нервных клеток, которая ответственна за возникновение «сознания». Пока ни одна машина не может пройти тест Тьюринга, но если это когда-нибудь произойдет, не стоит сразу считать ее «мыслящей», поскольку многие специалисты полагают, что компьютеры учатся не мыслить, а подражать человеческому сознанию благодаря соответствующей переработке информации, подобно тому, как они обучаются моделировать виртуальные события (например, ракетную бомбардировку Багдада или трансформацию человеческого лица после предполагаемой пластической операции). (К моменту публикации английского оригинала (примерно через полгода) виртуальные бомбардировки Багдада стали реальными, как бы иллюстрируя основную идею автора о неизбежности
Для доказательства этой идеи философ Джон Сирл в одной из своих книг предложил еще один забавный мысленный эксперимент (получивший название «китайской комнаты»), при котором условия теста Тьюринга в некотором смысле «выворачиваются наизнанку», т. е. испытанию подвергается не машина, а человек. Представьте, что мы пытаемся оценить «разумность» человека, запертого в изолированной камере (китайской комнате) и переговаривающегося с окружающим миром посредством записок, передаваемых через щель в двери. Он получает вопросы, написанные совершенно непонятными ему китайскими иероглифами, однако в комнате есть толстенный китайский справочник, содержащий огромное количество вопросов и достаточно пространные и убедительные ответы на них. Старательно перелистывая справочник, испытуемый каждый раз находит в нем комбинацию полученных им снаружи знаков, а затем столь же старательно копирует знаки, соответствующие ответу. Обмен такими записками может представлять собой вполне разумную и даже интересную беседу на изысканном, так называемом мандаринском диалекте китайского языка, хотя испытуемый не имеет представления или «понимания» о предмете беседы, так что он фактически ведет себя подобно автомату. Этот воображаемый диалог отличается от обычного человеческого лишь тем, что, когда испытуемый отвечает, например, на вопрос о гастрономических достоинствах утки по-пекински, у него не начинается рефлекторное выделение слюны, поскольку он не представляет предназначение и внешний вид предмета разговора. Фактически человек в этой ситуации бездумно получает, перерабатывает и выдает информацию, выполняя одну из самых стандартных функций компьютера. Другими словами, он удовлетворяет тесту Тьюринга. Невидимый нам объект (человеческая личность или компьютер?) может говорить по-китайски без всякого участия сознания или понимания, а лишь следуя набору заданных инструкций, подобно процессору компьютера. В китайской комнате человек только говорит на каком-то языке, но вовсе не «думает».(Предлагаемый Сирлом эксперимент излишне осложняется тем, что иероглифы передают не столько фонетику, сколько смысл. На практике люди, владеющие иероглификой, но говорящие на разных языках (например, японцы и китайцы или просто жители разных провинций Китая), достаточно легко общаются «письменно». Интересно, что таким способом проще говорить об абстрактных понятиях (например, о математике), чем на бытовые темы. – Прим. перев)
Несмотря на все сложности с определением сознания и разумности, мысль о возможности создания «думающей» машины всегда оставалась заветной мечтой конструкторов ЭВМ. Сенсацией 1954 года (вызвавшей большой ажиотаж не только среди специалистов, но и среди инвесторов) стало создание устройства Персептрон, фотодетекторы которого могли различать отдельные буквы, составляющие слова текста, в качестве подлежащей переработке информации. Это стало важным этапом в развитии компьютеров, однако никто не рискнет утверждать, что Персептрон научился «читать» или «понимать» текст в действительности.
Персептрон во многом не оправдал возлагавшихся на него надежд, но с него началось интенсивное развитие целого семейства компьютеров, приведшее в конечном счете к созданию многих современных устройств, умеющих не только сканировать печатный текст и читать его вслух, но и распознавать звуки, складывать из них слова и даже частично «понимать» человеческую речь. Многие достижения в этой области впечатляют, но любой из нас, кто имел дело с любой, даже самой современной программой распознавания голоса и пытался что-то надиктовать с ее помощью, мог лично убедиться в причудливости возникающих ошибок, невольно заставляющих вспомнить мысленный эксперимент Сирла с китайской комнатой. Иногда из-за забавных и странных опечаток и ошибок возникает даже ощущение, что компьютеры обладают каким-то особым чувством юмора, однако очевидно, что они действительно не понимают смысла расшифровываемой речи и печатаемых фраз. Точность регистрации и распечатки устной речи самых лучших программ сегодня достигает 80%, однако необходимо учесть, что они пока не могут различать голоса отдельных людей.
Весьма забавный подход к проблеме и исследованию искусственного интеллекта был развит в 60-х годах станфордским психиатром Кеннетом Колби, специалистом по параноидальным расстройствам психики. Одна из созданных им компьютерных моделей (программ, имитирующих поведение отдельной личности) соответствовала параноику, страдающему манией преследования, условно именуемому Пэрри. Он играет на скачках, боится мафии и постоянно переводит разговор на эту тему, примером чего может служить приводимый ниже отрывок беседы «Пэрри» с «психиатром» (реплики компьютера набраны курсивом):
Психиатр. Вы боитесь преступного мира?
Пэрри. Мафия – самые страшные гангстеры.
Психиатр. Вы связаны с ними?
Пэрри. Видите ли, они меня знают.
Психиатр. Откуда они вас знают?
Пэрри. Они следят за мной.
Психиатр. Почему?
Пэрри. Хотят сочинить что-то обо мне, чтобы меня посадили.
Психиатр. Что они имеют против вас?
Пэрри. Они хотят со мной покончить.
Психиатр. Почему?
Пэрри. У меня есть против них кое-какие улики.
И так далее. Легко заметить, что каждый ответ Пэрри «запускается» каким-то словом предыдущего вопроса, но имеет собственную, личную и не вполне нормальную направленность. Если вы регулярно ездите в нью-йоркской электричке и привыкли краем уха слышать бесконечные и бестолковые разговоры по мобильным телефонам, то вам придет в голову, что такая программа вполне способна пройти тест Тьюринга на разумность. Пока ни одна ЭВМ не способна «выдавать себя за человека» в заочном диалоге со специалистами, однако программы постоянно совершенствуются и обрастают различными реалистическими деталями, так что можно не сомневаться, что рано или поздно такая ЭВМ будет создана.
В связи с проблемой разумности ЭВМ особо следует рассмотреть длительное и постоянно приковывающее внимание общественности соревнование между человеком и компьютером на шахматной доске. Сенсационная победа компьютера ДипБлю над чемпионом мира Гарри Кас-паровым в 1997 году (счет 2:1, при трех ничьих) вовсе не означает, что этот компьютер проскочил тест Тьюринга. Машина запрограммирована на угадывание возможных ходов противника и оценку позиции (т. е. сравнение недостатков и преимуществ построений фигур). Эти расчеты или функции весьма сложны, но они остаются всего лишь расчетами, так что мы вновь имеем дело с каким-то «китайским справочником», где даны подробные инструкции относительно конкретных ответов в конкретных ситуациях. Шахматы при таком подходе перестают быть свободным соревнованием интеллектов и изобретательности, а превращаются в состязание инструкций, записанных на непонятном языке. Компьютер вновь получает способность «говорить», а вовсе не «мыслить»! Машина ДипБлю умеет очень хорошо «говорить на шахматном языке», не задумываясь о смысле происходящего. (В качестве иллюстрации сложности проблемы следует отметить, что победа компьютера над гроссмейстером действительно еще не означает «понимания» идей шахматной игры, поскольку существуют позиции (которые правильно разыгрывают даже малоквалифицированные шахматисты), «недоступные» стратегии ЭВМ. Примеры таких позиций и анализ проблемы понимания (наряду с многими другими, затрагиваемыми выше) подробно рассматриваются в книге Р. Пенроуза «Большое, малое и человеческий разум», М., «Мир», 2004. – Прим. перев)
В более простые игры, поддающиеся более строгому расчету, машины научились играть значительно раньше: например, компьютер обыграл чемпиона мира по триктраку (нарды) еще 20 лет назад. Многие другие достижения в компьютерной технике, которые часто приводятся в качестве примеров проявления искусственного интеллекта, также являются всего лишь удачно составленными наборами инструкций, т. е. «китайскими справочниками», позволяющими «говорить без понимания». Машины прекрасно говорят на простых языках кредитных карточек (т. е. считывают номера и цифры, а также легко определяют фальшивые карты), фармацевтических рецептов (считывают названия, проверяют сроки годности лекарств и даже сверяют назначения врача с медицинскими справочниками) и т. п., но все это не делает их разумными.
Судьба самого Тьюринга, человека исключительно одаренного и одновременно очень болезненного и противоречивого, оказалась крайне трагической. Он открыто объявил себя гомосексуалистом, что не только уголовно преследовалось в послевоенной Англии, но и вызывало у спецслужб сомнения в его лояльности и благонадежности, вследствие чего он провел год за тюремной решеткой и был подвергнут принудительному «органотерапевтическому» лечению, которое должно было вернуть ему нормальную сексуальную ориентацию. К несчастью, лечение было экспериментальным и включало в себе инъекции новых, непроверенных препаратов, что привело к нарушениям психики и импотенции.