Большое, малое и человеческий разум

Пенроуз Роджер

D — Сознание не может быть объяснено с использованием каких-либо физических, вычислительных или других научных методов или понятий

В первом подходе (А), который иногда называют сильным принципом искусственного интеллекта или (вычислительным) функционализмом, принято считать, что всякое мышление сводится просто к некоторым вычислительным операциям и, следовательно, правильно выполняя такие вычисления, мы получим в качестве результата способность к осознанию и восприятию.

В соответствии со второй точкой зрения (В) можно (по крайней мере, в принципе) моделировать ту часть работы мозга, которая относится к восприятию. Разница между подходами А и В заключается в том,

что во втором случае речь идет лишь о частичном простом моделировании некоторых процессов в мозгу, а не о реальных чувствах и реальном восприятии (эти понятия в подходе B могут быть соотнесены с физическим строением мыслящего объекта). Таким образом, как бы принимается, что мозг создан из нейронов и сам может осознавать процесс восприятия, а моделирование этого процесса исключает именно процесс осознания мозгом своей деятельности. Насколько я могу судить, эту точку зрения активно развивал и поддерживал в своих работах Джон Сирл.

Сам я придерживаюсь точки зрения С, в соответствии с которой (как и в В) восприятие и сознание в какой-то степени связаны с физической активностью мозга (т. е. с какими-то физическими процессами), однако (что очень существенно для подхода С!) эти процессы не могут быть смоделированы никакой вычислительной процедурой. Я хочу сказать, что соответствующие физические процессы в мозгу принципиально не поддаются моделированию.

И наконец, всегда существуют сторонники подхода D, которые уверены, что ошибкой является сама попытка научного описания этих процессов и, возможно, восприятие и сознание вообще не могут быть объяснены с научной точки зрения.

Выше я уже говорил, что лично являюсь убежденным сторонником подхода С, однако должен сразу пояснить, что он имеет много вариантов, из которых следует прежде всего выделить так называемые слабое и сильное С-утверждение. Слабое С-утверждение подразумевает, что рано или поздно проблема будет изучена достаточно подробно, в результате чего в задаче удастся выявить те типы действий, которые сейчас находятся вне, «по ту сторону» вычислений. Говоря об областях «вне моделирования», мне следует несколько уточнить свою мысль, что я попытаюсь сейчас сделать. Согласно слабому С-утверждению все «невычислимые» операции могут быть найдены в пределах известных физических законов. Сильное С-утверждение гласит, что препятствием является существование непознанных физических законов, т. е. наше понимание физики пока просто-напросто не соответствует сложности, требуемой для описания процессов сознания. Я полностью согласен с такой оценкой и в гл. 2 уже уделил много внимания именно неполноте существующей физической картины мира (в этой связи я рекомендую читателю еще раз взглянуть на рис. 2.17). Короче говоря, сильное С-утверждение связывает невозможность объяснения природы сознания с недостаточным уровнем науки и позволяет нам надеяться, что эту проблему удастся решить в будущем.

Поскольку я упомянул рис. 2.17, позвольте вернуться к нему и дать некоторые дополнительные пояснения. В частности, я бы хотел обсудить используемый на рисунке термин вычислимость. На квантовом уровне рассмотрения все физические процессы выглядят полностью вычислимыми. Похоже, что вычислимость сохраняется и на классическом уровне, хотя здесь у нас, конечно, могут возникнуть технические проблемы, связанные с переходом от дискретных систем к непрерывным. Эти проблемы кажутся мне непринципиальными, и я не буду их рассматривать, хотя сторонникам слабого С-утверждения следовало бы внимательно изучить возникающие при таком переходе неопределенности, поскольку в них может обнаружиться то, что невозможно описать и объяснить в рамках вычислительных подходов и понятий.

Для перехода от квантового уровня к классическому обычно используется процедура, обозначенная мною R, которая является полностью вероятностным действием, вследствие чего мы должны каким-то образом объединить вычислимость со случайностью и произвольностью. Я собираюсь дальше продемонстрировать, что весь этот подход недостаточно обоснован, и для объединения указанных уровней рассмотрения нам нужна совершенно другая, новая теория, которая должна быть «невычислительной». Именно поэтому позднее я еще вернусь к проблеме определения вычислимости.

Таким образом, моя версия сильного С-утверждения выглядит следующим образом: мы должны искать в физике «невычислимость», позволяющую связать квантовый и классический уровни описания. Конечно, такая постановка вопроса представляется чрезвычайно сложной и трудной, ведь я говорю о необходимости построения не просто новой физики, а физики, относящейся к описанию работы мозга.

Прежде всего давайте подумаем о том, насколько

вообще правдоподобно или вероятно существование чего-то невычислимого в нашем понимании. Позвольте мне привести в качестве примера очень простую и симпатичную шахматную задачу. Вы знаете, что компьютеры уже неплохо играют в шахматы. Однако самый мощный современный шахматный компьютер «ДипСот», решая приведенную на рис. 3.5 задачу, начинает делать очень глупые ходы. Легко видеть, что в этой позиции черные имеют огромное материальное преимущество (две лишние ладьи и слона), которое, однако, не имеет никакого значения для исхода партии, поскольку белые пешки «намертво» блокируют черные фигуры. Пока белый король спокойно «бродит» за барьером из своих пешек, белые просто не могут проиграть. Однако компьютер «ДипСот» первым же ходом за белых взял черную ладью, после чего положение белых стало безнадежным. Причина, конечно, состоит в том, что компьютер запрограммирован на действие (ход за ходом) до некоторой глубины расчета, после чего он вновь начинает считать пешки и т. п. В принципе приведенный пример не очень удачен, так как если бы компьютер мог считать на очень много ходов вперед, он не ошибся бы (в конце концов, шахматы относятся именно к «вычислимым» играм). Однако заметьте, что человек-шахматист практически сразу видит барьер из пешек, понимает его непроницаемость и значение, после чего легко находит стратегию игры. Компьютер не обладает таким общим «пониманием» и начинает просто рассчитывать ход за ходом. Этот пример демонстрирует огромную разницу между простым вычислением и способностью к пониманию.

Рис. 3.5. Белые начинают и добиваются ничьей.

Человек легко решает эту задачу, но компьютер «ДипСот» первым же ходом бьет ладью черных! (задача Вильяма Харстона из статьи Джейн Сермор и Дэвида Норвуда в журнале New Scientist, № 1889, с. 23, 1993).

Разумеется, вы можете обучить ЭВМ использованию пешечного барьера, но проблема имеет более сложный и глубокий характер. В еще одном шахматном примере (рис. 3.6) белым следует поставить слона на b4 и, используя его вместо пешки, вновь создать непреодолимый пешечный барьер (вместо весьма заманчивого, но безнадежного взятия черной ладьи на а5). Задача очень похожа на предыдущую, но компьютер (даже если он умеет создавать пешечный барьер) опять начинает ошибаться, поскольку эта задача требует значительно более высокого уровня понимания. Вы можете возразить, что при желании в программу можно ввести все уровни понимания, и вы были бы правы, если бы рассмотрение относилось только к шахматным задачам. Повторю, что шахматы относятся к «вычислимым» играм, поэтому при достаточно мощном компьютере и хорошей программе можно (по крайней мере, в принципе) рассчитать до конца все вероятности. Пока это никому не удалось проделать, однако нас устроит и принципиальная возможность получения такого решения в будущем. Тем не менее, я надеюсь, вы почувствовали, что в термине «понимание» содержится нечто, не сводящееся к прямому расчету. Совершенно определенно можно сказать, что человеческий подход к решению даже таких простых шахматных задач существенно отличается от компьютерного.

Рис. 3.6. Белые начинают и добиваются ничьей.

Человек легко решает и эту задачу, а шахматный компьютер вновь ошибается и первым ходом бьет слоном черную ладью (тест Тьюринга, рассматриваемый в цитированной статье Вильяма Харстона и Дэвида Норвуда).

Можно ли привести еще более сильные доводы в пользу того, что наше понимание содержит в себе нечто большее, чем набор вычислительных операций? Мне не хочется тратить слишком много времени на доказательство этого утверждения, однако это настолько важно для всей моей концепции, что я приведу еще в качестве примера несколько чисто математических задач. Читателю, заинтересовавшемуся проблемой связи мышления и вычислительных операций, я рекомендую прочитать мою книгу «Тени разума», где первые 200 страниц посвящены детальному и всестороннему обзору аргументации сторон в многочисленных дискуссиях по этому поводу.

Давайте поговорим о вычислениях чуть подробнее. Вычислениями я называю то, что делают вычислительные машины. Реальные компьютеры имеют ограниченную память, но я буду рассматривать работу идеального компьютера (так называемой машины Тьюринга), который отличается от обычных компьютеров неограниченным объемом памяти и способностью осуществлять совершенно безошибочные вычисления сколь угодно долго, практически вечно. Рассмотрим конкретную вычислительную задачу, связанную с арифметическими и логическими операциями: