Тени разума. В поисках науки о сознании

Пенроуз Роджер

У робота нет иных причин принимать на веру любое из этих IIi-высказываний, кроме как исходя из допущения, что он построен в соответствии с набором правил M, впрочем, для доказательства ему этой веры вполне хватает. Возникающее впоследствии действительное противоречие не является математическим парадоксом (подобным парадоксу Рассела) — это самое обыкновенное противоречие, связанное с предположением, что ни одна целиком и полностью вычислительная система не может обрести подлинного математического понимания.

Вернемся к роли самоотносимости в рассуждениях §§3.19-3.21 . Называя величину cпределом сложности, допустимым для -утверждений, полагаемых безошибочными, с целью построения формальной системы Q*, я никоим образом не привношу в свое рассуждение неуместной здесь самоотносимости. Понятие «степень сложности» можно определить вполне точно, как, собственно, и обстоит дело с тем конкретным определением, которое мы использовали в наших рассуждениях, а именно: «степень сложности есть количество знаков в двоичном разложении большего из пары чисел mи n, фигурирующих в обозначении вычисления T _m( n), представляющего рассматриваемое ₁– высказывание».

Мы можем воспользоваться представленными в НРК точными спецификациями машин Тьюринга, положив, что T _mесть не что иное, как « m– я машина Тьюринга». Тогда никакой неточности в этом понятии не будет.

Проблема возможной неточности может возникнуть при решении вопроса о том, какие именно рассуждения мы будем принимать в качестве «доказательств» ₁– высказываний. Однако в данном случае некоторый недостаток формальной точности является необходимой составляющей всего рассуждения. Если потребовать, чтобы совокупность аргументов, принимаемых в качестве обоснованных доказательств ₁– высказываний, была целиком и полностью точной и формальной — читай: допускающей вычислительную проверку, — то мы снова окажемся в ситуации формальной системы, над которой грозно нависает гёделевское доказательство, явным образом демонстрируя, что любая точная формализация подобного рода не может представлять всю совокупностьаргументов, пригодных, в принципе, для установления истинности ₁– высказываний. Гёделевское доказательство показывает — к добру ли, к худу ли, — что никакимдопускающим вычислительную проверку способом невозможно охватить всеприемлемые человеком методы математического рассуждения.

Читатель, возможно, уже беспокоится, что все мои рассуждения здесь затеяны с целью получить точное определение понятия «роботово доказательство» посредством хитрого трюка с «безошибочными -утверждениями». В самом деле, при введении гёделевского рассуждения необходимым предварительным условием было как раз получение точного определения этого понятия. Возникшее же в результате противоречие просто послужило еще одним подтверждением того факта, что человеческое понимание математической истины невозможно полностью свести к процедурам, допускающим вычислительную проверку. Главной целью всех представленных рассуждений было показать, посредством reductio ad absurdum, что человеческое представление о восприятии неопровержимой истинности ₁– высказываний невозможно реализовать в рамках какой бы то ни было вычислительной системы, будь она точной или какой-либо иной. В этом нет никакого парадокса, хотя кому-то полученные выводы могут показаться весьма и весьма тревожными. Получение противоречивых выводов является вполне естественным и даже единственно возможным завершением любого доказательства, построенного на reductio ad absurdum; кажущаяся парадоксальность этих выводов служит лишь для того, чтобы полностью исключить из рассмотрения то самое предположение, с которого доказательство, собственно, и начиналось.

3.25. Сложность в математических доказательствах

Существует, однако, еще одно немаловажное соображение, о котором необходимо упомянуть. Суть его заключается в том, что, хотя количество ₁– высказываний, которые необходимо принимать в рассмотрение в рамках приведенного в §3.20 рассуждения, является конечным, нет никакого явного ограничения на объем доказательств, необходимых роботам для реализации -демонстрации истинности всех этих ₁– высказываний. Даже если ограничить степень сложности принимаемых в рассмотрение ₁– высказываний самым скромным пределом c, то все равно придется учитывать и некоторые весьма громоздкие и сложные случаи. Например, гипотезу Гольдбаха(см. §2.3 ), согласно которой каждое четное число, большее 2, является суммой двух простых чисел, можно сформулировать в виде ₁– высказывания очень небольшой степени сложности, и в то же время она представляет собой настолько сложный случай, что все попытки математиков-людей однозначно установить ее истинность до сих пор не увенчались успехом. Учитывая подобные обстоятельства, можно предположить, что если кому-то в конце концов удастся отыскать доказательство действительной истинности Гольдбахова ₁– высказывания, то это доказательство неизбежно окажется весьма и весьма сложным и изощренным. Если такое доказательство выдвинет в качестве кандидата на -утверждение один из наших роботов, то прежде, чем его таковым признают, оно непременно будет подвергнуто чрезвычайно тщательному исследованию (возможно, даже силами всего роботского общества, ответственного за присвоение -статуса). В случае гипотезы Гольдбаха нам неизвестно, является ли это ₁– высказывание действительно истинным, — а если является, то возможно ли его доказательство в рамках известных и общепринятых методов математического доказательства. Иначе говоря, это ₁– высказывание может входить в формальную систему Q*, а может и не входить.

Еще одним «неудобным» ₁– высказыванием может оказаться утверждение, устанавливающее истинность теоремы о четырех красках, — теоремы, согласно которой плоскую (или сферическую)карту «мира» можно, используя всего четыре краски, раскрасить так, чтобы любая «страна» получила собственный, отличный от соседей цвет. Теорема о четырех красках была-таки доказана в 1976 году (после 124 лет неудачных попыток) Кеннетом Аппелем и Вольфгангом Хакеном, причем доказательство потребовало использования 1200 часов компьютерного времени. Принимая во внимание то обстоятельство, что существенную часть доказательства составил впечатляющий объем компьютерных вычислений, можно предположить, что полная запись его на бумаге потребовала бы невероятного ее количества. Если же сформулировать эту теорему в виде ₁– высказывания, то степень сложности такого высказывания будет очень небольшой, хотя, наверное, все же большей, нежели степень сложности ₁– высказывания, необходимого для выражения гипотезы Гольдбаха. Если бы доказательство Аппеля—Хакена было выдвинуто одним из наших роботов в качестве кандидата на получение -статуса, то его пришлось бы проверять очень и очень тщательно. Для утверждения обоснованности каждого его отдельного фрагмента потребовалось бы участие всего сообщества элитных роботов. И все же, несмотря на сложность доказательства в целом, один лишь объем его чисто

вычислительной части вряд ли смог бы явиться сколько-нибудь серьезным затруднением для наших роботов. В конце концов, выполнение точных вычислений — это их работа.

Упомянутые ₁– высказывания вполне укладываются в пределы степени сложности, устанавливаемые любым достаточно большим значением c, — например, тем, что может быть обусловлено каким-либо правдоподобным набором механизмов M, лежащим в основе поведения наших роботов. Несомненно, найдется множество других ₁– высказываний, которые будут значительно сложнее приведенных здесь, хотя степень их сложности и не превысит величины c. Некоторые из таких ₁– высказываний окажутся, скорее всего, особенно неудоборешаемыми, а доказать некоторые из последних, в свою очередь, будет наверняка еще сложнее, чем теорему о четырех красках или даже гипотезу Гольдбаха. Любое из этих ₁– высказываний, истинность которого может быть однозначно установлена роботами (посредством демонстрации, достаточно убедительной для присвоения высказыванию -статуса и успешного преодоления им всех заграждений, установленных с целью обеспечения безошибочности получаемых роботами результатов), автоматически становится теоремой формальной системы Q*.

Кроме того, возможны и пограничные случаи, приемлемость или неприемлемость (причем грань между этими состояниями весьма тонка) которых определяется строгостью стандартов, необходимых для получения -статуса, или тем, насколько точный характер имеют меры предосторожности, установленные с целью обеспечения безошибочности утверждений, принимаемых в качестве «кирпичей» для построения формальной системы Q*. Точная формулировка системы Q* будет различной в зависимости от того, полагаем мы такое ₁– высказывание Pбезошибочным -утверждением либо нет. В обычных обстоятельствах эта разница не имеет большого значения, поскольку различные варианты системы Q*, обусловленные принятием или отклонением высказывания P, являются логически эквивалентными. Такая ситуация может возникнуть в случае ₁– высказываний, доказательства истинности которых роботы могут счесть сомнительными просто из-за их чрезмерной сложности. Если доказательство высказывания Pокажется на деле логическим следствием из других -утверждений, которые уже приняты как безошибочные, то возникнет эквивалентная система Q*, причем вне зависимости от того, принимается высказывание Pв качестве ее теоремы или нет. С другой стороны, возможны такие ₁– высказывания, которые потребуют для своего доказательства каких-то хитроумных логических процедур, выходящих за рамки любых логических следствий из тех -утверждений, которые были приняты как безошибочные ранее, при построении системы Q*. Обозначим получаемую таким образом формальную систему (до включения в нее высказывания P) через Q* ₀, а систему, образующуюся после присоединения к системе Q* ₀высказывания P, через Q* ₁. Система Q* ₁окажется неэквивалентна системе Q* ₀в том, например, случае, если высказыванием Pбудет гёделевское предположение G( Q* ₀). Однако если роботы, в соответствии с нашим допущением, способны достичь человеческого уровня математического понимания (а то и превзойти его), то они безусловно должны быть способны понять аргументацию Гёделя, так что им ничего не остается, как признать истинность гёделевского предположения для какой угодно системы Q* ₀ (присвоив ему гарантирующий безошибочность -статус), коль скоро обоснованность этой системы Q* ₀ими же -подтверждена. Таким образом, если они принимают систему Q* ₀, то они должны принять и систему Q* ₁(при условии, что степень сложности высказывания G( Q* ₀) не превышает c— а так оно и будет, если значение cвыбрано таким, каким мы выбрали его выше).

Необходимо отметить, что наличие либо отсутствие ₁– высказывания Pв формальной системе Q* никоим образом не влияет на представленные в §§3.19 и 3.20 рассуждения. Само ₁– высказывание G( Q*) принимается за истинное в любом случае, независимо от того, входит высказывание Pв систему Q* или нет.

Могут найтись и другие способы, с помощью которых роботам удастся «перескочить» через ограничения, налагаемые некоторыми ранее принятыми критериями присвоения -статуса ₁– высказываниям. В этом нет ничего «парадоксального» — до тех пор, пока роботы не попытаются применить подобное рассуждение к тем самым механизмам M, которые обусловливают их поведение, т.е. к собственно системе Q*. Возникающее в этом случае противоречие не является, строго говоря, «парадоксом», однако дает возможность посредством reductio ad absurdumпоказать, что такие механизмы существовать не могут или, по крайней мере, не могут быть познаваемыми для роботов, а следовательно, и для нас.

Отсюда мы и делаем вывод о том, что такие «роботообучающие» механизмы — восходящие, нисходящие, смешанного типа, причем в каких угодно пропорциях, и даже с добавлением случайных элементов — не могут составить познаваемую основу для построения математического робота человеческого уровня.

3.26. Разрыв вычислительных петель

Попробую осветить полученный вывод под несколько иным углом зрения. Предположим, что, пытаясь обойти налагаемые теоремой Гёделя ограничения, некто решил построить такого робота, который будет способен каким-либо образом «выскакивать из системы» всякий раз, когда управляющий им алгоритм попадет в вычислительную петлю. В конце концов именно постоянное приложение теоремы Гёделя не позволяет нам спокойно принять предположение о том, что математическое понимание можно объяснить посредством вычислительных процедур, поэтому, как мне кажется, стоит рассмотреть с этой точки зрения трудности, с которыми сталкивается любая вычислительная модель математического понимания при встрече с теоремой Гёделя.