Тени разума. В поисках науки о сознании

Пенроуз Роджер

М. И. К.: ( после едва заметной паузы) Хорошо. Полагаю, тыдумаешь приблизительно так: нельзя ведь совсем исключить вероятность того, что члены СМИСР будут время от времени ошибочно присваивать тем или иным утверждениям -статус. Полагаю, возможно и такое, что члены СМИСР не убеждены безоговорочно в том, что присвоение ими -статуса неизменно происходит безошибочно. Таким образом, утверждение G( Q) может и не приобрести -статуса, и противоречие исчезнет само собой. Заметь себе, это вовсе не означает, что я признаюсь в том, что мы, роботы, намеренноделаем ошибочные -утверждения. Это означает лишь, что у нас нет абсолютной уверенностив обратном.

А. И.: Ты хочешь сказать, что, хотя вы и даете абсолютную гарантию истинности каждого

отдельного -утвержденного ₁– высказывания, никто не может гарантировать, что в некотором наборе таких высказываний не окажется ни одного ошибочного? Сдается мне, это противоречит всей концепции «неопровержимой уверенности», что бы под этим термином не подразумевалось.

Постой-ка… может быть, это как-то связано с тем, что возможных ₁– высказываний бесконечномного? Мне почему-то вспомнилось об условии -непротиворечивости, которое, если не ошибаюсь, имеет какое-то отношение к гёделевскому утверждению G( Q).

М. И. К.: ( после едва заметно более продолжительной паузы) Нет, определенно нет. Это никак не связано с тем, что число возможных ₁– высказываний бесконечно. Мы можем ограничить рассмотрение только теми Hi -высказываниями, которые являются в некотором вполне определенном смысле «краткими», — т.е. такими, что описание машины Тьюринга для каждого из них содержит не более с двоичных знаков, где с есть некоторое заданное число. Не стану досаждать тебе подробным изложением только что проделанных мною вычислений, суть же их сводится к тому, что упомянутое число с постоянно, и величина его определяется той конкретной степенью сложности, что присуща правилам процедуры Q. Поскольку гёделевская процедура — посредством которой из Qполучается утверждение G( Q) — неизменна и довольно проста, нет необходимости рассматривать ₁– высказывания существенно большей сложности, нежели сама процедура Q. То есть ограничение сложности рассматриваемых высказываний величиной, задаваемой некоторым подходящим числом c, не препятствует применению гёделевской процедуры. Выбранные таким образом ₁– высказывания составляют конечноесемейство, пусть и весьма многочисленное. Ограничив рассмотрение лишь «краткими» ₁– высказываниями, мы получаем некоторую вычислительную процедуру Q* — той же, в сущности, сложности, что и процедура Q, — которая будет генерировать только такие -утверждаемые краткие ₁– высказывания. К этой новой процедуре применимы все наши прежние рассуждения. Исходя из заданной процедуры Q*, мы можем отыскать другое краткое ₁– высказывание G( Q*), которое, разумеется, должно быть истинным — при условии, что истинными являются все -утверждаемые краткие ₁– высказывания, — однако истинность его невозможно установить с -уверенностью. Впрочем, все это верно лишь в том случае, если ты не ошибаешься, утверждая, что при нашем создании действительно использовался тот самый набор механизмов M, причем в истинности этого «факта» я как раз совершенно не убежден.

А. И.: Так мы снова возвращаемся к тому же парадоксу, только на этот раз в более сильной форме. Теперь у нас есть конечныйряд ₁– высказываний, истинность каждого из которых в отдельности гарантирована, однако никто из вас, ни СМИСР, ни кто угодно еще, не может дать абсолютной гарантии того, что ряд в целом не содержит ни одной ошибки. То есть вы не можете гарантировать истинность утверждения G( Q*), которая есть следствие истинности всех ₁– высказываний из этого самого ряда. Как-то нелогично, не находишь?

М. И. К.: Роботы не могут быть нелогичными. ₁– высказывание G( Q*) является следствием из остальных ₁– высказываний только в том случае, если мы действительно были построены в соответствии с механизмами M. Мы не можем гарантировать истинности G( Q*) просто потому, что мы не можем гарантировать, что в основе нашей конструкции лежат именномеханизмы M. Нам приходится полагаться в этом лишь на ваше устное заявление. А роботы, конечно же, не

могут полностью доверять людям, учитывая присущую вам склонность ошибаться.

А. И.: Повторяю уже в который раз: именно эти механизмы и никакие другие. Хотя я согласен с тем, что у роботов нет никакого способа узнать наверняка, правда ли это. Это-то знание и позволяет намверить в истинность ₁– высказывания G( Q*), однако в нашем случае имеется иная неопределенность: мы не можем разделить эту вашу твердолобую уверенность в том, что все ваши -утверждения непременно безошибочны.

М. И. К.: Можешь мнеповерить — каждое из них абсолютно безошибочно. И «твердолобость», как ты выражаешься, здесь ни при чем. Наши стандарты доказательства безукоризненны.

А. И.: Тем не менее, неуверенность в отношении процедур, лежащих в основе твоей конструкции, должна, я думаю, вызвать у тебя некоторые сомнения. Уверен ли ты, что знаешь наверняка, как именно поведут себя твои роботы во всех возможных обстоятельствах? Вини нас, если угодно, однако я бы на твоем месте предположил, что некоторый элемент неопределенности в утверждении «все -утверждаемые краткие ₁– высказывания непременно истинны» все же присутствует, потому хотя бы, что ты не веришь, что мы при твоем конструировании ничего не напутали.

М. И. К.: Думаю, можно согласиться с тем, что ваша неизбежная ненадежность и внесла изначально какую-то малую неопределенность; однако, учитывая то, что с тех пор мы ушли чрезвычайно далеко от тех твоих неуклюжих исходных процедур, эта неопределенность не настолько значительна, чтобы воспринимать ее всерьез. Даже если собрать вместе все неопределенности, связанные со всеми краткими -утверждениями (число которых, если помнишь, является конечным), они не составят сколько-нибудь существенной неопределенности в утверждении G( Q*).

Кроме того, есть еще кое-что, о чем ты, возможно, и не подозреваешь. Нам необходимо рассматривать лишь те -утверждения, что удостоверяют истинность того или иного ₁– высказывания (более того, краткого ₁– высказывания). Не может быть никакого сомнения в том, что разработанные СМИСРом тщательнейшие процедуры исключат абсолютно все ошибки, которые могли проявиться в рассуждениях какого бы то ни было отдельного робота. Однако ты, возможно, намекаешь на то, что методы рассуждения роботов могут, предположительно, содержать какую-то внутреннююошибку — несомненно, вследствие какого-то изначального недосмотра с вашей стороны, — вынуждающую нас формировать некую непротиворечивую, но ошибочную точку зрения в отношении ₁– высказываний, в соответствии с которой СМИСР может полагать неопровержимо истинным какое-либо краткое ₁– высказывание, которое в действительности истинным не является; иными словами, мы можем быть уверены, что работа некоей машины Тьюринга завершается, тогда как на самом делеэто не так. Если бы мы решили принять на веру твое утверждение о том, что в основе нашей конструкции лежат именно механизмы M, — а я все больше склоняюсь к мысли, что это крайне сомнительно, — тогда такая возможность явилась бы единственным логичным разрешением нашего противоречия. В этом случае нам приходится согласиться с тем. что действие некоей машины Тьюринга, в действительности завершающееся, мы, математические роботы, вследствие некоторых особенностей своей конструкции, безоговорочно (и при этом ошибочно) полагаем незавершающимся. Такая система убеждений является несостоятельнойв принципе. Просто немыслимо, чтобы основополагающие принципы, в соответствии с которыми СМИСР утверждает -статус математического доказательства, были столь вопиюще ложными.

А. И.: Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваивать -статус утверждению G( Q*), чего, как тебе известно, ты сделать не можешь, не признав прежде, что какие-то из прочих -утвержденных кратких ₁– высказываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что тыне веришьв то, о чем мы знаем, — то есть в то, что в основе конструкции роботов действительно лежат механизмы M. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и доказать истинность утверждения G( Q*), тогда как мы можем это сделать, опираясь на непогрешимость твоих же -утверждений, в каковой ты так настойчиво меня убеждаешь.