Новый ум короля: О компьютерах, мышлении и законах физики

Пенроуз Роджер

Во-вторых, примем во внимание безжалостный процесс естественного отбора. Будем рассматривать этот процесс в свете того факта, что, как мы видели в предыдущей главе, не вся активность мозга непосредственно доступна сознанию. И действительно, более «древний» мозжечок — обладающий значительным (по сравнению с остальными частями головного мозга) превосходством в плотности нейронов — производит, по-видимому, весьма сложные действия безо всякого вмешательства со стороны сознания. Однако, природа избрала для эволюционного развития таких сознающих себя и окружающий мир существ, как мы, вместо того, чтобы удовлетвориться созданиями, которые вполне могли бы существовать при помощи абсолютно бессознательных механизмов управления. Если сознание не служит целям селекции, то зачем природа занялась созданием « сознательных» разновидностеймозга, тогда как не наделенные сознанием «мозги-автоматы», наподобие мозжечка, могли бы функционировать не менее успешно?

Более того, существует простая «основополагающая»

причина для предположения о том, что сознание должно иметь какое-тоактивное влияние, даже если его результат не является преимуществом при естественном отборе. Ибо почему еще мы (или существа, нам подобные) можем иной раз мучиться при попытке ответить на вопрос — особенно, если изучается эта тема — «о самих себе». (Мне так и хочется сказать: «Почему вы читаете эту главу?» или «Почему у меня было сильное желание написать книгу именно на эту тему?») Трудно себе представить, чтобы полностью лишенный сознания автомат стал бы тратить время на подобные вещи. А поскольку обладающие сознанием существа, с другой стороны, время от времени поступают как раз такимвот смешным образом, то их поведение отличаетсяот поведения остальных — откуда следует, что сознание все-таки производит определенноеактивное воздействие! Разумеется, не составит труда специально запрограммировать компьютер так, чтобы он вел себя столь же нелепым образом (например, он мог бы в согласии с заложенным в него алгоритмом постоянно повторять на ходу: «О Господи, ну в чем же смысл жизни? Почему я здесь нахожусь? Что такое, черт побери, это „Я“, которым я себя ощущаю?)». Но почему же естественный отбор позаботился о создании благоприятных условий именно для такой расы индивидов, когда жестокий закон джунглей наверняка давно бы выдрал с корнем подобную бесполезную ерунду!

Мне кажется очевидным, что все эти размышления и бормотание, которым мы (временно становясь философами) предаемся, не могли быть самоценными для процесса естественного отбора, а являются просто необходимым с его (естественного отбора) точки зрения «багажом», который должны нести существа, обладающиеподлинным сознанием — при том, что само оно возникло в ходе естественного отбора по совершенно другой и, вероятно, очень серьезной причине. Этот багаж не слишком обременителен, и легко (хотя, быть может, и неохотно) переносится, скорее всего, именно непреклонными силами естественного отбора. В тех случаях, когда на земле царят мир и процветание, которыми человеческий род время от времени имеет счастье наслаждаться (ибо нам не всегда приходится бороться со стихиями (или нашими соседями) за выживание) — тогда, возможно, сокровища, содержащиеся в нашем багаже, становятся предметом удивления и любопытства. Именно в такие моменты, глядя на окружающих тебя философствующих людей, всерьез убеждаешься в том, что они, как и ты, тоже обладают умом.

Что в действительности делает сознание?

Давайте согласимся с тем, что наличие у данного существа сознания является его реальным преимуществом в ходе естественного отбора. В чем конкретно может заключаться это преимущество? Я знаком с одной точкой зрения, согласно которой способность осознавать происходящее может оказаться полезной хищнику в его попытке предугадать, что его жертва будет делать в следующий момент, с помощью мысленной «постановки себя на место» этой жертвы. Воображаясебя своей жертвой, он мог бы увеличить шансы удачного исхода охоты.

Вполне может быть, что эта идея отчасти верна, но кое-что в ней меня смущает. Во-первых, здесь предполагается наличие некоторого сознания у самой жертвы, так как вряд ли имело бы смысл представлять себя автоматом, поскольку автомат — по определению, не обладающий сознанием— ни в коем случае не есть то, чем можно«быть»! В любом случае, я мог бы с таким же успехом представить себе, что совершенно не обладающий сознанием автомат-хищник имеет внутри в качестве подпрограммы последовательность действий, которая в точности соответствовала бы действиям автомата-жертвы. Мне вообще не кажется, что необходимость вводить сознание в отношения типа «хищник — жертва» может быть логическиобоснована.

Разумеется, трудно понять, как случайные процессы естественного отбора могли быть достаточно умными, чтобы дать автомату– хищнику полную копию программы жертвы. Это бы выглядело скорее как шпионаж, а не как естественный отбор! А частичнаяпрограмма (в смысле отрезка «ленты» машины Тьюринга или чего-то подобного такой ленте) вряд ли была бы достаточно полезна хищнику с точки зрения естественного отбора. Ему был бы необходим какой-нибудь завершенный фрагмент этой ленты, а лучше (хотя и менее вероятно) — вся лента целиком. Следовательно (и как некая альтернатива этому), частичная правда могла бы заключаться в том, что модель поведения «хищник — жертва» подразумевает все же наличие не компьютерной программы, но определенного элемента сознания. Однако, это, по-моему, уже не относится к настоящемувопросу

о различии между сознательным и «запрограммированным» действиями.

Суть идеи, о которой шла речь выше, по-видимому, напрямую связана с широко распространенной точкой зрения, согласно которой считается, что система может «осознавать» нечто, если в ней уже имеется модель этого объекта, и, соответственно, что она становится « самосознающей», когда она в самой себесодержит модель самой себя. Но если компьютерная программа содержит (скажем, в качестве подпрограммы) текст другой компьютерной программы, то первая при этом не может осознавать вторую, также как и не может приводить к самосознанию обращение программы к себе самой. Несмотря на подобные часто встречающиеся заявления, фундаментальные понятия самосознания и способности к осознанию в этих рассуждениях едва ли затрагиваются. Видеокамера не осознает сцены, которые она снимает; как не обладает самосознанием и видеокамера, направленная на зеркало (рис. 10.1).

Рис. 10.1.Видеокамера, направленная на зеркало, строит модель себя внутри самой себя. Становится ли она от этого самосознающей?

Я хочу пойти в другом направлении. Как мы уже знаем, не вся деятельность нашего мозга сопровождается работой сознания (в особенности, это относится к действиям, которые управляются мозжечком). А какая часть из того, что мы можем делать осознанно, не может быть сделана бессознательно? Проблема становится еще менее ясной из-за того, что все, для чего нам изначально требуется сознание, похоже, может быть со временем заучено и впоследствии выполняться уже автоматически (возможно, именно мозжечком). Кажется, что сознание требуется, чтобы справляться с ситуациями, где нам приходится высказывать новые суждения, и где правила не были заданы заранее. Трудно достичь большой точности при проведении различий между теми видами умственной деятельности, которые, по-видимому, требуют подключения сознания, и теми, которые нет. Сторонники « сильного» ИИ(да и многие другие) будут настаивать на том, что «формирование новых суждений» — это не более, чем повторное применение ряда точно сформулированных алгоритмических правил — только теперь на некоем полумистическом «высоком уровне», так, что их действия нами при этом не осознаются. Однако, как мне кажется, даже в нашем обиходном лексиконе есть такие термины — используемые нами в повседневной жизни для разделения умственной деятельности на осознанную и бессознательную — которые уже сами по себе могут по меньшей мере навести на мысльо различиях между действиями неалгоритмической и алгоритмической природы:

Сознание требуется: «здравый смысл», «суждение об истинности» «понимание», «художественная оценка»;

Сознание не требуется: «автоматизм», «бездумное следование правилам», «программа», «алгоритмичность».

Возможно, эти различия не всегда достаточно четко очерчены хотя бы потому, что в наши сознательные суждения входит немало неосознанныхфакторов: опыт, интуиция, предрассудки, даже наше привычное использование логики. Но я утверждаю, что сами по себе суждения — это проявления работы сознания. Поэтому я полагаю, что, тогда как бессознательные действия мозга происходят в соответствии с алгоритмическими процессами, действие сознания имеет совершенно иную природу, и потому не может быть описано никаким алгоритмом.

Есть некая ирония в том, что многое из того, что я излагаю здесь, является полной противоположностью по отношению к некоторым другим точкам зрения, которые мне приходится довольно часто слышать. Например, утверждают, что именно сознательный ум«рационален» и доступен пониманию; тогда как бессознательные действия нередко загадочны и труднообъяснимы. Те, кто работает с искусственным интеллектом, часто считают, что как только мы сможем понять ход осознанной мысли, то можно сразу же будет придумать соответствующий алгоритм для его компьютерной реализации; а вот таинственные бессознательные процессы нашему пониманию (пока!) не доступны. В моем представлении эти процессы вполне могут быть алгоритмическими, но при этом настолько сложными, что их детальный анализ практически невозможен. Четко осознаваемый ход мысли, который может быть разумно объяснен как нечто полностью логичное, в свою очередь может быть (зачастую) переведен на язык алгоритмов — но на совершенно ином уровне. Мы сейчас говорим не о внутренних процессах (возбуждении нейронов и т. п.), а о манипулировании законченными мыслями. Иногда оно носит алгоритмический характер (как в случае традиционной логики: древнегреческих силлогизмов, формализованных Аристотелем; или символьной логики, разработанной математиком Джорджем Булем; см. Гарднер [1958]); а иногда — неалгоритмический (как в случае с теоремой Геделя или некоторыми примерами, приведенными в главе 4). А как реализовать на компьютере формирование суждений, которое я рассматриваю как критерий наличия сознания, — об этомразработчики ИИне имеют даже ни малейшего представления!