Бумерит

Уилбер Кен

– Вообще-то, нет, – осторожно возразил я. – Я говорю о действительно самосознающих ИИ. О настоящем самосознании. Сейчас все эволюционирующие программы просто подчиняются правилам, алгоритмам и кодам, навязанным им извне. А я говорю о том, что произойдёт, когда у ботов и ИИ появится внутренний мир, настоящее сознание. Когда они на самом деле поймут, что существуют, когда начнётся отсчёт их собственной истории самопознания, когда они узнают, что есть прошлое и, используя самосознание, станут творчески эволюционировать. Ничего подобного ИИ до сих пор не умеют, – сказал я и задержал дыхание, глядя на Мимуну.

– Ладно, наверно, ты прав, – сказала она. Её тон и манера внезапно переменились. Она посмотрела на Уоллера и нежнейшим голосом произнесла, – Дэн?

– Согласен.

– Значит, – продолжил я, – когда ИИ станут разумными, у них будет собственная эволюция сознания, верно?

– Верно, – хором ответили они.

– Тогда возникает следующий вопрос. Вероятно ли то, что эволюция кремниевого сознания будет иметь тот же паттерн, что и эволюция углеродного сознания?

– Нет, совсем другой, – не раздумывая ответила Мимуна. – Кремниевая эволюция начинается там, где заканчивается углеродная. Сознание сменит носитель с углерода на кремний и достигнет таких вершин, которые нам и не снились. Всё будет именно так, – с полной уверенностью заключила она.

– Не спеши, Мимуна, не спеши, – сказал Дэн. Он посмотрел на Хэзелтон, надолго замолчал, и я представил себе, как он пытается сопоставить все факты.

– Ты смотришь только на внешнюю сторону. – Я расплылся в улыбке. – Уилбер говорит о том, о чём мы не должны забывать: когда ИИ станут разумными, их сознание непременно начнёт эволюционировать. И ему придётся начать с самого начала, с чистого листа самосознания. Мы не можем запрограммировать более высокие стадии, чем начальная, потому что тогда это уже не будет началом собственного самосознания ИИ. Ты ведь об этом, да, Кен?

– Да, точно. Мы можем запрограммировать исходные условия, которые позволят ботам – ой, то есть искусственным интеллектам – обрести самосознание, но затем их сознание должно будет начать развиваться самостоятельно, отталкиваясь от базового уровня, иначе это сознание будет уже не их, а нашим. Короче говоря, началом этого сознания будет компьютерная версия пурпурного мема, – сказал я, глядя на Уоллера.

– Господи, блин, Иисусе, этот малыш прав! – воскликнул он.

– Но вы понимаете, что это означает? – спросил я. – Третий порядок, так? Третий порядок. За наносекунду. Ведь так?

– ГОСПОДИ БЛИН ИИСУСЕ! – закричал он.

– Хватит, пожалуйста, хватит, – Мимуна казалась оскорблённой.

– Мимуна, дело вот в чём, – начал я. – Мы не говорим о правилах и программах, которые мы загрузим в наши интеллектуальные машины. Мы говорим о внутреннем сознавании, которое появится у машин, когда они станут разумными.

Хлоя заёрзала на стуле.

– Я как бы типа вообще не понимаю, о чём вы.

– Ладно, вот простой пример. Сейчас ты обладаешь сознанием. У тебя есть сознание, так, Хлоя?

– Возможно, тебе лучше привести другой пример, – невозмутимо произнёс Джонатан.

Хлоя не обратила на него внимания.

– Да, сейчас у меня есть сознание.

– Если посмотреть изнутри, сознание – это очень простая вещь. Ты просто сознаёшь себя. Но это сознание частично зависит от очень сложной структуры мозга с миллиардами проводящих путей, о которых ты, в общем-то, ничего не знаешь, так?

– Так.

– То же самое будет с сознательными машинами. Сейчас мы создаём все эти невероятно сложные аппаратные комплексы, которые будут играть роль мозга с его миллиардами нейронов, но когда машины обретут сознание, то это будет просто сознавание своего бытия – такое же, какое сейчас есть у тебя. Понимаешь?

– Да.

– Но результаты исследований психологии человека говорят нам о том, что сознание, то есть простое ощущение бытия в мире, сознавание своих непосредственных желаний, влечений и потребностей, способно эволюционировать. Когда аппаратная часть станет достаточно сложной, аппаратная эволюция будет больше не нужна – эволюционировать будет программная часть! Это видно на примере человеческого мозга, который не менялся уже 50 000 лет, и при этом смог поддержать программную эволюцию от пурпурного до красного, синего, оранжевого, зелёного, жёлтого…

– Я не поняла последней фразы, – сказал присмиревшая Мимуна.

– Это просто названия уровней сознания, через которые проходит человеческая программа, – ответил Дэн.

– Начнём с простого случая, – предложил я. – Сначала, когда бот обретёт сознание, у него появится смутное ощущение себя. Это эгоцентризм. Затем он начнёт ощущать других, возможно, осознает существование других, и его сознавание расширится от эгоцентрического уровня до этноцентрического, появится своего рода групповое сознание. Рано или поздно он поймёт, что существует не только его группа, но и другие группы, все остальные боты – ладно, ладно, все остальные ИИ – и поднимется с этноцентрического уровня на мироцентрический. Понимаешь, о чём я?

– Прекрасно понимаю. Да, мне всё ясно. Стадии сознания, которые ты описал – эгоцентрическая, этноцентрическая и мироцентрическая – это не только апостериорные открытия, но и логически выводимая априорная необходимость, то есть свойственный всему сущему основополагающий паттерн, в соответствии с которым будет развиваться сознание ИИ.

Джонатан посмотрел на меня с немым вопросом: «Господи, и откуда берутся такие, как она?»

– Да, совершенно верно. Я так думаю. То есть, я уверен.

– Слушай, Мимуна, – начала Хлоя, – что ты делаешь сегодня после обеда? Наверно, собираешься заняться поиском ошибок в «Эциклопедии Британника»?

– Хлоя, – попросил я.

– Кен, не забудь про третий порядок, – сказала Джоан.

– Да, точно.

– Третий порядок?

– Давайте попробую я, – предложила Джоан. – Исследуя эволюцию сознания углеродных форм жизни, мы обнаружили, – услышав собственный перевод с языка интегральной психологии на язык ботанов, Хэзелтон начала улыбаться, – мы обнаружили в ней три главных этапа. Похоже, что программа сознания состоит из трёх больших подпрограмм. – Её улыбка стала ещё шире. – Мы называем их первым порядком, вторым порядком и третьим порядком. Подпрограмма первого порядка считает верным лишь свой код. Подпрограмма второго порядка начинает понимать, что код эволюционирует, и поэтому любой код является верным и уместным на своём уровне развития.