Выбор по Тьюрингу
Шрифт:
Такое зондирование, во всяком случае, намного ускоряло его работу. Немного привыкнув, Брайан стал все больше и больше размышлять над проблемами, которые все еще возникали в работе искусственного интеллекта. Над разнообразными дефектами, которые приводили к сбоям, в результате чего машина начинала откалывать всевозможные коленца.
– Брайан, ты меня слышишь?
– Что?
– Здравствуйте! Я тебя уже третий раз спрашиваю об одном и том же. Замечтался?
– Прошу прощения. Просто все это совершенно непостижимо, и в моих заметках нет ничего такого, что помогло бы мне разобраться. Надо бы, чтобы часть моего мозга следила сама за собой, а остальная часть об этом не знала. Что-то
– Звучит совсем по-фрейдистски.
– Простите?
– Напоминает теории Зигмунда Фрейда.
– Что-то я не помню, чтобы такая фамилия попадалась мне в литературе по искусственному интеллекту.
– Нетрудно понять почему. Это был психиатр, он работал в 90-х годах XIX века, когда еще не было никаких компьютеров. Когда он впервые выдвинул теорию, что сознание состоит из нескольких разных систем, он дал им имена – «ид», «эго», «суперэго», «цензор» и так далее. Предполагается, что подсознательно каждый нормальный человек постоянно испытывает всевозможные конфликты, сталкивается с противоречиями и несовместимыми целями. Вот почему я подумала, что тебе может что-нибудь прийти в голову, если ты займешься фрейдовской теорией сознания.
– Звучит заманчиво. Давайте сделаем это прямо сейчас – загрузите все эти теории Фрейда мне в память.
Доктора Снэрсбрук это немного обеспокоило. Она все еще рассматривала пользование вживленным компьютером как эксперимент, хотя для Брайана это уже стало привычным образом жизни. Теперь ему больше не приходилось корпеть над печатными страницами – достаточно было загрузить что угодно в память, а разбираться потом.
К себе он возвращаться не стал, а ходил взад и вперед по комнате, мысленно углубляясь то в одну, то в другую часть учебника, сопоставляя их, усваивая новые ассоциации. В конце концов он воскликнул вслух:
– Да это же то, что надо! В самом деле, такая теория идеально подходит к моей проблеме. «Суперэго» – это, по-видимому, механизм целеполагания, который появился после возникшего раньше механизма импринтинга. Ну, знаете, того механизма, который открыл Конрад Лоренц, – благодаря ему детеныши многих животных держатся вблизи источника заботы и защиты. Так у ребенка появляется сравнительно постоянная, стабильная система целей. После того как ребенок включает в нее образ матери или отца, такая структура может оставаться в его сознании всю жизнь. Но как бы ввести такое «суперэго» в мой искусственный интеллект? Смотрите: это можно было бы сделать, если загрузить достаточную часть моей собственной подсознательной системы ценностей. А почему бы и нет? Активировать все мои К-линии и немы, идентифицировать и записать все связанные с ними эмоции. Потом использовать эти данные, чтобы построить модель моего сознательного самоощущения. А потом добавить сюда мой идеал – то, к чему «суперэго» велит мне стремиться. Если удастся загрузить и это, мы далеко продвинемся к стабилизации нашего машинного интеллекта и управлению им.
– Давай попробуем, – сказала доктор Снэрсбрук. – Пусть никто еще не доказал, что все это существует на самом деле. Мы просто предположим, что у тебя в голове все это есть. И возможно, окажемся первыми, кто сможет это обнаружить. Смотри, ведь мы вот уже столько месяцев разыскиваем и восстанавливаем твою матрицу памяти и мышления. А теперь мы можем сделать следующий шаг – только назад во времени, а не вперед. Мы можем попробовать проследить нити, ведущие из твоего детства, и посмотреть, не найдутся ли такие немы или связанные с ними воспоминания, которые будут соответствовать самым ранним твоим системам ценностей.
– И вы думаете, что сможете это сделать?
– Не вижу причин, почему бы нет – разве что того, что мы ищем, вообще не существует. Во всяком случае, по ходу дела мы, вероятно, сможем локализовать еще несколько сотен тысяч прежних К-линий и немов. Но нужно действовать осторожно. С доступом к таким глубоко погребенным эмоциям может быть связана серьезная опасность. Я хочу сначала попробовать это на внешнем компьютере, а твою внутреннюю машину на время отключу. Таким способом мы сможем зафиксировать структуры, которые будут обнаружены, вне мозга – возможно, с их помощью удастся усовершенствовать Робина. А тебя такие эксперименты не затронут, пока мы не почувствуем себя увереннее.
– Ну что ж, я готов попробовать.
Глава 25
31 мая 2024 года
– Брайан Дилени, уж не проработали ли вы здесь всю ночь? Когда я вчера вечером уходила, вы обещали, что задержитесь всего на несколько минут. А это было в десять часов.
С этими словами в лабораторию вошла рассерженная Шелли.
Брайан потер рукой предательскую щетину и заморгал покрасневшими от усталости виноватыми глазами.
– Почему вы так думаете? – попробовал он увильнуть от ответа.
Ноздри у Шелли сердито раздулись.
– Ну, для этого более чем достаточно на вас посмотреть. Вид у вас ужасный. Кроме того, я попробовала вам позвонить, но ответа не было. Как вы можете понять, я забеспокоилась.
Брайан схватился за ремень, где у него обычно висел телефон, но не обнаружил его.
– Наверное, положил куда-нибудь. Я не слышал звонка.
Она взяла свой телефон и одним нажатием кнопки памяти набрала его номер. Где-то вдалеке послышалось жужжание. Поглядев в ту сторону, Шелли увидела, что телефон лежит около кофеварки. Она молча протянула аппарат ему.
– Спасибо.
– От вас просто нельзя отходить ни на минуту. Мне пришлось идти разыскивать ваших телохранителей – они и сказали мне, что вы все еще здесь.
– Предатели, – пробормотал он.
– Они так же заботятся о вас, как и я. Нет таких важных дел, чтобы из-за них стоило рисковать здоровьем.
– Есть, Шелли, в этом-то все и дело. Помните, когда вы уходили вчера вечером, мы бились с программой-координатором? Что бы мы ни делали, система норовила свернуться в клубок и умереть. Поэтому я начал с простой задачи – сортировки кубиков по цвету. Потом усложнил ее, предложив разноцветные кубики разной формы. А когда я через некоторое время посмотрел, программа-координатор все еще работала, но все остальные, видимо, отключились. Тогда я решил записать, что произойдет, когда я снова все запущу, и на этот раз ввел языковую программу, которая записывала все команды, поступавшие от координатора в остальные блоки. Теперь он стал работать медленнее, и я наконец понял, что происходит. Вот, смотрите сами.
Он поставил запись, сделанную ночью. На экране показался робот, быстро сортирующий разноцветные кубики, потом он стал работать медленнее, еще медленнее и наконец совсем остановился. Из динамика слышался глубокий бас Робина-3:
– …К-линия 8997, выдай ответ на входной сигнал 10983… время реакции слишком велико… отвечай немедленно… блокирую. Задаю подпроблему 384. Принят ответ от К-4093. Блокирую замедленные ответы от К-3274 и К-2314. Задаю подпроблему 385. Ответы от К-2615 и К-1488 противоречат друг другу – блокирую обоих. Задаю…