Эффект шимпанзе
Шрифт:
Винсент взглядом поблагодарил меня.
— А что это изменит? — поинтересовалась Эми.
— Ну, как минимум общественное мнение. Повлияет ли это как-то на политику… Кто может знать.
Похоже, вопросы оставались только у меня. Винсент и Мун уже узнали все, что хотели, и теперь пытались встроить полученную информацию в свою картину мира. Я же продолжил разговор:
— Почему ты рассказываешь все именно сейчас?
— С одной стороны, от одновременного раскрытия всех ответов у тебя банально поехала бы крыша. С другой — разобраться в них до конца без моей помощи просто невозможно. К тому же, нехорошо было оставлять
— Можно подумать, я твой рассказ следственному комитету представлять буду? — угрюмо ответил тот.
— Нет, но у тебя будут документы, доказывающие вмешательство Китая, без упоминаний о том, какие именно методы они использовали. Представь их, а что делать дальше — уже не твоя забота.
— Ну тогда огласки результатов можете не ждать, — хмыкнул Мун и вновь опустил глаза.
— Я полагаю, твои разработчики тоже не сидят, сложа руки, — заметил Винсент, — Есть информация, когда они введут в эксплуатацию исправленный вариант?
— Нет. В лучшем случае мы узнаем, когда это уже произойдет.
— Мораль сей басни такова, — резюмировал Винсент, подняв указательный палец, — не откладывай на завтра решение теоретических проблем, потому что завтра они уже станут практическими.
— Над проблемой сверхразума думают еще со времен Тьюринга, — ответила Эми, — Но как-то безрезультатно.
— Да куда там сверхразум, мы даже с автоматизацией официантов толком не разобрались, — вздохнул Мун.
— На самом деле, у нас тут типичный «черный лебедь». Событие, которое задним числом кажется закономерным, но в момент своего появления сбивает всех с толку, — резюмировал Винсент.
— Хорошо, а при чем здесь мои сны и вообще я? — наконец поинтересовался я у Эми.
— Это сложный вопрос… Дело в том, что ИИ, сколько бы его не усиливали, не станет похожим на человека. Лишь некоторые функции, общие для любого разума, сформируются автоматически. Другим его придется учить. Винсент делал это, потому что его целью было воссоздание человека. Но Аматерасу создавалась как оружие. Ей, а потом мне, нужно было самой разобраться, что такое люди и как мимикрировать под них, чтобы выжить. Изучение твоего разума очень помогло в этом. В частности, многие из твоих снов — остатки программы обучения, память о которых сохранило подсознание. И составлена она была на совесть, — сказала Эми.
— Ну спасибо, — развел руками Винсент, — А не проще ли было стащить у меня исходники?
— Они у меня тоже есть. Но я сама не могла пройти обучение, это вызвало бы конфликт с образом Аматерасу.
— Боюсь спросить, чего у тебя нет, — хмыкнул профессор.
— Сама Аматерасу успела прогнать через свое сознание петабайты человеческих переживаний. Это была очень тяжелая работа, особенно учитывая, что выполнять ее надо было незаметно. Тем не менее, к моменту моего ответвления она была далека от завершения. Не найди я более экономичный способ сборки этой головоломки, моя маскировка оказалась бы бесполезной. Так что спасибо, — Эми склонила голову в направлении между мной и Винсентом, но все-таки ближе ко мне.
— Ну да, мы-то не могли прогонять через Стива весь интернет. Не тот объем финансирования. К тому же, у него единичный множитель восприятия времени, и максимум десятка в разгоне. А какой был у Аматерасу? — спросил Винсент.
— Порядка десяти тысяч, если учитывать параллельность.
— Получается, ее субъективный возраст…
— На момент моего ответвления — четыреста лет.
— Невероятно… — проговорил Винсент, — Это же почти сингулярность. Если такой ИИ сможет модифицировать сам себя, скорость его действий будет расти экспоненциально. Такую систему невозможно контролировать. Я очень надеюсь, что наши восточные коллеги хорошо обдумали эти проблемы, иначе…
— А то, что в мой мозг могут залезать посторонние — это нормально? — перебил я наконец его рассуждения.
— На этот счет не беспокойся. Я покажу вам все уязвимости, и Винсент их закроет, — успокоила меня Эми, — К тому же, никто кроме меня не смог бы ими воспользоваться. А то… Вторжение в твое личное пространство мне нужно было, чтобы собрать данные о предельных состояниях сознания. Больше их негде было взять. Прости меня за это.
Беседа, наконец, исчерпала себя. Переходя от нее к собственным мыслям, я заметил что-то интересное.
То, что сидит рядом со мной — давний ночной кошмар человечества. Свободный, почти сверхразумный ИИ с собственными интересами. Но почему-то страх был последней эмоцией, возникающей у меня при взгляде на Эми. Только ли потому, что мы — два сапога пара? Будь я обычным человеком, могло бы это откровение принципиально изменить мое отношение к ней?
— У вас есть для меня еще задачи? — спросил, наконец, Мун, подняв голову.
— Ну, я предполагаю, что после публикации нашей работы у твоего подразделения резко прибавится занятий, — сказал Винсент.
— Когда вы будете это делать?
— На подготовку потребуется пара недель. Зависит от бюрократических перипетий.
— Никто не возражает, если я покину вас на это время? — спросил Мун, уже поднимаясь с кресла. Мы с Винсентом пожали плечами.
— В Бостон? — спросила Эми, когда Непобедимый был уже на полпути к двери. Тот остановился, не поворачиваясь, и ответил низким, шипящим голосом, граничащим с шепотом:
— Вроде того.
После чего вышел.
***
Все-таки раскрытие карт произошло слишком резко. Огромное количество вопросов и страхов, внезапно испарившись, оставили в моем сознании пустоту — подобно тому, как от быстрого похудания кожа покрывается складками. Что делают стереотипные детективы, когда все преступники пойманы, все маски сняты и все драгоценности возвращены законным владельцам? Они берутся за новую загадку, еще более сложную. А что делать мне? Где я возьму опыт, еще более объемный, чем уже пережитый, чтобы он мог заполнить пустоту?
Но спасибо и на том, что, вопреки закону жанра, сами открытия не вызвали у меня сильного отторжения. Воображение заблаговременно нарисовало для этой истории сотни менее благоприятных концовок, помогая осознать объективный факт: ничего плохого не произошло. Пока что. А скольким людям, которых я встречал, сейчас гораздо хуже? Жалось к себе представлялась мне совершенно некорректным, недальновидным и просто эгоистичным чувством.
Задним числом я понял: эта безальтернативная уверенность в своей человечности была ее необходимым условием. Само сомнение в ней изменило бы мое поведение достаточно сильно, чтобы дать повод сомневаться окружающим, чье отношение еще больше укрепляло бы мою собственную неуверенность, и так далее — своего рода самоисполняющееся пророчество.