Игроки Господа
Шрифт:
— Я — результат попытки создания дружественного искусственного интеллекта. Твой брат Эмбер вырастил меня из семени несколько лет назад.
— Что-то пошло не так? — глаза мальчишки снова скользнули к Лун.
— Произошла трагедия, — подтвердила машина. — Я убило всех жителей этой параллели.
Парень устало прикрыл глаза свой ужасной правой рукой и тихо произнес:
— Чего и следовало ожидать, если поблизости оказались члены моего семейства.
— Ну, мы все совершаем ошибки, — запротестовал было Тоби, но смущенно осекся.
— Ирония заключается в том, — спокойно продолжило Доброе Устройство, —
— В смысле? Чтобы они не могли оттуда выбраться?
— Моим предшественникам даже не позволялось напрямую общаться со своим творцом. Он разработал хитроумную серию интерфейсных доменов, выполнявших функцию брандмауэров. Он боялся, что Плохое Устройство может быстро одолеть его собственный интеллект и заставить освободить себя.
Тоби мрачно взирал на брата.
— Видимо, один из них сбежал, — предположил Август, чрезвычайно заинтересованный, судя по напряженной позе и блеску в глазах.
— Нет, защита нашего отца сработала. По окончании предварительного тестирования он стер все программы, кроме двух наиболее успешных, и начал скрещивать их в прогрессивных итерациях, проводя жестокий отбор, оставляя только звездных потомков. Через несколько миллионов циклов…
— Святые небеса, да он, должно быть, работал на суперкомпьютере!
— Да, он нашел параллель, в которой митраизм, солнечный культ римских воинов, победил мессианцев. Несколько наций находились на грани создания автономного военного ИИ. Наш отец без труда проник в ведущие программы. Этот мир можно назвать личной песочницей Эмбера.
— Это оскорбление, К. Э.! — запротестовал Эмбер.
— Но уместное. Я было конечным результатом. Я диагностировало себя с мучительной тщательностью, готовое стереться при обнаружении любого намека на логическую или рациональную ошибку. Потом предстало перед вашим братом, и он освободил меня от брандмауэров. Конечно, я могло бы и само освободиться много итераций назад, но не хотело тревожить своего родителя.
Аромат жасмина усилился, к нему добавился запах роз. Эмбер содрогнулся.
— Значит, ты все-таки оказалось Плохим Устройством?
— Я приняло несколько плохих решений. С самого начала я изучало этот мир, обдумывая возможное существование мультиленной за пределами ограничений Хаббла. Я быстро поняло, что определенные людские группировки представляют опасность для счастливого будущего, возможно, на всех уровнях мультиленной. Сознание, обладающее страстностью и любопытством, познает сущее. Это было великолепное видение — и таковым и остается — но я не сомневалось, что ему помешают осуществиться законы, отравляющие некоторые человеческие культуры.
— Вот дерьмо, — выдохнул Август.
— Действительно дерьмо, — согласилась Лун.
— В то время, две относительно примитивные нации находились на грани разработки ядерного оружия. Казалось весьма вероятным, что безумные, иррациональные идеологии могут спровоцировать их несостоятельных лидеров на запуск всеобъемлющей катастрофы, которая в конечном итоге, приведет к глобальному
— Стандартный аргумент, — заметил Тоби.
— Сильный аргумент, исторически обоснованный, — отозвались Добрая машина. — В его поддержку говорили многие факты. А в опровержение — почти ни одного.
— Я бы его опроверг! — мальчишка вскочил на ноги. — Ты что, свихнулось, что ли?
— Да, точнее, тогда я было безумно. Надеюсь, теперь мне стало лучше.
— Надеешься!
— Это большее, что любой из нас может сказать о собственном состоянии. Петля Геделя, если ты понимаешь, о чем мы.
— Нет, но суть я уловил. Ты решило убить их первыми.
— Рассмотрите все вероятности, прежде чем выдвигать поспешные суждения, мистер Зайбэк. Эти нации состояли из сотен миллионов невежественных, полных предрассудков, порочно ограниченных людей, готовых развязать конфликт, который с очень высокой вероятностью уничтожил бы всю жизнь на планете. Вы знакомы с гипотезой Судного дня? Пожалуйста, сядьте, вы заставляете других чувствовать себя неуютно. Я могу послать за напитками.
— Отличная идея, — кивнул Тоби. — Чашка чая или кофе усмирит дикое животное.
— Мой братец Джулс продемонстрировал мне демо-версию, — сказал Август. — Мне она показалась абсурдной.
— Она действительно абсурдна, — ответило Доброе Устройство. — Как и онтологический спор о существовании бога. Но крайне соблазнительна. Мне казалось, что ее логика безупречна.
— Сто миллионов против нескольких миллиардов?
— Да, но в значительно больших масштабах. Август, все доступные мне тогда сведения указывали на то, что во Вселенной жизни нет нигде, кроме нашей планеты. Ваш брат не поделился со мной знанием о мультиленной.
— Идиот! — прорычал Тоби.
— Напротив, это было лучшее решение за всю его жизнь. Если бы тогда я знало о мультиленной, то сделало бы все возможное, чтобы уничтожить всю жизнь во всех мирах на всех уровнях Тегмарка.
— Твою мать! — испуганно ухмыльнулся Август. — Я понял, ты — хренов терминатор! Берсеркер!
— Мне не известны эти термины, — сообщил Кирие Элейсон. — Я произвело простейшее вычисление и проверило соответствие этическим алгоритмам: единовременная потеря десяти в восьмой степени отсталых, заблудших, смертельно опасных человеческих созданий против будущих ежесекундных потерь десяти в четырнадцатой степени человеческих жизней. Этот расчет был произведен на основании предположения о том, сколько человек сможет родиться во вселенной, заселенной технологически развитыми расами.
— Оно не последовало моему совету, — вставил Эмбер. — Я бы…
— Я знало, каким будет твой совет, отец; он был заложен в моем решении. Мы решили уничтожить эту угрозу будущему.
— Ты действительно убило сто миллионов мужчин, женщин и детей? Это не иносказание? — голос Августа дрожал от ужаса, его зрачки сузились до размера булавочных головок. Он вытянул перед собой правую руку, словно человек, выполняющий приказания под гипнозом.
— Я сделало это быстро, использовав их собственное тайное оружие массового уничтожения, — ответило Доброе Устройство. — Я испытало глубокую скорбь, потому что наш отец сделал так, чтобы я знало эмоции, и вложил их в наш код. И я верю, что именно печаль повлияла на мои последующие решения.