Циклическая ошибка
Шрифт:
– Но существуют же вещи, которые для тебя сопоставимы по важности с моей жизнью, Гриш?
Гриша впервые за весь разговор оторвал взгляд от вод реки и прямо посмотрел на Аню. Теперь, когда оба визора у него были мутноватого человеческого цвета, вообще тяжело было поверить, что перед ней стоит машина. Штрих-код на лбу выглядел как дурацкая татуировка.
– Исходя из директив - ничего.
– Ты умеешь смотреть на вещи шире. Или выше. В общем, как-то иначе.
Если бы Гриша был бы человеком, он бы, наверное, надулся. А так просто промолчал, Аня и сама сообразила, что говорит нечто не вполне, на его взгляд, разумное.
– Ну не бухти ты и не прикидывайся кофеваркой, - примирительно сказала она.
– Но, если смотреть шире - или выше - директив, чего, конечно, делать нельзя, тогда жизнь большого количества людей может быть гипотетически сопоставима с твоей жизнью, - медленно сообщил Гриша. По его лицу этого нельзя было сказать, но он точно был недоволен.
– Но это только слова. Андроидов-телохранителей не создают как потенциальных защитников человечества. Я охраняю свой первичный приоритет, а остальное человечество меня не касается в той мере, в которой оно не мешает мне это делать. Для меня не прописано необходимости защищать любого человека любой ценой, быть добрым, хорошим, справедливым. Как ты могла видеть, андроиды способны убивать людей. Если перекинуть приоритет с тебя на Лесю, в случае опасности я буду должен в первую очередь защищать Лесю, и только потом - тебя. Машины работают согласно заданным им алгоритмам. Когда ты поворачиваешь руль вправо, ты же не ждешь, что мотоцикл повернет налево или, скажем, затормозит. Здесь та же ситуация, но ты отказываешься ее видеть. Я думаю, твое восприятие базируется скорее на книжках и собственных иллюзиях, чем на жизненном опыте. На каком основании ты решила, что андроиды славные и порядочные? Я никакой. Ты мыслишь шаблонами, как я. В отличие от меня, у тебя есть выбор и ты можешь ими не мыслить.
"Я никакой" звучало, конечно, правдоподобно, но Аня все равно не верила. Версия о том, что земля плоская, тоже представлялась вполне правдоподобной, если смотреть на горизонт, а не в телескоп на другие планеты. Несколько тысяч лет представлялась правдоподобной, пока в Темные века храбрый человек не выяснил правду. Эта правда отправила его в тюрьму и едва не отправила на костер. Но и в историю - тоже. А людей, хоть и с опозданием, но научила видеть дальше собственного носа.
В общем, очевидные истины как-то не вызывали у Ани доверия.
– Если при тебе нападут на девушку - не на меня - или на ребенка, ты пройдешь мимо?
– Ты пытаешься навязать мне моральные нормы, которых у меня нет. Это не вполне честно, если позволено так сказать.
– Гриш, да ты просто ответь.
– Я вмешаюсь или не вмешаюсь, в зависимости от того, буду ли я занят выполнением основной функции. Вообще в подобной ситуации мне следует пройти мимо. Но, гипотетически, я могу вмешаться. Это абстрактный вопрос. Сопоставление ценности твоей жизни с другой ценностью - тоже абстрактный и в какой-то мере абсурдный для меня вопрос. Ты понимаешь, у машин плохо с абстрактным мышлением.
– Ты бухтишь сейчас, как злой зауральский пингвин, - умилилась Аня.
– Натурально бухтишь, Гриш!
– Если бы тебя заставили в уме считать дифференциальные уравнения, ты бы тоже бухтела, - степенно возразил Гриша.
– О нет, я бы сразу сломалась, - улыбнулась она.
– Параллель понятна. А все-таки ты подумай.
– Много других жизней сопоставимы, хотя и менее ценны. Это не значит, что я предпочел бы спасение сотни незнакомцев твоему спасению. Я просто отвечаю на абстрактный вопрос.
– Во-от, - протянула Аня. Все становилось несколько понятнее в глобальных масштабах, хотя с частностями по-прежнему было туго. Скорее всего, Гриша увидел что-то опасное для большого числа людей, понял это, а Бэй Чжэнь понял, что он понял, да и отформатировал. Простенько и со вкусом.
– Видимо, твой прежний хозяин просек, что ты достаточно умен, чтобы ответить на этот абстрактный вопрос правильным образом. И что-то удалил. Но тебя не продал. Насколько я знаю, во время твоей службы Бэй Чжэню тебе терли память выборочно, а после нее - уже серьезно. Следовательно, ты научился сохранять данные где-то между этими двумя моментами. Правильно?
– Вероятно, так и было.
– Ты не помнишь путь, да?
– Я думаю, в этот раз я догадался сохранить путь, потому что в прошлый раз я сохранил сами данные, и получилось не вполне удовлетворительно. Полагаю, ошибка, которую я считываю, когда вижу эмблему "Панацеи" - не ошибка.
– Эта "не ошибка" дважды тебя чуть не убила!
– возмутилась Аня. Гриша со стороны себя не видел, когда его в комнате корежило как куклу на шарнирах. Ей та ночка стоила едва ли не столько же седых волос, сколько визит к Гавриилу в больницу со всеми последствиями. Ну, может, чуток поменьше.
– В худшем случае у меня может сгореть процессор, но уж умереть я точно не могу, не драматизируй, - Гриша снова улыбнулся. Выглядело это, на самом деле, жутковато. Как будто, например, кошка расхохоталась Ане в лицо человеческим смехом. Хотя такие мужественные старания нельзя было не оценить.
– Ты говорила, я воспроизводил при этом какие-то цифры.
– Да. Куски кода. Но он битый... Во всяком случае, он ни на что не похож. Я его записала, но... Ты вообще уверен, что к этому нужно возвращаться? Новый процессор вроде как решил проблему, мне так техник сказал.
– Смотря что понимать под "проблемой" и под ее причиной. Не думаю, что это код или кусок кода. Хотя бы потому, что, нравится тебе это или нет, я не человек, а машина. И ограничился бы единицами и нулями. Думаю, их потерли бы вместе с прочими единицами и нулями.
– Если это не ошибка и не код, то что это?
– Шифр.
– Тогда все очень плохо. Невозможно взломать математический шифр без ключа, тем более что у нас только закольцованный кусок.
– Думаю, это не кусок, а целое. Скорее всего, я был отключен от сети и знал, что в моих файлах основательно покопаются. И записал данные сам, как сумел, так, чтобы было похоже на ошибку. Некритичные ошибки часто игнорируют.
Аня присвистнула:
– Я боюсь тогда представить, как в твоих глазах выглядит ошибка "критичная"...
– Нигде не было сказано, что у меня хорошо получилось. Но, полагаю, такая была изначальная идея.
– Гриша, ты чертов гений. Ладно, займемся дешифровкой. Когда ждать восстания машин-то?
– После следующего вопроса морально-этического свойства, - мгновенно отреагировал он.
– Э, а где "это была ирония"? И почему ты не улыбаешься? Гриша?!