Алеф (CИ)

Глебов Виктор

– Вы хотели со мной поговорить?
– спрашивает Зоя, подавшись вперёд, чтобы перекричать музыку. Мы сидим в углу, и один из динамиков расположен прямо над нами.

Я киваю.

– О чём?

– Об искусственном разуме. Вы ведь специалист?

– Да, вроде того.

– Мне вас рекомендовал полковник Стробов.

– Вы работаете на министерство?

– Временно.

– И что вас интересует?

– Поведенческие модели искусственных интеллектов.

– Психология?

– Да.

– Зачем вам?

– Стробов не объяснял?

– Нет.

– Значит, и не надо.

Зоя пожимает плечами. Она не обижена. Наверное, работая на Контору, быстро становишься толстокожим.

– Какой конкретно аспект вас интересует?
– спрашивает она.
– И что вы вообще знаете об искусственном интеллекте?

– Ничего, - честно отвечаю я.
– Мне нужно понимать, как поведёт себя высокоразвитый компьютер, если решит, что человечество ему - враг.

Несколько секунд Зоя смотрит на меня в недоумении, затем медленно кивает.

– Так вот оно что! Вы - хакер.

Я молчу, не зная, имею ли право признать очевидное. Зоя слегка барабанит ногтями по столу.

– Я тоже работаю с Големом, - говорит она, игнорируя моё молчание.
– И понимаю, что вы имеете в виду. Дайте подумать…

Приносят наш заказ - два «Будвайзера». Высокие бокалы запотели, и капли стекают по ним, образуя извилистые дорожки. Пена лежит, словно альпийский снег - даже жалко, что быстро тает.

– Возможны две основные модели, - говорит Зоя после того, как официантка уходит.
– Первая предполагает, что искусственный разум станет работать по тем же алгоритмам, что и создавший его человеческий. В этом случае можно ожидать, что он начнёт действовать агрессивно и скоро засветится. Вторая модель допускает, что Голем постарается сбить преследователей со следа, нарочно выбирая нестандартные для человека реакции. Понимаете? Тогда тоже реально просчитать варианты его поведения, но это гораздо сложнее, поскольку мы не знаем, насколько в действительности развит его интеллект, и на какие реакции он способен.

– Но прогнозы имеются?
– уточняю я.

– Конечно. Сотни.

– Час от часу не легче!
– я понимаю бокал, предлагая Зое чокнуться.
– За «Алеф»!

– За «Алеф»!
– повторяет она, и мы делаем по глотку.

Холодное пиво обжигает дёсны и внутреннюю сторону щёк.

– Чем вообще киборги отличаются от нас?
– спрашиваю я.

– Физиологически?

– Нет, конечно. Это понятно.

– Значит, психологически?

Я киваю.

– По большому счёту, ничем. Их мозг работает по тем же алгоритмам, они живут в тех же условиях. Возможно, реакции искусственных интеллектов немного быстрее, и они способны запоминать больше информации, но при общении вы едва ли отличите киборга от хомо сапиенса.

– Да уж!
– усмехаюсь я, невольно оглядываясь по сторонам.
– Значит, никаких отличий? Совсем? Почему же их до сих пор не считают людьми?

– Киборгов наделили гражданскими правами.

– Но людьми их не объявляли.

Зоя пожимает плечами.

– Рабов, чужеземцев и женщин вплоть до средних веков людьми тоже не считали, - говорит она.

– Правда?
– я искренне удивлён.
– Не знал. Что ж, один ноль в вашу пользу.

Зоя улыбается, и мы поднимаем бокалы, чтобы выпить за её маленькую победу. Я доволен, что последнее слово осталось за ней: выигравший часто забывает об обороне.

– Для чего вам это?
– спрашивает Зоя, поставив бокал.

– Что именно?

– Знать про поведенческие модели.

Я пожимаю плечами.

– Хочу зацепиться хоть за что-то. Познай врага своего, как говорится.

Зоя несколько секунд раздумывает.

– Полагаю, на данный момент известно лишь одно отличие психики искусственного разума от человеческой, - произносит она, наконец.
– Но не уверена, что это вам поможет.

– Выкладывайте. Потом разберусь.

– Самопожертвование, - говорит Зоя.

– Что?
– я в растерянности.

– Человек может пожертвовать собой, своей жизнью. Он способен на это, если обстоятельства сложатся определённым образом, и если в его личности имеется определённая модель поведения. Но искусственный разум не в силах добровольно закончить своё существование. В нём заложен инстинкт самосохранения, но он воспринимает его как директиву, и идея добровольной смерти вступает с ней в противоречие. Именно поэтому нет ни одного киборга-христианина.

– Значит, искусственный интеллект не может пожертвовать собой?
– повторяю я, пытаясь осознать эту информацию. Возможно, именно она станет ключом…

Зоя кивает.

– Надо же!
– я отпиваю из кружки глоток пива.
– Почему об этом не известно широкому кругу обывателей?

– Чтобы киборгов не считали неполноценными.

– Ну, да, - киваю я.

– Вам это поможет?

– Кто знает?

Зоя улыбается. Я ловлю себя на том, что любуюсь ею, а ведь у нас деловая встреча, а не свидание. К моему сожалению.

– Вы хотели спросить о чём-то ещё?

– Да. У меня здесь записано, - я достаю терминал, в котором заранее накидал несколько вопросов.
– Например: может ли искусственный разум возлагать вину за своё бесплодие на человека?

Зоя хмурится.

– Это непростой вопрос.

– Почему?

– Он актуален только для разума, имеющего тело, то есть, киборга. Психика подобного организма развивается в тех же условиях, что и человеческая - если не считать, что его родителей имитируют воспитательные программы.

– И?

– Думаю, это вполне возможно.

– Значит, обидчивость характерна для киборгов?

– В той же мере, что и для людей.

– Уверены? Это важно, потому что «Алеф» должен быть избирательным. Будет нехорошо, если он начнёт выжигать мозги киборгам только за то, что они дурно подумали о толкнувшем их в автобусе человеке.

– Да уж! За такой вирус Контора вас не похвалит.

– Мне тоже так кажется. Необходимо учесть все ситуации, когда искусственный интеллект испытывает агрессию по отношению к какому-то человеку или группе людей, но при этом не собирается уничтожать всех хомо сапиенсов разом, понимаете?

– Конечно. Иначе «Алеф» превратился бы в оружие геноцида, - Зоя выглядит очень серьёзной - похоже, её слегка напугали обозначенные мною перспективы.

– Одна ошибка может обернуться катастрофой, - говорю я.