"Фантастика 2023-181". Компиляция. Книги 1-19
Шрифт:
– Разумеется. Я еще живу в семейной группе старших и покину ее не скоро – возможно, через двести или триста ваших лет.
– Тогда ты увидишь моих праправнуков. Отыщи их и передай привет от славного предка, – пробормотал Марк. Потом спросил: – Почему же к нам отправили тебя, а не одного из ваших мудрецов?
– Потому, что я сын своего отца. И еще потому, что я молод. Прости, рини, но я не смогу повидать твоих потомков… – с сокрушенным видом произнес Хийар. – Связи с ментальным полем семьи и всего астроида крепнут с течением лет, и в будущем мне их не разорвать… Так что обратись со своей просьбой к Первому.
Над поверхностью воды вдруг поднялась узкая змеиная головка в янтарной чешуе. Существо – то ли рыба вроде угря, то ли в самом деле змейка – склонилось над водяным цветком и стало пощипывать лепесток быстрыми птичьими движениями. Еще три такие же твари вынырнули у других кувшинок и принялись за обед. Потом вся компания взмыла в воздух, и Марк увидел крохотные лапки, полупрозрачные трепещущие крылышки и гибкие тела миниатюрных дракончиков.
– Первый мог бы справиться без тебя? – поинтересовался он. – С этим нашим делом? Я имею в виду проникновение в тоннель и рейд к Файтарла-Ата.
– Вероятно. Но, как говорят военные в ваших старых фильмах – а я посмотрел их немало! – планируя операцию, не забудь о подкреплении. То есть о Хийаре из астроида Анат.
– Это шутка?
– Нет, рини, нет. – Хийар помолчал, любуясь играющими над прудом дракончиками. Потом неожиданно спросил: – Скажи, что ты знаешь о психологии роботов? Точнее, созданий с искусственным интеллектом?
– Немногое – то, что мне преподавали как будущему офицеру. Минимум математики, а в основном – управление УБРами. Это наши боевые машины.
– Дело скорее в философии, чем в математике, – произнес Хийар. – Создавая разум, чего мы ждем от него? Каким хотим видеть, что желаем получить – раба, слугу, помощника, соперника? Может быть, бога?.. Это, рини, философские вопросы. Надо их решить, прежде чем браться за… хм-м… за паяльник. – Он улыбнулся. – Паяльник? Я правильно сказал?
– Да, есть такой древний инструмент, – подтвердил Марк. – Но к чему ты клонишь, братец?
– К барьерам и ограничениям. Нам не нужны соперники и боги и не нужны тупые рабы. Так что, трудясь над искусственным разумом, мы идем по струне над пропастью. Мы должны сотворить умных, сильных и долговечных существ, но позаботиться при этом о своей безопасности. Мы должны понимать, что создаем новую расу – не врагов, не соперников, но преданных друзей. А преданность нуждается в гарантиях. Гарантия – это барьер, который нельзя перешагнуть.
Марк кивнул.
– Ясно. Для нас эта проблема не новая. Еще в двадцатом веке Айзек Азимов…
Он не закончил – губы рини сложились в улыбку.
– Азимов, ваш ученый и творец фантазий, – все еще улыбаясь, произнес Хийар. – Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
– Ты знаешь?.. – Марк искренне удивился. – Но откуда?..
– Вспомни, рини, что мы торгуем с вами два с половиной столетия и получаем в обмен ваши книги, ваши фильмы, ваши картины, мелодии, записи, даже мифы, сочиненные в глубокой древности. Долгая жизнь лоона эо нуждается в украшениях и развлечениях… Одним приятно взглянуть на танцы, другим – на хроники войн и катастроф, третьим нравится ваша живопись и музыка… А я ищу сказки о роботах, о разуме, подобном человеческому, который вы так и не создали. Это помогает лучше понять людей.
Хийар смолк. Сделав изящный пируэт, дракончик спустился к нему на колени, вытянул гибкую шею и что-то чирикнул. Спинка крохотного существа отливала золотом, глаза мерцали, как пара изумрудов. Хийар посадил его на ладонь, подбросил в воздух и сказал:
– Должен отметить, что Первый закон Азимова, как и два других, не содержат идею эмоциональной связи. Конструктивные ограничения, и только! Барьер, порожденный иррациональным страхом перед бунтом роботов… Очень примитивно, рини, примитивно и не нужно – вы ведь уже столкнулись с тем, что искусственный разум, обладающий свободой воли, не способен к насилию над живыми существами.
– Да, – подтвердил Марк. – У нас это положение называют теоремой Глика – Чейни. [196]
Он слушал Хийара с большим интересом, гадая, какой будет сделан вывод из этих речей, какие откроются ему секреты. Очевидно, связь сервов с лоона эо не являлась чем-то примитивным, подчинявшимся формуле «раб-господин», «слуга-хозяин»; были иные точки контакта, соединявшие обе расы в цельный устойчивый монолит. На Земле и в других мирах Федерации роботы любого класса считались полезным инструментом и не более того; данный элемент техносферы никогда не рассматривался как нечто связанное с человечеством на уровне эмоций. Возможно, потому, что эти кибернетические устройства уступали сервам по всем параметрам.
196
Теорема Глика – Чейни, или Первая теорема психокибернетики, была сформулирована и доказана в конце XXI века. Теорема устанавливает порог, выше которого искусственный разум неотличим от человеческого (этот порог также называют границей Тьюринга – в честь математика XX столетия, занимавшегося данной проблемой). Частное следствие теоремы Глика – Чейни гласит, что кибернетическое устройство с высоким интеллектом не способно к убийству и любым видам насилия над живыми существами. Это, в частности, не позволяет поднять интеллект боевого робота выше границы Тьюринга.
– Ты, вероятно, знаешь, что состав дипмиссии на Луне мы обновляем каждые семь-восемь лет, – вымолвил Хийар. – Одни сервы возвращаются в астроиды, другие прилетают им на смену. То же самое – с экипажами торговых кораблей и с теми сервами, что трудятся на Данвейте, Тинтахе и в других мирах Голубой Зоны.
– Да, это мне известно, – произнес Марк. – Наши ученые и дипломаты уверены, что такая смена преследует некую цель. Например, вы хотите, чтобы больше сервов приобрели опыт контакта с человечеством. Или с другими расами – в тех мирах, куда летают ваши торговые караваны.
– Опыт просто передать – вот так… – Рини сделал уже привычный жест: коснулся лба и вытянул руку к Марку. – Причина другая, более глубокая. Мы нуждаемся в сервах, и это понятно: сервы – наши помощники, и без них мы словно… словно… Есть в вашем языке подходящая идиома?
– Как хромой без костыля, – сказал Марк.
– Хромой?
– Человек с поврежденными ногами, которому необходим костыль, палка для опоры. Это старинное понятие.
– Опора, да… сервы действительно наша опора… – задумчиво протянул Хийар. – Мы нуждаемся в них, но равновесие требует, чтобы и они нуждались в нас. Взаимная необходимость укрепляет наш симбиоз.
– Вы контролируете их воспроизводство, – высказал догадку Марк. – Или рождение? Какой термин будет уместным в случае биологических машин?
Но рини сделал жест отрицания.
– Нет, этим они занимаются сами. У сервов, однако, есть потребность в контакте с лоона эо – пусть эпизодическом, но совершенно необходимом. Раз в несколько лет серв должен увидеть живого Хозяина, увидеть хотя бы издалека, а лучше – заглянуть в его лицо, поговорить с ним, испытать прикосновение его руки. Если этого не случится, серв будет чувствовать себя несчастным, потерянным, ненужным – как ты или я в долгой разлуке с близкими. Его существование лишится смысла; некому помогать, некого радовать и защищать, и ждать похвалы тоже не от кого… Вот почему мы забираем сервов обратно в астроиды. Иначе – сильнейший стресс и гибель.