Три Закона роботехники
Шрифт:
Президент “Ю.С.Роботс” широко раскрыл глаза.
– Вот мерзавцы!
– Подождите, шеф. Это еще не все. – Он взмахнул рукой. – Лэннинг, продолжайте!
Доктор Альфред Лэннинг созерцал происходящее с легким презрением, которое всегда вызывала у него деятельность производственного отдела и отдела сбыта, где платили куда больше. Он нахмурил свои седые брови и бесстрастно начал:
– С научной точки зрения положение хотя и не совсем ясно, но поддается логическому анализу. Проблема межзвездных перелетов при современном состоянии физической теории… гм… весьма туманна. Вопрос довольно неопределенный, и информация, которую “Консолидэйтед” задала своей машине, если судить по тому, что они предлагают нам, тоже не слишком определенна.
Тут Робертсон, слушавший с большой тревогой, прервал его:
– Столько, что Мозг может с ней не справиться?
Лэннинг решительно покачал головой.
– Нет. Насколько мы можем судить, возможностям Мозга предела нет. Дело не в этом, а в законах Роботехники. Например, Мозг никогда не сможет решить поставленную перед ним задачу, если это будет связано с гибелью людей или причинит им какой-нибудь ущерб. Для Мозга она будет неразрешима. Если же такая задача будет сопровождаться крайне настоятельным требованием ее решить, то вполне возможно, что Мозг, который, в конце концов, всего лишь робот, окажется перед дилеммой, не будучи в состоянии ни дать ответ, ни отказать в ответе. Может быть, что-то в этом роде и произошло с машиной “Консолидэйтед”.
Он замолчал, но управляющий не был удовлетворен.
– Продолжайте, доктор Лэннинг. Объясните, как вы объясняли мне.
Лэннинг плотно сжал губы и, подняв брови, кивнул в сторону доктора Сьюзен Кэлвин, которая сидела, разглядывая свои руки, чинно сложенные на коленях. Подняв глаза, она заговорила тихо и без всякого выражения:
– Характер реакции робота на поставленную дилемму поразителен, – начала она. – Наши знания о психологии роботов далеки от совершенства, могу вас в этом заверить как специалист, но она поддается качественному исследованию, потому что, каким бы сложным ни было устройство позитронного мозга робота, его создает человек, и создает в соответствии со своими представлениями. Человек же, попадая в безвыходное положение, часто стремится бежать от действительности: он или уходит в мир иллюзий, или запивает, или заболевает истерией, или бросается с моста в воду. Все это сводится к одному – он не желает или не может взглянуть в лицо фактам. Так же и у роботов. В лучшем случае дилемма разрушит половину его реле, а в худшем – сожжет все его позитронные мозговые связи, так что починить его будет уже невозможно.
– Понимаю, – сказал Робертсон, хотя ничего не понял. Ну, а информация, которую предлагает нам “Консолидэйтед”?
– Несомненно, она связана с подобной запретной проблемой, – ответила доктор Кэлвин – Но наш Мозг сильно отличается от робота “Консолидэйтед”.
– Это верно, шеф. Это верно, – энергично перебил ее управляющий. – Я хочу, чтобы вы это запомнили, потому что в этом все дело.
Глаза Кэлвин блеснули под очками, но она терпеливо продолжала:
– Видите ли, сэр, в машины, которые есть у “Консолидэйтед”, и в том числе в их “Супермыслителя”, не вкладывается индивидуальность. Они предпочитают функционализм, что вполне понятно, поскольку основные патенты на мозговые связи, определяющие эмоции, принадлежат “Ю.С.Роботс”. Их “Мыслитель” просто грандиозная счетная машина, и дилемма выводит ее из строя немедленно. В то же время наш Мозг наделен индивидуальностью – индивидуальностью ребенка. Это в высшей степени дедуктивный мозг, но он чем-то напоминает ученого дурака. Он не понимает по-настоящему, что делает, – он просто это делает. И, поскольку это, в сущности, ребенок, он более жизнеспособен. Он не слишком серьезно относится к жизни, если можно так выразиться.
Сьюзен Кэлвин продолжала:
– Вот что мы собираемся сделать. Мы разделили всю информацию “Консолидэйтед” на
Кадык Робертсона задрожал.
– А вы уверены в этом?
Доктор Кэлвин подавила раздражение.
– Я понимаю, что в популярном изложении это не очень убедительно, но приводить математические формулы было бы бессмысленно. Уверяю вас, что все именно так, как я говорила.
Управляющий не замедлил воспользоваться паузой и разразился потоком слов:
– Таково положение, шеф. Если мы согласимся, то дальше сделаем вот так: Мозг скажет нам, в какой части информации заложена дилемма, а мы тогда сможем определить, в чем она состоит. Верно, доктор Богерт? Ну, вот, шеф. А доктор Богерт ведь самый лучший математик на свете. Мы отвечаем “Консолидэйтед”, что задача неразрешима, отвечаем с полным основанием, и получаем сто тысяч. У них остается поломанная машина, у нас – целая. Через год, может быть через два, у нас будет двигатель, искривляющий пространство, или, как его иногда называют, гиператомный мотор. Но как его ни называй, а это же величайшая вещь!
Робертсон ухмыльнулся и протянул руку.
– Давайте контракт. Я его подпишу.
Когда Сьюзен Кэлвин вошла в строжайше охраняемое подземелье, где находился Мозг, один из дежурных техников только что задал ему вопрос: “Если полтора цыпленка за полтора дня снесут полтора яйца, то сколько яиц снесут девять цыплят за девять дней?”
Мозг только что ответил: “Пятьдесят четыре”. И техник только что сказал другому технику: “Видишь, дубина?”
Сьюзен Кэлвин кашлянула, и сразу же вокруг закипела суматошная, бесцельная деятельность. Сьюзен сделала нетерпеливый жест и осталась наедине с Мозгом.
Мозг представлял собой просто двухфутовый шар, заполненный гелиевой атмосферой строго определенного состава: пространство, совершенно изолированное от каких бы то ни было вибраций, колебаний и излучений. А внутри было заключено переплетение позитронных связей неслыханной сложности, которое и было Мозгом. Все остальное помещение было тесно уставлено приспособлениями, служившими посредниками между Мозгом и внешним миром – его голосом, его руками, его органами чувств.
Доктор Кэлвин тихо произнесла:
– Ну, как поживаешь, Мозг?
Мозг ответил тонким, радостным голосом:
– Очень хорошо, мисс Сьюзен. А я знаю – вы хотите меня о чем-то спросить. Вы всегда приходите с книжкой в руках, когда хотите меня о чем-нибудь спросить.
Доктор Кэлвин мягко улыбнулась.
– Ты угадал, но это немного погодя. Мы зададим тебе один вопрос. Он будет таким сложным, что мы будем задавать его в письменном виде. Но это немного позже. Я думаю, мне сначала нужно с тобой поговорить.
– Хорошо. Я люблю разговаривать.
– Так вот, Мозг, через некоторое время сюда придут с этим сложным вопросом доктор Лэннинг и доктор Богерт. Мы будем задавать его тебе понемногу и очень медленно, потому что мы хотим, чтобы ты был очень осторожен. Мы попросим тебя сделать на основе этой информации кое-какие выводы, если ты сумеешь, но я должна сейчас тебя предупредить, что решение может быть связано… гм… с опасностью для человека.
– Ух, ты! – тихо вырвалось у Мозга.
– Поэтому будь начеку. Когда ты получишь карточку, которая означает опасность для человека и, может быть, даже смерть, – не волнуйся. Видишь ли, Мозг, в данном случае для нас это не так уж важно – даже смерть; для нас это вовсе не так важно. Поэтому, когда ты дойдешь до этой карточки, просто остановись и выдай ее назад – вот и все. Понимаешь?