Три Закона роботехники
Шрифт:
– Цель оправдывает средства, Питер, – сказал он, – оправдывает до последнего пенни, и я очень рассчитываю, что вы сможете убедить административный совет.
– Изложите мне свои доводы, – ответил Богерт, спрашивая себя, захочет ли Мадариан это сделать, ведь в таких случаях Сьюзен Кэлвин всегда отказывалась.
Но Мадариан ответил:
– Пожалуйста.
И поудобнее устроился в широком кресле против стола начальника Исследовательского отдела, который разглядывал своего собеседника с чувством, похожим на суеверный страх. Волосы Богерта, еще недавно черные, совсем поседели. Не пройдет и десяти лет, как он тоже, вслед за Сьюзен, выйдет на пенсию.
Его
Пришло новое поколение. Оно привыкло к другим масштабам. Эти новые люди утратили способность удивляться и могли двигаться только семимильными шагами.
Но они шли вперед, а это было главное.
Мадариан сказал:
– Я предлагаю приступить к конструированию роботов, лишенных ограничений.
– Как? Не считаясь с Тремя законами?
– Да нет же, Питер! Это ведь не единственные ограничения. Вы же сами участвовали в первых разработках позитронного мозга. Мне ли напоминать вам, что независимо от Трех законов все процессы в таком мозге обусловлены заранее. Наши роботы предназначаются для выполнения специальных заданий и наделены только необходимыми для этого качествами.
– И вы предлагаете…
– Я предлагаю, чтобы на любом уровне, подчиненном Трем законам, были сняты все ограничения. Это совсем не трудно!
– Конечно, не трудно, – сухо ответил Богерт. – Бесполезные действия никогда не вызывают затруднений. Трудно лишь так отрегулировать процессы, чтобы извлечь из роботов максимальную пользу.
– Мы напрасно все усложняем. При жесткой фиксации процессов затрачивается много усилий. Ведь принцип неопределенности существен для частиц, имеющих массу позитрона, и хочется, насколько возможно, уменьшить эффект неопределенности. А затем? Если нам удастся воспользоваться принципом так, чтобы допустить возможность существования различных решений в непредвиденных обстоятельствах…
– Тогда у нас будет незапрограммированный робот?
– У нас, Питер, будет робот, наделенный творческим мышлением. – В голосе Мадариана появились нотки нетерпения. – Если и существует свойство, которое присуще человеческому мозгу и которого начисто лишен мозг робота, то это непредсказуемость действий как следствие неопределенности на субатомном уровне. Я знаю, что проявление этого свойства нервной системы еще ни разу не было подтверждено экспериментальным путем. И все же, не будь этого свойства, человеческий мозг в принципе не превосходил бы мозг робота.
– И вы полагаете, что, наделив этими особенностями мозг робота, вы в принципе доведете его до уровня человеческого?
– Вот именно, – подтвердил Мадариан.
После этого они еще долго продолжали спорить.
Как и следовало ожидать, убедить административный совет оказалось не так-то просто.
Скотт Робертсон, самый крупный из акционеров “Ю.С.Роботс”, заявил:
– И без того нелегко поддерживать промышленное производство роботов на прежнем уровне, когда широкая публика неодобрительно относится к этим механизмам и в любую минуту может объявить им открытую войну. Если только станет известно, что роботы больше не контролируются – пожалуйста, не говорите мне о Трех законах, – то средний обыватель перестанет верить, что находится под их защитой, едва лишь услышит слово “неконтролируемый”.
– В таком случае не будем употреблять этого слова, – сказал Мадариан, – назовем лучше нашего робота интуитивным.
– Интуитивный робот? – пробормотал кто-то. – А почему бы не женщина-робот?
По залу заседаний пробежал смешок. Мадариан решил сразу же взять быка за рога:
– Да! Женщина-робот! Наши роботы, разумеется, существа бесполые, и этот также не будет отличаться от остальных. Но у нас уже вошло в привычку рассматривать роботов как представителей мужского пола. Мы даем им мужские имена, говорим: он, его. Что же касается данного робота, то, учитывая предложенную мной математическую структуру его мозга, он скорее всего попадет в систему координат JN. Первый из них, JN-1, я собирался назвать Джоном-1, хотя, признаться, это имя было бы на уровне оригинальности заурядного конструктора. А почему бы, черт побери, не назвать нашего робота Джейн-1? И если уж непременно нужно информировать широкую публику о всех делах фирмы, то сообщим, что сейчас мы конструируем женщину-робота, наделенного интуицией.
Робертсон покачал головой:
– А что от этого изменится? Ведь по сути вы хотите уничтожить последнюю преграду, препятствующую мозгу робота подняться до уровня человеческого мозга. И как же, по-вашему, на это будет реагировать широкая публика?
– А вы собираетесь ей обо всем докладывать? – возразил Мадариан. После минутного размышления он сказал: – Послушайте, ведь испокон веков считается, что мужчина по интеллекту превосходит женщину.
Все присутствующие настороженно переглянулись, как если бы Сьюзен Кэлвин сидела на своем обычном месте.
Мадариан продолжал:
– Если мы объявим о создании женщины-робота, несущественно, какой она будет. Публика заранее настроится на то, что интеллектуальный уровень нового робота будет ниже, чем у обычного. Нам лишь останется сообщить о появления Джейн-1, и тогда мы ничем не рискуем.
– Но этого мало, – вмешался Питер Богерт. – Мы с Мадарианом тщательно произвели все вычисления и пришли к выводу, что вся серия JN – будь то Джон или Джейн – вполне безопасна. Такие роботы проще обычных, а их интеллектуальный уровень ниже, чем у предыдущих серий, от которых JN будет отличаться лишь одним дополнительным свойством – условимся называть его интуицией.
– Кто знает, к чему оно приведет, – пробормотал Робертсон.
– Мадариан, – продолжал Богерт, – предлагает такое решение: как вы знаете, Межзвездный Прыжок теоретически разработан. Человек в состоянии достигнуть сверхсветовых скоростей, проникнуть в другие солнечные системы и вернуться на Землю спустя короткое время, скажем, не более чем через несколько недель.
– Все это давно известно, – прервал его Робертсон, – и может быть осуществимо без помощи роботов.
– Совершенно верно, но фирме это не принесет никакой выгоды, поскольку сверхсветовой двигатель может быть использован только один раз для демонстрационного полета. Межзвездный Прыжок – дело весьма рискованное. Он сопряжен с чудовищными затратами энергии и том самым с огромными расходами. Если уж мы на них решимся, то было бы неплохо открыть заодно и какую-нибудь обитаемую планету. Назовите это, если хотите, психологической необходимостью, но выложить двадцать миллиардов долларов ради полета, который ничего не принесет кроме научных данных! Налогоплательщики непременно потребуют, чтобы им разъяснили, на что расходуются такие средства. Но стоит вам объявить, что существует еще один населенный мир, и вы станете межзвездным Колумбом, никто даже не вспомнит о потраченных деньгах.