Три Закона роботехники
Шрифт:
– И надолго это?
– Я бы и сам хотел это знать.
– Ну ладно, – саркастически заметил Валенский, – только бы гнали мои денежки, а там пусть забавляются, сколько хотят.
Блэк был доволен. Пусть эта версия распространится. Она безобидна и достаточно близка к истине, чтобы утолить любопытство.
На стуле молча, неподвижно сидел человек. Груз сорвался с места, обрушился вниз, потом, в последний момент, отлетел в сторону под внезапным, точно рассчитанным ударом могучего силового луча. В шестидесяти трех разделенных деревянными перегородками кабинах бдительные роботы НС-2 рванулись вперед за какую-то
Десять раз!
Десять раз роботы бросались вперед и останавливались, увидев, что человек в безопасности.
После первого обеда с представителями “Ю.С.Роботс” генерал-майор Кэллнер еще ни разу не надевал всю свою форму целиком. И теперь на нем вместо мундира была только серо-голубая рубашка с расстегнутым воротом и болтающийся черный галстук.
Он с надеждой смотрел на Богерта. Тот был безукоризненно одет, и лишь блестящие капельки пота на висках выдавали внутреннее напряжение.
– Ну, как? – спросил генерал. – Что вы хотели увидеть?
Богерт ответил:
– Различие, которое, боюсь, может оказаться слишком незначительным для нас. Для шестидесяти двух из этих роботов необходимость броситься на помощь человеку, которому, очевидно, грозит опасность, вызывает так называемую вынужденную реакцию. Видите ли, даже когда роботы знали, что человеку ничего не сделается, – а после третьего или четвертого раза они должны были это узнать, – они не могли поступить иначе. Этого требует Первый Закон.
– Ну?
– Но шестьдесят третий робот, модифицированный Нестор, не находится под таким принуждением. Он свободен в своих действиях. Если бы он захотел, он мог бы остаться на месте. К несчастью, – голос Богерта выражал легкое сожаление, – он не захотел.
– Как вы думаете, почему?
Богерт пожал плечами.
– Я думаю, это нам расскажет доктор Кэлвин, когда она придет сюда. И, возможно, со страшно пессимистическим выводом. Она иногда немного раздражает.
– Но ведь она вполне компетентна? – внезапно нахмурившись, тревожно спросил генерал.
– Да. – Казалось, это забавляет Богерта. – Безусловно, она понимает роботов, как их родная сестра. Вероятно, потому что так ненавидит людей. Дело в том, что она, хоть и психолог, крайне нервная особа. Проявляет склонность к шизофрении. Не принимайте ее слишком всерьез.
Он разложил перед собой длинные листы графиков с изломанными кривыми.
– Видите, генерал, у каждого робота время, проходящее между падением груза и окончанием полутораметрового пробега, уменьшается с повторением эксперимента. Здесь есть определенное математическое соотношение, и нарушение его свидетельствовало бы о заметной ненормальности позитронного мозга. К сожалению, все они кажутся нормальными.
– Но если наш Нестор-10 не отвечает вынужденной реакцией, то почему его кривая не отличается от других? Я этого не могу понять.
– Это очень просто. Реакции робота не вполне аналогичны человеческим, к несчастью. У человека сознательное действие гораздо медленнее, чем автоматическая реакция. У роботов же дело обстоит иначе. После того, как выбор сделан, скорость сознательного действия почти такая же, как и вынужденного. Правда, я ожидал, что в первый раз этот Нестор-10 будет захвачен врасплох и потеряет больше времени, прежде чем среагирует.
– И этого не случилось?
– Боюсь, что нет.
– Значит, мы ничего не добились. – Генерал с досадой откинулся на спинку кресла. – Вы уже пять дней как здесь.
В этот момент, хлопнув дверью, вошла Сьюзен Кэлвин.
– Уберите таблицы, Питер, – воскликнула она. – Вы знаете, что в них ничего нет.
Кэллнер поднялся, чтобы поздороваться с ней. Она что-то нетерпеливо буркнула в ответ и продолжала:
– Нам придется быстро предпринять что-нибудь еще. Мне не нравится то, что там происходит.
Богерт и генерал обменялись печальным взглядом.
– Что-нибудь случилось?
– Пока ничего особенного. Но мне не нравится, что Нестор-10 продолжает ускользать от нас. Это плохо. Это должно удовлетворять его непомерно возросшее чувство собственного превосходства. Я боюсь, что мотив его действий – уже не просто исполнение приказа. Мне кажется, что дело теперь скорее в чисто невротическом стремлении перехитрить людей. Это ненормальное, опасное положение. Питер, вы сделали то, что я просила? Рассчитали нестабильность модифицированного НС-2 для тех случаев, о которых я говорила?
– Делаю понемногу, – ответил математик равнодушно.
Она сердито взглянула на него, потом повернулась к Кэллнеру:
– Нестор-10 прекрасно знает, что мы делаем. Его ничто не заставляло попадаться на эту удочку, особенно после первого раза, когда он увидел, что реальная опасность человеку не грозит. Остальные просто не могли вести себя иначе, а он сознательно имитировал нужную реакцию.
– А что, по-вашему, мы должны сейчас делать, доктор Кэлвин?
– Не позволить ему притворяться в следующий раз. Мы повторим эксперимент, но с поправкой. Человек будет отделен от роботов проводами высокого напряжения, достаточно высокого, чтобы уничтожить Нестора. Этих проводов будет натянуто столько, чтобы робот не мог их перепрыгнуть. И роботам будет заранее хорошо известно, что прикосновение к проводам означает для них смерть.
– Ну нет, – зло выкрикнул Богерт, – я запрещаю это. Мы не можем уничтожить роботов на два миллиона долларов. Есть другие способы.
– Вы уверены? Я их не вижу. Во всяком случае, дело не в том, чтобы их уничтожить. Можно устроить реле, которое прервет ток в тот момент, когда робот прикоснется к проводу. Тогда он не будет уничтожен. Но он об этом знать не будет, понимаете?
В глазах генерала загорелась надежда.
– А это сработает?
– Должно. При этих условиях Нестор-10 должен остаться на месте. Ему можно приказать коснуться провода и погибнуть, потому что Второй Закон, требующий повиновения, сильнее Третьего Закона, заставляющего его беречь себя. Но ему ничего не будет приказано – все будет предоставлено на его собственное усмотрение. Нормальных роботов Первый Закон безопасности человека заставит пойти на смерть, даже без приказания. Но не нашего Нестора-10! Он не подвластен Первому Закону и не получит никаких приказаний. Ведущим для него станет Третий Закон, закон самосохранения, и он должен будет остаться на месте. Вынужденная реакция.