Новые Миры Айзека Азимова. Том 6
Шрифт:
Но были и такие, кто страшился не столько самих роботов, сколько риска понести финансовый ущерб, если роботы получат хотя бы незначительные гражданские права. И они добивались осторожного подхода к этой новой области в юрисдикции.
И вот баталия наконец закончилась, был предложен закон, по условиям которого объявлялись противозаконными все приказы, выполнение которых могло повредить роботу; закон прошел в Законодательном собрании, но с поправками; его направили обратно в Региональный суд; Региональный суд после исправления отдельных статей снова его принял, затем его ратифицировал Всемирный законодательный совет, после окончательной апелляции его утвердил Всемирный суд, и в результате всех этих мытарств он стал очень невыразительным. Бесконечные видоизменения привели
Но, по крайней мере, принцип прав роботов, впервые установленный в связи с провозглашением Эндрю свободным роботом, теперь намного продвинулся вперед.
Окончательное одобрение закона Всемирным судом было получено в день кончины Маленькой Мисс.
Это не было совпадением. Маленькая Мисс, совсем старенькая и слабая к тому времени, отчаянно цеплялась за жизнь в эти последние недели дебатов. Но стоило прозвучать слову «победа!», как она ослабила хватку.
Эндрю был возле нее, когда она умерла. Он стоял подле ее постели, глядя вниз на маленькую, увядшую женщину, утонувшую в подушках, и вспоминал те далекие дни, больше восьмидесяти лет назад, когда его доставили в большой дом Джералда Мартина на побережье океана и две маленькие девочки смотрели на него, а младшая вдруг нахмурила бровки и произнесла: «Эн-ди-арр… Совсем нехорошо. Нельзя так называть его. Что, если мы назовем его Эндрю?»
Как давно, как страшно давно это было! Если говорить о Маленькой Мисс — целая жизнь прошла. А Эндрю казалось, что какой-то миг промелькнул, почти ничто не отделяло его от тех дней, когда он, Мисс и Маленькая Мисс спустились на берег и он поплыл во время прибоя, потому что так захотелось им, махоньким девочкам.
Это было больше восьмидесяти лет назад. Для человека это, как было известно Эндрю, большой отрезок времени.
Жизнь Маленькой Мисс завершила свой цикл и теперь покидала ее. Волосы, которые были когда-то сияющим золотом, давно уже превратились в блестящее серебро, и вот впервые они потускнели, стали бесцветными. Она шла к своему концу, и ничто не могло этого изменить. Она не была больна: она просто состарилась, и не было никакой надежды на улучшение. Пройдет несколько мгновений, и она перестанет функционировать. Эндрю с трудом представлял себе мир, в котором не будет Маленькой Мисс. Но он понимал, что сейчас наступает время именно такого мира.
Ее последняя улыбка была обращена к нему. «Нам было хорошо с тобой, Эндрю», — прозвучали ее последние слова.
Она умерла, держа его руку в своей, а ее сын с женой и внуком стояли чуть поодаль от них.
Глава 13
После смерти Маленькой Мисс Эндрю еще несколько недель чувствовал беспокойство. Он не смел назвать это горем, так как считал, что в его позитронном мозгу не было блоков, которые заключали бы в себе что-либо, соответствующее человеческому горю.
Но он был явно расстроен, и ничем иным, кроме кончины Маленькой Мисс, объяснить это было нельзя. Он не мог бы с точностью определить свое состояние. Он ощущал некоторую тяжесть в мыслях, странную замедленность движений, ощущение общего нарушения всех ритмов его существования — он все это ощущал, но подозревал, что никакие приборы не обнаружили бы никаких измеримых отклонений в его функционировании.
Чтобы как-то облегчить свои переживания, которые он и про себя не смел называть горем, он целиком погрузился в изучение истории роботов, и его рукопись день ото дня становилась все объемистее.
В коротком прологе излагались взгляды на роботов в истории и литературе: металлические люди в мифах Древней Греции, автоматы, созданные воображением таких талантливых писателей, как Гофман, Карел Чапек, и в других фантазиях такого рода. Он быстро расправился со старыми сказками и на том распрощался с ними. Эндрю занимали в первую очередь позитронныероботы, подлинные, настоящие роботы.
И Эндрю поспешил в 1982 год, к Лоуренсу Робертсону, так точно предвидевшему будущее основателю корпорации «Юнайтед Стейтс Роботс энд Мекэникл Мен». По ходу
А затем Эндрю обратился к наиболее трудному, мучительному для него разделу: к последовавшему за этим периоду враждебного отношения людей к роботам, истерии и откровенного террора, вызванного появлением роботов, всеобщее требование принять законы о запрещении использования роботов на Земле. Первые говорящие и передвигающиеся агрегаты были гигантского роста — громыхающие страшные монстры, высотой метра в четыре, — потому что до миниатюризации позитронного мозга было далеко и нельзя еще было обойтись без охлаждающей системы, и, естественно, сплав всех человеческих страхов перед искусственно созданными тварями, перед Франкенштейном, Големом и остальными порождениями человеческих кошмаров встал на пути новых роботов.
Целые три главы уделил Эндрю в своей книге этому времени безумного ужаса перед роботами. Чрезвычайно тяжело было писать эти главы, потому что они рассказывали об иррациональном поведении человека — явлении, которое Эндрю с трудом мог понять.
Он мучился с ними, пытался поставить себя на место людей, которые, хотя и знали, что Три Закона являются полной гарантией того, что роботы не могут причинить им вреда, продолжали смотреть на роботов со страхом и отвращением. Но со временем Эндрю постиг в доступной ему степени причину той незащищенности, которую люди ощущали, несмотря на столь явную поруку безопасности.
Копаясь в архивах роботехники, он сделал открытие, что Три Закона не были столь обнадеживающими в смысле полной безопасности людей. Они содержали в себе двусмысленности и другие скрытые источники возможных конфликтов. Прямолинейных, воспринимающих все буквально роботов они могли поставить перед необходимостью принимать решения, которые, с точки зрения человека, были далеки от идеальных.
Так, например, на чужой и враждебной планете робот, отправленный с опасным заданием найти и принести субстанцию, жизненно необходимую для спасения и благополучия человека-исследователя, может вдруг почувствовать противоречие между Вторым Законом, требующим повиновения, и Третьим, о самосохранении; в результате потенциалы безнадежно уравновесятся и робот потеряет способность к каким-либо действиям — ни вперед не продвинется, ни назад не отступит. Попав таким образом в патовую ситуацию, робот поставит под угрозу жизнь человека, пославшего его, несмотря на непреложность Первого Закона и его преимущество перед двумя другими, потому что роботу невдомек, что замешательство из-за противоречий между Вторым и Третьим Законами, постигшее его, может поставить его хозяина в опасное положение. Если характер его задания не был точно разъяснен заранее, он мог остаться в неведении относительно последствий его бездействия и никогда не понять, что его проволочка приводит к нарушению Первого Закона.
Или робот, в конструкции которого оказались недочеты или ошибки в программе, может решить, что человек перед ним — и не человек совсем, и поэтому Первый и Второй Законы, защищающие человека, не имеют к нему отношения…
Или по причине небрежно сформулированного распоряжения робот, поняв его буквально, невзначай поставит в опасное положение находящихся рядом людей…
В архивах сохранились сведения о десятках подобных случаев. Первые специалисты по роботам, особенно великолепный робопсихолог Сьюзен Кэлвин, эта строгая и сухая женщина, долго и не жалея собственных сил трудились над преодолением все возрастающего количества трудностей.