Мы Люди
Шрифт:
Снова зажглись сигнальные лампы о поступивших вопросах. Люди в зале хотели знать, что же конкретно предлагает сделать комитет.
– Сейчас вы заслушаете по этому поводу следующего докладчика, – ответил Лукас Триав. – Но для начала позволим уважаемому Симону Кларку закончить своё выступление.
– Благодарю вас, – закашлялся Кларк. – Итог всей проделанной мною работы таков: для пробуждения психоэмоциональных реакций биоников необходимо поставить в стрессовые условия, угрожающие сохранности их жизни.
– Это невозможно!
– Вы хотите рисковать жизнями наших детей!
– Вы уничтожите наше будущее!
Зал шумел.
– А вот сейчас время нового докладчика.
В центре зала возник молоденький паренек.
– Мой возраст сравним с возрастом старших на сегодняшний день биоников, однако я один из тех, кто был рожден естественным путем. Моей специальностью является робототехника, ею я увлекаюсь с детских лет, с той самой поры, когда разобрал и собрал заново своего домашнего андроида. Комитет поставил передо мной задачу создать для биоников андроида-врага. Основными требованиями при этом были: реалистичность исходящей от андроида угрозы и в то же время безопасность. Поддавшись настроениям комитета, я принялся разрабатывать новое устройство, способное напугать биоников, пока не понял, что иду неверным путем. Я предложил комитету способ экономичный, безопасный и в то же время невероятно практичный. О нём я и хочу сейчас рассказать. Итак, в настоящее время все отношения между андроидами и людьми регулируются тремя законами робототехники, а именно:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Эти принципы закладываются в цифровое ядро любого современного андроида, а анализатор всех ситуаций, в которые может попасть андроид, закладывается в специальный чип. База данных ситуаций огромна и поведение в каждой из них рассчитывается строго с учетом приведенных трех законов. С полной уверенностью мы можем говорить о том, что случаев неисполнения законов робототехники андроидами на сегодняшний день нет, не было и быть не может. Все программы, управляющие поведением андроидов, составлены таким образом, что ни один из них не способен причинить при таком положении вещей человеку вред. Встроенный анализатор ситуаций не позволит сделать ему это. Что же предлагаю я? Я предлагаю всего лишь немного изменить изложенные выше три закона. Вот как они будут звучать:
1. Робот должен заботиться о своей безопасности.
2. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред, если это не противоречит Первому закону.
3. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому и Второму законам.
То есть я предлагаю поменять законы местами, изменив приоритеты. Смотрите, в этом случае получится, что андроиды получают право заботиться о себе. Они по-прежнему не могут причинить вред человеку, пока тот для андроида безопасен, если же человек выносит приказ, несущий опасность андроиду или же в явном виде человек наносит урон роботу, тот будет иметь право защититься. Это значит, что наши дети получат реального противника. Угрозу, исходящую от андроидов, может спровоцировать небольшой конфликт. Нам останется его только дождаться его.
– Да вы хотите андроидов обратить против людей!
– Вы предлагаете нам развязать войну!
Посыпались гневные возгласы.
– Нет, никакой войны не будет, – уверенно ответил молодой докладчик. – Второй и третий закон не позволят андроидам напасть на людей, они всего лишь будут обороняться.
– Вы хотите превратить машины в социальных существ? Вывести их из разряда механизмов?
– А как иначе? Разве вы не видите, что другого выхода нет! Если вам нужна опасность, то лучшего способа, чем защитная реакция андроидов на действия человека не найти. И в этом проекте есть очень важный плюс – андроиды, благодаря возможности проникать в их электронный мозг, по-прежнему остаются контролируемыми, а их действия будут всего лишь ответной реакцией на действия человека.
Зал по-прежнему шумел. Наконец, вмешался Лукас Триав:
– Мы должны попробовать этот метод. Ситуация сложная, поэтому мы и собрали вас сегодня здесь, а делаем мы это, как вы знаете, крайне редко. Без вашего одобрения и поддержки мы не станем запускать этот проект. Идея революционная, простая и гениальная по своей сути. На сегодняшний день это самый разумный из более тысячи рассмотренных нами способов пробудить биоников от эмоционального оцепенения.
Глава 17
Марк вез сегодня Ганри на завод. Давно он хотел показать свое производство сыну. Выехали около полудня. На работу Марк никогда не спешил. Он знал, что конвейер находится под неусыпным присмотром андроидов, их же силами ведется складирование и отгрузка товара. Марк лишь изредка появлялся здесь.
Завод достался ему от отца, тот же купил его ещё на заре эры робототехники, когда производство андроидов только начинало строиться, а о глобальной реконструкции быта ещё никто ничего не слышал и не знал. В то время небольшой заводик отца Марка выпускал отдельные детали к роботам-машинам, теперь же это было полноценное производство, способное осуществить любой процесс. От самой первой фазы создания андроидов и до последней, всё происходило в одних и тех же стенах. Марк этим очень гордился и надеялся передать своё дело сыновьям. Ганри же молчал и равнодушно смотрел в окно автомобиля.
– Послушай, сынок, – воодушевленно говорил Марк, – приедем, ты увидишь такое… Андроиды собирают андроидов. Удивительный процесс. Твой дедушка об этом даже не мечтал. А мне удалось наладить такое производство. Никто сейчас не посмеет сказать, что я не молодец. Три десятка моделей различных андроидов собираются на моём заводе и всё это добыто моим трудом. Я собирал патенты, налаживал конвейер. Зато теперь я могу ничего не делать и иметь стабильный доход. У меня есть ещё пара идей, я расскажу тебе о них, воплощать же их в жизнь предстоит уже тебе с братьями…
Ганри скучал. Послушно слушал он отца, но к словам его оставался безучастным. Где летали сейчас мысли подростка? Его можно бы было понять, если бы думал он в этот момент о споре с кем-нибудь из ровесников или о какой-нибудь своей юной подруге. Но, зная биоников, любой с уверенностью мог бы сказать, что не эти мысли могли бы овладеть разумом парня. Дети никогда не проявляли интереса друг к другу. А сейчас Ганри, скорее всего, вообще ни о чём не думал, не мечтал. Он просто разглядывал оконное стекло. За ним поблекшая от солнечного света степь тянулась от горизонта до горизонта. Марк посмотрел на сына и умолк, пока ему нечего было ему сказать.