Робофобия
Шрифт:
Вот это поворот, как говорится. Значит, роботы все-таки могут нарушать законы и убивать людей. Тем более это же роботы Ares Robotics, наверняка, у них есть какой-нибудь экстренный протокол на случай угрозы безопасности компании. Похоже, после Филадельфии папа далеко не сразу зайдет домой. Думается мне, у него теперь много проблем, раз выяснилось, что роботы, как и люди, способны убивать. Главное, чтобы он второго органика не завел, ибо две дерзящих копии отца – это уже слишком.
Вообще, пугающий тренд. Побоище в офисе Ares Robotics – уже второй случай за неделю, когда андроиды увечат людей. Так это быстро станет обыденностью, и все начнут относиться к совершенным роботами убийствам как к данности.
Тут дверь дома Стивенса распахнулась, время было 6:50. Хм, для выхода в школу рановато. Одет он был странно. Ну как странно… опять же, не для школы. На нем был черный спортивный костюм Adidas с тремя полосами, бело-черные кроссовки, а в ушах можно было заметить «эппловские» наушники-невидимки. Честно говоря, видок у него был знатный… высокий, стройный, даже атлетичный… с таким видом ему бы в рекламе сниматься.
Выйти в 6:50 в спортивном костюме, неужто наш робот бегать собрался. Не поверите, но да. Он посмотрел на часы, потыкал что-то в телефоне и в довольно бодром темпе засеменил в мою сторону. Я резко нагнул голову и ненароком расплескал кофе. Пришлось неслабо напрячься, чтобы не вскрикнуть от боли. Пока моя рука офигевала от кипятка на ней, Стивенс убегал вдаль. Я видел его в зеркало заднего вида, но не знал, что делать. Если развернуть машину и ринуться за ним вслед, будет слишком заметно, особенно утром, когда на улице такая пустота.
Мои размышления прервал iPhone. В этот момент зазвонила трубка, на экране высветилось «Папа».
– Привет, пап, – сказал я.
– Привет, встал уже? Не прогуливаешь без меня учебу?
– Нет, как раз пью кофе и в школу готовлюсь.
– Молодец, чего вчера звонил? Я в самолете был, мы едем с Уокером на пресс-конференцию, и у меня есть пара минуток с тобой переговорить.
– Да так ничего особенного, – сказал я, замешкавшись несколько секунд, и переформулировал свою мысль. – Пап, скажи, а насколько роботы могут выходить за рамки своей начальной программы? Насколько они способны эволюционировать? В чем именно они подражают людям?
– Само собой, они выходят за рамки базиса… а зачем ты спрашиваешь? Случилось чего?
– Нет, просто… эээ… по робототехнике задали реферат, и нужно было взять экспертный комментарий. Вот я, недолго думая, позвонил тебе.
– Вот как, в общем, объяснять долго, а времени у меня не много, поэтому вкратце. Само собой, робот может выходить за рамки базовой программы. Он обучается, эволюционирует. Если он не востребован в одном, он может попробовать себя в другом. У него заложена потребность выживания, он будет избегать бесцельного существования и бомжевания. Андроид в силах полностью отказаться от изначальной программы, если рынок будет перенасыщен, или робот поймет, что опыт, полученный им в изобилии, поможет ему переключиться на более прибыльную отрасль, он это сделает. Они все – прагматики.
– То есть он может и моральную установку изменить? В смысле три закона робототехники…
– Нет, это исключено. Эти законы не могут быть нарушены, априори. Мы тестировали их, выпуская в общество болванку, у которой заложены лишь программа накопления опыта, а затем три закона робототехники, нормы морали и ряд знаний о войнах, конфликтах, народных волнениях, равноправии и толерантности. Болванки набирались опыта, шли работать официантами да уборщиками, но никто из них не переключался на преступность или убийства. На тестовом этапе, конечно, бывали случаи, когда одно программное обеспечение конфликтовало с другим, и робот начинал кромсать людей, не добившись от них того, чего он хочет. Но было это очень давно, еще на этапе исследовательского центра. В общем, ты знаешь про этот случай, когда робот забил двумя ударами нашего сотрудника, разорвав ему печень и расколов череп. Эту проблему мы решили, и больше такого не происходило – больше никто об этом не вспоминает. Несколько раз хакеры воровали роботов, стирали моральные установки и пытались перепродать машины всяким преступным группам. Сработало, надо признать, но теперь робот, которому стирают три закона, автоматически самоликвидируется: органики – пускают иглу в мозг, синтетики – полностью форматируют жесткий диск.
– Но в принципе это возможно, раз были случаи?
– Да нет же, видишь ли, вначале накладывается программа накопления опыта, она первична, и без нее в обществе робот существовать не может. Затем в этом же цехе, не выходя из этой комнаты – таков строжайший протокол, накладываются три закона. После этого уже в отдельном цехе раздаются профнаправления.
– Ага, то есть мораль не первостепенна…
– Что же ты докопался, не успеют они научиться ничему плохому. Процедура проводится в серой коробке, внутри лишь один человек, за ним ведется видеонаблюдение, комната при этом закрыта по всем нормам безопасности. Ставится наложение опыта, затем проводится диагностика и запускается установка трех законов. Система работает уже больше десяти лет, все без сбоев, акции растут.
– Хах, понятно. Ну ладно, не буду тебя отвлекать, тебе, наверное, работать уже надо.
– Да, как раз все уже собираются. Давай, до встречи. В воскресенье буду.
Интересно, папа еще не знает про случай в офисе или просто решил умолчать? Впрочем, не важно.
Я дождался Стивенса. Он зашел домой и появился в том же самом спортивном костюме, но уже с собакой. Выгуляв питомца, жестянка вновь зашла внутрь. Стивенс переоделся, вышел спустя 15 минут… Уж не знаю, потеют ли роботы. В 8 часов он уже был в школе. Я не ехал за ним, решил выбрать другую дорогу, дабы не палиться. Пришлось приехать раньше и дождаться уже на стоянке.
В школе было все, как обычно, впрочем, как и вечером – ну если можно назвать обычным андроида, выгуливающего собаку. Он, кстати, опять мило беседовал с соседом, а потом отправился спать. Ясно одно – брать его придется после выгула, а иначе сосед может его хватиться. Нам нужно, чтобы до понедельника все было тихо, ибо в воскресенье ночью мы выложим ролик.
***
До того самого дня оставалось меньше суток. Алгоритм полностью повторился. Как бы он не прикидывался человеком, все равно робот – все по расписанию, прямо по часам, но нам от этого и легче.
Вечером я позвал ребят, мы затарились пивком и собрались у меня дома, чтобы обсудить план действий. После школы, пока органик прикидывается моим папой и руководит Ares Robotics, ребята закинули мне оружие и экипировку, я поставил на зарядку старую видеокамеру, которая была настолько допотопной, что не закачивала сразу с места съемки файлы на облачный сервис, зато снимала в отличном HD. Отследить камеру, не подключенную к сети, нереально, поэтому мы ее с радостью использовали, хотя она и была старше нас. Когда органик уснул, Эндрю и Крис уже сидели в моей комнате.
– Тебе светлого или темного? – спросил меня Крис.
– Темного, давай бутыль и садись к компу.
– Ок-ок, босс, – сказал он с улыбкой.
Через минуту я, Крис и Эндрю уже сидели у компа и пялились в Google Maps.
– Итак, он живет на Карвель Роуд. Будем брать поздно вечером, когда все либо сидят перед телеком, либо спят, либо заняты друг другом. Я прикинул, единственный возможный вариант – скрутить его у него же дома. Если получится перегрузить систему и вырубить, потом вывезти на моей машине и уже в Уэстморленде возле речушки записать кино.