Полдень, XXI век. Журнал Бориса Стругацкого. 2010. № 5

Полуян Павел

«Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». И так далее… Какие чеканные формулировки! Их мог породить только гражданин цивилизованного и правового государства, с молоком матери впитавший принципы римского, естественного, гражданского и прочего права, а также свято верующий в силу Закона.

Согражданам Азимова (да и вообще англоязычным читателям) такие взгляды были близки и понятны. И успех не заставил себя ждать: роботы Азимова, оснащенные Тремя Законами, «пошли в народ». Там, в народе, они делали свое дело: изменяли общественное сознание, умеряли страх публики перед таинственными

и жестокими металлическими созданиями. И они делали это дело очень хорошо.

Успех всегда привлекателен, и очень скоро появились «нелицензионные копии». Попросту говоря, коллеги по цеху выпустили в мир полчища роботов, очень похожих на азимовских. Нет, сами роботы были вполне оригинальными, но в них неизменно встраивались все те же Три Закона. И до сих пор встраиваются! Что ж, коллег можно понять: лучше все равно не придумаешь…

Но вот что странно: шестьдесят лет, с легкой руки Азимова, фантасты жевали и пережевывали идею Трех Законов Роботехники. За это время робот превратился в довольно заурядный атрибут любого завода, а молодой Айзек — в старого профессора Азимова и, увы, скончался. Шестьдесят лет! И хоть бы кому-нибудь пришло в голову осмыслить эти Законы… Пусть даже только один — Первый.

Оставим в покое главное понятие Закона — «человек». Предположим (для простоты), что нам удалось обучить робота безошибочному распознаванию особи Homo Sapiens. Но что, с точки зрения робота, есть «вред»?

Безусловно, робот не может ударить человека ножом… Стоп-стоп-стоп, а почему, собственно, не может? Откуда ему знать, что это действие причинит человеку вред?

Из собственного опыта? У робота нет и не может быть такого опыта. Удар ножом в металлический корпус не причиняет роботу никакого вреда и, тем более, неприятных ощущений.

Из учебного курса? Представим: в процессе обучения, перед сотней только что собранных роботов, закалывают ножом человека. Затем каждому роботу предлагают проверить отсутствие пульса и дыхания. Вред налицо — наглядно и убедительно!

Нет, это, конечно, шутка. Задача вполне решаема, если воспользоваться системой понятий, близкой и понятной роботу, то есть алгоритмизовать задачу. Например, запрет на удар ножом будет сформулирован так: «недопустимо прилагать к внешним покровам человека сосредоточенную нагрузку более стольких-то килопаскалей или распределенную — более стольких-то». Внушить это роботу не составит никакого труда, и теперь он будет вести себя надлежащим образом. То есть, не колеблясь, схватит за руку и удержит падающего с крыши хозяина (допустимая нагрузка не превышена), но не ударит его ножом или другим острым предметом.

Схватит за руку? Представим, что хозяин падает с крыши (ничего страшного, дом одноэтажный), а ближайшей к роботу частью тела оказались… ну, например, наружные половые органы. И робот хватает его за… Бр-р-р-р, какой ужас!

Не ударит ножом? А соломинкой или куриным перышком — можно? Не торопитесь отвечать «да», сначала зажмурьтесь. А еще лучше — заслоните глаза рукой.

Совершенно верно, кроме величины нагрузки, стоит учитывать и точку ее приложения. А также — и направление ее приложения. Одна и та же нагрузка, приложенная, например, к руке человека, в одном случае — всего лишь согнет ее, а в другом («противосуставное движение») — приведет к тяжелой травме. Что уж говорить о шее…

И это еще не все. Ограничения рассчитаны, исходя из сред-нечеловеческих параметров. Вероятно, для стариков (они тоже люди), с их ломкими костями и хрупкими сосудами, ограничения следует ужесточить… раз в десять. Ужесточили? Отлично, теперь попробуем научить робота определять возраст человека по внешнему виду. Что, вы и сами часто ошибаетесь?

Уже ясно, что исполнение Первого Закона потребует от робота немалых знаний о человеке. А ведь мы пока затронули только механику человеческого тела. Что там еще? Физика? Поговорим и о физике…

Допустимо ли приложить к человеку напряжение в 3 вольта? А 30 вольт? А 3000 вольт? Как насчет силы тока? Один миллиампер — это много или мало? Кстати, речь идет о постоянном токе или о переменном? Промышленная частота или сверхвысокая?

Допустимо ли подвергнуть человека воздействию гамма-излучения интенсивностью в 1 бэр? А в 10 бэр? Как насчет всех остальных видов излучения? Что вообще считать безвредной дозой? Кстати, не заслонить ли человека стальной грудью от потока зловредного ультрафиолета? Особенно на пляже, а?

Вслед за физикой вспоминается химия. Несложно объяснить роботу, что воздействие концентрированной серной кислоты причиняет человеку существенный вред. Но как быть с 1,2-нитро-3,4-амино-перфторатом? Наносит ли он вред человеку? А если да, то в каких количествах? На сегодня число известных химических соединений составляет около 20 миллионов. Сколько же данных нужно заложить в робота, чтобы Первый Закон не остался благим пожеланием?

А ведь есть еще и синергический эффект: два вещества, безвредные порознь, вместе образуют нечто весьма вредное. Не зря же на многих лекарствах указано: не употреблять вместе с алкоголем. Впрочем, что уж там лекарства: бинарное химическое оружие создано по тому же принципу! Число же возможных сочетаний уже превосходит все разумные пределы — оно действительно астрономическое. Тем не менее, учитывать эти сочетания необходимо. Только представьте: робот, оснащенный бинарным оружием и убежденный в его полной безвредности… Боже мой, сколько же всего необходимо знать, чтобы стать действительно безопасным роботом!

Мы начали с точных наук. Но ведь есть еще философия, этика, психология и многое другое. Безвреден ли жир (при наружном применении) для человеческого организма? Вполне. Но что, если жир — свиной, а организм украшен бородой и чалмой? И здесь нам придется вспомнить еще и категорию морального вреда…

Если хозяин приказал роботу подойти во-о-он к той даме, сообщить ей… нечто ласковое, а затем нежно пожать… ну, скажем, наиболее выдающиеся элементы ее рельефа? Что в этом плохого? С точки зрения робота — ничего. А с точки зрения дамы? Она обязательно поделится с нами своим мнением — как только ее приведут в чувство. И это еще относительно невинный вариант использования робота.

Еще немного о моральном вреде: все запреты касаются исключительно человека. А как насчет котенка? Ему можно отрезать лапку? Или голову? И даже не котенку, пусть это будет всего лишь тряпичная кукла. Можно? По Азимову — вполне: котенок не человек, кукла тоже. Теперь уточним: все это происходит на глазах маленькой девочки, хозяйки этого самого котенка (или куклы). Что, страшно? Да нет, по Азимову — ничего страшного!

Пусть так. Но что проистекает из данного действия в будущем? Через год? Через десять лет? Уж не вред ли? Кем станет девочка, на глазах у которой убили любимого котенка? Впрочем, эту проблему давно рассмотрели классики — Лем и Стругацкие. Рассмотрели и признали неразрешимой. Даже для человека. Не будем требовать от робота невозможного… Но разве проблема сиюминутного вреда намного проще?