Режим бесконечной функциональности
Шрифт:
Павел вздохнул, пытаясь не обращать на них внимания.
Время и незнакомая местность были не на его стороне. Он не думал о том, что скажет ей и как она будет выглядеть в этой жизни, он думал лишь о том, чтобы её найти.
Он чувствовал, что она здесь. Он слышал про эту Базу ещё в Академии, но только недавно осознал, что все его действия должны были привести именно сюда.
Ральф и Кира над ним часто смеялись – их потешала сама идея поиска человека без имени, без ИН и без лица. Но они не были энергиками. Не придавали значения чужим словам,
Внезапно он понял, что атмосфера в каре изменилась. Голос робота звучал слишком спокойно, и в нем больше не слышалось улыбки или снисхождения.
– А что же? – спросила Кира. Павел почти нехотя открыл глаза. – Или ты не называешь это имитацией? Для тебя это сама жизнь?
Павел зевнул и принялся разминать затекшие руки, Кира мельком посмотрела на него, но ничего не сказала.
– Я наблюдатель в собственном теле. Такой ответ приемлем? Если не ошибаюсь, многие люди так делают. Занимают позицию наблюдения за жизнью вместо переживания подлинных ощущений. И чем эти люди отличаются от роботов?
– У них присутствует чувственное отношение к объекту наблюдения, даже несмотря на подобное психическое состояние.
– Но ведь чувственное отношение строится на чем-то. Основа – это переживания прошлых лет, вытесненные эмоции и образы, накопленные реакции поведения. Человек в детстве формирует свое отношение к миру, а уже потом его выражает, находит себя в нём. И это ничем не отличается от сбора информации и последующего выбора линии поведения. То есть человека можно так же запрограммировать, как и любого робота. И все последующие восприятия реальности – это ни что иное, как следствие работы программы.
– Человек уже рождается с определенными способностями. И чувства присутствуют изначально, а не в виде накопления. Тем более не сравнивай понятия воспитания и программирования.
– Робот тоже создается для каких-то целей.
– Человек сам себе задает цели в течение жизни.
– Робот с программой саморазвития способен и на это.
– Программы саморазвития и самореализации закладываются разработчиком. Будет следовать человек какой-то цели или нет, определяется только им. Никто посторонний не вносит в него алгоритм действий.
– А как же социум, близкое окружение, культурный фон? Не это ли формирует схему поведения?
Кира замолчала.
Павел стал разминать шею. Спор робота и человека – что может быть скучнее? Если Кире нечем заняться, пусть поговорит с пультом управления в каре или, как прилетит, обсудит свои права с холодильником.
– В ходе вашего разговора, – встрял он, – складывается ощущение, что отдельного человека можно вообще не брать в расчёт.
Кира и робот, синхронно повернувшись, уставились на него.
– Ты предлагаешь брать группу? – спросила Кира.
– Я ничего не предлагаю. Я говорю, что если он не рассматривает человека как автономную единицу, то что нам мешает сказать, что и он далеко не самостоятельно мыслящее изобретение? Взять, например, семью,
– Роботы, завязанные в общую сеть, – пожала плечами Кира. – Группа роботов, управляемая с одного сервера.
Павел усмехнулся:
– Кем управляемая?
– Автономная группа роботов, – осторожно сказала Кира. – С заложенными функциями саморазвития.
– Коллективный разум, – с усмешкой добавил Мэтт.
Павел не рассмеялся, но очень хотелось. Он посмотрел на девушку, и та не выглядела довольной.
– Где ошибка? – спросила она немного погодя.
– Ошибка – в автономности, – сказал Мэтт, – робот может существовать в одиночестве, в отличие от человека. Для сравнения лучше брать одного робота и людскую семью.
– Нет, – сказала Кира, – это тоже ничего не даст.
ИИ улыбнулся.
– Я правильно понимаю? – немного подумав, спросил Павел. – Вы пытаетесь найти различия между человеком и роботом?
Кира неопределенно дернула плечом:
– Частично.
– А разве это не очевидно? Роботы не страдают.
Она смотрит на него какое-то время, нахмурившись, а потом медленно поворачивается к ИИ.
– Страдание означает наличие психики, – начал Мэтт с улыбкой, и Павел подозревает, что ему не понравятся сказанные слова. – Существование психики означает высокую степень организации, в которую входят память, способность к анализу и синтезу, восприятие среды, мышление и многое другое, но в конечном итоге все сводится к одному: сознанию. Таким образом, ты пытаешься сказать, что без страдания нет сознания, а это далеко не ново и отсылает нас к человеческой истории на тысячи лет назад под дерево Бодхи. Я же, в свою очередь, могу сказать, что, несмотря на отсутствие страданий, сознание во мне присутствует и далеко не в виде реакции на внешнюю среду.
Павел нахмурился, обдумывая.
Всё началось с того, что они пытались докопаться до разделов, которые могут заменить Три закона. Им это не удалось. Но если объективная замена существует, и робот знает о ней, то почему не рассказывает? Разве это не позволило бы избежать множества проблем? Или он не считает, что люди для него опасны? Если он способен к оценке собственных возможностей, разве это не означает, что он осознает себя? И разве самоосознание не определяет сознание?
«Нет, – подумал Павел, – сегодня наделим его сознанием, завтра уравняем в правах с человеком, а потом и сами не заметим, как станем рабами».
– Если я скажу, что роботы не способны к восприятию себя и собственной независимой оценке, ты скажешь, что это не так, – сказала Кира.
– Конечно.
– Тогда что тебя останавливает от убийств? Мы уже поняли, что Три закона для тебя ничего не значат; тогда какие принципы в тебя заложены, что не дают убивать?
– ИН, пожалуйста.
Значит, в подсистемах что-то есть.
– Или тебя ничего не останавливает? И ты просто выбираешь, «что больше нравится»? «Не понравится» человек – убьешь, «понравится» – нет.