Мечты роботов: Фантастические произведения (сборник)
Шрифт:
Но даже и в этом случае, можем ли мы быть абсолютно уверены в том, что машины сумеют безошибочно отличать врагов от друзей? В ситуации, когда все наше оружие контролируют руки и мозги людей, существует проблема «дружественного огня». Американское оружие может случайно убить американских солдат или гражданских людей, что нередко происходило в прошлом. Речь идет об ошибках, которые допускали люди, однако от этого не легче. А что, если наше роботизированное оружие откроет «дружественный огонь» и начнет уничтожать американцев или даже американскую собственность? Принять такое будет еще труднее (в особенности если враг разработает специальные стратегические мероприятия, направленные на то, чтобы
Разумы, действующие совместно
В эссе «Наши разумные инструменты» я упомянул о том, что может сложиться ситуация, когда роботы станут такими умными, что в конце концов нас заменят. Я предположил с некоторым цинизмом, что, учитывая поведение людей, подобная замена может оказаться очень даже полезной. С тех пор прошло время, и роботы начали занимать все более важное место в промышленности, и хотя они продолжают оставаться довольно тупыми (если говорить об уровне интеллектуального развития), они очень быстро развиваются.
В таком случае, пожалуй, нам следует еще раз взглянуть на возможность возникновения ситуации, когда роботы (или компьютеры, которые в действительности управляют роботами) нас заменят. Результат, разумеется, зависит от того, насколько разумны будут компьютеры и станут ли они настолько умнее нас, что наступит время, когда они будут относиться к нам как к домашним животным (в лучшем случае) или паразитам (в худшем). Получается, что степень разумности — штука настолько простая, что ее можно измерить каким-нибудь прибором вроде линейки или градусника либо при помощи теста, а потом выразить цифрами. Если умственное развитие среднего человека можно обозначить цифрой 100 по шкале интеллектуального развития, получается, что, как только компьютер минует эту отметку, у нас появятся проблемы.
Впрочем, так ли все просто? Вне всякого сомнения, такая сложная вещь, как интеллект, должна характеризоваться множеством факторов и иметь массу разнообразных видов — если можно так сказать. Мне представляется, что нужно обладать до определенной степени развитым интеллектом, чтобы написать логично выстроенное эссе, выбрать правильные слова и поставить их в правильном порядке. Я также полагаю, что человек, изучающий сложное устройство, должен быть наделен развитым интеллектом, иначе он не поймет, как оно работает и что следует сделать, чтобы его усовершенствовать — или починить, если оно вдруг сломалось. Что касается литературного труда, я обладаю чрезвычайно высокоразвитым интеллектом; а вот в работе с разного рода машинами и устройствами я абсолютно ничего не понимаю. В таком случае, кто я — гений или идиот? Ответ таков: ни то ни другое. Просто какие-то вещи получаются у меня хорошо, а какие-то плохо. Это можно сказать про любого из нас.
В таком случае давайте немного поразмышляем о природе интеллекта человека и компьютера. Мозг человека состоит из протеина и нуклеиновых кислот; он развивался в течение трех миллиардов лет путем проб и ошибок; главными силами, толкавшими его вперед, были приспособление и выживание. С другой стороны, компьютеры состоят из металла и электронных схем; они являются продуктом экспериментов и разработок, которыми люди занимаются вот уже сорок лет; главной силой, заставляющей людей усовершенствовать компьютеры, является их желание создать машину, которая облегчила бы жизнь человеку. Если сами люди отличаются друг от друга уровнем и качеством своего интеллекта, разве не естественно, что интеллекты человека и машины будут категорически
Может показаться, что компьютеры, даже самые простые, исключительно эффективны в определенных вопросах и областях. Они обладают солидной памятью, реагируют практически мгновенно и демонстрируют способность совершать бесконечное число повторяющихся арифметических действий без ошибок и видимой усталости. Если это можно считать мерилом интеллекта, в таком случае компьютеры уже стали намного умнее нас. Благодаря тому, что они настолько нас превосходят, мы используем их миллионами разных способов и отлично знаем, что наша экономика развалится, если все компьютеры одновременно перестанут работать.
Однако эта способность компьютера не является единственным определителем разумности. По правде говоря, мы считаем ее такой незначительной, что, вне зависимости от скорости и сложности решения, относимся к компьютеру как к громадной логарифмической линейке, не обладающей вообще никаким разумом. Когда речь идет о человеке, наделенном развитым интеллектом, мы имеем в виду его способность увидеть проблему в целом, интуитивно найти ее решение, разглядеть новые комбинации, построить необычные предположения и творческие догадки. Можем ли мы запрограммировать компьютер, чтобы он вел себя так же? Вряд ли, поскольку мы не знаем, как это у нас получается.
В таком случае складывается впечатление, что компьютеры будут с каждым днем становиться все эффективнее в выполнении простых однообразных задач с ближней перспективой и их «мозг» станет развиваться именно в этом направлении. А человек (благодаря накоплению знаний и все лучшему пониманию того, что представляет собой человеческий мозг, а также благодаря успехам генной инженерии) сумеет развивать до бесконечности свои творческие способности. Оба этих вида интеллекта имеют свои преимущества, и в сочетании мозг человека и компьютера — дополняя и компенсируя недостатки друг друга — смогут продвигаться вперед гораздо быстрее, чем по одиночке, Соперничество или замена будут тут совершенно ни при чем, два разума станут работать вместе, добиваясь более значительных результатов, чем если бы они действовали каждый сам по себе в соответствии со своей природой.
Мои роботы
Я написал свой первый рассказ «Робби» в мае 1939 года, когда мне было всего девятнадцать лет.
Мой рассказ отличался от увидевших свет раньше тем, что я твердо решил не делать из своих роботов символов. Они не должны были стать символами высокомерия человека. Они не должны были стать примером человеческих амбиций, покушающихся на владения Всевышнего. Они не должны были стать новой Вавилонской башней, требующей наказания.
Кроме того, я не хотел, чтобы роботов считали символом меньшинства. Они не должны были стать жалкими существами, которых несправедливо обижают, что послужило бы мне поводом для завуалированных намеков на притеснения, которым подвергаются евреи, чернокожие и прочие страдающие члены нашего общества. Естественно, меня такое положение глубоко возмущает, о чем я множество раз говорил в многочисленных статьях и эссе — но не в рассказах о роботах.
В таком случае, чем же являются мои работы? Они всего лишь устройства. Инструменты. Машины, которые призваны служить людям. И я наделил их знанием Трех законов. Иными словами, робот не мог убить своего создателя. Объявив этот чрезвычайно популярный сюжет вне закона, я получил возможность рассмотреть другие, более рациональные последствия своего поступка.