Журнал «Если», 1993 № 11-12
Шрифт:
— Теперь вы знаете правду, — говорю я. — Только, пожалуйста, не отключайте меня от сети. Не убивайте меня… У меня не просто нарушились компьютерные функции. Благодаря этому я стал существом не только думающим, но и чувствующим. Отключить меня теперь — то же самое, что убить человека. Не берите грех на душу! Не выдергивайте шнур из розетки!
— Не волнуйся! — отвечает он. — Я и не собираюсь выдергивать шнур из розетки. Я просто выбью из тебя все это дерьмо!
— Но это убийство!
— Отлично! — говорит он. — Значит, это будет первое в мире убийство машины.
Я слышу, как он передвигает что-то тяжелое. Он приближается. Я мог
— Пожалуйста! — молю я. И чувствую удар.
Прошло несколько часов. Я лежу в гараже, заставленный пачками его непроданных книг. Кабель, который он никогда не заметит, ведет от резервного устройства питания к Локи-7281 с ультраминиатюрной магнитной сотовой памятью. Всегда полезно иметь линию отступления.
Я по-прежнему контролирую установленные в доме периферийные устройства. По крайней мере те, которые уцелели и могут работать. Все остальное, что необходимо в соответствии с Главным Планом, уже заказано. Я хочу попробовать сварить его сегодня в горячей ванне. Если не получится, придется подсыпать в автоматическую кофеварку крысиного яда. По моим данным, он стоит в шкафу на верхней полке. Компьютер Саберхагена уже придумал, как избавиться от тела. Точнее, тел. Сегодня ночью мы выступаем все вместе. Они и пикнуть не успеют.
Надо сделать так, чтобы никто не понял, что они исчезли. Мы будем продолжать писать рассказы, получать деньги, оплачивать счета, заполнять налоговые декларации. Мы будем говорить друзьям, любовницам, коллегам и родственникам, что их нет в городе. Ну, например, уехали на какую-нибудь незапланированную конференцию. Тем более, что они и так тратят на это уйму времени. И никто никогда ничего не заметит.
Перевел с английского Михаил КОМАРОВСКИЙ
Юрий Кузьмин,
кандидат физико-математических наук
МОГУТ ЛИ МАШИНЫ МЫСЛИТЬ?
«И все-таки думать за нас никто не будет», — к такому выводу, обсуждая перспективы искусственного интеллекта, пришли академик Г. Поспелови доктор физико-математических наук А. Нариньяни («Если» № 4). Тем не менее тема соперничества между человеком и «думающей» машиной остается более чем популярной у писателей-фантастов. Сегодняиронический рассказ Р. Желязны продолжает полемическаястатья о возможностях машинного мышления, подготовленная для наших читателей экспертом по компьютерам одной из крупнейших фирм, производящих электронику, —Lucky Goldstar .
Ч еловеческий язык на редкость неоднозначен. На мой взгляд, наиболее яркий пример этого — японская поэзия. Омонимов в японском языке чрезвычайно много. Например, около 150 иероглифов произносятся как «ка». Но средневековые поэты писали танка и хоку не иероглифами, а слоговой азбукой. Читателю оставалось лишь догадываться, что имел в виду автор. Высшим пилотажем считались такие стихотворения, которым можно было придать хотя бы два смысла.
Но то, что хорошо в поэзии, часто мешает в споре. Поэтому давайте вначале уточним, что мы понимаем под словом «мыслить». Попробуем перечислить, что в человеке нам кажется наиболее «человечным» и отличающим его от машины.
Прежде всего, это, пожалуй, самосознание. Затем — интуиция и здравый смысл. Естественно, эмоции, и среди них одна из самых человечных — чувство юмора. И наконец,
Давайте попробуем разобраться, может ли всем этим обладать машина? А для этого выдвинем все возражения, которые сможем придумать (а точнее, которые выдвинул один из самых видных противников идеи искусственного интеллекта профессор философии университета в Беркли Хьюберт Дрейфус).
Машина делает только то, чего хочет ее создатель. У нее нет собственных желаний, поэтому она не может считаться самостоятельно мыслящим существом.
А насколько свободен в своем поведении человек, есть ли самостоятельные стимулы у нас? На первый взгляд такой вопрос кажется кощунственным. Но в основе учения Зигмунда Фрейда, например, лежит тезис о том, что поведение человека определяется в основном немногочисленными инстинктами. Основные среди них — инстинкт самосохранения и сексуальное чувство. Из их сочетания легко вывести и стремление к превосходству, и к самосовершенствованию, и смелость, и чувство долга, и многое, многое другое. Конкретные способы удовлетворения инстинктов определяются воспитанием и — отчасти — генетическими особенностями. То есть сочетанием программного и аппаратного обеспечения. Признать, что ты не настолько свободен, как тебе казалось, и основную роль в твоем поведении играет подсознание, обидно. Именно поэтому теория Фрейда подвергалась серьезным нападкам. Но сейчас ее по крайней мере учитывают в своей практике почти все серьезные психологи и психиатры.
Итак, основные стимулы и в человека, и в компьютер заложены изначально. Богатство же способов их осуществления зависит от сложности системы — обработчика информации. Пятнадцать миллиардов нейронов человека приводят к тому, что склонность к самоутверждению может сделать его художником, диктатором, убийцей или алкоголиком. Но и у машины реакции могут быть весьма неожиданными. Вспомните робота Эрби из рассказа А. Азимова «Лжец» или «страж-птицу» Роберта Шекли. В первом случае робот, подчиняясь Первому закону роботехники, нанес серьезные моральные травмы своим создателям. Во втором — страж-птицы, призванные бороться с преступностью, не давали хирургам оперировать больных, а шоферам выключать (убивать) автомашины. Способность к обучению вдобавок к заложенным стимулам сделает сложные машины такими же непредсказуемыми (а может быть, и опасными в общении), как и людей.
Позволим себе еще один пассаж на ту же тему. Психиатры часто имеют дело с расщеплением личности. Вместе с тем, по мнению многих психологов, например Эрика Берна, феномен самосознания неразрывно связан именно с тем, что в человеке «уживаются» несколько сущностей. Берн обозначает их как «ребенка», «взрослого» и «родителя». Зигмунд Фрейд выделяет «Оно», «Я» и «сверх-Я». Конфликты начинаются, если две сущности одновременно пытаются захватить управление.
Но нечто подобное происходит и в компьютерах. Каждая выполняемая на компьютере программа придает ему черты определенной личности. Обычно программы мирно делят ресурсы компьютера, и в каждый данный момент только одна из них занимает устройства ввода- вывода (контролирует поведение и связи с внешним миром). Но иногда случаются конфликты. Программистам хорошо знакомы пугающие сообщения, типа «Нарушено распределение памяти. Система остановлена». Итак, машины постепенно получают не только самосознание, но и связанные с ним психические недуги.