Звездные войны. Психология киновселенной

Коллектив авторов

5. Дроиды и разум – почему нас это волнует?

Джим Дэвис

«Итак, если бы дроиды могли мыслить, разве кто-нибудь из нас остался бы здесь?»

Оби-Ван Кеноби [122]

«Ключевой вопрос о том, могут ли небиологические существа иметь какие-либо права, сводится к тому, обладают ли они сознанием. Способны ли они чувствовать?»

Футурист Рэй Курцвейл [123]

122

«Звездные войны. Эпизод II: Атака клонов (фильм, 2002 г.).

123

Borenstein (2007).

Дроиды – это существа Вселенной «Звездных войн», обладающие искусственным интеллектом. Из крошечных дроидов-мышей на «Звезде Смерти» они превратились в огромных космических грифов Сепаратистской армии. Они могут двигаться и говорить, но что мы знаем об их душевном состоянии? Обладают ли они интеллектом? Свойственна ли им сознательная деятельность?

Искусственный мозг может довольна неплохо соображать

В «Звездных войнах» это кажется очевидным, что какое бы когнитивное задание ни стояло перед дроидами, они справятся с любым. Есть дроиды-медики, которые ставят диагнозы, протокольные дроиды, занимающиеся переводами, и дроиды-воины, которые сражаются. Все они могут думать, принимать решения и даже выстраивать стратегии, манипулировать другими, как, например, тактические дроиды серии «Т» из фильма «Звездные войны: Войны клонов», которые способны быть грозными военачальниками.

Несмотря на то что дроиды могут выполнить почти любое интеллектуальное задание, Оби-Ван Кеноби, как и многие другие люди, отрицает возможность того, что машины способны думать. [124] Кеноби также очень редко проявляет сострадание к дроидам, в отличие от Энакина и Люка. Хотя большинство дроидов умеют говорить, многие разговаривают лишь на своем «двоичном» языке, на свистящем и пищащем наречии R2-D2. Кеноби не понимает его. Энакин и Люк, напротив, знают двоичный язык и намного больше заботятся о состоянии дроидов. Случайно ли это? Скорее всего, нет. Слуховое восприятие может оказаться даже важнее, чем зрительное, для того чтобы судить об интеллектуальном уровне развития других людей. В частности, большой словарный запас, который предотвращает неудачные заминки в речи, и более легкий для понимания стиль разговора помогают увидеть в ком-либо интеллектуально более развитого человека. [125] Следовательно, легко считать кого-то глупым, если вы не можете понять то, о чем он говорит. Так происходит и с машинами.

124

Только 27 % опрошенных в 2005 г. думали, что роботы способны к разумной деятельности. Странно, но то же исследование показало, что только 72 % считают, что люди в целом способны к разумной деятельности (Arras & Cerqui, 2005).

125

Reynolds & Gifford (2001).

С юных лет Оби-Ван учился быть одним целым с Силой, которая объединяет лишь живое, то есть органическое – возможно, именно поэтому дроиды и не входили в зону его внимания. В противоположность этому Энакин и Люк могли взаимодействовать с дроидами еще до знакомства с Силой. А исследования в нашем с вами мире показывают, что эмпатия помогает увеличить степень взаимодействия между людьми или группами людей. [126]

Не менее важный вопрос: способны ли дроиды испытывать эмпатию по отношению к нам?

126

Например, Dovidio et al. (2010).

Эмоции в органических и искусственных системах

Еще один существенный вопрос о дроидах, помимо определения степени их разумности, состоит в их способности испытывать эмоции: могут ли они страдать и чувствовать боль? Наша культура допускает существование чего-то, что умеет думать, но ничего не чувствует. В нашем рутинном понимании психологии мы обычно разделяем такие понятия, как причина эмоции и сама эмоция. С этим легко согласиться, когда мы размышляем о таких чувствах, как грусть и радость, но это намного сложнее сделать, когда мы рассматриваем какие-либо пограничные душевные состояния. Является ли мотивация эмоцией? А как насчет возникновения желаний? Чувства подозрения? Интереса? Интуиции, помогающей выбрать наилучшее направление действий? Как только это приравнивается к разновидностям психического состояния, мы начнем задумываться о целесообразности наличия разума без эмоции. Не случайно знаменитый ученый Марвин Минский, занимавшийся изучением искусственного интеллекта, говорил: «Вопрос не в том, могут ли машины быть полностью лишены эмоций, а в том, возможно ли наличие разума без эмоций». [127]

127

Minsky (1986).

Дроиды определенно ведут себя так, будто бы обладают широким спектром чувств. С-ЗРО, в частности, показывает радость, грусть и большую степень тревожности и стресса. Даже если мы не знаем языка R2-D2, природа интонаций маленького дроида напоминает мелодику человеческой речи, и мы с легкостью можем определить эмоций, услышав его речь. [128] Конечно, существует большая разница между собственно чувством счастья и просто манерой поведения, его напоминающей. Только 2 % людей считают, что современные роботы обладают потенциалом, позволяющим им испытывать чувства. [129] К сожалению, у когнитивистов и психологов не хватает точных знаний о том, как работают эмоции, чтобы решить, действительно ли дроид чувствует что-либо или просто имитирует действия человека. То же самое касается и сознания.

128

Barra et al. (2006).

129

Arras & Cerqui (2005), p. 10.

Программист Алан Тьюринг считал, что размышления на тему того, способны ли машины думать, представляют собой серьезную проблему, потому что в основном зависят от определения понятий «машина» и «думать». Вместо этого он предложил имитационную игру, при которой компьютер ведет разговор с человеком письменно и пытается имитировать человеческое существо. Когнитивисты называют это «тестом Тьюринга». [130] Хорошая новость, касающаяся этого теста, заключается в том, что его очень тяжело пройти (трудно обмануть такого знающего судью, как человек) и любая машина, справившаяся с ним, несомненно, показала бы какие-то эмоциональные проявления. А плохая новость заключается в том, что мы точно не знаем, что будет означать прохождение теста для самой машины. Будет ли это означать, что машина обладает сознанием? И хотя психологи узнают все больше и больше о природе сознания, мы до сих пор не можем понять, имеют ли дроиды (или любые другие искусственные создания, если уж на то пошло) сознательный опыт.

130

Turing (1950).

Проблема представляется особенно важной, когда дело доходит до страдания и боли.

Боль у неорганических существ

Могут ли дроиды испытывать страдание и боль? Реальная наука не дает ответа на этот вопрос, но в «Звездных войнах» ответ есть, и этот ответ – «да». Намек на это появляется в фильме «Звездные войны. Эпизод VI: Возвращение джедая», когда один из дроидов подвергается мучениям со стороны другого дроида во дворце Джаббы. [131] Когда ему на ноги выливают расплавленный металл, он начинает кричать от боли. В фильме «Звездные войны. Эпизод IV: Новая надежда» дроид С-ЗРО бьет R2-D2 по голове – предположительно для того, чтобы наказать. Хотя в других случаях дроиды, похоже, не чувствуют боли, например, в фильме «Звездные войны. Эпизод II: Атака клонов», когда дроид С-ЗРО лишается головы.

131

«Звездные войны. Эпизод VI: Возвращение джедая» (фильм, 1983 г.).

Есть люди, которые занимались вскрытием животных и поражались, насколько точно они могут имитировать чувство боли, хотя (по мнению этих конкретных людей) животные не имеют «души» и «разума», а значит, не могут испытывать никаких болезненных ощущений. [132] Большинство людей, однако, убеждены, что кошки и собаки способны чувствовать боль, но при этом уверены, что роботы никогда не смогут ее ощутить. Суть этих наблюдений заключается в том, что убеждения людей относительно того, может ли объект чувствовать боль или нет, зависят от их культурной среды. Убежденность человека в том, что какое-либо существо не способно страдать, означает лишь то, что этому человеку нет никакого дела до того, как с этим существом следует обращаться.

132

Gombay (2007), p. ix.

И если его мнение является ошибочным, то это может привести к огромным страданиям тех самых существ.

Компьютерный разум и механические действия

Владельцами многих дроидов являются люди, которые приравниваются к «наставникам, как в случае с С-ЗРО. Большую часть времени дроиды выполняют приказы своих учителей. Но совершенно неясно, как же определяется чувство принадлежности дроида к человеку, особенно в понимании самих дроидов. Например, в конце фильма «Звездные войны. Эпизод III: Месть ситхов» дроиды С-ЗРО и R2-D2 были переданы Бейлу Органе. Почему же R2-D2 прекратил служить Энакину, который оставался его любимым хозяином на протяжении II и III эпизодов и в середине «Войны клонов»? Когда джавы продают захваченных дроидов Скайуокерам, С-ЗРО заявляет, что Люк теперь является его новым хозяином. Кто-то может подумать, что дроиды все еще остаются верны своим прежним наставникам. Действительно, такую преданность проявляет R2-D2, который подсказывает Люку, как нужно убрать запретительный болт, чтобы дроид смог найти Оби-Вана Кеноби. [133]

133

«Звездные войны. Эпизод IV: Новая надежда» (фильм, 1977/1981 гг.).