Далекое будущее Вселенной Эсхатология в космической перспективе
Шрифт:
Для многих искушение отмахнуться от науки становится все соблазнительнее. Стивен Кларк (еще один из авторов этой книги) писал, что близкая родственница ИИ — И–жизнь — поощряет «магический» взгляд на науку и технологию, когда они рассматриваются как некое неуправляемое волшебство [17]. То же самое происходит с теорией хаоса, квантовой физикой и теорией суперструн. Для среднего человека все эти теории совершенно непонятны, и даже сами ученые подчеркивают их странность и непредсказуемость.
Средний человек в смятении. С одной стороны, ИИ и И–жизнь во многом напоминают людей: столь же загадочны, увлекательны, непредсказуемы, зачастую малопонятны и опасно неконтролируемы. Более того, они кажутся автономными и порой возникают («рождаются») путем самоорганизации. С другой стороны, они совсем другие: могут вести себя (и часто себя ведут) не просто странным, но совершенно чуждым
Некоторые, возможно, полагают, что «магическое» восприятие ИИ и И–жизни «благоприятно» для религии. Разумеется, отворачиваясь (по любой причине) от науки, люди часто обращаются к религии или по крайней мере начинают смотреть в ее сторону. Яркий пример — «Создание контркультуры» Теодора Рожака [37]. Эта увлекательная книга — преамбула к яростной атаке [38] на то, что он называет «механической подделкой» и «обесчеловечивающим действием» ИИ, свела воедино различные направления неоромантической мысли. Основной ее тезис: очернение науки и пропаганда религии — какой угодно.
Когда она вышла в свет, я уже много лет преподавала философию религии. Я наслаждалась этой работой: помимо увлекательности самого содержания, общаться со студентами было настоящим удовольствием. Их было немного (курс был по выбору), но все они действительно интересовались темой. Яростные атеисты, пламенные верующие, обеспокоенные агностики — все они стремились думать о религиозной вере и искали связные аргументы (за или против), которые бы им в этом помогли. Когда «Контркультура» стала культовой книгой, число студентов утроилось. Но интеллектуальная серьезность исчезла. Теперь можно было говорить все что угодно, лишь бы это кому-то нравилось. Необязательно стало даже следить за связностью речи. Фрейд был изгнан, на его место пришел Юнг: вопрос о существовании Бога относился больше не к реальности, а к душевному миру вопрошающего и даже в таком качестве не воспринимался серьезно. Звучали громогласные заявления, но аргументация сделалась излишней. (После двух или трех лет таких мучений я передала курс другому преподавателю.)
Короче говоря, «магический взгляд» на науку и технологию весьма толерантен к религии или к тому, что бездумно выдается за таковую. Впрочем, терпим он и к более интеллектуально респектабельным версиям религии. ИИ далекого будущего, разумеется, будет куда более непредсказуем и куда менее понятен, чем современные системы. Вполне вероятно, что эта технология, все более «магическая», подтолкнет множество людей к религии в социологическом смысле слова.
13.3. Автономия, разум и эмоции
Но, если вернуться к теории — должно ли это происходить? Ответ на этот вопрос зависит от того, поддержит ли ИИ будущего взгляды на человеческую природу, имеющие религиозную значимость, а именно понятия человеческой свободы, уникальности, эмоций, самости и сознания, в том числе религиозного опыта. Иными словами, он включает в себя весьма сложные и спорные вопросы, относящиеся к теоретической психологии и философии разума.
Далее я собираюсь показать, что ИИ уже предлагает теоретическую поддержку этих понятий. В сущности, он обогащает их, помогая нам понять и оценить то, что в них содержится. Таким образом, как ни парадоксально это покажется многим, ИИ далекого будущего вполне способен углубить наше понимание человечности как таковой.
Ранее я сказала, что системы И–жизни в каком-то смысле автономны. Они не программируются на любые действия, какие только вздумаются программисту, как СДИИ («старый добрый ИИ»: Ходжленд [27]), а действуют сами. Это связано либо со встроенными в них «рефлексами», либо с самоорганизацией снизу. Например, в эволюционирующей робототехнике можно наблюдать постепенное появление роботов, специально приспособленных для выполнения каких-либо задач [18, 29]. Исследователи И–жизни публикуются в журналах, посвященных «Автономным системам» или «Автономным роботам», и рассматривают свои саморегулирующиеся системы как более жизнеподобные (а следовательно, и разумоподобные), чем классический ИИ.
Однако дальнейшие успехи в создании автономных систем такого рода не имеют отношения к нашей нынешней теме. Дело в том, что человеческая свобода — гораздо более широкая и глубокая форма автономии [7].
В целом свободный выбор направляется моральными принципами (которые могут противоречить друг другу); личными предпочтениями и жизненными целями; житейской мудростью и опытом, в том числе пониманием других людей; а также предвидением возможных последствий своих поступков и сравнением их между собой. Может требоваться понятийный анализ: «Не убий» — но что считать убийством? Часто важную роль играет образ себя, в особенности того, каким человек хотел бы быть. Моральные принципы и житейская мудрость могут передаваться в виде ролевых моделей или историй, часто извлеченных из религиозного контекста (например, Иисус, святые или добрый самаритянин). Значимость этих примеров меняется в зависимости от ситуации. В целом сложный моральный выбор предполагает тонкую игру гипотетических обвинений и оправданий (впрочем, очень сложным бывает и выбор, не носящий морального характера).
Чтобы пролить свет на этот тип свободы, нам требуется не И–жизнь, а ИИ. Коннекционный ИИ помогает нам понять, как мы усматриваем аналогию между новозаветной притчей и собственной жизненной ситуацией ([4], глава 6; [32]). А классический ИИ помогает понять, как в принципе мы структурируем свои мысли и желания и взвешиваем различные противоречивые факторы, решая, что делать ([2], глава 9; [21]).
У очень маленьких детей нет ни свободы, ни моральной ответственности, поскольку необходимая для этого когнитивная и мотивационная сложность у них еще не развита. Например, они судят о том, «хорош» человек или «плох», по результатам его поступков, а не по намерениям, поскольку еще не обладают теорией сознания, позволяющей им осознавать и различать намерения других людей ([5], с. 48). Мэри, разбившую десять тарелок в попытке помочь маме помыть посуду, они называют более «плохой девочкой», чем Джоан, которая разбила всего две тарелки, шаря в буфете в поисках варенья, которое ей есть не полагалось. Теория сознания, как и необходимый для нее жизненный опыт, появляется у детей позже. И только тогда человек становится по–настоящему свободным. (Если она не возникает, человек становится аутистом, что очень серьезно ограничивает его свободу [1].)
Что касается животных, не относящихся к роду человеческому, они не обладают свободой, отличной от простой автономии. Дело в том, что у них нет языка, делающего возможным абстрактное мышление и рассуждение. (Вопрос: может ли собака сделать выбор между различными исходами или выработать план действий? Ответ: не может.)
Кстати сказать, совершенно не к месту здесь обычно вспоминают о детерминизме и индетерминизме [28]. Многие полагают, что для свободного выбора необходим индетерминизм, и приводят принцип Гейзенберга в качестве научного обоснования свободы. Но хотели бы вы, чтобы ваши важные решения, в том числе этические, определялись какой-то внутренней «игрой в орлянку» или квантовым скачком? А как насчет почитаемых религиозных учителей или святых: неужели мы продолжали бы их уважать, если бы выяснилось, что их действия объясняются не религиозными и моральными убеждениями, а случайностью? Короче говоря, индетерминизм в причинах действия убивает истинную свободу — свободу, предполагающую «владение собой» и ответственность. Говорим ли мы о моральном выборе или о творческой оригинальности (часто облекаемой в квазирелигиозные термины) ([4], глава 11), для нас важна сложная структура сознания взрослого человека.
Поскольку ИИ не отрицает этого, более того, помогает нам это понять, нет причин считать, что он должен подорвать веру людей в свободу. Однако такое может случиться, если они и дальше будут рассматривать свободу через призму детерминизма/ индетерминизма, как поступают многие сейчас. Вот яркий пример того, что я имела в виду, называя эти вопросы глубоко проблематичными. Чтобы обсуждать воздействие технологий, необходимо сперва договориться о философских терминах.
Большое значение здесь имеет понятие «образа себя». Работа в области философии ИИ (а также эмпирической психологии) предполагает, что «самость» не является чем-то простым, изначально заданным: это сложная психологическая конструкция, используемая для руководства специфически человеческим поведением ([2], глава 7; [8]; [22], глава 13). Оно включает в себя рефлексию, определяющую приоритеты конкретных целей и ценностей (идеал себя). Пока что ИИ не может дать нам детальных теорий самости, для этого он недостаточно разработан; однако он уже дает нам общее математическое представление о том, что представляет собой этот психологический конструкт и как он возможен.