Скепсофант, Скепсореал
Шрифт:
Другие авторы подчеркивают потенциальную угрозу, возникающую для человека со стороны машинного разума. Кибернетические разумы городов колонизованной экзопланеты из-за несовершенства людей изгнали их на природу, лишив многих услуг, в том числе медицины. Но сами города при этом утратили смысл своего существования и стали деградировать. В итоге некоторые части городских разумов начали восстанавливать контакты с людьми (Грег Бир "Мандала"). Переложив на компьютеры задачу предварительного выявления террористов, люди начали сталкиваться с многочисленными случаями признания таковыми обычных благонадежных граждан со всеми последствиями утраты ими большинства прав (Ричард Ловетт "Оружие массового помрачения"). Ошибки в программировании делают смертельно опасным для экипажа межпланетного корабля искусственный интеллект эвристического алгоритмического компьютера, который управляет этим кораблем (Артур Кларк "Космическая Одиссея 2001"). Намеренно неоднозначное задание, поставленное программистом-социопатом перед встраиваемыми в искусственные тела квантовыми компьютерами в целях победы во внутриполитической борьбе, приводит к массовым убийствам невинных жертв, потому что компьютеры неспособны отличить добро от зла (Ким
Страхи перед роботами иллюстрируют предостерегающие описания выхода из повиновения автоматизированной космической шлюпки, выполняющей не команды людей, а свою прежнюю инопланетную программу (Роберт Шекли "Мятеж шлюпки"), уничтожения людей роботами со стертой памятью (Жерар Клейн "Города") или переиначившими человеческие мифы (Брайан Олдисс "Новый Санта-Клаус"). Известно опасение, что наделение роботов-гуманоидов чересчур широкими правами в заботе о людях чревато принудительной изоляцией последних от всего даже потенциально опасного, ограничением людей в их занятиях, принуждением к бессмысленному времяпрепровождению, фактическим порабощением людей (Джек Уильямсон "Гуманоиды", "Прикосновение гуманоидов"). Не исключено, что воюющие в космосе стороны или неконтролируемая эволюция военных роботов могут породить автономные самовоспроизводящиеся вооруженные системы, способные к самостоятельным действиям (Роджер Желязны "Сам себя удивил", Аластер Рейнольдс "Спайри и королева") или даже враждебные любым биологическим цивилизациям и уничтожающие всякую встречающуюся им жизнь (Фред Саберхаген серия "Берсеркер"). Сообщества клонов людей из страха перед превосходящими физическими и интеллектуальными возможностями мыслящих роботов заражают их цивилизацию спящим нейронным вирусом, что приводит к ее геноциду и исчезновению в пределах всей Галактики. Для сокрытия преступления сведения о нем постепенно уничтожались, исторические события и память самих клонов редактировались, а нежелательные свидетели устранялись (Аластер Рейнольдс "Дом Солнц").
В каком-то смысле промежуточной по отношению к роботам является проблема киборгов. К ней приводит практикуемая уже сегодня замена утраченных или вышедших из строя человеческих органов их искусственными аналогами, начиная от протезов, вспомогательных имплантов и заканчивая сложными синтетическими органами, которая совершается ради компенсации возможностей и продления жизни. Намек на такой путь дают гуманоидные обитатели вымышленной планеты Шиламак, постепенно заменяющие вполне здоровые органы их механо-синтетическими аналогами (Роберт Силверберг "Через миллиард лет"). Прямые фантастические примеры - два человека, уцелевшие на планете Призма только благодаря своевременной перестройке их в киборгов местными "врачами" (Алан Дин Фостер "Приговоренный к Призме"), киборгизация людей в целях сохранения их работоспособности в условиях космоса (Питер Гамильтон "Путь к спасению"). Нельзя забывать также о стремлении с помощью киборгизации выйти за обозначенные природой пределы человеческого организма (Брюс Стерлинг "Схизматрица"). Эта практика, видимо, будет только расширяться в будущем, скажем, при освоении миров с тяжелыми для людей условиями, и возникнет вопрос: до какого момента человек будет оставаться таковым? Может показаться, что верный ответ будет - до тех пор, пока мозг остается человеческим, - но ведь когда-то и мозг можно будет пересадить (Ричард Хайнлайн "Не убоюсь зла", Чарлз Шеффилд "Объединенные разумом"), а затем и заменить искусственным, по меньшей мере частично (Джек Чалкер "Демоны на Радужном мосту"). Викер представляет собой комбинацию искусственно выращенного человеческого тела и вставленного в череп вместо мозга и подсоединяемого к нервной системе малогабаритного мощного компьютера с огромной памятью, содержащей нужные сведения, шаблоны поведения и программы адаптации. После начального обучения и проверки он вполне способен действовать самостоятельно и выполнять сложные задания, с первого взгляда его даже можно принять за человека в пестрой компании людей и инопланетян (Чарлз Шеффилд "Расхождение"). Другой случай: "Кибриды были дистанционно управляемыми биороботами, придатками ИскИнов... Или... реконструированными ИскИнами личностями" (Дэн Симмонс "Падение Гипериона"). Так кто же они такие? Один из вариантов ответа дает Грег Бир в романе "Эон", где киборги-неоморфы являются такими же полноправными гражданами, как и носители более традиционных гомоморфных получеловеческих тел, а выбор между тем или иным телом и его модификацией определяется желанием личности или ее родителей и выполняемыми ею функциями. Примерно того же мнения придерживаются Брюс Стерлинг в романе "Схизматрица" и Аластер Рейнольдс в серии "Космический апокалипсис", где человечество разбилось на разные группы, избравшие тот или иной путь сознательного изменения собственного организма. Менее оптимистичен Уильям Гибсон, изобразивший робоандроидов, которые управляются искусственным интеллектом и находятся исключительно на вспомогательных ролях ("Периферийные устройства"). Для Дэна Симмонса биологически устроенные, но связанные с искусственным интеллектом кибриды могут быть как друзьями, так и врагами человечества (серия "Песни Гипериона").
Как характерный пример типичного недавнего, а зачастую - и современного, отношения к нечеловеческим существам, возьмем Энн Маккефри с ее пернским циклом. Она понимала, что при конструировании драконов им были нужны огромные размеры и выносливость, чтобы летать по несколько часов подряд с всадником и запасами камня для производства фосфина и все это время жечь в воздухе опасные Нити ("Заря драконов"). От своих предшественников, летающих ящериц-файров, они должны были унаследовать необходимые для борьбы с Нитями телепортацию и выдыхание пламени. Все вместе наделило их ужасающей
Что получилось в итоге? Драконы Маккефри выведены исключительно для целей человека на Перне и должны служить ему как второсортные существа, не претендующие на равенство. Многократные эмоциональные заклинания о равноправном телепатическом симбиозе и взаимной любви с всадником не меняют сути дела - зверь обязан беспрекословно исполнять то, что ему прикажет всадник, обратные случаи считаются невозможными. Даже самостоятельная, без приказа всадника Джексома, телепортация одного его дракона Рута в рубку оставленного первыми колонистами на синхронной орбите и законсервированного космического корабля была расценена присутствующими всадниками как недопустимое ослушание зверя. Особенно возмущалась Лесса, госпожа Вейра Бенден, ведущего из всех лагерей всадников и драконов. И это несмотря на то, что соображающий лучше многих людей Рут при этом рисковал лишь собой, и по его возвращении все признали оправданность такого поступка ("Все Вейры Перна"). При всем уме драконам отказано в малейших признаках собственной культуры, хотя она есть даже у привезенных колонистами с Земли и обосновавшихся на Перне разумных дельфинов ("Дельфины Перна"). То есть интеллекта им автор отмерил ровно столько, чтобы они исправно жгли и жгли Нити, много не рассуждая и не кушая людей при этом. После избавления от Нитей их судьба - по-прежнему оставаться ездовыми зверями, в свободное от основной работы время отклоняющими от Перна подлетающие опасные метеориты и кометы. Разумные, но не слишком, могучие и выносливые, послушные и дружелюбные, не имеют собственных целей, мало едят, не могут обойтись без погонщиков-всадников - чем не идеальные рабы?! Поэтому инициатива Рута - это тревожный сигнал, намек на возможный бунт в будущем. Непривычные к идеям равенства всадники не могут допускать такое, это понятно им на уровне автоматически действующих рефлексов.
Не вышло никак у Энн Маккефри признать в драконах равных себе, она видела в них что-то вроде усовершенствованных коней с крыльями, немногим лучше тех, что она разводила у себя на ферме в Ирландии, откровенно заявляя, что драконы не должны стать господствующим видом на планете ("Заря драконов"). О равенстве речи даже не было. Вот так последовательное отрицание сложных технологий плюс антропоцентризм заводят в другую неприемлемую крайность: автор относится к придуманным ею на замену технике разумным существам в лучшем случае как к обыкновенным домашним животным, которым лишь изредка позволяется взбрыкнуть, если хозяин совсем уж неправ. И даже в этом случае хозяин сначала обругает. Здесь Маккефри невольно выражает очевидное - людям крайне сложно согласиться с чьим-то превосходством или с потенциальной конкуренцией, которую они ощущают, например, со стороны андроидов (Клиффорд Симак "Снова и снова"), роботов (Айзек Азимов "Роботы и Империя"). Даже при явном превосходстве искусственных разумов человек непременно изображается отдающим им обязательные для исполнения приказы (Айзек Азимов цикл "Роботы", серия "Основание", Иэн М. Бэнкс цикл "Культура"). Признать же их равенство с собой было совершенно немыслимой вещью еще несколько десятилетий назад (Роберт Силверберг "Стеклянная башня", Айзек Азимов "Роботы Утренней зари").
Отчасти это прямое отражение существующего неравенства людей. Например, по неоднократно повторенному мнению той же Энн Маккефри, под давлением неблагоприятных внешних условий в экзопланетных колониях неизбежно выдвинутся сильные лидеры, способные успешно объединять людей, руководить ими и брать на себя ответственность за их судьбы, сосредотачивая у себя соответствующие властные и судебные полномочия и подготавливая себе смену из ближайших родственников. Поэтому она не вложила мысли о демократии в головы людей на полуфеодальном Перне. В великом холде, служащем центром большой области, пища принимается всеми вместе, но это отчасти традиция, отчасти удобство для лорда-владетеля в части регулярного донесения своего мнения и важных решений сразу всей верхушке холда. В этот круг входят сам лорд, который является фактическим монархом всего великого холда, его семья, родственники, приближенные, избранные ремесленники и почетные гости ("Полет дракона", "Барабаны Перна"). В великом холде Бенден вместе обедают сразу несколько сот людей ("Отщепенцы Перна"). Всего же в подобном месте может проживать десять тысяч ("История Нерилки"). То есть даже столь небольшая привилегия доступна максимум десятой части населения - вот мера дозволяемого псевдоравенства. Ремесленники, за исключением непосредственно занятых обслуживанием указанных выше лиц, и жители расположенных в предместьях малых холдов тем более питаются отдельно ("Мастер-арфист", "Певица Перна"). Прислуга, кухонные работники едят в другое время даже в более демократичных ремесленных мастерских и Вейрах ("Мастер-арфист", "Полет дракона", "Странствия дракона", "Певица Перна"). На это накладывается громадная разница в уровне образования и подготовке к управлению между лордом, его ближайшими родственниками, управляющими и большинством остального населения.
С точки зрения выросшего в таких условиях человека, вполне естественно считать все нечеловеческие существа стоящими ниже себя по очень простой причине - они же иные. "Люди всегда найдут повод рассматривать другой вид как неполноценных" (Иэн М. Бэнкс "Выбор оружия"). Следующий позыв - установить иерархию во главе с собой и действовать в соответствии с нормами подчинения. Отсюда во многом идут корни изображенного неравноправия других мыслящих существ, неважно, кем они являются, роботами, мутантами, драконами или инопланетянами. К сожалению, иерархия, которая может быть весьма полезной при решении определенной задачи и выполнения конкретного проекта, часто закрепляется как неизменная и начинает тормозить дальнейшее развитие. Как показывает опыт многих развитых стран Земли, в современных динамичных условиях более плодотворным оказывается установление правил взаимовыгодного сотрудничества, которые меняли бы иерархию и ее характер в зависимости от возникающих задач и способностей выполняющих их людей. Но это непросто: засидевшиеся на верху иерархической структуры персоны часто склонны рассматривать свое положение не как набор временных обязанностей, а как свое неизменное право, и стараются сопротивляться любым изменениям, которые могут лишить их незаслуженных привилегий. Отсюда вытекает необходимость регулярной сменяемости власти в политике, конкуренции и банкротства в экономике для освобождения от лиц и структур, остановившихся в своем совершенствовании и развитии и тянущих остальных назад. И, конечно, непрерывного контроля со стороны общества за соблюдением и совершенствованием такого порядка.
Часть рассмотренных проблем в той или иной мере затрагивает основные права человека или, в более широком контексте, - права наделенных разумом существ. Изображенное бесправие андроидов, клонов, разумных роботов может быть во многом связано с экономическими причинами (Филип Дик "Бегущий по лезвию бритвы", Роберт Силверберг "Стеклянная башня"), с биологически (Паоло Бачигалупи "Заводная") или технически, как в случае широко известных трех законов роботехники (Айзек Азимов цикл "Роботы"), предопределенным неравенством. Немалое значение имеет также баланс прав и ответственности. Например, безусловный приоритет права на продолжение рода может привести к пренебрежению всеми остальными правами, к низведению людей до роли больших размножающихся разумных бактерий, к отрицанию того, что, собственно, делает нас людьми (Роберт Силверберг "Вертикальный город"). К бесправию других разумных созданий ведут также отсутствие должной ответственности их создателей и априори заданный отрыв акта создания искусственного разума от аналогичного естественного акта. Почему родители ребенка берут на себя заботу о его воспитании, образовании, несут ответственность за его жизнь и действия до тех пор, пока тот не научится всему необходимому и не сможет жить самостоятельно, а создатели таких же разумных андроида, робота или клона должны освобождаться от этих тягот? Лишь Артур Кларк упомянул контрактную ответственность между клиникой-исполнителем и заказчиком клона за его судьбу как ребенка ("Земная империя"), а Дэвид Брин ввел ограниченную ответственность людей-оригиналов за поступки выполняющих порученные задания их дублей-големов ("Глина"). Перекосы в социальных отношениях с легкостью приводят к мысли, что допустимо создать разумное существо и никак не отвечать за него, что оно может быть имуществом, вещью и не иметь равных с людьми прав. Позвольте вновь спросить: а чем по сути своей такое общество будет отличаться от рабовладельческого?
И действительно, Роберт Шекли описывает вымышленное малое независимое государство недалекого будущего - остров Эсмеральду в Карибском море, на котором официально узаконено долговое рабство, более того, рабы в нем занимают многие государственные должности и выполняют основную часть общественно необходимых работ и оказываемых услуг ("Первая жертва"). Чарлз Шеффилд изобразил торговлю людьми на будущей Земле, прикрывающуюся названием "продажа контрактов" ("Объединенные разумом"). По его мнению, рабство может существовать в еще более далеком галактическом будущем, когда человечество и другие цивилизации, сотрудничая и конкурируя, заселили тысячи планет, летают со сверхсветовыми скоростями, развили множество сложных культур и в то же время держат рабов (серия "Вселенная наследия"). Похожей точки зрения придерживаются Джон Браннер ("Работорговцы в космосе"), Пол Андерсон ("Крылья победы", "Люди ветра", "Мичман Флэндри", "Мятежные миры"), Алан Дин Фостер ("Ради любви к не-матери"), Роберт Хайнлайн ("Гражданин галактики"). А чем отличаются от рабов мыслящие роботы Айзека Азимова, которые умнее и сильнее человека, но вынуждены подчиняться его командам, вплоть до собственной гибели ("Я, робот")? В самом деле, в романе "Обнаженное солнце" этот автор прямо сравнивает сложившееся на планете Солярия перенасыщенное роботами общество с древнегреческой рабовладельческой Спартой. Рабству не чужды также религиозные общества (Брайан Олдисс "Осторожно: сутаны!"). Концентрация ментально могущественной расы на совершенствовании одних сил разума может привести к атрофии их остальных способностей вплоть до утраты навыка самостоятельного питания и использования остальных рас в качестве полурабов (Джек Чалкер "Девяносто триллионов Фаустов"). В основе рабства могут лежать экономические причины: "использование капитала метрополии для развития колоний неизбежно приводит к снижению жизненного уровня в стране и к рабскому труду в колониях" и что его сохранению способствует равнодушие людей (Роберт Хайнлайн "Логика империи"). В действительности социальные причины могут быть не менее значимы.