Стержень мрака (Атлантический дневник)
Шрифт:
Секрет новозаветной морали, которую я пытаюсь здесь защитить от происков эволюционных психологов, заключен именно в ее противоестественности. Нет ничего естественнее, чем обнять мать после разлуки, и ничего естественного в том, чтобы оставить ее за дверью ради общения с учениками.
Альтруизм в значении, которое придают ему сторонники генетической этики, – это просто другое название корысти, пусть не всегда осознанной. Мораль, пришедшая на смену муравьиной, предпочитает другой термин, которого мы нередко стыдимся: любовь. Противоположность любви – вовсе не ненависть, а цинизм, поиск скрытого мотива. Именно так, пусть и без злого умысла, пытаются истолковать наши лучшие поступки Роберт Райт и его ученые единомышленники. Любовь – это полное отсутствие мотива, способность видеть в ком-то чужом
Апостол Павел, которому, на мой взгляд, принадлежат лучшие из когда-либо сказанных слов о любви, не имел в виду ни мать, ни невесту, ни доброго соседа, регулярно дающего в долг до получки. Его слова адресованы всем современникам и тем, кто пришел после, жителям великих государств и заштатных княжеств, богачам и нищим, русским и чеченцам, вам и мне.
Если я говорю языками человеческими и ангельскими, а любви не имею, то я – медь звенящая или кимвал звучащий. Если имею дар пророчества, и знаю все тайны, и имею всякое познание и всю веру, так что могу и горы переставлять, а не имею любви, – то я ничто. И если я раздам все имение мое и отдам тело мое на сожжение, а любви не имею, нет мне в том никакой пользы. Любовь долготерпит, милосердствует, любовь не завидует, любовь не превозносится, не гордится, не бесчинствует, не ищет своего, не раздражается, не мыслит зла, не радуется неправде, а сорадуется истине; все покрывает, всему верит, всего надеется, все переносит.
СЛУЧАЙ В СТОКГОЛЬМЕ
Если отвлечься от некоторых социальных неприятностей, будущее, которое нам сулит технология, представляется вполне радужным. Резкий рост урожайности генетически модифицированных культур, взлет производительности труда благодаря умным машинам, инженерно-конструкторские разработки на молекулярном уровне – все это уже отчасти достигнуто, и уровень комфорта, по крайней мере в развитых странах, обещает стать беспрецедентным. Между прочим, самого понятия «комфорт» до промышленной революции не существовало: сейчас трудно себе представить, с какими мучительными неудобствами приходилось ежедневно мириться нашим недавним предкам.
Но если оставить прошлое в стороне, то и надежды на светлое будущее разделяют далеко не все. Вот мнение скептика:
По мере того как общество и стоящие перед ним проблемы будут становиться все более сложными, а машины – все более разумными, люди станут позволять машинам принимать все больше решений за себя… В конце концов будет достигнута фаза, когда решения, необходимые для поддержания системы, будут настолько сложными, что люди не смогут разумно их принимать. На этой стадии машины фактически обретут контроль…
С другой стороны, возможно, что люди сохранят контроль над машинами. В этом случае средний человек может контролировать некоторые свои частные машины, такие как автомобиль или персональный компьютер, но контроль над большими системами машин будет в руках крохотной элиты… Благодаря развитой технологии элита будет иметь более широкий контроль над массами, а поскольку человеческий труд больше не будет нужен, массы станут лишними, просто бесполезной нагрузкой на систему. Если такая элита беспощадна, она может просто принять решение об истреблении человечества. Если же она гуманна, она может прибегнуть к пропаганде или другим психологическим и биологическим методам для сокращения темпов рождаемости до тех пор, пока основная масса человечества не исчезнет, освободив мир для элиты.
Автор этого мрачного пророчества – Теодор Качински, один из самых известных террористов столетия, а извлечено оно из трактата, который он шантажом заставил опубликовать в ведущих американских газетах. Освежим память: Качински, после многолетней охоты захваченный ФБР и отбывающий сейчас пожизненный срок заключения, посылал почтовые бомбы ведущим ученым США – некоторые погибли, другие были изувечены. Качински, как явствует из приведенного отрывка, пытался спасти мир от науки.
Однако я взял этот отрывок из вторых рук – из статьи Билла Джоя в журнале Wired, главном органе энтузиастов информационных технологий. Билл Джой, который цитирует эти строки со смешанным чувством отвращения и понимания, – представитель именно того класса людей, с которым Качински вел войну. Он – ученый, вернее, гениальный инженер, один из реактивных двигателей прогресса, заведующий научной частью американской компьютерной компании Sun Microsystems. Его статья называется «Почему будущее обойдется без нас». Ее содержание можно уместить в одну эффектную фразу: если мы не примем исключительных по своей радикальности мер, человеческая история завершится через каких-нибудь полстолетия.
Скажите на милость – и это вдобавок к прохудившемуся сливному бачку и непомерным налогам! Журнал Wired, как я уже упомянул, обслуживает энтузиастов, и поэтому, наряду с вполне разумными материалами, в нем порой мелькают и плоды перегретой фантазии. Но репутация Билла Джоя и факты, на которые он ссылается, приковали не только мое внимание.
По словам автора, примерно через 30 лет компьютерные процессоры сравняются в объеме и скорости с человеческим мозгом. Многие ученые, хотя далеко не все, полагают, что на практике это будет означать появление искусственного интеллекта, соперника нашему собственному. Отсюда – предсказания вроде тех, какими пугает нас Качински.
Кроме того, роботика, как именуют науку о роботах, допускает возможность совершенствования нашей собственной физиологии с помощью компьютерных усилителей и имплантатов. Самые радикальные ученые полагают, что психику человека можно будет просто загружать в машину, как некую компьютерную программу, и таким образом бесконечно продлевать собственную жизнь и расширять возможности.
Иными словами, либо роботы, опираясь на прогресс, захватят над нами власть и ликвидируют нас за ненадобностью, либо мы сами превратимся в этих роботов.
Далее Билл Джой обращается к генной инженерии. Ему вспоминается двадцатилетней давности научно-фантастический роман Фрэнка Херберта «Белая чума» о молекулярном биологе, который, затаив обиду на человечество, создал возбудителя смертельной болезни, поражающей отдельные сегменты населения. Этот некогда фантастический сценарий очень скоро может стать реальностью: одному человеку, при наличии квалификации и скромной лаборатории, будет под силу превзойти все многолетние усилия иракского диктатора Саддама Хусейна.
Еще один предмет опасений автора статьи – так называемая «нанотехнология», то есть миниатюризация технологического оборудования до молекулярного и субмолекулярного уровня. Эти крохотные механизмы, так называемые автоматы Ноймана, наделенные способностью к самовоспроизводству, могут появиться уже через двадцать лет, и их потенциальные возможности практически безграничны – лечение злокачественных опухолей, очистка окружающей среды, небывалое усиление мощности компьютеров. Но среди теоретиков нанотехнологии уже бытует мрачный термин «серая слизь» – результат возможного уничтожения всей биосферы этими микромеханизмами, если они выйдут из-под контроля. Достаточно вспомнить, какие трудности возникают у нас уже сейчас с вирусами и микробами.
Эти технологии XXI столетия, генетика, нанотехнология и роботика, настолько могущественны, что могут привести к совершенно новым типам катастроф и злоупотреблений. Опаснее всего то, что, впервые за всю историю, эти катастрофы и злоупотребления становятся вполне по плечу частным лицам и небольшим группам. Они не будут нуждаться в крупных производственных мощностях или редких материалах. Одно лишь знание даст возможность их использовать.
Таким образом, возникает возможность не просто оружия массового уничтожения, а знаний массового уничтожения…
Думаю, можно без преувеличения сказать, что мы живем накануне нового этапа совершенствования великого зла – зла, чьи возможности простираются далеко за пределы мощи государств-наций с их оружием массового уничтожения, наделяя поразительной и жуткой властью индивидуальных экстремистов.