Воображаемая жизнь
Шрифт:
Будет ли развитие «мыслящих» компьютеров обязательно означать конец человечества? Это, безусловно, самый распространённый из всех сценариев в жанре антиутопии. Многие из них предполагают, что где-то на этом пути технически совершенные компьютеры достигнут состояния технологической сингулярности, приобретя разум и научившись улучшать свою собственную конструкцию. Эти изменения, как мы уже говорили выше, могут быть незаметными для людей, следящих за машинами. С этого момента, говорится далее, машины будут совершенствоваться с головокружительной скоростью, быстро выходя из-под контроля человека, что станет началом катастрофы для их создателей. Мы можем назвать это «сценарием ученика чародея».
Наш любимый «сценарий ученика чародея» был сформулирован философом Оксфордского университета Ником Бустрёмом и известен
Как и любой другой человек, мы получаем удовольствие от просмотра хорошего фильма-катастрофы. С другой стороны, нам трудно воспринимать подобные сценарии слишком серьёзно. В конце концов, они требуют от нас верить в расу существ, которые являются достаточно хорошими инженерами, чтобы создавать машины с искусственным интеллектом передовой конструкции, но слишком глупы, чтобы понять, что в свои творения нужно вставлять ещё и выключатель.
Одной из интересных вариаций темы искусственного интеллекта является нечто под названием «зонд фон Неймана». Он назван в честь американского математика венгерского происхождения Джона фон Неймана (1903-57). Говоря современным языком, зонд фон Неймана — это робот, управляемый искусственным разумом, способным контролировать создание собственных копий. Идея состоит в том, что целый флот этих зондов можно было бы отправить на экзопланету при сравнительно небольших затратах, поскольку они не требуют жизнеобеспечения. Как только несколько из них совершат посадку, они смогут приступить к поиску месторождений полезных ископаемых и других материалов, необходимых для создания большого штата рабочих, которые, в свою очередь, начнут создавать инфраструктуру, необходимую для колонистов-людей (или, как минимум, для кого-то на углеродной основе), которые прибудут, когда роботы закончат работу. (Если предполагать, что способ передвигаться быстрее скорости света не был открыт, колонисты, которых запустили туда отдельно, проведут долгое путешествие между звёздами в состоянии анабиоза или, возможно, будут потомками людей, которые поднялись на борт корабля поколений десятки, или даже сотни лет назад.) Добравшись до экзопланеты, люди, предположительно, отправят ещё одну флотилию зондов фон Неймана, чтобы запустить процесс в следующем подходящем мире. Как вариант можно было бы запрограммировать зонды фон Неймана на самостоятельное выполнение этой задачи.
Дело в том, что как только процесс фон Неймана начнётся, он будет продолжаться до конца, независимо от того, выживут исходные строители, или нет. Без путешествий со сверхсветовой скоростью после того, как произойдут первые несколько повторений этого процесса фон Неймана, существам с родной планеты будет сложно общаться с самым дальним краем фронта колонизации. Назовём получившуюся ситуацию, когда роботы разлетаются веером по колониям по всей галактике, волной фон Неймана. Расчёты показывают, что для покрытия всего Млечного Пути волне фон Неймана потребовалось бы несколько десятков миллионов лет. Хотя по человеческим меркам это долгий срок, в космической астрономии едва ли пройдёт один миг. Если мы воспользуемся нашим старым трюком сжатия истории Вселенной в один год, то волна фон Неймана накроет галактику всего лишь за день или два.
Один из способов сформулировать парадокс Ферми (см. главу 9) — это спросить, почему зондов фон Неймана нет на Земле. Мы сомневаемся, что у людей возникли бы какие-то проблемы с распознаванием обычных роботов, компьютеризированных существ или обладателей искусственного интеллекта, хотя вполне возможно, что зонды фон Неймана были бы настолько совершенными технически, что мы вообще не смогли бы их распознать. В любом случае, вопрос о том, будут ли они «живыми» или «мыслящими», гораздо сложнее. В главе 3 мы видели, как сложно дать определение концепции жизни, которая кажется такой простой. Определить, обладает ли другое существо
В 1950 году учёный в области информатики Алан Тьюринг (1912-54) предложил один подход к проблеме машинного сознания. Идея его так называемого «теста Тьюринга» состоит в том, чтобы группа людей взаимодействовала с кем-то (или чем-то) таким образом, чтобы они не могли видеть, с кем (или с чем) они взаимодействуют. О машине, которая способна убедить судей в том, что она является человеком, говорят, что она прошла тест Тьюринга. На момент написания этих строк этого не удалось ещё ни одной машине, хотя некоторые добились определённых успехов, когда тема, разрешённая для опроса, была ограничена. Похоже, что компьютеры испытывают проблемы с такими вещами, как сарказм, юмор и человеческая иррациональность. Роботов, способных пройти тест Тьюринга, в ближайшем будущем не ожидается, но, в конце концов, они почти наверняка появятся. Наконец, мы отмечаем, что, несмотря на популярный фольклор, утверждающий обратное, машина, которая прошла тест Тьюринга, не дала доказательство того, что она обладает сознанием — она просто продемонстрировала способность обманывать оценивающих её людей.
В любом случае мы можем быть уверены, что в будущем создадут более мощные компьютеры, и мы не видим причин, по которым некоторые из них не смогли бы приобрести своего рода сознание. Однако, как мы утверждали, говоря о разуме, нет никаких оснований для того, чтобы их разум был того же рода, что и наш. Тем не менее, мы можем быть в достаточной степени уверенными в том, что рано или поздно появится нечто вроде обладающей самосознанием машины. Один из ответов лучше всего выражают перефразированные слова пионера компьютерной техники Дэнни Хиллиса: «Целью человечества должно быть создание таких машин, которые будут гордиться нами».
И вполне возможно, что технологически развитые цивилизации на экзопланетах могут считать так же.
Майк и Джим
Майк: Но, возможно, что и нет.
Джим: Интересный вопрос.
17
ВОПРОСЫ БЕЗ ОТВЕТОВ
Наука обладает одной замечательной особенностью: у неё никогда не заканчиваются вопросы. На протяжении всей этой книги мы видели, как открытия поднимали новые вопросы, которые ещё только предстоит решить. И вполне уместным было бы открыть эту последнюю главу, посвящённую обсуждению нерешённых проблем, цитатой персидского учёного и поэта Омара Хайяма (1048-1131), который написал в книге «Рубайят»:
Кто в тайны вечности проник? Не мы, друзья,
Осталась тёмной нам загадка бытия[14]
Если история науки чему-то нас и учит, так это тому, что разработка новых приборов, новых способов измерений или наблюдений открывает двери, которые ранее были закрыты. Поэтому мы можем начать наше обсуждение с того, что рассмотрим некоторые инструменты, которые, как ожидается, вскоре появятся в Сети, и спросим себя: на какие нерешённые вопросы они могли бы дать ответ? После этого мы обратимся к некоторым новым проблемам, которые возникли во время нашего исследования экзопланет.
Новые инструменты для давнего поиска
Марс 2020
Где-то летом 2020 года космический корабль взлетит с Земли и направится к Марсу, куда прилетит в начале 2021 года. Его груз — марсоход нового поколения. Эта машина размером с автомобиль в настоящее время известна как «Mars 2020», хотя мы уверены, что НАСА придумает более подходящее название задолго до того, как она совершит посадку[15]. Его конструкция основана на феноменально успешном марсоходе «Curiosity», который колесит по поверхности Марса с 2012 года.