Без своего мнения. Как Google, Facebook, Amazon и Apple лишают вас индивидуальности
Шрифт:
Такой «сверхинтеллект», разумеется, создаст другой сверхинтеллект, еще могущественней себя, и так далее по цепочке постгуманистических поколений.
В этой точке теряют смысл любые предсказания: «сильный ИИ в сочетании с нанотехнологиями смогут создать любой продукт, любое положение вещей, любую среду, которую мы только сможем себе представить».
Будучи ученым, Курцвейл верит в точность. Прогнозы он строит, не подбрасывая монетку, а экстраполируя данные. На самом деле он загрузил в свой компьютер все, что нам известно об истории человечества, и обсчитал эти данные. Прогресс технологии, пришел он к выводу, течет нелинейно – это никогда не заканчивающийся экспоненциальный взрыв. «В каждом эволюционном периоде развитие ускорялось благодаря опоре на предыдущие достижения», – пишет он. Курцвейл назвал это наблюдение «законом ускоряющейся отдачи» (“The Law of Accelerating Returns”). По его мнению, человечество вот-вот разгонит локомотив прогресса до предела: мы на пороге качественных скачков в генетике, нанотехнологии, робототехнике. Эти достижения позволят нам, наконец, избавиться от «хрупкого» и «ограниченного» тела и мозга –
Человечество наконец исполнит мечту Декарта об освобождении ума из темницы тела. Как формулирует Курцвейл, «мы будем программным обеспечением, а не аппаратным», и сможем вселяться в любую аппаратную платформу по выбору. Не будет разницы между нами и роботами. «Какова, в конце концов, разница между человеком, усовершенствовавшим свой мозг и тело при помощи нано- и компьютерных технологий, и роботом, приобретшим интеллект и чувства, превосходящие те, которыми обладали создавшие его люди?»
Тогда мир быстро изменится. Компьютеры будут выполнять все основные человеческие задачи, освободив человечество для досуга. Страдание и смерть исчезнут. Технология решит проблему дефицита ресурсов, вечное проклятие нашей жизни. Даже сексуальная жизнь станет интереснее: «виртуальный секс будет доставлять более интенсивные и приятные переживания, чем традиционный». Некоторые могут делать вид, что с этой дороги можно свернуть, но они обманываются. Питер Диамандис, один из наиболее уважаемых мыслителей в Кремниевой долине, выражается довольно резко: «Всякий, кто думает сопротивляться этому прогрессу, будет сопротивляться эволюции. И в конце концов вымрет».
Курцвейл осознает метафизические следствия из своей теории. Одну из своих работ он назвал «Эра духовных машин» (“The Age of Spiritual Machines”). Его описание жизни после сингулярности можно без преувеличения назвать восторженным. «Наша цивилизация распространится наружу, превращая косную материю и энергию, которую мы встретим на своем пути, в высшей степени разумную – я бы сказал трансцендентную – материю и энергию. Так что в некотором смысле можно сказать, что Сингулярность, в конце концов, наполнит Вселенную духом». У Курцвейла даже есть складское помещение, где он хранит все бумаги своего отца, вплоть до бухгалтерских книг, в ожидании дня, когда сможет воскресить его. Когда религиовед Роберт Герачи изучал Курцвейла и других поклонников сингулярности, он заметил, насколько точно их вера следует христианским апокалиптическим текстам. «Апокалиптический ИИ – законный наследник всех этих религиозных пророчеств, а не побочный их отпрыск, – заключает он. – В идее об апокалиптическом ИИ технологический прогресс и религиозные категории настолько хорошо сходятся, что это пугает».
Технологическую сингулярность никак нельзя назвать государственной религией Кремниевой долины. В ней есть районы, где идеи Курцвейла презирают. Джон Маккарти [22] , отец ИИ, однажды сказал, что хотел бы дожить до 102 лет, только чтобы посмеяться над Курцвейлом, когда в назначенный им час сингулярность не наступит. И тем не менее среди поклонников Курцвейла есть самые сливки технологической отрасли. Билл Гейтс, например, называет его «лучшим специалистом по будущему искусственного интеллекта». Джон Маркофф из New York Times, наиболее влиятельный репортер, освещающий вопросы технологии, говорит: «Курцвейл – представитель сообщества лучших и самых талантливых людей в Кремниевой долине». То есть и лучших умов Google в том числе.
22
Джон Маккарти (1927–2011) – американский специалист в области информатики, автор термина «искусственный интеллект», создатель языка Лисп, оказавшего огромное влияние на эту область знаний и программирование в целом. – Прим. перев.
Ларри Пейдж любит представлять себе, что не покидал академической науки. В конце концов, Google начался как докторская диссертация, а источником вдохновения относительно устройства поисковой машины послужил принцип отбора академических публикаций. Сын профессора, он знал, как исследователи оценивают свою работу. Критерием служит количество ссылок на нее в работах других. Его момент озарения пришел, когда он увидел, что Паутина и профессора подобны: гиперссылки были похожи на академические ссылки – и те, и другие представляли собой, каждые в своем роде, форму рекомендации. О полезности веб-страницы можно судить по количеству ссылок на нее, размещенных на других страницах. Придумав этот алгоритм, он дал ему название, явно намекавшее на него самого: PageRank [23] .
23
Фамилия Ларри Пейджа по-английски пишется “Page” («страница»). – Прим. перев.
Научные исследования – любимое дитя Пейджа, и в этого ребенка Google вкладывает огромные суммы: например, в прошлом году [24] компания потратила 12,5 млрд долларов на научно-исследовательские работы и на проекты, которые заведомо не начнут приносить прибыль в обозримом будущем. Компания, если можно так выразиться, построила парадный вход с вращающимися дверьми, через которые входят звезды академической науки, лучшие профессора, чтобы присоединиться к наиболее дерзким предприятиям Google. Если возникает выбор между интересами бизнеса и чистотой научного познания, то Пейдж не просто выберет чистоту науки, а постарается, чтобы все об этом узнали. В этом и лежит секрет непрерывного успеха Google на протяжении многих лет. Если другие поисковые машины продавали верхние места в выдаче, то Google избегал такого излишне коммерческого образа действий. Компания всегда могла, не кривя душой, заявить, что ее результаты поиска получены научными методами.
24
Оригинал книги вышел в 2017 году. Речь, таким образом, идет о 2016 годе. – Прим. перев.
Этот идеализм отчасти предназначен для публики, но главным образом порожден культурой компании. «Google – не обычная компания. И у нас нет стремления сделать ее таковой», – гордо заявляли Пейдж и Брин в письме на имя Комиссии по ценным бумагам и биржам (SEC), сопровождавшем начальное публичное размещение ее акций в 2004 году Можно было воспринимать эти слова как пустую риторику, но на Уолл-стрит они вызвали ощутимое беспокойство. Те, кто мог наблюдать жизнь компании вблизи, заметили, что она старалась не брать на работу типичных выпускников программ MBA. Она упрямо сопротивлялась созданию отдела маркетинга. Пейдж гордился, что нанимает инженеров на позиции, которые в другой компании отдали бы человеку с дипломом в области, скажем, финансов. Даже когда количество сотрудников Google стало измеряться десятками тысяч, Пейдж лично просматривал досье каждого кандидата, желая удостовериться, что компания не отходит слишком далеко от своих инженерных корней.
Наиболее ярким выражением идеализма Google стал ее часто служивший мишенью для разнообразных шуток девиз “Don’t be evil”, что можно перевести как «Сторонись зла». Понять значение этого девиза и увидеть в нем решительную декларацию собственных ценностей легче, если знать, что Google никогда не предназначала его для внешнего употребления. Google хотела обратить внимание сотрудников на свою благородную и одновременно амбициозную миссию. Можно сказать, что она решила прикрепить к самой себе что-то типа наклейки Post-it, чтобы та напоминала о необходимости никогда не вести себя так эгоистично и узколобо, как Microsoft [25] , технологический король, которого она намерена была свергнуть. Девиз стал широко известен, когда генеральный исполнительный директор Эрик Шмидт случайно упомянул его в интервью Wired и вызвал тем недовольство многих сотрудников, понявших, что теперь Google станет легкой мишенью для насмешек. (Со временем Google отказался от использования этого девиза.) Когда Ларри Пейдж произносит речи, он обычно говорит серьезно. И тезисы, которые он повторяет часто, дают представление о его истинных, поистине масштабных намерениях. У него есть талант выражаться скромно и в то же время напыщенно: «Мы сейчас достигли, наверное, 1 % возможного. Хотя изменения происходят все быстрее, все равно мы движемся слишком медленно для возможностей, которые перед нами открываются».
25
Игра слов. Компанию Microsoft за глаза называли «Компанией зла», “The Evil Company”. Девиз компании Google можно, таким образом, прочитать: «Не будь, как Microsoft». – Прим. перев.
Чтобы понять намерения Пейджа, нужно понять, какие бывают виды искусственного интеллекта. Все, что делается в этой отрасли, можно грубо отнести к двум школам. Есть школа эволюционная, дорожащая всем достигнутым до сих пор: например, такими победами, как алгоритм PageRank или программное обеспечение, читающее неразборчивый почерк на чеках. Эта школа практически не надеется, что компьютеры когда-либо обретут нечто хотя бы отдаленно похожее на человеческий разум. Вторая школа, революционная, склоняется к взглядам Курцвейла и вере в сингулярность. Они стремятся создать компьютер с так называемым «сильным искусственным интеллектом» [26] .
26
«Сильный» искусственный интеллект, в отличие от «слабого», способен мыслить и осознавать себя. Разделение, описанное в этом абзаце, в русской терминологии называется «слабым и сильным искусственным интеллектом». – Прим. перев.
Основную часть своей истории Google была сосредоточена на эволюционных изменениях. Вначале ею управлял Эрик Шмидт, немолодой опытный менеджер; инвесторы Google заставили Пейджа и Брина принять его в качестве «взрослого» руководителя. Это не означает, что Шмидт был лишен амбиций. В эти годы Google оцифровал и загрузил на свои сервера все существующие на планете книги и создал продукты, используемые сегодня повсеместно: Gmail, Google Docs, Google Maps.
Но эти амбиции никогда не имели того масштаба, который устроил бы Ларри Пейджа. В 2011 году он вернул себе угловой офис [27] , а вместе с ним и пост главного исполнительного директора, который занимал при рождении Google. И он переориентировал компанию в сторону сингулярности. Со временем он подружился с Курцвейлом и привлек его к совместной работе над рядом проектов. Вернувшись на свой прежний пост, Пейдж нанял Курцвейла в качестве технического директора и поставил перед ним задачу научить компьютеры читать – то есть осуществить экспоненциальный прорыв, который может ускорить наступление эры сверхразума, так ожидаемой Курцвейлом. «Это кульминация тех практически 50 лет, которые я занимаюсь искусственным интеллектом», – сказал он сразу после подписания контракта с Google.
27
В США угловой офис считается престижным, поскольку его окна выходят на две стороны здания, и часто в таких офисах располагается высший менеджмент. – Прим. перев.