Без своего мнения. Как Google, Facebook, Amazon и Apple лишают вас индивидуальности
Шрифт:
В своих выступлениях перед сотрудниками Пейдж настойчиво возвращается к метафоре американской лунной программы. У Google есть своя программа, похожая на «Аполлон», нацеленная на создание «сильного» искусственного интеллекта, и она носит название Google Brain – и это название вызывает пугающие ассоциации. («Политика Google по многим вопросам состоит в том, чтобы дойти непосредственно до той точки, где становится страшно, и не двигаться дальше», – метко выразился Эрик Шмидт.) Google возглавила возвращение в оборот концепции, рожденной в 60-е годы, но до нынешнего дня неудачной: нейронные сети, то есть моделирование работы человеческого мозга и его методов обучения программными средствами. Google взяла на работу профессора Джеффа Хинтона, британца по происхождению, достигшего наибольшего прогресса в этой области. Они также приобрели лондонскую компанию DeepMind, создавшую нейронные сети, способные обучать самих себя, без указаний человека, играть в видеоигры. Поскольку складывающееся положение вещей, когда настолько сильными алгоритмами владеет одна компания, вызывало опасения у DeepMind, она настояла, чтобы Google никогда не использовала
Насколько глубоко верит Google в технологическую сингулярность? Вряд ли каждый в компании согласен с идеями Курцвейла. Один из наиболее знающих и опытных инженеров Google, Питер Норвиг, возражал против закона ускоряющейся отдачи. Сам Ларри Пейдж никогда не высказывался относительно Курцвейла публично. В то же время в действиях компании прослеживается закономерность, отрицать которую невозможно. В 2008 году Google помогла Курцвейлу профинансировать Университет сингулярности – 10-недельную программу для выпускников университетов, проходившую в кампусе NASA в Кремниевой долине. Сам Курцвейл выступал в ней в качестве сооснователя, чтобы таким образом пропагандировать свои идеи. Google пожертвовала миллионы долларов, чтобы студенты могли участвовать в программе бесплатно. «Если бы я был студентом, то хотел бы находиться именно здесь», – говорил Пейдж. Компания позволила себе еще несколько причуд, определенно связанных с идеей технологической сингулярности. Например, она вложила значительные суммы в стартап Calico, намеревавшийся решить проблему смерти, не размениваясь на такие сравнительно тривиальные вещи, как рак. «Вот что показалось мне тогда поразительным, – говорит Пейдж в интервью журналу Time. – Если решить проблему рака, можно прибавить к средней продолжительности жизни примерно три года. Мы воспринимаем победу над раком как огромное достижение, способное изменить мир. Но по большому счету – да, много людей заболевает раком, и каждый раз это трагедия, и это все очень печально, но победа над ним даст нам не так много, как можно было бы подумать». Google, скорей всего, не достигнет ни одной из своих целей, и его «лунная программа» обернется простым фейерверком. Тем не менее эти проекты свидетельствуют о всемирной перспективе, взятой компанией, и об удивительно цельном наборе ценностей и убеждений.
Сингулярность – это не просто представление о будущем. Она предполагает определенный взгляд на настоящее. Согласно радужной теории Ларри Пейджа относительно жизни на Земле мы вплотную подошли к эре всеобщего изобилия и удивительных чудес – то есть ставки так высоки, что было бы глупо, даже жестоко, не ускорить наступление дивного нового дня. Некоторые слепы по отношению к открывающимся возможностям, из-за своего луддизма [28] или от слабости воображения. Но такова природа научных революций: их двигают вперед еретики и нарушители правил. Эта труднейшая задача движется дерзостью, упрямством и изрядной долей безответственности. В погоне за будущим Google часто обдумывает и разрабатывает технологии, способные существенно изменить устоявшиеся в человечестве обычаи. Ее подход состоит в том, чтобы в подобной ситуации с изрядной долей рвения продолжать движение вперед, без лишних раздумий, в полной уверенности в том, что она находится на стороне добра.
28
От названия «луддитов», участников стихийных протестов против внедрения машин и станков в Англии в начале XIX в. Они разрушали машины, поскольку те лишали их работы. Предводителем движения считался Нед Лудд, причем неизвестно, существовал он или нет. – Прим. перев.
Когда компания решила оцифровать все книги на земле, она расценивала законы об авторских правах как незначительное препятствие, не стоящее даже секунды сомнений. Разумеется, Google не могла не предвидеть, как ее проект будет воспринят. Вот почему она стала действовать тихо, стараясь избежать излишнего внимания. «В этой процедуре был определенный элемент игры в разведчиков, прикрытый сверху еще одним слоем необходимости скрываться, – вспоминает Стив Леви свою работу в программе, – словно ты выскакиваешь на улицу из ночного клуба в 50-е, чтобы покурить травки». Грузовики Google подъезжали к библиотекам, чтобы загрузиться ящиками с книгами, тихо отвезти их на сканирование и вернуть назад. «Если нет причины рассказывать об этом, то зачем рассказывать?» – оборонялся Ларри Пейдж, когда у него публично требовали признать существование программы. Главный юрист компании без обиняков описывал позицию своих коллег по отношению к программе: «Руководство Google не слишком беспокоят прецеденты и право». Прецедентом в данном случае была насчитывающая несколько столетий практика защиты интеллектуальной собственности, а последствиями могли бы быть разорение издательской индустрии и зависящих от нее писателей. Другими словами, Google задумала интеллектуальное ограбление исторических масштабов.
Зачем же это понадобилось Google? На поверхности лежит очевидный ответ: чтобы сохранить превосходство. Выдача их поисковой машины должна быть самой полной, самой точной, лучшей среди конкурентов. Перед ними лежала богатейшая сокровищница человеческого знания; грех было бы ими не воспользоваться и не включить их в поиск. Но у этого поступка есть и менее очевидные мотивы: когда историк технологий Джордж Дайсон посетил Googleplex [29] , один инженер заметил ему буднично, словно речь шла о чем-то само собой разумеющемся: «Мы сканируем все эти книги не для людей, а для ИИ». Если это правда, то становится более понятна секретность, которой Google окружил свое мероприятие. Величайшее собрание знаний мира послужило просто материалом для обучения машин, жертвой на алтарь технологической сингулярности.
29
Штаб-квартира Google, находящаяся в городе Маунтин-Вью, штат Калифорния. – Прим. перев.
Google – компания без определенных границ, или, точнее, компания с непрерывно расширяющимися границами. Вот почему страшно слушать Ларри Пейджа, говорящего, что конкуренция только приводит к растрачиванию ресурсов впустую, и превозносящего сотрудничество как метод организации работы. «Отрицательные величины – не наш способ движения к прогрессу, а что еще важнее, у нашей игры ненулевая сумма [30] . Будет ли вам интересно приходить на работу, если лучшее, что вы можете сделать, – это без усилий разорить компанию, занимающуюся примерно тем же, чем и вы?» Еще страшнее слушать его, когда он размышляет вслух, как в Google когда-нибудь будет работать свыше миллиона человек, в двадцать раз больше, чем сегодня. Это не просто заявка на доминирование в отрасли, где у компании нет настоящих соперников, а нечто гораздо более серьезное: констатация готовности Google навязать свои ценности и богословские убеждения всему миру.
30
В теории игр «играми с нулевой суммой» называются антагонистические игры, где выигрыш одного игрока равносилен проигрышу другого. Речь идет о том, что Google предлагает кооперацию. – Прим. перев.
Глава 3. Марк Цукерберг против свободы воли
Кремниевая долина переросла породившую ее контркультуру; но не до конца. Все провозглашаемые в ней ценности принадлежат 60-м. Все крупные технологические компании подают себя в качестве инструментов личного освобождения, в точности как проповедовал Стюарт Бранд. Каждый имеет право свободно высказываться в социальных медиа, реализовывать свой интеллектуальный и избирательный потенциал, выражать свою индивидуальность. Телевидение как носитель информации предполагало пассивность зрителя и создавало инертных граждан, а Facebook предполагает вовлеченность, делает граждан сильнее. Благодаря ему подписчики расширяют круг чтения, мыслят самостоятельно, формируют свое собственное мнение.
Какая-то доля истины в этой риторике есть. Есть уголки мира – и некоторые из них даже находятся в Соединенных Штатах, – где Facebook придает гражданам решимости и дает им средство организоваться для сопротивления властям. Но и принимать этот словесный автопортрет Facebook за истину тоже не стоит. Facebook – это хорошо управляемая иерархическая система, а не форум. Она копирует некоторые внешние черты беседы, но это поверхностное сходство.
Facebook – это клубок правил и процедур для сортировки информации; правил, установленных корпорацией исключительно ради выгоды корпорации.
На самом деле Facebook всегда следит за пользователями, контролирует их, использует их как лабораторных крыс в поведенческих экспериментах. Создавая впечатление, будто она предлагает выбор, Facebook решительно подталкивает пользователей в направлении, которое она полагает наилучшим для них – и которое одновременно формирует наиболее труднопреодолимую зависимость. Эта фальшь очевидна в краткой, хотя и исторической карьере его вдохновителя и руководителя.
Марк Цукерберг – хороший мальчик, однако он хотел быть плохим, ну хотя бы чуть-чуть. Героями его подросткового периода были хакеры в первоначальном смысле слова. Давайте определим этот термин точно. Его кумиры не были злоумышленниками: похитителями чужих данных или кибертеррористами. Жаргон хакерской культуры отводит подобным преступникам название «кракеров». Цукерберг никогда не поклонялся им. В то же время его герои презирали власть в любой ее форме. Они были виртуозами в своем деле, бесконечно изобретательные ковбои от мира технологий, не связывавшие себя условностями традиционного мышления. В лабораториях Массачусетского технологического института в 60-е и 70-е годы они умудрялись нарушать все правила, хоть как-то мешавшие делать такие чудесные вещи ранней компьютерной эпохи, как первые видеоигры или текстовые процессоры. В свободное время они устраивали фантастические розыгрыши, в свою очередь привлекавшие еще больше внимания к их ловкости, – например, поместить живую корову на крышу студенческого общежития в Кембридже, или запустить метеозонд с буквами “MIT” [31] на оболочке прямо из-под футбольного поля посреди матча Гарвард-Йель.
31
Аббревиатура «Массачусетский технологический институт» (“Massachusetts Institute of Technology”) по-английски. – Прим. перев.
Заклятыми врагами хакеров были бюрократы, управлявшие университетами, корпорациями и государствами. Бюрократы говорили о том, чтобы сделать мир более эффективным, в точности как хакеры. Но на деле они были ограниченными перекладывателями бумажек, яростно защищавшими информацию, которой обладали, даже если эта информация буквально сама просила о распространении. Всякий раз, когда хакеры изобретали способ улучшить жизнь – например, изготавливали коробочку, позволявшую совершать междугородние и международные звонки, или находили команду процессора, способную улучшить работу операционной системы, – бюрократы становились у них на пути, грозя пальчиком. Хакеры устраивали себе развлечение и получали эстетическое удовольствие всякий раз, когда им удавалось перехитрить людей в строгих костюмах.