10 аргументов удалить все свои аккаунты в социальных сетях

Ланье Джарон

Владельцы платформ, использующие алгоритмы ОБЛОМа, с гордостью рассказывают об экспериментах, в ходе которых людей намеренно расстраивали, влияли на их избирательную активность и усиливали приверженность к определенным торговым маркам. Примером тому служат несколько знаменитых исследований, обнародованных в период зарождения ОБЛОМа [28] .

Подход цифровых сетей к изменению поведения сводит все эти разнородные фрагменты жизни воедино. С точки зрения алгоритма злость, счастье и приверженность к торговой марке – разные, но похожие сигналы, которые можно оптимизировать.

28

К этой истории я еще вернусь, когда буду рассказывать о следующих аргументах.

Если окажется, что вас расстраивают посты определенного характера,

они начнут попадаться вам все чаще. Никто и никогда не будет знать наверняка, почему именно эти посты так на вас действуют, и вы, возможно, даже не заметите, что немного расстроились из-за конкретного поста. Эффект слабый, но накопительный. Ученые только начинают догадываться о том, как это работает, основная часть процесса им недоступна, она происходит за счет автоматики. Это новая разновидность зловещего теневого мира.

Алгоритмы редко задают вопросы, а еще реже это делают независимые ученые – отчасти как раз из-за сложности понимания работы алгоритмов, которые автоматически совершенствуются за счет обратной связи.

Один из секретов нынешней Кремниевой долины в том, что некоторым людям удается лучше других обучать машины, и никто не понимает почему. Самый механический способ манипулирования человеческим поведением оказывается искусством, к всеобщему величайшему удивлению, основанным на интуиции. Те, у кого хорошо получается управлять новейшими алгоритмами, становятся знаменитыми и зарабатывают баснословные деньги.

5. Обогащение на том, что самым бессовестным моральным уродам позволяется исподтишка обманывать людей

Машина массового изменения поведения предоставляется внаем. Манипуляции ОБЛОМа не идеальны, но обладают достаточной силой, и для политиков, торговых марок и прочих конкурирующих друг с другом субъектов отказываться от регулярных платежей в пользу ОБЛОМа равносильно самоубийству. Это всеобщий когнитивный шантаж, в результате которого растут общие расходы на ОБЛОМ [29] .

Если кто-то не оплачивает ОБЛОМ, ему, чтобы удержаться на плаву, приходится постоянно подпитывать свою платформу данными. Когда Facebook сделали упор на «новости» в своей ленте, всему миру журналистики пришлось перекроить себя под стандарты ОБЛОМа. Чтобы не растерять внимание читателей, журналисты стали писать истории, ориентированные на клик-наживку. Их заставили стать частью ОБЛОМа, иначе ОБЛОМ уничтожил бы их.

29

Хотя доля цифровых расходов на рекламу и маркетинговые исследования все еще достаточно скромная – половина от прогнозируемых, – а телевидение не сдает позиций, особенно у старшего поколения, которое выросло у телеэкранов, общие расходы неизменно растут. При этом новые статьи расходов в основном цифровые, и в большинстве случаев это ОБЛОМ. Почему общество должно тратить часть своего благосостояния на «рекламу»? По этому вопросу написано огромное количество отраслевых статистических отчетов. Их оценки иногда разнятся, но чаще аналитики сходятся во мнении относительно глобальных расходов.

ОБЛОМ не только сдвинул границы этики Кремниевой долины. Он перевернул с ног на голову всю остальную экономику. Об этой стороне ОБЛОМа я расскажу в девятой главе.

Прежде чем перейти к шестому компоненту, я должен объяснить особую роль пятой составляющей в финансовых поощрениях, которые поддерживают весь аппарат машины ОБЛОМа на ходу. Если вы окажетесь в Кремниевой долине, то услышите много разговоров о том, что деньги морально устаревают и что мы создаем свои разновидности власти и влияния, которые перестают иметь отношение к материальным ценностям. Но, кажется, все до сих пор гоняются за деньгами!

Если настанут такие времена, что заработать деньги можно будет, только пугая и зля людей, мы все будем вынуждены это делать, а в результате опасных людей станет больше. Если мы хотим чего-то иного, нам следует изменить сам способ зарабатывания денег.

В свете выборов 2016 года в США Facebook, Twitter, Google Search и YouTube [30] объявили об изменениях политики использования их сервисов в целях борьбы с нечестной рекламой, распространением сфабрикованного новостного материала, разжигающих ненависть высказываний и тому подобного. Администрация сервисов также потребовала идентифицироваться всем, кто размещает политическую рекламу. Как раз на момент написания этой книги в Facebook объявили об отмене приоритета новостей в ленте. Журналисты ликовали, поскольку теперь у них появилось больше свободы, и они могли привлекать читательскую аудиторию на своих условиях.

30

Почему Google

считается отправной точкой ОБЛОМа? По одной простой причине – Google изобрел его еще до появления Facebook. Если вы пользуетесь только определенными сервисами Google, например документами, вы могли не столкнуться с проявлением ОБЛОМа. Однако поисковые системы Google, YouTube и ряд других сервисов вполне соответствуют критериям ОБЛОМа, хоть их и нельзя отнести к социальным сетям. YouTube использует самонастраивающийся профиль, на основе которого алгоритмы составляют индивидуальную ленту рекомендованных видео, нацеленную на формирование зависимости. В ход идут и комментарии, иногда откровенно мерзкие. YouTube получает деньги от третьих лиц, которые платят за изменение вашего контента определенным образом. Классический ОБЛОМ. Более того, та часть вашей деятельности, которая на первый взгляд не имеет с ОБЛОМом ничего общего, например личная переписка по электронной почте, предоставляет данные для модели, на основе которой работают сервисы, в которых ОБЛОМ уже присутствует в явном виде.

Подобные изменения могли бы значительно ослабить эффект действия ОБЛОМа, хотя бы на время. Однако на самом деле новая политика использования соцсетей поспособствовала расцвету крайне неприятных явлений. В 2015 году модераторы Reddit удалили несколько подфорумов, где царила агрессия, и огромный поток постов, разжигающих ненависть, несколько схлынул.

Новые правила не отменяют системы поощрений, так что бессовестные люди наверняка изобретут еще более тайные и замысловатые меры противодействия. И это уже произошло. Так, есть довольно развитая профессиональная отрасль под названием «оптимизация сайтов», которая помогает заказчикам обходить изменения политики пользования поисковыми машинами.

Если система финансовых поощрений не изменится, с помощью одних лишь постепенных преобразований нам вряд ли удастся решить проблему зависимости, манипуляции и глобального побуждения к безумию. Безусловно, если ограниченные преобразования смогут изменить ситуацию, я их всецело поддержу. Надеюсь, изменения в работе ленты Facebook помогут сделать мир чуть лучше. Но боюсь, что мелкой отладкой многого не добьешься. Это стало одной из причин, почему я решил написать эту книгу.

Скрытые финансовые поощрения сильнее изменений в политике пользования. Попытки обойти правила ради прибыли превращают мир в мрачное и опасное место. Запреты обычно не срабатывают. Когда в начале XX века в США власти попытались объявить алкоголь вне закона, сильно выросла организованная преступность. Запрет пришлось отменить. Позже, когда вне закона объявили марихуану, произошло то же самое. Запрет – двигатель коррупции, которая раскалывает общество на официальный и криминальный лагеря. Лучше всего законы работают, когда они в разумных пределах подкреплены поощрениями.

Изменение правил ОБЛОМа без изменения системы скрытых финансовых поощрений, возможно, закончится таким же провалом. Собственно, это уже свершилось: первопроходцы ОБЛОМа, среди которых Google и Facebook, рьяно боролись с бессовестными нарушителями, фальсификаторами и нелегальными манипуляторами, но результатом стал расцвет подпольной технически совершенной кибермафии, зачастую работавшей по заказу недружественных государств.

Самый удручающий побочный эффект вмешательства ОБЛОМа в том, что каждый цикл гонки вооружений между платформами и злоумышленниками дает людям мотивацию – из самых лучших побуждений – требовать от компаний, работающих по принципам ОБЛОМа, все больше и больше вторгаться в их повседневную жизнь. Мы просим гигантов высоких технологий, чьи офисы находятся далеко от нас, модерировать разжигающие ненависть высказывания, сфабрикованные новости, травлю, расизм, сексуальные домогательства, подделку аккаунтов и прочие откровенно мерзкие явления. Активисты, которыми движут исключительно благие намерения, требуют, чтобы корпорации все больше и больше контролировали поведение пользователей. «О, молодые богатые программисты из Кремниевой долины! Расскажите нам, пожалуйста, что нам можно говорить, а чего нельзя! Дисциплинируйте нас!» Злоумышленники, которые стремятся дискредитировать демократию, и пользуются для этого силой машины ОБЛОМа, побеждают, даже если внешне сдают позиции под натиском активистов.

В этой книге я рассказываю о неудачных финансовых поощрениях ОБЛОМа. В главе, посвященной девятому аргументу, я приведу пример альтернативной структуры финансовых поощрений, которая могла бы сделать мир лучше. А теперь перейдем к шестому компоненту!

6. Толпы фальшивок и общество обманщиков

Хотя изначально это сборище не было частью плана, сейчас эта часть ОБЛОМа встречается в интернете на каждом шагу. Фальшивые аккаунты, которые существуют в неподсчитанных, но точно больших количествах, задают атмосферу. Боты, искины, агенты, фальшивые обозреватели, фальшивые друзья, фальшивые авторы постов, автоматизированные генераторы фальшивых личностей – целый паноптикум призраков.