Hello World. Как быть человеком в эпоху машин
Шрифт:
Но отношения с машинами у нас немного странные. Мы доверчивы как дети, если ничего не понимаем, и в то же время у нас есть отвратительная привычка вмешиваться в работу машины и даже полностью игнорировать ее и полагаться на собственные неверные суждения, если нам известно, что она может ошибиться. Специалисты называют это неприятием алгоритмов. К ошибкам машин люди относятся менее снисходительно, чем к своим, даже если их собственные ошибки гораздо страшнее.
Это явление не раз воспроизводилось в разных экспериментах [49] , да вы и сами заметите у себя такое же свойство. Когда приложение
49
Berkeley J. Dietvorst, Joseph P. Simmons and Cade Massey, Algorithmic aversion: people erroneously avoid algorithms after seeing them err, Journal of Experimental Psychology, Sept. 2014, http://opim.wharton.upenn.edu/risk/library/WPAF201410-AlgorithmAversion-Dietvorst-Simmons-Massey.pdf.
Категоричность в эпоху высоких технологий (либо алгоритмы всемогущи, либо абсолютно бесполезны) может привести к нежелательным последствиям. Если мы хотим использовать технику с наибольшей отдачей, нам придется выработать привычку к объективности. Мы должны учесть ошибку Гарри Каспарова и признать свои слабости, научиться контролировать свои спонтанные реакции и более осознанно относиться к программам, с которыми мы имеем дело. С другой стороны, нельзя смотреть на программы снизу вверх, надо анализировать их чуть более придирчиво и задумываться о том, справятся ли они с поставленной задачей. Только так можно понять, заслуживают ли они той власти, которую им дали.
К сожалению, все это легче сказать, чем сделать. Зачастую мы почти не в силах повлиять на могущество и радиус действия даже тех алгоритмов, которые непосредственно затрагивают нашу жизнь.
Особенно это касается тех программ, что оперируют самым главным в наше время товаром – данными. Повсюду в интернете нас преследуют безмолвные алгоритмы – они собирают информацию о нас, вторгаются в наше личное пространство, составляют на нас характеристики, – и ничто не мешает им незаметно влиять на наше поведение. Последствия гремучей смеси из неправомочно присвоенной власти, влияния и необоснованного доверия могут коренным образом изменить все наше общество.
Персональные данные
В 2004 году, вскоре после того, как Марк Цукерберг создал Facebook, между ним и его другом произошел такой обмен сообщениями:
Цук: так что если тебе понадобится инфа о ком-нибудь в Гарварде
Цук: только скажи
Цук: у меня больше 4000 имейлов с фотками и адресами (…)
[Имя друга скрыто]: что? откуда ты все это взял?
Цук: сами дали
Цук: не знаю, зачем
Цук: “доверяют мне”
Цук:
В свете связанного с Facebook скандала 2018 года журналисты не раз цитировали эти реплики, намекая на макиавеллиевский подход компании к принципам конфиденциальности личных данных. Лично я думаю, что хвастливые комментарии девятнадцатилетнего парня не стоит воспринимать чересчур серьезно. Но также я думаю, что Цукерберг ошибался. Люди рассказывали ему о себе не просто так. Это был обмен. За свои анкетные данные они получали доступ к программе, которая позволяла им легко и быстро переписываться с друзьями и родственниками, их объединяло общее жизненное пространство. Это была их личная сеть на бескрайних просторах Всемирной – паутины. Не знаю, как вы, а я тогда была уверена, что это честная сделка.
50
Nicholas Carlson, Well, these new Zuckerberg IMs won’t help Facebook’s privacy problems, Business Insider, 13 May 2010,IR=T.
В этой логике есть одно “но”: мы не всегда отдаем себе отчет в том, к чему в долгосрочной перспективе может привести такой обмен. Далеко не всегда очевидно, что дает информация о нас, иначе говоря, насколько она ценна как исходный материал для умной программы. Или наоборот – насколько дешево нас купили.
Всякое лыко в строку
Одними из первых важность личных данных оценили супермаркеты. В том секторе, где компании неустанно борются за внимание клиентов – за крохотные зоны предпочтений, благодаря которым покупатели становятся более лояльными к бренду, – любое самое незначительное усовершенствование дает колоссальные преимущества. Движимый именно этим мотивом, британский ретейлер Tesco в 1993 году предпринял грандиозный эксперимент.
Розничная сеть Tesco ввела в обращение новую клубную карту – пластиковую карточку наподобие кредитной, которую покупатели должны были предъявлять при оплате товаров в кассе; программу запустили в нескольких магазинах сети, руководили проектом супруги и партнеры по бизнесу Эдвина Данн и Клайв Хамби. Договор был очень простой: при каждой покупке с использованием клубной карты клиент накапливал баллы и в будущем мог использовать их для других приобретений, а магазин вел учет покупок, записывая их на имя данного покупателя [51] .
51
Clive Humby, Terry Hunt and Tim Phillips, Scoring Points: How Tesco Continues to Win Customer Loyalty (London: Kogan Page, 2008). Русский перевод: Хамби К., Хант Т., Филлипс Т. Набирая очки. Как розничная сеть супермаркетов Tesco выиграла битву за лояльного покупателя, Днепропетровск: Баланс Бизнес Букс, 2006.
В первом эксперименте с клубными картами информация собиралась довольно скупая. Помимо имени и адреса клиента в системе фиксировались только даты и суммы чеков без наименований попавших в корзину товаров. И тем не менее даже из столь скромных результатов Данн и Хамби извлекли чрезвычайно ценные сведения.
Конец ознакомительного фрагмента.