Hello World. Как быть человеком в эпоху машин

Hannah Fry

Hello World. How To Be Human in the Age of the Machine

Издательство CORPUS ®

Когда мне было семь лет, папа принес нам с сестрами подарок. Миниатюрный восьмиразрядный ZX Spectrum – это был наш первый собственный компьютер. Он попал к нам в дом подержанным и уже тогда устарел, наверное, лет на пять, но мне с первого взгляда стало ясно, что эта непритязательного вида машинка способна творить чудеса. Spectrum мало чем отличался от Commodore 64, при том что этой игрушкой в нашей округе могли похвастаться только детки богачей, но для меня, безусловно,

наш был гораздо круче. Гладкий черный корпус удобно лежал в руках, радужная полоска, отсекающая уголок, и серые резиновые кнопочки выглядели очень симпатично.

ZX Spectrum, словно памятная вешка, обозначил начало незабываемого лета, которое мы с сестрой провели на чердаке, играя на компьютере в виселицу – загадывая друг другу слова и рисуя немудреные картинки с помощью кода. Впрочем, на столь “продвинутый” уровень мы вышли позже. Сперва надо было освоить азы.

Сейчас я не могу вспомнить, когда именно я написала свою первую программу, но точно знаю, что это была за программа. Очевидно, это была та же простая задача, которую я теперь задаю всем своим студентам в Университетском колледже Лондона, – вы наверняка найдете ее на первых страницах любого учебника по программированию для начинающих. Ибо для всех, кто хоть как-то учился программированию, это уже стало традицией, можно сказать, обрядом инициации. Любой новичок получит задание написать на экране знаменитое приветствие:

HELLO WORLD

Впервые это упражнение предложил в своей знаменитой книге [1] Брайан Керниган еще в семидесятых годах прошлого века, и с тех пор оно вошло в традицию. Эта книга – и, следовательно, фраза – указывает на переломный момент в истории компьютеров. Только что появились микропроцессоры, ознаменовавшие переход от прежних ЭВМ с перфокартами и перфолентами – гигантских профессиональных машин – к чему-то более похожему на привычные нам персональные компьютеры с монитором, клавиатурой и мигающим курсором. Как только мы научились обмениваться репликами с компьютером, на экране вспыхнуло приветствие HELLO WORLD.

Позже в интервью журналу Forbes Брайан Керниган рассказал, почему он выбрал именно эту фразу. В одном мультфильме он увидал сценку, где только что вылупившийся из яйца – цыпленок пропищал: “Hello world!”, и эти слова засели у него в голове.

Не вполне ясно, что здесь должен символизировать цыпленок – энергичного юнца, радостно возвестившего о своем решительном старте в программировании? Или сам компьютер, словно в полусне обрабатывавший таблицы и текстовые документы и теперь получивший новый заряд бодрости, чтобы подключить свой разум к живому миру и приступить к выполнению приказов нового хозяина? Возможно, и то и другое. Одно ясно: эти слова объединяют всех программистов и устанавливают контакт между человеком и запрограммированной – машиной.

Эта фраза нравится мне еще и по другой причине, в наши дни особенно веской и значимой. Поскольку наше будущее все больше зависит от компьютеров и компьютерных программ, дружеское приветствие напоминает нам о важности диалога человека и машины. О том моменте, когда между оператором и подконтрольной ему системой возникает неощутимая связь. Эти слова говорят о том, что мы начинаем налаживать партнерские отношения и пускаемся в совместное странствие по жизни, в котором друг без друга не обойтись.

В эру компьютеров упускать из виду этот тезис нельзя.

Все, кто хоть раз в жизни посетил Джонс-Бич на Лонг-Айленде, по пути к океану должны были проследовать под целой серией мостов. Предназначенные для съезда с автомагистрали и въезда на нее, эти мосты имеют одну удивительную особенность. Их элегантные арки очень низко нависают над машинами – кое-где просвет между сводом и дорожным полотном меньше трех метров.

Для столь странного конструкторского решения были основания. В 1920-х годах влиятельный нью-йоркский чиновник Роберт Мозес имел твердые намерения сохранить для богатых белых американцев свой новый, только что обустроенный, отмеченный наградами парк Джонс-Бич. Мозес понимал, что его целевая аудитория отправится к морю на личных автомобилях, в то время как темнокожая беднота воспользуется автобусом, поэтому он нарочно ограничил въезд, построив на протяжении всего шоссе сотни низеньких мостов. Слишком низких для того, чтобы под ними прошел четырехметровый автобус [2] .

Но расистские мосты – не единственные бездушные, немые контролеры, способные тайно управлять людьми. История знает множество случаев, когда предметы и технические инновации обретали власть, которой им на самом деле никто не давал [3] . Бывало, что конструкторы вынашивали какие-то недобрые планы и умышленно добавляли такие свойства, но случался и простой недосмотр – вспомните хотя бы о нехватке в городе удобных пандусов для инвалидных колясок. Последствия могли быть самыми неожиданными, как в случае с ткацкими станками девятнадцатого столетия. Эти машины создали для того, чтобы упростить производство тканей со сложным рисунком, а в итоге заработки, условия труда и занятость рабочих изменились так, что станки превратились в гораздо более жестоких эксплуататоров, чем любой капиталист в викторианской Англии.

Не лучше обстоят дела и с современными изобретениями. Спросите жителей английского городка Сканторпа, которым крупнейший интернет-провайдер AOL заблокировал аккаунты, потому что название города не удовлетворяло новому фильтру ненормативной лексики [4] [5] . Или нигерийца по имени Чуквуэмека Афигбо, обнаружившего, что автоматический диспенсер жидкого мыла не реагирует на темную кожу, хотя аккуратно выдает положенную порцию на подставленные руки его белого друга. Или Марка Цукерберга, которому в 2004 году, когда он писал код новой соцсети Facebook в кампусе Гарвардского университета, и в голову не могло прийти, что его детище обвинят в содействии манипулированию выборами по всему миру [6] [7] .

В основе каждого такого изобретения лежит тот или иной алгоритм. Ленты соцсетей и поисковики, спутниковая навигация, программы подбора музыки – все это и многое другое держится на алгоритмах, невидимых фрагментах кода, винтиках и шестеренках современных технологий, и в наши дни алгоритмы – это такая же неотъемлемая часть инфраструктуры, как и привычные мосты, дома и фабрики. Алгоритмы работают в больницах, залах судебных заседаний и автомобилях. Они используются в полиции, супермаркетах и на киностудиях. Они знают, что мы любим и что ненавидим, диктуют нам, что смотреть, что читать и с кем встречаться. И при этом они обладают тайной властью, вынуждая нас исподволь, почти незаметно для себя менять представления о том, что значит быть человеком.

В этой книге мы откроем для себя самые разнообразные алгоритмы, которым мы всё больше доверяем, хотя порой и безотчетно. Мы самым внимательным образом изучим их предназначение, посмотрим, какой еще властью они наделены и какие они ставят новые проблемы. Мы увидим, по каким алгоритмам полицейские решают, кого следует арестовать, и нам придется выбирать, что для нас дороже – защита жертв преступлений или невиновность обвиняемых. Мы узнаем, на какие алгоритмы опираются судьи при вынесении приговоров преступникам – и всерьез задумаемся о том, каким должно быть правосудие. Познакомимся с алгоритмами, которые управляют беспилотными автомобилями (и заставляют нас внятно прописывать нравственные нормы), помогают медикам проверять диагнозы, влияют на наши чувства и несут в себе угрозу – демократии.