Машины как я
Шрифт:
Но я не мог пожаловаться, когда и следующий вечер прошел по той же схеме, – только теперь она пригласила меня к себе на обед, и мы легли в ее постель, а третью ночь мы опять провели у меня, и так далее. При всей нашей безрассудной физической близости я не стал говорить о своих чувствах, чтобы ей не пришлось признаться в отсутствии таковых. Я предпочитал подождать, позволив отношениям развиваться своим чередом, дать ей почувствовать себя свободной, пока в какой-то момент она не поймет, что сама не заметила, как полюбила меня и назад пути уже нет.
Это ожидание было приправлено гордыней. Которая через неделю сменилась тревожностью. Сперва я был рад тому, что отключил Адама. Но потом стал подумывать о том, чтобы включить и расспросить о предостережении, о его основаниях и источниках. Однако я не мог позволить какой-то машине взять надо мной подобную власть, а это непременно случилось бы, доверься я ему в интимнейшей из сфер, сделав своим советчиком и оракулом. У меня была гордость, и я верил, что Миранда не способна на злонамеренную ложь.
Тем не менее. Я презирал себя за это, но через десять дней после начала наших отношений предпринял собственное расследование. Помимо широко обсуждаемой «машинной интуиции», единственным
12
Суинкомб – от староанглийских слов swyn (боров) и combe (лощина) – село на возвышенности Чилтерн-Хилс, в юго-восточной Англии.
Что же до интуиции искусственного разума, это была типичная городская легенда, возникшая в начале 1968 года, когда Алан Тьюринг и его блестящий молодой коллега Демис Хассабис разработали программное обеспечение для состязания с одним из мировых мастеров древней игры го в пяти последовательных играх… Все, кто разбирался, понимали, что путем «перемалывания чисел» достичь этого было невозможно. Возможные ходы в го, как и в шахматах, значительно превосходят число атомов в наблюдаемой Вселенной, тем более что в го, в отличие от шахмат, возможности ходов возрастают экспоненциально. Мастера го не в состоянии объяснить, как они достигают своего мастерства, не считая интуитивного чувства того, что они считают верным для той или иной ситуации на доске. Отсюда возникло предположение, что компьютер проделывал нечто подобное. В прессе говорилось с придыханием о том, что мы на пороге новой эры очеловеченных компьютерных программ. Компьютеры были готовы думать, как мы, подражая нашему часто маловразумительному образу мышления при вынесении тех или иных суждений и решений. В ответ на это Тьюринг и Хассабис поместили свою программу в интерактивное пространство в духе свободного доступа, начинавшего входить в моду. В интервью различным СМИ они описывали процесс глубокого машинного обучения и устройство нейронных сетей. Тьюринг даже попытался дать доступное публике объяснение древовидного поиска Монте-Карло [13] , алгоритма, разработанного в сороковые годы в рамках Манхэттенского проекта по созданию первой атомной бомбы. Известна история, когда он вышел из себя, самонадеянно пытаясь объяснить нетерпеливому телерепортеру полную математику P-пространства [14] . Менее известен другой случай, когда Тьюринг разбушевался на американском кабельном канале в процессе описания ключевой для информатики проблемы перебора P и NP [15] . Это случилось в телестудии, в пылу дебатов, среди «простых ребят». Незадолго перед тем Тьюринг опубликовал свое решение, которое как раз анализировали математики всего мира. Эту проблему оказалось легко сформулировать, но чрезвычайно сложно решить. Тьюринг рассуждал о том, что правильное положительное решение приведет к вдохновляющим открытиям в биологии, а также в концепциях пространства и времени и креативности. Но аудитория не разделяла или не понимала его восторга. У публики было довольно смутное представление об участии Тьюринга во Второй мировой войне, а также о его роли в их собственной жизни, зависимой от компьютеров. Для нее он был типичным «яйцеголовым» английским джентльменом, и участники передачи азартно издевались над ним, забрасывая дурацкими вопросами. В результате этот неприятный эпизод ознаменовал последнюю попытку Тьюринга донести науку до широких масс.
13
Методы Монте-Карло (ММК) – группа численных методов для изучения случайных процессов. Используется для решения задач в различных областях физики, химии, математики, экономики и др.
14
В теории сложности вычислений P-пространство (англ. PSPACE) – это совокупность всех задач разрешимости, поддающихся решению с помощью машины Тьюринга в пределах полиномиального объема пространства.
15
Проблема перебора, или равенства классов P и NP – это одна из центральных открытых проблем теории алгоритмов, за решение которой Математический институт Клэя назначил премию в миллион долларов США.
Перед тем как начать состязание с японским мастером го девятого дана, компьютер Тьюринга – Хассабиса провел тысячи игр с самим собой в течение года. Он обучался через новый опыт, и ученые заявили – небезосновательно, – что еще на шаг подошли к моделированию человеческого интеллекта, что и породило легенду о существовании машинной интуиции. И что бы потом ни говорили, они уже были не в силах развенчать этот миф.
Последовали недальновидные утверждения, что победа компьютера поставила точку в судьбе древней игры. После того, как пожилой мастер го проиграл компьютеру пятую игру подряд, он медленно встал при поддержке своего ассистента, кивнул компьютеру и дрожащим голосом поздравил его с победой. Он сказал: «Верховая езда не положила конец спортивному бегу. Мы бегаем ради удовольствия». И он был прав. Игра го с ее простыми правилами и чрезвычайной сложностью приобрела еще большую популярность. Как и в случае с шахматным гроссмейстером, проигравшим компьютеру вскоре после Второй мировой войны, победа машины не смогла преуменьшить значимость игры. Победа, как было сказано, не столь важна, как удовольствие от погружения в хитросплетения игрового процесса. Но идея, что программа теперь может каким-то немыслимым образом «считывать» ситуацию или выражение лица, человеческие жесты или эмоциональную окраску той или иной реплики, так и не была опровергнута и отчасти объясняла всеобщий ажиотаж, возникший, когда на рынок поступили Адамы и Евы.
Пятнадцать лет для информатики – большой срок. Вычислительная мощность и общее совершенство моего Адама намного превосходили компьютер для игры в го. Технологии не стояли на месте, как и Тьюринг. Он досконально изучил процесс принятия решений и написал свою знаменитую книгу, в которой отмечал: нам свойственно вырабатывать паттерны, подходы, тогда как, чтобы принимать правильные решения, следует думать в вероятностном плане. Искусственный разум мог преобразовать то, что у нас было, то, чем мы были. Тьюринг разработал алгоритмы. Вся его передовая работа имелась в открытом доступе. Адам должен был извлечь из этого немалую пользу.
Институт Тьюринга продвигал вперед искусственный интеллект и вычислительную биологию. Он говорил, что достаточно богат, чтобы не стремиться к большему обогащению. Сотни выдающихся исследователей следовали его примеру, публикуя работы в открытых источниках, что в 1987 году привело к закрытию журналов «Природа» и «Наука». Его немало критиковали за это. Но другие отмечали, что работа Тьюринга создала десятки тысяч рабочих мест по всему миру в различных областях: компьютерная графика, медицинское сканирование, ускорение частиц, сворачивание белка, разумное распределение электроэнергии, оборонные технологии и космические исследования. И этот перечень продолжал расти.
В 1969 году Тьюринг признался в своей гомосексуальности [16] и стал жить открыто со своим любовником Томом Ри, знаменитым физиком-теоретиком, который в 1989 году получит Нобелевскую премию, тем самым ускорив наступление набиравшей силу социальной революции. Когда разразилась эпидемия СПИДа, Тьюринг собрал большую сумму денег для основания вирусологического института в Данди и стал одним из основателей хосписа. После появления первых эффективных способов лечения он провел кампанию за краткосрочные лицензии и снижение цен, особенно в Африке. Он продолжал сотрудничать с Хассабисом, который с 1972 года возглавлял собственную команду. Тьюринг, по его словам, постепенно потерял интерес к участию в общественной жизни и предпочел провести старость в работе. Позади были долгие годы, проведенные в Сан-Франциско, Президентская медаль свободы [17] и банкет в его честь, устроенный президентом Картером, ланч с миссис Тэтчер в Чекерсе для обсуждения финансирования научных программ и обед с президентом Бразилии, которого Тьюринг убедил заняться защитой Амазонки. Долгое время он являл собой лицо компьютерной революции и голос новой генетики и воспринимался почти такой же культовой фигурой, как Стивен Хокинг. Теперь же он стал почти затворником, перемещаясь исключительно между своим домом в Кэмден-тауне и институтом на Кингс-кросс, в двух шагах от Центра Хассабиса.
16
В действительности Алан Тьюринг в 1952 году был осужден за гомосексуальную связь и направлен на принудительную химиотерапию, которая подорвала его здоровье и привела к самоубийству. Закон против гомосексуальных отношений был отменен в Англии в 1967 году, а Тьюринг был посмертно помилован королевой Елизаветой II в 2013 году, после чего был принят «закон Тьюринга» о посмертном помиловании мужчин, осужденных за гомосексуальные отношения.
17
Одна из двух высших наград США для гражданских лиц, вручаемая по решению президента США.
Томас Ри написал длинную поэму о своей жизни с Тьюрингом и опубликовал ее в TLS, а затем отдельной книгой. Поэт и критик Иэн Хэмилтон отметил в своем обзоре: «Перед нами физик, который способен воображать не хуже, чем сканировать. Но покажите мне поэта, который может объяснить квантовую гравитацию». Когда в моей жизни возник Адам, я полагал, что только поэт, но никак не машина, может сказать, полюбит меня Миранда или обманет.
Вероятно, алгоритмы Тьюринга использовались и в программном обеспечении ракет «Экзосет» серии 8, которые французская компания MBDA продала аргентинскому правительству. Это грозное оружие запускали с реактивного самолета в направлении корабля, и в процессе полета автоматически оно распознавало его силуэт как вражеский или союзнический. Если корабль распознавался как союзнический, ракета сворачивала с курса и падала в море. Если же корабль распознавался как вражеский, но ракета не попадала в него с первого раза, она могла развернуться и предпринять еще две попытки. Она настигала цель на скорости в восемь тысяч километров в час. Ее способность к безопасной самоликвидации была, вероятно, основана на алгоритме распознавания лиц, который Тьюринг разработал в середине шестидесятых. Алан искал способ помочь людям, страдающим прозопагнозией, то есть неспособностью узнавать лица знакомых людей. Но служба иммиграционного контроля, оборонный сектор и охранные структуры быстро нашли применение этой технологии в своих целях.
Поскольку Франция была членом НАТО, британскому правительству пришлось предъявить в Елисейском дворце самые сильные аргументы, чтобы фирма MBDA прекратила дальнейшие поставки ракет «Экзосет» аргентинскому правительству и их техподдержку. Была заблокирована также поставка партии груза для союзника Аргентины Перу. Но нашлись другие страны, в том числе Иран, желавшие продавать Аргентине оружие. Кроме того, существовал черный рынок. В результате агенты британской разведки в образе торговцев оружием скупали все, что могли.