Homo Roboticus? Люди и машины в поисках взаимопонимания

Маркофф Джон

Руководитель Дюваля считал, что в его команде «наукой» должны заниматься только «ученые». Программистам отводилось место чернорабочих низкого ранга, которые воплощали идеи старших коллег. Хотя лидеры группы, наверное, имели представление о том, куда нужно двигаться, проект был организован по-военному, и это делало работу неинтересной для программистов низшего уровня вроде Дюваля, писавших драйверы устройств и другие интерфейсные программы. Такая ситуация не устраивала молодого человека, одержимого компьютерами.

Роботы казались ему модной идеей, но до выхода на экраны «Звездных войн» привлекательных образчиков было не так много. В 1950-х гг. существовал робот Robby из фильма «Запретная планета» (Forbidden Planet), но в остальном мало что вызывало вдохновение. Shakey просто работал не слишком хорошо. К счастью, Стэнфордский исследовательский институт был большой организацией, и вскоре внимание Дюваля привлек более интригующий проект.

В холле, куда выходила

лаборатория Shakey, он часто сталкивался с представителями другой группы исследователей, которая занималась разработкой компьютера для реализации системы NLS (oN-Line System). Если управление в лаборатории Shakey было иерархическим, то группа под руководством ученого-компьютерщика Дуга Энгельбарта работала совершенно по-другому. Исследователи Энгельбарта, разношерстное собрание консервативных инженеров в белых рубашках и длинноволосых программистов, двигались в сфере вычислительной техники настолько в ином направлении, что оно находилось в другой системе координат. Проект Shakey был нацелен на имитирование умственной и физической деятельности человека. Энгельбарт ставил совсем другую цель. Во время Второй мировой войны он наткнулся на статью Ваннивара Буша, который предложил поисковую систему Memex для работы с информацией на микрофишах. Позже Энгельбарт решил, что такую систему можно воссоздать с использованием только что появившихся компьютеров. На его взгляд, наступило время для создания интерактивной системы сбора знаний и организации информации таким образом, чтобы позволить небольшой группе людей – ученых, инженеров, преподавателей – творить и сотрудничать более эффективно. К этому времени Энгельбарт уже изобрел компьютерную мышь, а также выдвинул идею гипертекстовых ссылок, которая десятилетия спустя станет основой Всемирной паутины. Как и Дюваль, он был чужим в изолированном мире компьютерной науки, где основой считали теорию и абстракцию.

Культурный разрыв между миром искусственного интеллекта и его антиподом – идеей Энгельбарта, получившей название «усиление интеллекта», – был очевидным. Когда Энгельбарт приехал в Массачусетский технологический институт в 1960-х гг. для демонстрации своего проекта, Марвин Мински посетовал, что это пустая трата выделенных на исследования денег, которая приведет к созданию всего лишь не в меру расхваленного текстового процессора.

Хотя Энгельбарт и не добился уважения влиятельных специалистов по информатике, его совершенно не смущал отход от мейнстрима академического мира. Участвуя в регулярных обзорных совещаниях Агентства перспективных оборонных исследований (DARPA) Пентагона, где ученые делились информацией о результатах своей работы, он всегда предварял презентации словами: «Это не теория вычислительных машин». Затем Энгельбарт излагал свои взгляды на использование компьютеров для «загрузки» в них проектов с целью обмена информацией, обучения и продвижения инноваций.

Несмотря на то что эти идеи не совпадали с мейнстримом компьютерной науки, они захватили Билла Дюваля. Вскоре он перебрался на другую сторону холла – в лабораторию Энгельбарта. Менее чем за год он прошел путь от попыток создать программы для первого полезного робота до работы над программным обеспечением для системы связи, которая, позволив соединить два компьютера, стала прообразом интернета. Поздно вечером 29 октября 1969 г. Дюваль подключил систему NLS Энгельбарта в Менло-Парке к компьютеру в Лос-Анджелесе, которым управлял другой молодой программист, по арендованной у телефонной компании линии передачи данных. Билл Дюваль стал первым, кто переключился с исследований в области замены человека компьютером на использование вычислительной техники для усиления интеллекта человека, и одним из первых, кому удалось побывать по обе стороны от невидимой линии, разделяющей и сегодня два соперничающих лагеря разработчиков.

Интересно отметить, что разработки, начатые в 1960-х гг., получили применение в 1970-е гг. в третьей лаборатории, также расположенной возле Стэнфорда. Исследовательский центр компании Xerox в Пало-Альто развил задумки, выпестованные в лабораториях Маккарти и Энгельбарта, и превратил их в идеи персонального компьютера и компьютерной сети, которые в свою очередь были успешно реализованы компаниями Apple и Microsoft. Среди прочего индустрия персональных компьютеров инициировала то, что венчурный инвестор Джон Дорр в 1990-х гг. назвал «самым крупным законным накоплением богатства в истории» {2} .

2

John Markoff, What the Dormouse Said: How the Sixties Counterculture Shaped the Personal Computer Industry (New York: Viking, 2005), 282.

Большинству

Дуг Энгельбарт известен как изобретатель мыши, однако его гораздо более грандиозная идея заключалась в использовании компьютерных технологий с тем, чтобы небольшие группы людей могли работать над «загруженными» проектами, используя мощные программные средства организации деятельности и создавая, как он выражался, «коллективный IQ», превосходящий возможности отдельного человека. Мышь была просто гаджетом, облегчавшим взаимодействие с компьютером.

Влияние на мир Маккарти, создавшего Стэнфордскую лабораторию искусственного интеллекта, было во многих отношениях не меньше влияния Энгельбарта. Его лаборатория дала компании Xerox, а затем и Apple Computer таких разработчиков, как Алан Кей и Ларри Теслер, внесших немалый вклад в создание современного персонального компьютера. Уитфилд Диффи вынес оттуда идеи, которые привели к появлению метода криптографии, обеспечивающего безопасность нынешней электронной торговли.

Впрочем, в SRI и SAIL тогда были еще два направления работ, которые только сейчас начинают оказывать значительное влияние на мир: роботы и искусственный интеллект. Они не только трансформируют экономику, они ведут к новой эре умных машин, фундаментально меняющих наш образ жизни.

Появление вычислительной техники и роботов было предсказано до организации этих лабораторий. Еще на заре компьютерной эры, в 1948 г., Норберт Винер сформулировал концепцию кибернетики. В своей книге «Кибернетика» (Cybernetics) он обозначил контуры новой прикладной науки, которая занималась вопросами управления и коммуникации и предвосхищала обе технологии. Винер также предвидел последствия этих новых направлений техники: через два года после «Кибернетики» вышла следующая книга – «Кибернетика и общество» (The Human Use of Human Beings), где автор рассуждал о ценности и опасности автоматизации.

Винер был одним из первых, кто задумался об оборотной стороне информационной технологии – возможности ее выхода из-под контроля людей и подчинения их себе. Еще важнее то, что он первым выступил с критикой машинного интеллекта, указав на опасность передачи принятия решений системам, которые в отсутствие способности мыслить абстрактно будут принимать решения с чисто утилитарной точки зрения, а не с учетом более широких человеческих ценностей.

Энгельбарт в 1950-х гг. работал электронщиком в Научно-исследовательском центре Эймса NASA и наблюдал, как инженеры-авиастроители сначала создают небольшие модели для аэродинамических испытаний, а затем масштабируют их до полноразмерных самолетов. Он быстро понял, что новые кремниевые компьютерные чипы можно масштабировать в обратную сторону – уменьшать вплоть до того, что будут называть «микросхемами». Миниатюризация позволит размещать больше схем в одном и том же пространстве при тех же затратах. А главное, увеличение плотности схем должно оказывать на производительность не аддитивный, а мультипликативный эффект. Для Энгельбарта это было решающим. Уже через год после появления первого современного компьютерного чипа в конце 1950-х гг. у него не осталось сомнений в том, что в конечном итоге появятся сравнительно дешевые вычислительные мощности, которые изменят лицо цивилизации.

Идея экспоненциального роста – закон Мура, в частности, – является одним из фундаментальных достижений Кремниевой долины. Энгельбарт и Мур понимали, что мощность компьютеров будет возрастать все быстрее. Аналогичным образом должна падать их стоимость так, что очень скоро мощные компьютеры окажутся доступными даже беднейшим нациям. За последнюю половину десятилетия это ускорение обеспечило быстрое развитие технологий, которые необходимы для создания искусственного интеллекта: машинное зрение, распознавание речи, контактное восприятие и манипуляторы. Машины уже умеют чувствовать вкус и запах, однако более существенные инновации приходят из сферы моделирования нейронов человека с помощью электронных схем, где наметился прогресс в распознавании образов.

Ускорение развития в области искусственного интеллекта позволило кое-кому – взять хотя бы специалиста по вычислительной технике Моше Варди из Университета Райса – провозгласить неминуемое вытеснение человека из очень многих сфер уже к 2045 г. {3} В соответствии с еще более радикальными представлениями компьютеры развиваются настолько быстро, что превзойдут по интеллекту человека через одно или самое большее через два поколения. Писатель-фантаст и специалист по вычислительной технике Вернор Виндж рассуждает о компьютерной «сингулярности» – таком быстром развитии машинного интеллекта, при котором он переходит некий порог, а потом в результате пока неопределенного скачка становится сверхчеловеческим.

3

Moshe Y. Vardi, "The Consequences of Machine Intelligence," Atlantic, October 25, 2012, http://www.theatlantic.com/technology/archive/2012/10/the-consequences-of-machine-intelligence/264066.