Стеклянная клетка. Автоматизация и мы

Карр Николас Дж.

С помощью способов построения алгоритмов, например метода дерева принятия решений или метода нейронных сетей, которые помогают моделировать сложные статистические взаимоотношения различных явлений, компьютеры также помогают усовершенствовать технологию прогнозов, так как могут обрабатывать огромное количество данных и оценивать сведения о достоверности прежних показателей [38]. Статистический вес, который машины приписывают различным переменным, становится все более точным, расчеты вероятности все более верно отражают вероятности событий, происходящих в реальном мире. Современные компьютеры становятся разумнее, набираясь опыта, как люди. Некоторые специалисты по кибернетике уверены, что новые нейроморфные микрочипы с заложенными в них механизмами обучения будут способствовать появлению компьютеров нового поколения. Машины станут способны к более совершенному распознаванию деталей. Мы можем сколько угодно иронизировать по поводу их «сообразительности» и «интеллекта», но факт остается фактом – несмотря на отсутствие сочувствия, понимания и проницательности врача, эти машины тем не менее способны воспроизводить многие врачебные суждения на основе статистического анализа огромного объема цифровой информации. Многие старые дебаты о смысле понятия

«интеллект» приобрели сейчас чисто академический интерес в свете неимоверной мощности современных компьютеров, умеющих в считаные секунды обрабатывать немыслимые для человека объемы информации.

Диагностические возможности ЭВМ будут улучшаться и дальше. Чем больше данных о конкретном пациенте в форме электронных записей, оцифрованных изображений и результатов анализов, о взаимодействии лекарств, а в недалеком будущем – и данных, считанных с личных биологических сенсоров и следящих за динамикой состояния приложений, тем тоньше будут становиться выводы и диагнозы. Шаблоны и схемы станут более совершенными и изощренными. Учитывая нынешнее стремление радикально улучшить качество здравоохранения, можно ожидать, что в медицине скоро возобладает философия Тейлора – стандартизация и оптимизация. Укрепятся позиции так называемой доказательной медицины, в которой и без того уже сильна тенденция замены личного врачебного суждения статистическими расчетами. Медики будут испытывать нарастающее давление со стороны автоматизации и со временем неизбежно уступят компьютерным программам часть своих прерогатив в установлении диагнозов и назначении лечения. В недалеком будущем многие из них окажутся в роли людей-датчиков, собирающих информацию для принимающих решение компьютеров. Врачи будут, осмотрев и обследовав больного, вводить полученные данные в ЭВМ, и именно последние возьмут на себя труд ставить диагнозы, назначать лечение и следить за его результатами. Благодаря неумолимому наступлению автоматизации, подчиняясь выявленной Брайтом иерархии, доктора обречены (по крайней мере, в некоторых сферах своей практики) на судьбу, постигшую в свое время фабрично-заводских рабочих.

Врачи не одиноки. Вторжение ЭВМ в элитные интеллектуальные профессии наблюдается повсеместно. Мы уже видели, как меняется мышление аудиторов под влиянием экспертных систем, определяющих риски и другие переменные величины. Финансисты, от представителей ссудных касс до менеджеров по инвестициям, уже зависят от систем, направляющих их решения, а Уолл-стрит находится под контролем вынюхивающих корреляции компьютеров и аналитиков, которые эти компьютеры программируют. Численность биржевых игроков и спекулянтов на Нью-йоркской бирже с 2000 по 2013 год уменьшилась со 150 тысяч до 100 тысяч, несмотря на то что фирмы Уолл-стрит стали получать еще более заоблачные прибыли. «Важнейшая цель брокерских и инвестиционных компаний – это автоматизация и избавление от биржевых маклеров», – сказал один из финансовых аналитиков корреспонденту компании Bloomberg. «Что же касается уцелевших биржевых игроков, то все, к чему сводится сегодня их деятельность, – это нажатие компьютерных клавиш» [39].

Это верно не только для торговли акциями и облигациями, но также и для работы с более сложными финансовыми инструментами. Эшвин Парамесваран, технический аналитик и бывший банкир, отмечает, что банки приложили значительные усилия для того, чтобы уменьшить требования к квалификации людей, осуществляющих ценообразование на финансовые деривативы. Системы купли-продажи постоянно изменялись таким образом, чтобы передать как можно больше информации компьютерным программам [40]. Предсказывающие алгоритмы стали проникать даже в недосягаемую для них прежде сферу венчурного капитала. Венчурные инвесторы всегда гордились своим нюхом и интуицией на выгодный бизнес и инновации. В наши дни такие выдающиеся венчурные компании, как Ironstone Group и Google Ventures, применяют программы для выяснения предпринимательского успеха и в соответствии с этим размещают свои инвестиции.

Та же тенденция наблюдается и в юриспруденции. В течение многих лет адвокаты зависят от компьютеров, с помощью которых они находят сведения о законах и готовят нужные документы. Однако с некоторых пор компьютерные программы стали играть более значимую роль в юридических конторах. Важный процесс поиска нужных документов, которым, по традиции, занимаются младшие юристы и помощники адвокатов, роясь в грудах корреспонденции, в электронных письмах и записях, теперь стал почти полностью автоматизированным. Компьютер способен перелистать за одну секунду тысячи страниц оцифрованной документации. Используя поисковые электронные программы, снабженные алгоритмами распознавания речевой стилистики, машины не только фиксируют важные слова и фразы, но и вычленяют последовательности событий, вникают в человеческие отношения и даже распознают личностные эмоции и мотивации. Один компьютер может заменить дюжину высокооплачиваемых профессионалов. Кроме того, усовершенствованы программы подготовки документов. Заполнив простой бланк, адвокат может теперь за пару часов составить сложный контракт, работа над которым в прошлом заняла бы несколько дней.

Большие перемены уже на пороге. Фирмы, создающие программное обеспечение для юридических контор, начали разрабатывать алгоритмы статистических прогнозов. Они основаны на анализе тысяч прецедентов и могут подсказать тактику адвоката на суде, порекомендовать место проведения процесса или варианты мирового соглашения, имеющие большие шансы на успех. Компьютерные программы скоро будут способны к суждениям, прежде требовавшим квалификации опытного адвоката [41]. Организованная в 2010 году группой профессоров права из Стэнфордского университета (Leland Stanford Junior University) компания Lex Machina предложила обзор программ, которые должны появиться в самом ближайшем будущем. Располагая базой данных из 150 тысяч дел по поводу споров об интеллектуальной собственности, компания проводит компьютерный анализ и прогнозирует исходы дел о патентах при различных сценариях процесса, принимая во внимание суд, личность председательствующего судьи и адвокатов, характеристики сторон, исходы подобных дел и другие факторы.

Алгоритмы прогнозирования все в большей степени влияют на решения, принимаемые капитанами бизнеса. Некоторые компании тратят миллиарды долларов в год на «кадровую аналитику» – программы, автоматизирующие принятие решений о найме на работу, заработной

плате и продвижении по карьерной лестнице. Компания Xerox, например, целиком и полностью полагается на компьютеры при выборе кандидатов на работу в 50 тысячах центрах телефонного обслуживания. Кандидат садится за компьютер и в течение получаса заполняет анкету и проходит личностный тест, после чего машина выдает ему число набранных баллов, определяющее вероятность его соответствия роду деятельности, степень работоспособности и стиль отношения к работе. Компания приглашает на собеседование только тех кандидатов, которые набирают высокий балл при первичном компьютерном тестировании, отсеивая остальных [42]. Компания доставки посылок UPS использует программы прогнозирования составления маршрутных карт для своих водителей. В розничной торговле они применяются для оптимального размещения товаров на полках. Коммерсанты и рекламные агентства пользуются компьютерным прогнозированием для того, чтобы решать, где и когда размещать рекламу и надо ли при этом задействовать социальные сети. Менеджеры многих компаний начинают чувствовать себя придатками программ. Они лишь подписывают и украшают печатями решения, принятые компьютерами.

Смещение центра тяжести экономики с производства реальных товаров к потоку электронных данных привело к тому, что компьютеры в последние десятилетия ХХ века придали новый статус и осыпали золотым дождем людей, работающих с информацией. Люди, зарабатывающие на жизнь манипуляциями со значками и символами на экране, стали звездами новой экономики, в то время как фабрично-заводской труд, долгое время бывший опорой среднего класса, переместился в дальние страны или поручен роботам. Пузырь доткома, надувшийся в конце девяностых, когда за несколько лет всеобщей эйфории деньги хлынули из компьютерных сетей на личные счета маклеров, ознаменовал начало золотого века неограниченных экономических возможностей – того, что горячие поборники информационных технологий окрестили «долгим бумом». Но хорошие времена, как известно, преходящи. Теперь мы видим, как сбывается пророчество Норберта Винера: у автоматизации нет фаворитов. Компьютеры так же хорошо анализируют символы и управляются с потоками информации, как и манипулируют промышленными роботами. Даже люди, управляющие сложными вычислительными системами, теряют работу, уступая ее компьютерам, по мере того как происходит автоматизация вычислительных центров. Огромные серверные хозяйства таких компаний, как Google, Amazon и Apple, по сути дела, управляют собой сами. Благодаря виртуализации среды, техникой, использующей программное обеспечение для воспроизведения функций таких инженерных устройств, как серверы, можно управлять с помощью программ. Сетевые неполадки и неисправности приложений выявляются и устраняются автоматически, часто в течение нескольких секунд. Может оказаться так, что «интеллектуализация физического труда», как назвал этот феномен итальянский ученый Франко Берарди [43], происшедшая в конце ХХ века, станет предшественницей автоматизации интеллекта, наступившей в начале ХХI века.

Умозаключение о возможности имитации компьютерами человеческих знаний и суждений – занятие рискованное. Экстраполяции тенденций развития кибертехники могут оказаться пустыми фантазиями. Но даже если мы (вопреки экстравагантным утверждениям евангелистов от информатики) допустим, что у способности к полезному использованию корреляций и других методов статистического анализа есть пределы, то нам все же придется признать, что за последние годы компьютеры сильно далеко отодвинули эти барьеры. Когда в начале 2011 года суперкомпьютер IBM Watson победил в телевизионной игре Jeopardy! (русский вариант – «Своя игра»), разгромив в пух и прах двоих ее фаворитов, мы поняли, куда нас могут завести аналитические таланты компьютеров. Способность Watson отгадывать намеки казалась просто фантастической, но, по меркам современного программирования искусственного интеллекта, он не совершил, в общем-то, ничего особенного. Сначала он осуществлял поиск возможных ответов в базах данных, потом, пользуясь процедурами прогнозирования, определял, какой ответ, с наибольшей вероятностью, является правильным. Все дело в том, что всю эту колоссальную рутинную работу компьютер выполнил так быстро, что смог превзойти самых сообразительных и остроумных людей, в совершенстве владеющих приемами каламбуров, припоминания и удержания в памяти всяких пустяков.

Watson стал апофеозом новой прагматичной формы искусственного интеллекта. В пятидесятые и шестидесятые годы, когда цифровые компьютеры были еще в новинку, многие математики и инженеры, и не столь многочисленные, но примкнувшие к ним психологи уверяли себя и окружающих в том, что человеческий мозг работает так же, как своего рода цифровая вычислительная машина. В компьютере они видели метафору и модель разума. Следовательно, для того чтобы создать искусственный интеллект, надо было (по мнению этих людей) поступить очень просто: выяснить алгоритмы, согласно которым функционирует содержимое нашего черепа, и перевести их в компьютерные коды. Подход оказался бесплодным. Оригинальная попытка создания искусственного интеллекта провалилась. Выяснилось, что процессы, происходящие в мозге, не могут быть сведены к вычислениям, производимым в компьютерных чипах. [19] Нынешние ученые предприняли иной подход к созданию искусственного интеллекта – менее амбициозный, но зато более эффективный. Целью теперь не является воспроизведение процесса человеческого мышления – это пока остается за пределами наших возможностей. Воспроизводятся результаты мышления. Ученые смотрят на какой-то частный результат умственной деятельности, например на решение о приеме на работу, а затем программируют компьютер на достижение результата математическими методами. Работа Watson отличается от работы ума человека, играющего в «Свою игру», но он побеждает человека по очкам.

19

Использование таких терминов, как нейронная сеть и нейроморфная обработка, могут создать впечатление, что компьютеры работают как мозг. Однако эти термины нельзя понимать буквально; это всего лишь фигуры речи. Так как мы до сих пор не знаем, как работает мозг, как во взаимодействии нейронов рождается мышление и сознание, мы не можем пока построить компьютер, работающий как человеческий мозг.