Философские проблемы развития искусственного интеллекта

Коллектив авторов

Также, аргументом против теста Тьюринга как критерия наличия разума является то, что тест Тьюринга на самом деле является тестом на человекоподобие, а не на разумность вообще. При прохождении теста машина должна вести себя как человек – но ведь далеко не всё человеческое поведение разумно, а многие интеллектуальные задачи машина может решать гораздо эффективнее человека (например, математические вычисления). Стремление же пройти тест Тьюринга заставляет машины быть «не слишком умной». Можно привести такое сравнение: если бы инженеры начала XX в., создавая самолёт, пытались сделать его точной копией птицы, они были бы похожи на современных учёных, которые пытаются создать машину, мыслящую точно так же, как мыслит человек. Это совершенно непрактично. Самолёты летают не как птицы, тем не менее, они летают гораздо быстрее, дальше и выше птиц. Т. е. тест Тьюринга не раскрывает сущности разума, а лишь указывает на успешную имитацию его внешнего проявления, причём проявления не самого значимого. «Способность болтать – еще не признак интеллекта» –

резюмируют эту позицию сценаристы фильма «Звёздные войны».

Эти теоретические рассуждения подтверждаются и практикой создания интеллектуальных программ. Например, типична история машинного перевода, возможности которого еще несколько десятилетий считались значительно превосходящими возможности переводчика-человека. Но на практике, несмотря на немыслимые объёмы информации, которые способна хранить машина, перевод в лучшем случае настолько стилистически «коряв» и уродлив, что «машинный перевод» стал своеобразной темой комедийного интернет-искусства. Любому хорошему переводчику известно, что для настоящего перевода (даже технического) мало словаря и грамматики. Тут еще нужны знания в той области, к которой относится текст – переводчик должен понимать, о чём в тексте идёт речь. Т. е. синтаксис без семантики не даёт возможности решать большую часть интеллектуальных задач, доступных разуму человека.

Поэтому, для разработчиков современных интеллектуальных программ тест Тьюринга не стал универсальным критерием их успеха. Зато получил огромное распространение «тест Тьюринга наоборот» – назойливая CAPTCHA [1] .

Как мы видим, поиск возможности создания искусственного интеллекта в любом случае упирается в вопрос: что такое разум?

В 1963 г. А. Ньюэлл и Г. Саймон, основываясь на анализе языка, предположили, что сущность разума заключается в способности оперировать символами. Такой подход позволил создать программу, способную решить любую интеллектуальную задачу в том случае, если задача могла быть формализована (например, доказывать теоремы, играть в шахматы и т. п.). Способность выполнять символьные вычисления вполне достаточна для решения интеллектуальных задач, а без таких вычислений разумное поведение невозможно. Таким образом, разум может быть рассмотрен как устройство, оперирующее информацией в соответствии с формальными правилами. В рамках данного подхода искусственный интеллект создаётся по аналогии с мозгом и нервной системой человека, т. е. по принципу нейросети. Нейросети не программируются в привычном смысле этого слова, они обучаются. Возможность обучения – одно из главных преимуществ нейросетей перед традиционными алгоритмами. Технически обучение заключается в нахождении коэффициентов связей между нейронами. В процессе обучения нейронная сеть способна выявлять сложные зависимости между входными данными и выходными, а также выполнять обобщение.

1

Completely Automated Public Turing test to tell Computers and Humans Apart – тест, по замыслу разработчиков, позволяющий программе определить, кем является пользователь системы: человеком или программой. Впрочем, автору этих строк неизвестна ни одна «капча», которую с высокой вероятностью опознать человек, а ни одна программа не смогла бы.

Этот подход подвергся критике со стороны философа Х. Дрейфуса. Суть его возражений в следующем:

• знание человека о мире состоит не только и не столько из объективных знаний о мире, сколько из нашего субьективного отношения к нему и склонности воспринимать и интерпретировать события так или иначе. Даже если мы используем символическую систему для выражения наших мыслей, мысли всё равно формируются во многом под воздействием бессознательных факторов. Следовательно, рассмотрение разума может как устройства, оперирующего информацией в соответствии с формальными правилами, недостаточно для понимания сущности разума и создания искусственного интеллекта;

• не всё знание и не все задачи могут быть формализованы. Значительная часть восприятия человека не может быть адекватно выражена в символах. Следовательно, искусственный интеллект, построенный как символическая система, сможет решать лишь небольшой круг формализуемых задач, не являясь разумом.

Практика создания искусственного интеллекта подтвердила правоту скептицизма Дрейфуса. Современные нейрокомпьютеры способны эффективно решать многие задачи, но до возможностей человеческого разума им бесконечно далеко. Таким образом, сведение разума к оперированию символами по формальным правилам не привело к пониманию его сущности.

Хотя качественного прорыва в создании сильного искусственного интеллекта не произошло, количественно вычислительные возможности ЭВМ возрастали экспоненциально, и в данный момент сложность современных ЭВМ неумолимо приближается к сложности мозга человека. Возможно ли, что количественный рост сложности вычислительных систем приведёт к их качественному скачку?

В 1993 г. математик и писатель В. Виндж предложил концепцию, описывающую последствия возникновения искусственного интеллекта, превосходящего по вычислительным возможностям человеческий разум. С того момента, как искусственный интеллект будет открывать новое знание быстрее человека, искусственный

интеллект сможет создавать всё более и более совершенные вычислительные машины, которые будут ускорять рост знания в ещё большей степени, т. е. процесс будет нарастать как снежный ком, становясь недоступным пониманию человека. После этого развитие искусственного интеллекта станет настолько стремительным, что даже самые приблизительные прогнозы о том, что произойдёт дальше, теряют смысл. Виндж назвал этот момент «технологической сингулярностью».

Технологическая сингулярность характеризуется появлением нового вида знания – т. н. машинного знания, т. е. знания, доступного лишь машине. Как это может выглядеть? Например, как математическая теорема, доказанная машиной. Первая крупная математическая теорема, доказанная с помощью компьютера, – теорема о четырех красках. Ее формулировка элементарна: для того чтобы раскрасить географическую карту так, чтобы никакие два граничащих региона не были одного цвета, достаточно всего четырех разных красок. Два региона считаются граничащими, если они имеют протяженную границу, то есть состоящую больше чем из одной точки. Доказательство теоремы о четырех красках – прецедент использования компьютера при решении классических математических задач. В то же время оно примечательно своей длиной и сложностью. Даже после применения компьютера, позволившего значительно сократить вычисления, текст доказательства элементарно формулируемого утверждения имеет астрономическую длину. Нетрудно представить себе появление такой теоремы, доказательство которой будет слишком длинным, для того, чтобы человеческой жизни хватило на его проверку. И тогда развитие знания и получение его плодов окажутся прерогативой искусственного разума.

Насколько вопрос создания сильного искусственного интеллекта является на данный момент актуальным? То, что интерес к данной проблеме сохраняется, видно хотя бы по той бурной дискуссии, которую вызвали публикации Р. Пенроуза. Опираясь на теорему К. Геделя о неполноте формальных систем, он обосновывал вывод о принципиальной невозможности создания машинных алгоритмов, способных имитировать во всем объеме интеллектуальные способности человека. Но нельзя не признать, что вопрос создания искусственного мышления, равного человеческому, больше не будоражит умы и воображение людей так, как это было в середине XX в. Снижение остроты интереса к проблеме создания сильного искусственного интеллекта человеческого уровня объясняют недостаточным пониманием природы человеческого разума. При этом, однако, обычно неявно предполагают, что механизм человеческого мышления в принципе может быть прояснен и представлен в виде некоторого алгоритма, хотя решение этой задачи отодвигается на неопределенное будущее. Вполне возможно такое положение дел, что природа человеческого интеллекта такова, что «прояснить» его механизмы, свести деятельность интеллекта к некоторому набору «функций» или «операций», невозможно в принципе. Но всё же плоды создания сильного искусственного интеллекта слишком сладко манят современных учёных и инженеров. Ведь создание сильного искусственного интеллекта позволило бы сразу решить практически неограниченное число прикладных задач – поскольку не нужно было бы каждый раз заново разрабатывать «интеллектуальные» программы для решения очередной задачи: подлинно «интеллектуальная» машина была бы способна самостоятельно найти эффективный путь решения любой (или почти любой) поставленной перед ней задачи. Ведь именно эту способность – находить решения (и ставить сами задачи) самостоятельно мы, собственно, и называем интеллектом.

Но наиболее важным значением философских проблем искусственного интеллекта представляется не создание пусть и весьма совершенных алгоритмов для решения практических задач, а те новые горизонты в понимании природы и сущности сознания, которые открываются в процессе решения вопросов создания искусственного интеллекта. Таким образом, философия искусственного интеллекта в полной мере следует максиме Сократа «познай самого себя».

Ученое сообщество рассуждает о сроках появления умных машин и сходится в следующем: развитие технологий безусловно окажет сильное влияние на общество, экономику и отношения между людьми в будущем. Уже сейчас раздаются призывы обдумать этические принципы разработки искусственного интеллекта, удостоверившись в том, что искусственный интеллект будет развиваться только в безопасном для людей направлении. И все-таки стоит ли человеку опасаться искусственного разума?

Прежде чем начать рассуждать о проблемах создания искусственного интеллекта, его влиянии на человека и общество, попробуем разобраться, что мы понимаем под ним. Итак, что же такое искусственный разум и почему его так многие опасаются?

Ученые не могут конкретно выразить суть интеллекта в каком-то одном определении. В начале 80-х гг. ученые в области теории вычислений Барр и Файгенбаум предложили следующее определение искусственного интеллекта. Искусственный интеллект – это область информатики, которая занимается разработкой интеллектуальных компьютерных систем, то есть систем, обладающих возможностями, которые мы традиционно связываем с человеческим разумом, – понимание языка, обучение, способность рассуждать, решать проблемы и т. д. На наш взгляд искусственный интеллект – это не какой-то определенный компьютер или робот-человек, а это целая научная область, целью которой является разработка способов создания так называемых машин, автоматов или роботов, которые бы обладали свойством человеческого интеллекта.