Глаз разума
Шрифт:
Теперь, когда почва подготовлена, мы приступаем к обсуждению нашего основного вопроса: “Способны ли машины думать?”
…Мы не можем совсем отбросить первоначальную форму проблемы, поскольку мнения о правомочности замены могут разниться, и мы обязаны хотя бы выслушать то, что может быть сказано в связи с этим.
Для читателей будет проще, если я сначала изложу собственное мнение. Рассмотрим сначала наиболее аккуратную форму вопроса. Я считаю, что лет через пятьдесят удастся запрограммировать компьютеры с памятью примерно в 109 так, что они смогут играть в игру-имитацию настолько успешно, что обычный экзаменатор после пяти минут опроса будет иметь не более чем 70% шансов на верную идентификацию. Первоначальный вопрос — “способны ли машины мыслить?” — я считаю слишком бессмысленным, чтобы его обсуждать. Тем не менее, я верю, что к концу столетия словоупотребление
Далее я рассмотрю мнения, противоположные моему.
1. Теологический аргумент. Мышление есть функция бессмертной души человека. Бог дал бессмертную душу всем мужчинам и женщинам, но не животным и не машинам, и посему ни одно животное и ни одна машина не способна думать.
Я не могу согласиться ни с чем из вышесказанного, но попытаюсь ответить в терминах теологии.
Я посчитал бы этот аргумент более убедительным, если бы животные были классифицированы вместе с людьми, ибо мне кажется, что между живой и неживой материей разница гораздо больше, нежели между человеком и животным. Произвольный характер ортодоксальных взглядов становится яснее, если взглянуть на них с точки зрения представителя иной религии. Что думают христиане о мусульманском убеждении, что женщины лишены души? Но давайте оставим это в стороне и вернемся к основному возражению. Мне кажется, что из приведенного выше аргумента вытекает серьезное ограничение всемогущества Господа. Мы признаем, что существуют некие вещи, на которые неспособен даже Всемогущий — например, сделать единицу равной двум — но должны ли мы верить, что Господь не волен дать душу слону, если Он этого пожелает? Мы могли бы ожидать, что вместе с душой Бог дарует слону и улучшенный мозг, способный соответствовать нуждам этой души. Точно такой же аргумент приложим и к машинам. Он может казаться иным, так как его труднее “переварить”. Но это всего лишь означает, что нам кажется менее вероятным, что Бог посчитает обстоятельства подходящими, чтобы даровать душу. Остаток этой статьи посвящен обсуждению данных обстоятельств. Пытаясь сконструировать подобные машины, мы не должны бесцеремонно узурпировать Его власть даровать души, подобно тому, как мы не делаем этого, производя на свет детей. В обоих случаях мы являемся скорее Его инструментами, создавая вместилища для созданных Им душ.
Тем не менее, все это не более чем домыслы. Меня не впечатляют теологические аргументы, какую бы гипотезу они ни поддерживали. В прошлом подобные аргументы были не раз сочтены неудовлетворительными. Во времена Галилея теологи говорили, что тексты “И солнце застыло на небе… и не торопилось спускаться в протяжение целого дня” (Иисус х. 13) и “Он заложил основы земли, и не шелохнутся они во веки веков” (Псалмы, 5) являются адекватным опровержением теории Коперника. С точки зрения современных знаний подобная аргументация выглядит несерьезной. Когда достаточных знаний у людей еще не было, эти аргументы производили совершенно иное впечатление.
2. Аргумент “голова в песке”. “Последствия машинного мышления были бы слишком ужасны. Давайте же надеяться, что машины ни на что подобное не способны.”
Этот аргумент редко высказывается в такой прямой форме. Но он влияет на каждого, кто хоть раз задумывался об этой проблеме. Нам нравится считать, что в той или иной форме человек превыше всех остальных созданий. Лучше всего, если будет доказано, что он выше всех по определению — ведь тогда он никак не сможет утерять своей главенствующей позиции. Очевидно, что популярность теологического аргумента напрямую связана с этим чувством. Вероятно, сильнее всего подобное чувство развито у интеллектуалов, так как они ценят способность мыслить превыше всего и более склонны считать человека выше остальных созданий именно по этому признаку. Я не считаю этот аргумент достаточно обоснованным, чтобы заслуживать опровержения. Здесь более уместно говорить об утешении; его можно попытаться найти в теории о переселении душ.
3. Математическое возражение. Некоторые результаты математической логики могут быть использованы для доказательства того, что мощь дискретных машин ограничена. Самый известный из этих результатов — теорема Гёделя. Она показывает, что в любой достаточно сложной непротиворечивой логической системе можно сформулировать высказывания, относительно которых нельзя средствами этой системы доказать, истинны они или ложны. Существуют и другие похожие результаты, полученные Чёрчем, Клини, Россером и Тьюрингом. Мы рассмотрим здесь последний из этих результатов, поскольку он прямо относится к машинам, тогда как остальные могут быть использованы только в косвенных аргументах. Так, чтобы использовать теорему Гёделя, мы должны найти способ описывать логические системы в терминах машин, а машины — в терминах логических систем. Результат, о котором мы говорим, относится к цифровому компьютеру с бесконечной памятью и утверждает, что существуют некие операции, которые этот компьютер не может выполнить. Если заставить такой компьютер играть в игру-имитацию, на некоторые вопросы он ответит неверно или же вообще не сможет дать ответа, сколько бы времени он ни затратил на поиски. Таких вопросов множество, и те из них, на которые не сможет ответить определенная машина, смогут быть благополучно решены другими машинами. Мы предполагаем, что на все вопросы можно ответить “да” или “нет” и пока не рассматриваем вопросы вроде: “Что вы думаете о Пикассо?” Машины не смогут ответить на вопросы следующего типа: “Представьте себе машину со следующими спецификациями… Сможет ли эта машина когда-нибудь ответить “да” на любой вопрос?” Точки должны быть заменены описанием некой машины, данным в стандартной форме. Когда описываемая машина в какой-то мере схожа с экзаменуемой машиной, можно доказать, что ответ будет либо неверным, либо мы его вообще не получим. Это математический результат, и многие утверждают, что он доказывает ограниченность возможностей машин по сравнению с человеческими возможностями.
Краткий ответ на этот аргумент таков: действительно, возможности каждой отдельной машины ограничены — но никто пока не пытался строго доказать, что подобных ограничений не существует для человеческого интеллекта. Но я не думаю, что от этого аргумента можно легко отмахнуться. Каждый раз, когда одна из этих машин дает определенный ответ на соответствующий критический вопрос, мы знаем, что этот ответ должен быть неправильным, и это знание дает нам некое чувство превосходства. Иллюзорно ли это чувство? Безусловно, оно вполне подлинно, но мне кажется, что ему не стоит придавать слишком много значения. Наша радость по поводу слабости машин неоправданна, поскольку мы и сами слишком часто даем неверные ответы на вопросы. Кроме того, наше превосходство приложимо лишь к той конкретной машине, над которой мы одержали нашу мелочную победу. Мы не можем одержать победу одновременно над всеми машинами. Короче говоря, некоторые люди умнее, чем определенные машины, но некоторые машины умнее этих людей… и так далее.
Я думаю, что большинство сторонников математического аргумента примут игру-имитацию в качестве основания для дискуссии. Те же, кто верит в два предыдущих возражения, не будут заинтересованы ни в каких критериях.
4. Аргумент от сознания. Этот аргумент прекрасно выражен в Листерской Речи профессора Джефферсона в 1949 году: “Пока машина не напишет сонета или концерта, вдохновленного чувствами, а не полученного в результате случайного сочетания символов, мы не сможем согласиться с тем, что машина равна мозгу. Никакой механизм не может почувствовать (а не просто показать при помощи какого-либо несложного ухищрения) удовлетворения от удачи, печали от того, что его контакты перегорели, испытать удовольствие от похвалы, расстроиться из-за своих ошибок, быть очарован сексом, сердиться или впадать в депрессию, когда он не может получить желаемого.”
На первый взгляд, этот аргумент ставит под сомнение пригодность нашего теста. Согласно крайней форме этого аргумента, единственный способ убедиться в том, что машина думает, — это стать машиной и почувствовать собственное мышление. Затем эти чувства можно было бы описать — но, разумеется, никто не обязан принимать это описание всерьез. Точно так же, чтобы убедиться в том, что человек мыслит, необходимо стать именно этим человеком. В действительности, это солипсистская точка зрения. Возможно, это наиболее логичная точка зрения, но она делает обмен идеями затруднительным. А расположен считать: “А думает, а Б — нет”, в то время, как Б считает: “Б думает, а А — нет”. Чтобы избежать вечных споров по этому поводу, принято считать, что каждый человек способен думать.
Я убежден в том, что профессор Джефферсон не придерживается крайней, солипсистской точки зрения. Вероятно, он согласился бы воспользоваться игрой-имитацией, как тестом на мышление. Вариант этой игры, в котором отсутствует игрок Б, часто используется на практике под именем viva voce, с тем чтобы выяснить, действительно ли кто-либо что-то понимает, или же это что-то затвержено им механически. Давайте взглянем на фрагмент игры viva voce:
ЭКЗАМЕНАТОР: В первой строке вашего сонета “Сравнить ли с летним днем тебя” не лучше ли звучит “с весенним днем”?
ИГРОК: Это не подходит по размеру.
ЭКЗАМЕНАТОР: А как насчет того, чтобы поставить “с зимним днем”? Здесь с размером все в порядке.
ИГРОК: Верно — но никто не захочет, чтобы его сравнивали с зимним днем.
ЭКЗАМЕНАТОР: Можно ли сказать, что мистер Пиквик напоминает вам о Рождестве?
ИГРОК: В какой-то степени.
ЭКЗАМЕНАТОР: И тем не менее, Рождество — зимний день, а я не думаю, чтобы мистер Пиквик стал бы возражать против подобного сравнения.
ИГРОК: Не думаю, что вы говорите серьезно. Под зимним днем обычно понимают типичный зимний день, а не особенный день вроде Рождества.
И так далее. Что сказал бы профессор Джефферсон, если бы слагающая сонеты машина могла бы отвечать подобным образом в viva voce? Посчитал бы он, что машина “искусственным образом сигнализирует” свои ответы? Не знаю; но если бы ответы были такими удовлетворительными и аргументированными, как в приведенном отрывке, не думаю, что он назвал бы их “несложными ухищрениями.” Полагаю, что под этим он имел в виду нечто вроде заложенной в машину звукозаписи с сонетом, которая бы включалась и выключалась в нужные моменты.