Вы не гаджет. Манифест

Ланир Джарон

Различие между пониманием и убеждением, между наукой и этикой размыто. Я вряд ли могу утверждать, что безошибочно различаю эти два понятия, но, надеюсь, изложенные ниже отчеты о моих попытках могут оказаться полезны.

Глава 12

Я противоречу сам себе

Разбираются разновидности вычислительного способа мышления, определяется реалистичный вычислительный подход к нему.

Культура вычислительного подхода к природе

В Кремниевой долине можно встретить буддистов, анархистов, поклонников культа Богини, фанатиков

Айн Рэнд, самозваных служителей Иисуса, нигилистов и множество либертарианцев, а также удивительные комбинации всего вышеперечисленного и еще многих других, кто на первый взгляд не придерживается никакой идеологии. Тем не менее есть система веры, которая, не соответствуя ни одной из упомянутых идентификаций, и может служить «общим знаменателем».

За неимением лучшего слова я назвал ее вычислительным способом мышления. Этот термин обычно используется в более узком смысле, означая склад ума, но я использую его более широко и включаю в это понятие что-то вроде культуры. Лежащую в его основе философию в первом приближении стоит вкратце описать так: мир можно понять как вычислительный процесс, представляя людей как подпроцессы.

В этой главе я изучу применение вычислительного подхода в научных рассуждениях. Я утверждаю, что, даже если вычислительный способ мышления полезен для понимания науки, его нельзя использовать при оценке инженерных решений определенного типа.

Три недостаточно хороших вида вычислительного подхода

Я, критик вычислительного подхода, редкий гость в кругах ученых-информатиков, так что приходится отметить, что эта философия в ряде случаев полезна.

Вычислительный способ мышления — это не всегда сумасшествие. Иногда к нему прибегают только потому, что не применить его означает столкнуться с другими проблемами. Если вы собираетесь рассматривать людей как нечто особенное, как я и советовал, то вы должны быть в состоянии определить, где их особость начинается и где заканчивается. Это очень похоже на проблему определения круга сочувствия, которую я описал в гл.2. Если вы хотите, чтобы разрабатываемые технологии служили людям, вы должны иметь хотя бы приблизительное представление о том, что является личностью, а что нет.

Но есть случаи, когда любое возможное определение круга порождает проблемы. Особенно трудно ученым разделить мир на две части, одна из которых обычная — детерминистская или, возможно, механистическая, а другая — загадочная, более абстрактная. Пугающий путь дуализма.

Если вы предполагаете, что в духовной плоскости мозг связан с другой сущностью — душой, становится неудобно изучать, к примеру, неврологию. Вам приходится подходить к мозгу просто как к механизму, который вы не понимаете, чтобы улучшить это понимание путем экспериментов. Вы не можете заранее заявить, что у вас получится объяснить, а что нет.

Здесь я противоречу сам себе, но причина — в понимании того, что в разное время я играю разные роли. Иногда я придумываю инструменты для использования их людьми, а потом работаю с учеными, пытаясь понять, как функционирует мозг.

Наверное, было бы лучше, если бы я мог найти одну философию, которой бы в равной мере пользовался в любых ситуациях, но, мне кажется, лучшее решение — верить в разные проявления различных аспектов реальности, когда я выступаю в разных ролях или выполняю работу того или другого вида.

До сих пор я излагал то, во что верю, когда играю роль технолога. В таких случаях я рассматриваю человека как нечто мистическое. Моим главным приоритетом становится не допустить умаления людей до простых устройств. Самый надежный способ — верить, что гаджеты, которые я разрабатываю, есть просто инертные инструменты, которые полезны исключительно потому, что люди обладают магической способностью передавать с их помощью смысл.

Когда я выступаю в другой своей роли, роли соавтора ученых, я верю в несколько иное. В таких случаях я предпочитаю идеи, не предусматривающие магических объектов, потому что ученые могут изучать людей, если в них нет совсем ничего волшебного. В идеале ученый должен уметь хоть немного изучить нечто, не разрушая его. Весь смысл технологии, однако, заключается в изменении ситуации, в которой находятся люди, так что для людей абсурдно стремиться быть непоследовательными.

В роли ученого я не пугаюсь идеи, что мозг — это что-то вроде компьютера, но есть множество способов использования вычислений в качестве источника моделей человеческих существ. Я опишу три распространенные формы вычислительного способа мышления, а затем и четвертую — ту, которая мне по душе. Каждая из разновидностей обладает своей идеей о том, что потребуется для изменения знакомых нам программ, чтобы они стали больше похожи на личности.

Основание одной из разновидностей таково: достаточно большой объем вычислений приведет к тому, что программы приобретут качества, которые мы ассоциируем с людьми, — такие как сознание. Можно заявлять, что закон Мура неумолимо приведет к возникновению супермозга, суперсуществ и, возможно, какого-нибудь глобального или даже космического сознания. Если эти высказывания кажутся вам чересчур смелыми, имейте в виду, что именно такого сорта риторику вы услышите в мире энтузиастов сингулярности и адептов экстропии.

Если не рассматривать романтическую сторону идеи, в основе ее останется предпосылка того, что смысл порождается битами в результате накопления их количества. Набор из тысячи записей в базе данных, которые ссылаются одна на другую в определенном порядке, не имел бы смысла без человека, который интерпретирует их. Но, наверное, квадриллион или гугол записей может означать что-то сам по себе, даже если рядом нет существа, которое бы все это объяснило.

Другими словами это можно выразить так: если вы располагаете достаточным количеством данных и достаточно большим и быстрым компьютером, вы предположительно можете преодолеть проблемы, связанные с логическим позитивизмом. Логический позитивизм — это идея о том, что предложение или другой фрагмент — нечто, что можно записать в файл, — означает что-то само по себе, не требуя привлечения субъективности читающего его человека. Или, говоря сленгом компьютерных фанатов, «значение предложения есть инструкция его верификации».

Логический позитивизм вышел из моды, и немногие сегодня встанут под его знамена, но с помощью компьютеров он неофициально возрождается. Новая версия идеи гласит, что, располагая достаточным количеством данных, вы сможете заставить логический позитивизм работать на основе статистики больших чисел. Рассуждения примерно таковы: в рамках облака не будет надобности в непостижимых половинах традиционных противопоставлений (дихотомий), таких как синтаксис/семантика, количество/качество, содержание/контекст и знание/мудрость.

Вторая разновидность вычислительного подхода утверждает, что программа с определенными свойствами, обычно связанными с самопредставлением и кольцевыми ссылками, похожа на личность. К числу некоторых приверженцев этого подхода относятся Даниэль Денетт и Дуглас Хофштадтер, хотя оба имеют собственные представления о том, какими должны быть эти специальные свойства программы.

Хофштадтер говорит, что программы, имеющие «странный цикл», несут в себе черты сознания. В «странном цикле» вещи включены в другие таким образом, что внутренняя является тем же, что и внешняя.