Начало бесконечности. Объяснения, которые меняют мир
Шрифт:
Большинство защитников сингулярности считают, что вскоре после прорыва искусственного интеллекта будет построен сверхчеловеческий мозг и что тогда, как говорит Виндж, «эре человека придет конец». Но мои доводы, касающиеся универсальности человеческого мышления, исключают такую возможность. Поскольку люди уже обладают способностью объяснить и сконструировать все что угодно, они уже могут перешагнуть через свое парохиальное происхождение, поэтому такого понятия, как сверхчеловеческое мышление, быть не может. Может только быть дальнейшая автоматизация, которая позволит быстрее осуществлять существующий тип человеческого мышления, с большим объемом оперативной памяти, с передачей фаз «работы в поте лица» автоматам (не искусственному интеллекту). Многое из этого уже осуществилось с появлением компьютеров и другой техники, а также с общим ростом благосостояния, и в результате
Аналогично часто предполагается, что сингулярность – это момент беспрецедентного потрясения и опасности, так как инновации начинают появляться слишком быстро и люди не могут угнаться за ними. Но это – парохиальное заблуждение. На протяжении первых нескольких столетий эпохи Просвещения постоянно присутствовало чувство, что быстрое и ускоряющееся новаторство выходит из-под контроля. Но увеличивались и наши способности справляться с изменениями в технологиях, образе жизни, этических нормах и так далее и наслаждаться ими, при этом некоторые из антирациональных мемов, которые раньше саботировали нововведения, ослабевали и вымирали. В будущем, когда скорость внедрения инноваций также будет расти просто за счет растущей тактовой частоты и выработки приставок мозга и искусственного интеллекта, наша способность справляться с этим будет расти с такой же скоростью или еще быстрее: если бы все мы вдруг смогли думать в миллион раз быстрее, никто бы не чувствовал, что бежит впереди других. Поэтому я считаю, что понимать сингулярность как своего рода разрыв – ошибка. Знание продолжит расти экспоненциально или даже быстрее, что само по себе достаточно поразительно.
Экономист Робин Хэнсон предположил, что в истории нашего вида было несколько сингулярностей, таких как сельскохозяйственная и промышленная революции. Возможно, по такому определению «сингулярностью» было даже ранее Просвещение. Кто мог предсказать, что пережившие гражданскую войну в Англии – кровавую резню религиозных фанатиков и абсолютного монарха – и видевшие победу религиозных фанатиков в 1651 году также увидят и мирное рождение общества, главными характеристиками которого были свобода и разум? Королевское (научное) общество, например, было основано в Великобритании в 1660 году – и это было достижение, которое вряд ли можно было себе представить поколением раньше. Рой Портер отмечает 1688 год как начало английского Просвещения. Это дата «Славной революции», начала преимущественно конституционного правления, а также многих других рациональных реформ, которые были частью этого более глубокого и поразительно быстрого сдвига в господствующем мировоззрении.
Далее, момент времени, за который научное предсказание заглянуть не может, для разных явлений разный. Для каждого явления это момент, в который создание нового знания может начать иметь существенное значение в плане того, что мы пытаемся предсказать. Поскольку наши оценки этого момента тоже лежат в пределах горизонта того же типа, нам действительно следует понимать все свои предсказания с неявно включенной в них оговоркой «если не будет создано новое знание».
Некоторые объяснения действительно простираются в удаленное будущее, далеко за горизонты, которые делают непредсказуемыми большую часть других понятий и явлений. Одно из них – сам этот факт. Другое – бесконечный потенциал объяснительного знания – предмет этой книги.
Пытаться предсказать что-то, выходящее за рамки соответствующего горизонта, бесполезно, это пророчество, а вот интересоваться тем, что за ним кроется, другое дело. Когда из интереса рождается гипотеза, получается размышление, которое также не является иррациональным. На самом деле оно жизненно важно. Каждая из тех глубоко непредвиденных новых идей, из-за которых будущее становится непредсказуемым, начинается как размышление. А каждое размышление начинается с проблемы: проблемы, связанные с будущим, тоже
Что касается понимания физического мира, мы находимся во многом в том же положении, что и Эратосфен, когда измерял Землю: он мог сделать это необыкновенно точно и достаточно много знал об определенных аспектах нашей планеты, гораздо больше, чем его предки всего за несколько веков до него. Он наверняка знал о таком понятии, как смена времен года в тех областях Земли, о которых у него не было никаких данных. Но он также знал, что большая часть из всего того, что есть вокруг, лежит далеко за пределами его теоретических знаний, а также его физической досягаемости.
Мы пока не можем измерить Вселенную так же точно, как Эратосфен измерил Землю. И мы тоже знаем, насколько мы невежественны. Например, из универсальности нам известно, что искусственный интеллект можно реализовать путем написания компьютерных программ, но мы понятия не имеем, как написать (или развить) ту самую, подходящую. Мы не знаем, что такое квалиа, не знаем, как устроено творческое мышление, несмотря на то, что внутри каждого из нас проявляются и квалиа, и творческое мышление. Мы уже несколько десятилетий знаем, что есть генетический код, но не имеем понятия, почему он позволяет делать то, что позволяет. Мы знаем, что обе глубочайшие, доминирующие в физике теории наверняка неверны. Нам известно, что люди представляют фундаментальную важность, но мы не знаем, есть ли среди этих людей мы: мы можем потерпеть неудачу или сдаться, и у начала бесконечности окажутся разумные существа, происходящие из других мест Вселенной. И так далее – для всех упомянутых мною проблем и для многих других.
Уилер как-то предложил выписать на бумаге и разложить по полу все уравнения, которые могут быть основными законами физики. А затем, писал он, мы
«…встанем на ноги, взглянем на все эти уравнения, одни из которых, возможно, более многообещающие, чем другие, поднимем руку в повелительном жесте и отдадим приказание: “Летите!” Ни одно из этих уравнений не обретет крыльев, не поднимется в воздух и не полетит. Тем не менее Вселенная “летит”».
114
Цит. по: Мизнер Ч., Торн К., Уилер Дж. Гравитация. – Том 3. – М.: Мир, 1977. – С. 477.
Мы не знаем, почему она «летит». Чем отличаются те законы, которые воплотились в физической реальности, от тех, которые не воплотились? Какая разница между компьютерной симуляцией человека (которая из-за универсальности должна быть человеком) и записью этой симуляции (которая не может быть человеком)? Когда одновременно запущено две одинаковые симуляции, то наборов квалиа два или один? Нравственных ценностей в два раза больше или нет?
Наш мир, который гораздо больше, цельнее, замысловатее и красивее, чем мир Эратосфена, мир, который мы понимаем и которым управляем до степени, которую древнегреческий ученый счел бы божественной, тем не менее настолько же таинственен, хотя и открыт для нас, как его был для него тогда. Мы лишь кое-где зажгли пару свечей. И мы можем ежиться в их ограниченном свете, пока что-то, выходящее за пределы нашего кругозора, не прекратит наши попытки, или мы можем сопротивляться. Мы уже понимаем, что живем не в бессмысленном мире. Законы физики имеют смысл: устройство мира поддается объяснению. Существуют более высокие уровни эмерджентности и более высокие уровни объяснения. Глубокие абстракции в математике, этике и эстетике нам доступны. Идеи с огромной предсказательной силой возможны. Но в мире еще много всего, что для нас не имеет смысла и не будет его иметь, пока мы сами не поймем, как это выверить. Смерть не имеет смысла. Застой не имеет смысла. И капля чувства в бесконечном море бесчувственности – тоже. Обретет ли в конечном итоге мир смысл, зависит от того, как будут думать и действовать люди – такие, как мы.
Многие испытывают к бесконечности антипатию различных типов. Но есть определенные вещи, которые нам выбирать не приходится. Существует только один способ мышления, который может привести к прогрессу или к выживанию в долгосрочной перспективе, и это поиск разумных объяснений путем творческого мышления и критики. Так или иначе, впереди у нас – бесконечность. И выбирать мы можем только, будет ли это бесконечное невежество или бесконечные знания, неверные суждения или правильные, жизнь или смерть.