Физика невозможного
Шрифт:
Как писал русский романист Федор Достоевский, «если бы все на Земле было разумно, ничего бы не происходило».
Другими словами, эмоции могут потребоваться роботам будущего, чтобы устанавливать цели, придавать своей «жизни» смысл и структуру; в противном случае бесконечные возможности лишат их всякой способности к действию.
По вопросу о том, могут ли машины обладать сознанием, нет единого мнения; более того, нет его и по вопросу о том, что такое сознание вообще. Никто еще не сумел сформулировать приемлемое для всех определение сознания.
Марвин Мински считает, что сознание представляет собой скорее «совокупность сознаний»; имеется в виду, что процесс мышления в мозге не локализован, а распределен, и в каждый
Если это действительно так, то вполне возможно, что понятие «сознания» несколько раздуто; возможно, слишком много научных трудов посвящено предмету, затуманенному поколениями философов и психологов. Возможно, определить сознание не так уж сложно. Сидни Бреннер из Института Солка в г. Ла-Холла говорит: «Я предрекаю, что к 2020 г. — черты которого уже вполне различимы — сознание как научная проблема перестанет существовать,. Наши преемники будут поражены количеством научной чепухи, которая сегодня всерьез обсуждается, конечно, если у них хватит терпения копаться в электронных архивах старых журналов».
Марвин Мински считает, что исследования в области ИИ страдают «от зависти к физике». В физике священным Граалем, добыть который мечтает любой ученый, является простое уравнение, которое объединило бы все физические взаимодействия вселенной в рамках единой теории — «теории всего». Под влиянием этой идеи исследователи искусственного интеллекта тоже пытаются найти единую парадигму, которая объяснила бы сознание. Но Мински считает, что такой парадигмы, возможно, вообще не существует.
(Члены «конструкционистской» школы, к которой принадлежу и я, считают, что вместо бесконечных дебатов о том, можно ли создать думающую машину, нужно взять и попытаться. Что же касается сознания, то, скорее всего, существует некое пространство сознания, к которому принадлежит и примитивный термостат, который отслеживает температуру в комнате, и осознающий себя организм, каким на сегодняшний день является человек. Животные, возможно, тоже обладают сознанием, но сознанием более низкого уровня по сравнению с человеком. Поэтому, вместо того чтобы без конца обсуждать философские вопросы и спорить об определении сознания, следовало бы попытаться составить каталог всевозможных типов и уровней сознания и разложить все по полочкам. Возможно, роботы со временем обретут «силиконовое сознание». Вообще, когда-нибудь, может статься, роботы воплотят в себе совершенно иную, чем у нас, архитектуру мышления и обработки информации. Не исключено, что в будущем высококлассные роботы сумеют размыть грань между синтаксисом и семантикой и их реакция действительно станет неотличима от реакции человека. Если это произойдет, вопрос о том, «понимают» ли они на самом деле вопрос, потеряет всякий смысл. Робот, в совершенстве владеющий синтаксисом, понимает — для любых практических целей — содержание разговора. Другими словами, идеальное владение синтаксисом и есть понимание.)
Закон Мура (он утверждает, что производительность компьютеров удваивается каждые 18 месяцев) позволяет предположить, что через несколько десятилетий появятся роботы с разумом, скажем, собаки или кошки. Но вполне может так случиться, что к 2020 г. закон Мура перестанет действовать, а кремниевая эра подойдет к концу. Последние полвека производительность компьютеров росла такими поразительными темпами благодаря тому, что появлялись все более крохотные кремниевые транзисторы, десятки миллионов которых легко умещались на ногте. Для вытравливания этих микроскопических транзисторов на кремниевых пластинках использовалось ультрафиолетовое излучение. Но процесс микроминиатюризации не может продолжаться до бесконечности. Со временем транзисторы могут уменьшиться до размера молекул, и он автоматически прекратится. После 2020 г., когда закончится эра кремния, Силиконовая долина может превратиться в новый Ржавый пояс.
Процессор Pentium в вашем портативном компьютере имеет слои толщиной в 20 атомов. К 2020 г. толщина слоя может уменьшиться до пяти атомов. В этот момент вступит в действие принцип неопределенности Гейзенберга, и будет вообще невозможно сказать наверняка, где находится электрон. И тогда в чипе возникнут утечки электричества, а в компьютере — короткое замыкание. В этот момент компьютерная революция и закон Мура уткнутся в глухую стену — ведь законы квантовой механики обойти невозможно. (Кое-кто утверждает, что цифровая эра — это «победа битов над атомами». Но когда-нибудь, когда закон Мура перестанет действовать, атомы возьмут свое.)
В настоящее время физики работают над посткремниевой технологией, которая будет доминировать в мире компьютеров после 2020 г., но пока результаты не слишком обнадеживают. Как мы уже говорили, рассматривается несколько перспективных технологий, в том числе квантовые компьютеры, компьютеры на основе ДНК, оптические компьютеры, атомные компьютеры и т. п. Но на каждом направлении имеются громадные трудности, которые предстоит преодолеть, прежде чем технология сможет примерить на себя мантию кремниевых чипов. Технология манипулирования отдельными атомами и молекулами находится пока в зачаточном состоянии, и мы пока не в состоянии изготовить миллиарды транзисторов, сравнимых по размерам с атомами.
Но предположим на мгновение, что физики нашли способ преодолеть пропасть между кремниевыми чипами и, скажем, квантовыми компьютерами. Предположим также, что закон Мура в той или иной форме продолжает действовать и в посткремниевую эру. В этом случае искусственный интеллект действительно может стать реальностью. Тогда роботы могут овладеть человеческой логикой и эмоциями и научиться уверенно проходить тест Тьюринга. Стивен Спилберг исследовал эту тему в фильме «Искусственный интеллект»; в фильме рассказывается о том, как был создан первый искусственный мальчик, способный проявлять эмоции и пригодный поэтому для усыновления в человеческую семью.
Возникает вопрос: могут ли такие роботы представлять опасность? Наиболее вероятный ответ: да, могут. Роботы могут стать опасными, как только достигнут интеллекта обезьяны, — ведь обезьяна обладает сознанием и собственной волей. Возможно, на достижение этого рубежа уйдет немало десятилетий, и ученым хватит времени понаблюдать за роботами, прежде чем они начнут представлять угрозу. К примеру, в их процессоры можно будет помещать специальный чип, который не даст им «пойти вразнос». Или можно интегрировать в них механизм саморазрушения или отключения, который срабатывал бы в случае чрезвычайной ситуации.
Артур Кларк писал: «Может быть, мы станем для компьютеров домашними любимцами и будем, как комнатные собачки, вести беззаботное существование, но я надеюсь, что у нас всегда останется возможность в любой момент выдернуть вилку из розетки».
Более реальной угрозой представляется зависимость нашей инфраструктуры от компьютеров. Система водоснабжения и электрическая сеть, не говоря уже о связи и транспорте, в будущем станут все более компьютеризованными. Наши города уже превратились в сложнейшие организмы, и теперь для управления всей нашей инфраструктурой и ее мониторинга необходимы сложные и запутанные компьютерные сети. В будущем, чтобы все это работало, придется вводить в эти компьютерные сети искусственный интеллект. Ошибка или отказ в этой всеохватной компьютерной инфраструктуре способны полностью парализовать город, страну или даже всю цивилизацию.
Превзойдут ли компьютеры нас по разумности? Разумеется, в принципе это не запрещено никакими законами природы. Если роботы представляют собой самообучающиеся нейронные сети и если они достигли уровня развития, позволяющего им учиться быстрее и эффективнее, чем учимся мы, то логично предположить, что со временем они превзойдут нас в рассуждениях. Моравек говорит, что постбиологический мир — «это такой мир, в котором род человеческий оказался сметен волной культурных изменений и вытеснен его собственными искусственными потомками… Когда это произойдет, наша ДНК окажется никому не нужна, потому что она проиграет эволюционную гонку сопернику нового типа».