Алгоритмы разума
Шрифт:
Интересны проблемы воспитания, образования и последующего самовоспитания ИИ. Несомненно, нельзя сразу изначально задать все чувства, убеждения, память, воспоминания, которые определяют личность. В то же время нелогично заставлять «искусственного ребенка» проделывать самостоятельно и медленно весь цикл естественного развития в обществе, подвергаясь случайностям и опасностям неправильного направления самоорганизации. Безусловно, многое нужно задать в первичной структуре — в связях с высокой проходимостью и в характеристиках элементов, например в виде «центров» потребностей и чувств. Это врожденные, «генетические» программы. Последующее развитие следует организовывать в виде обучения и общения, в процессе которого в соответствии с условиями общества должна формироваться личность с особенностями, определяемыми ее врожденными качествами, Ясности в этом вопросе нет. Можно ли на этот период задать специальные условия образования
Жизнь человека и даже исторические периоды человечества очень коротки по сравнению с эволюцией природы. И ничего пока сделать не удается для ее ускорения. «Генная инженерия» — не утопия, но возникающие здесь проблемы гораздо сложнее, чем представляем мы это сегодня. Для целенаправленной переделки генотипа человека нужна его кибернетическая «действующая модель» огромной сложности. Это значительно труднее, чем создать искусственный интеллект. Опыт развития науки и техники показал, что люди не повторяют природу, а изобретают новые решения. Уверен, что проще сделать «нового человека», чем переделывать имеющегося.
Не приведет ли высокий уровень технологий к искушению быстрой переделки природы «граждан» искусственного общества. Не обусловит ли это его нестабильность. Разумеется, сейчас не стоит серьезно обсуждать этот вопрос, но такая опасность возможна. Консерватизм необходим, потому что явления, происходящие в системах «типа живых» — в организме и обществе, слишком сложны и их отражение в разуме типа человеческого весьма ограниченно и субъективно. Однако уже оформляется модельный подход к сложности, который позволяет исправить недостатки разума. Нет сомнения, что будущее общество предусмотрит опасности неконтролируемой самоорганизации.
Фантастична и увлекательна проблема искусственного интеллекта, поэтому меня и занесло так далеко — до разговора об искусственном обществе. Вернемся к вопросам теории интеллекта.
На пути к интеллекту выше человеческого
Разум человека и сложные системы
Мы уже разобрали два уровня интеллекта — уровень животного и уровень человека. Наметили пути к созданию алгоритма, способного обеспечить их моделирование. Напомню специфику интеллекта человека. Он управляет мышцами и через них — средой по критериям, исходящим от тела, от самого разума, от семьи и от общества. По своему алгоритму разум был «рассчитан» природой так, чтобы обеспечить оптимальную деятельность в изменчивой внешней среде умеренной сложности через короткие ФА. Этим определились его недостатки, ограничившие его же объективную ценность. Первый недостаток — меняющаяся субъективность оценок, связанная с переменной активностью критериев-чувств. Второй недостаток — неоднородность и неравномерность моделей среды: область центрального зрения представлена подробно, периферия — неясно. Проблема центра и фона объясняется рядом причин: спецификой зрительного восприятия и механизмом сознания, выделяющего одну модель в каждый момент, а также изменчивостью чувств, усиливающих одни модели в ущерб другим.
Модели в коре мозга можно рассматривать как действующие, поскольку они воспроизводят динамику среды, но отражают ее крайне неравномерно: для центральной фигуры улавливаются подробности движения, периферия представлена обобщенно и фрагментарно.
Кроме субъективности и ограниченности моделирования, мозгу присуща еще и увлекаемость, то есть способность к повышенной тренировке некоторых моделей в результате их повторного привлечения в сознание. При этом они сами становятся фактором, направляющим движение активности по моделям. Такой процесс и является основой самоорганизации. Она полезна для приспособления, но только в некоторых пределах, и сама может стать источником искажения действительности.
Наконец, речь как искусственный код моделей, удобный для их передачи вовне и хранения, далеко не полностью соответствует образам. Во-первых, речь отражает только сознание, во-вторых, она «беднее» образов, в-третьих, статична и медленна. И уж конечно, очень субъективна: при передаче моделей от одного лица к другому истина заметно искажается. Отсюда следует недостаточность словесной информации для описания сложных
Длительная память человека несколько исправила недостатки «алгоритма» разума, но тоже не полностью. В частности, он оказался малопригоден для моделирования сложных систем в целях науки.
Специфику сложных систем «типа живых» я уже описывал, но, наверное, стоит повторить основные пункты. Эти системы сложны, так как состоят из множества элементов, по-разному комбинирующихся друг с другом в различных количествах. Они имеют рабочие подсистемы, в которых осуществляются главные энергетические и вещественные взаимоотношения с внешней средой, и управляющие, в которых представлены модели, взаимодействующие друг с другом сигналами. Все сложные системы построены по иерархическому принципу, причем на каждом уровне есть свои коды моделей и сигналов. Подсистемы управления имеют еще собственную иерархию моделей. «Вертикальные» и «горизонтальные», прямые и обратные связи объединяют систему в одно целое. Прочность этих связей различна, чем определяется степень системности целого или, иными словами, степень автономности частей, их «жизнеспособности» вне целого. Наконец, существует самоорганизация как способность изменять свои функции и структуры под влиянием внешней среды и собственной деятельности для удовлетворения главного критерия системы — выживаемости. Можно было бы продолжить перечень качеств сложных систем, но и эти я повторил лишь для того, чтобы перейти к вопросу о требованиях, предъявляемых к интеллекту, нужному для их познания.
Как уже говорилось, познание — это моделирование, создание моделей. Для этого недостаточно простого восприятия, нужны исследования, то есть активные воздействия на объект по плану, составленному на основе гипотезы. Тут познание смыкается с управлением. Интеллект, работающий по типу животного или даже человеческого разума, мало приспособлен как для познания, так и для управления сложными системами, поскольку он не в состоянии объективно и точно отразить их сложность в своих моделях.
Выше говорилось, что для эффективного управления объектом нужны его разные модели: обобщенные — для выбора «стратегии», то есть для планирования ФА, охватывающих длительные процессы, частные — для управления в ограниченных пределах и полные (с разной степенью полноты) — для создания материальной копии и для улучшения системы по избранным критериям.
Разум человека не приспособлен для создания таких полных моделей. Более или менее простые объекты удалось смоделировать, благодаря совершенствованию «внешних» моделей — математических, графических и описательных. Однако все они статичны и «для оживления» должны восприниматься разумом. Кроме того, графики, формулы и слова пригодны лишь для представления простых моделей, потому что при усложнении они быстро становятся необозримыми. Именно по этой причине до сих пор ни одна теория сложных систем «типа живых» не доведена до такой полноты и строгости, как теория физических явлений. Можно предположить, что при существующих возможностях человеческого разума и средствах внешнего моделирования (речь, математика, графика) есть «барьер познаваемости» сложности. Я не рискую категорически утверждать, что он непреодолим, но кажется, что это так. Коллективное мышление здесь не поможет. Разделив сложную систему на множество частей и сделав каждую из них порознь объектом специального изучения, можно уменьшить количественное несоответствие между уровнями сложности объекта и разума. Но это не решает проблемы, потому что в сложных системах поведение части зависит от целого вследствие наличия прямых и обратных «вертикальных» связей между иерархическими уровнями структуры. Следовательно, для познания такой системы нужен синтез.
Вывод отсюда только один: нужны действующие модели большой сложности, то есть принципиально новый код внешних моделей. Математика предлагает аппарат для такого кода, но она статична, и хотя формулы могут отразить динамику объекта, но ручные расчеты по ним весьма ограничивают пределы сложности.
Электроника и ее воплощение в компьютерах предоставляют нам принципиально новые средства создания сложных действующих моделей. Во-первых, они усиливают традиционную математику, поскольку ускоряют счет. Во-вторых, они дают новые возможности для коллективного творчества в виде объединения моделей в единое действующее целое, которое, в пределе, может стать недоступным для полного понимания каждым из участников создания моделей. И наконец, появилась возможность самоорганизации и саморасширения моделей, когда они из средств выражения человеческого разума сами приобретают его качества — способность создания новых моделей.