Алгоритмы разума
Шрифт:
Видимо, для каждого искусственного интеллекта необходима по крайней мере одна специальная потребность — самосохранение. Сюда входят питание и безопасность. Первое проявляется во внешнем энергетическом снабжении, второе — не только в защите и стремлении избегнуть внешней угрозы, но и в «боли» — как сигнале о внутренних неполадках. Любая разумная машина, рассчитанная на самостоятельное существование, должна «ощущать боль» при повреждениях и иметь системы надежности. Внутреннюю «боль» ИИ легко воспроизвести, но внешняя угроза имеет информационный характер и требует программы выделения и распознавания образов угрозы. Потребности самосохранения выражаются в соответствующих чувствах, трактуемых на человеческом языке как голод, боль и страх. Страх — более широкое понятие, чем чувство, вызванное
Рабочие потребности и соответствующие им чувства обязательны в искусственном интеллекте высокого ранга. Главная из них — потребность в новизне (или просто любознательность) — особенно важна. Если создавать ИИ-исследователь, то именно это чувство должно стать главным стимулом его поведения. Столь же интересны потребность в деятельности и «рефлекс цели» — они действуют при любом ФА, хотя в большинстве случаев не обеспечивают сколько-нибудь значительных стимулов и не могут создать высокого напряжения действия.
Универсальной является потребность в расслаблении и отдыхе как реакция на любую напряженную деятельность. Активность чувства утомления является главным «тормозом» и в значительной мере определяет дееспособность ИИ в любой сфере. Спрашивается, нужно ли вообще задавать это чувство для искусственного интеллекта, призванного общаться с людьми. Мне кажется, что оно выполняет полезные функции, регулируя ФА, определяя расход энергии стимулов. Если его не будет, возможен «разнос», чрезмерное усиление одного вида действий в ущерб другому (особенно, если задано качество тренируемости элементов ИИ).
Чувство скуки, ощущение «надоело» сродни утомлению, оно тоже является «тормозом» и ограничивает продолжительность однородной деятельности, требуя переключения, хотя и не связано с расходом энергии. Необходимость такого чувства очевидна, хотя чрезмерное развитие его сделает ИИ бездельником.
Потребность в свободе, или «рефлекс свободы», по И. П. Павлову, является источником агрессивности у людей. Как упоминалось, суть его выражается в том, что при возникновении помехи, угрожающей выполнению действия, животное прекращает основное действие и пытается уничтожить помеху. Соответствующее чувство можно определить как раздражение, более сильная его степень — злоба, а действия, вызванные ими, принято называть агрессией. Этологи в последние десятилетия много занимались изучением агрессии, справедливо полагая, что она важна и для понимания человеческих отношений. Большинство ученых сходится во мнении, что агрессия животных — это защитная реакция против любых помех, препятствующих выполнению запрограммированных инстинктов. Весь вопрос — в количественных характеристиках этой потребности. Главной сферой проявления агрессии среди животных является внутривидовая борьба. Нам кажется, что самец бросается на другого самца без всякого повода, и это трактуется как качество злобности. В действительности же самцы — конкуренты, поскольку каждый из них запрограммирован природой как потенциальная помеха программе размножения другого, и агрессия тут биологически оправдана.
Как же быть с «рефлексом свободы» и агрессивностью в программах искусственного интеллекта, предназначенного для взаимодействия с людьми.
Агрессивность в широком понимании слова в связи с «рефлексом свободы», видимо, полезна для ИИ. Прежде всего по той причине, что она есть у людей. Если ИИ должен иметь с ними дело, то некоторая доля агрессивности ему необходима.
Создать алгоритм для реализации «рефлекса свободы» с небольшой долей агрессии не представляет труда. «Входами» могут быть любые помехи в выполнении ФА, «выходами» — новые ФА, направленные на помеху.
Теперь самое время сказать несколько слов о «характере» ИИ. Прежде всего это степень «лени». Иначе говоря, значимость утомления или скуки, ограничивающая величину и длительность любого напряжения, а следовательно, и способность преодолевать сопротивление среды. Второе — характеристики СУТ: насколько она усиливает выбранные
Я много занимался проблемой моделирования личности и установил значение «общественных» потребностей-чувств. У животных они составляют стадный инстинкт. Без него невозможно представить себе существование высших млекопитающих. Стадный инстинкт применительно к человеку признается не всеми учеными. Многие склонны относить социальные чувства людей целиком за счет воспитания. Я далек от биологизации человека уже просто потому, что реализация любого инстинкта у человека в значительной мере управляется общественными институтами. Кроме того, огромную роль в формировании чувств человека играют убеждения, присущие только ему. И тем не менее, существуют врожденные задатки для социальных чувств и социального поведения, неодинаковые у разных людей, и их нельзя сбрасывать со счета. Чтобы уменьшить нежелательные наследственные черты стадного инстинкта, следует просто усилить воспитание. «Человек как человек» не является темой этой книги, но проблемы создания искусственного интеллекта для использования его в человеческом обществе не позволяют совсем обойти этот вопрос. Пусть читатель воспринимает его как спорное отступление.
Общественные потребности и чувства ИИ
На первое место здесь нужно поставить потребность в общении. У животных она обеспечивает возможность выбора полового партнера и играет важную роль в эволюции. У человека она действует столь же сильно, как и голод: в период вынужденного одиночества возникает непреодолимое желание говорить с людьми или хотя бы видеть их. После некоторого периода общения человек устает и склонен побыть в одиночестве. Потом все повторяется снова.
Для ИИ потребность в общении необходима, так как она побуждает его к контактам с людьми, без которых он не сможет познавать человеческое общество. Книг для этого недостаточно. Они не могут дать моделейобразов. Реализация потребности в общении не трудна. На «входе» «центра общения» будут действия, зрительные и словесные контакты, «выходом» явятся ФА общения. Они будут тормозиться утомлением и скукой от однообразия.
Общение связано с потребностью самовыражения. О ней уже упоминалось: у животных позы и мимика выражают чувства и выполняют сигнальную функцию. У человека к этому прибавилась речь. Желание высказаться — стимул от этой потребности. При остром стремлении к общению человек жаждет хотя бы посмотреть на других людей, посмотрев, хочет послушать их, насытившись слушанием, должен высказаться, притом так, чтобы его слушали. Но это еще не конец цепочки, еще не все. Человеку свойственно стремление «командовать», навязывать свою волю ближнему. Это называют потребностью в лидерстве. Психологи отводят ей большое место в мотивах поведения людей. Соревнование и лидерство играют огромную роль в эволюции, обеспечивая улучшение вида при половом отборе.
Моделирование лидерства как потребности быть первым и навязывать свою волю другим связано с теми же трудностями, что и модельное воспроизведение любознательности: «входами» является сигнальная информация, полученная из внешней среды через дистантные рецепторы. Нужно увидеть соперника, определить его действия, сравнить со своими, вывести разницу и это подать на «вход» «центра лидерства». «Выход» будет в виде стимула, который может усиливать обычную деятельность, с тем чтобы обогнать соперника или стать причиной агрессии. Таким образом, лидерство — типичный пример информационного критерия, когда деятельность определяется не «телом», а качествами внешней среды, избирательно представленной живыми существами данного вида.