Мнимая величина
Шрифт:
Общению между людьми всегда сопутствует некая эмоциональная аура, и не столько ее полное отсутствие, сколько ее неопределенность так часто обескураживает людей, впервые столкнувшихся с ГОЛЕМОМ. Те, кто общается с ним несколько лет, указывают на некоторые весьма необычные впечатления, возникающие при этом. Например, впечатление меняющейся дистанции: ГОЛЕМ словно то приближается к собеседнику, то отдаляется от него - в психическом, а не физическом смысле. Возможно, уместнее всего будет сравнение с отношениями между взрослым и докучающим ему ребенком: даже самый терпеливый человек иногда будет отвечать машинально. ГОЛЕМ во много крат превосходит нас не только своим интеллектом, но и темпом мышления (будучи световой машиной, он в принципе мог бы выражать свои мысли в 400 тысяч раз быстрее, чем мы).
Но даже ГОЛЕМ, отвечающий машинально и с мизерной степенью вовлеченности, все равно превосходит
Какое-то время мы действительно пробовали интерпретировать отношения "ГОЛЕМ - люди" по образцу отношений "взрослый - ребенок". Ведь при попытках объяснить ребенку нечто для нас важное мы нередко испытываем ощущение "скверного контакта". Человек, обреченный жить среди одних только детей, в конце концов ощутил бы чувство мучительного одиночества. Такие аналогии предлагались (особенно часто - психологами) для объяснения положения ГОЛЕМА среди людей. Но эта аналогия, как и любая другая, имеет свои границы. Бывает, что взрослый не понимает ребенка, но ГОЛЕМУ такие проблемы неведомы. Он, если захочет, способен проникнуть в самое нутро собеседника. Испытываемое при этом ощущение - как будто твой ум просвечивается насквозь - просто ошеломляет. Дело в том, что ГОЛЕМ может смоделировать склад ума своего собеседника и с помощью этой "следящей системы" предугадать, что тот подумает и скажет через добрых несколько минут. Правда, так он поступает редко (не знаю, только ли потому, что знает, как угнетает нас это псевдотелепатическое зондирование). Другое проявление сдержанности ГОЛЕМА обиднее для нашего достоинства: общаясь с людьми, он (в отличие от того, что было вначале) соблюдает своего рода _осторожность_; как дрессированный слон должен следить за собой, чтобы, играя с человеком, не причинить ему вреда, так и ГОЛЕМ старается не выходить за пределы нашего понимания. Потеря контакта из-за внезапного возрастания сложности его высказываний (мы называем это "улетучиванием" или "бегством" ГОЛЕМА) была обычным явлением, пока он не освоился с нами лучше. Это уже прошлое; но в общении ГОЛЕМА с нами появилось какое-то безразличие, вызванное сознанием того, что многие мысли, наиболее важные для него, он все равно не сумеет до нас донести. Поэтому он остается непостижимым - как разум, а не только как психоническая конструкция, и общение с ним оказывается не только захватывающим, но и мучительным. Недаром существует категория высокообразованных людей, которых беседы с ГОЛЕМОМ выбивают из колеи; тут нами тоже накоплен немалый опыт.
Едва ли не единственное существо, которое, кажется, интересует ГОЛЕМА по-настоящему, это ЧЕСТНАЯ ЭННИ. Когда у него появились технические возможности, он попытался установить с ЭННИ контакт - по-видимому, не без успеха; но ни разу между этими двумя, совершенно различно устроенными машинами не наблюдался обмен информацией посредством языкового канала (то есть естественного этнического языка). Судя по лаконичным замечаниям ГОЛЕМА, он был скорее разочарован результатами своих попыток; однако ЭННИ все еще остается для него не до конца решенной задачей.
Некоторые сотрудники МТИ - впрочем, как и профессор Норман Эскобар из Института высших исследований - полагают, что человек, ГОЛЕМ и ЭННИ воплощают три разных иерархических уровня интеллекта; это связано с теорией (созданной главным образом ГОЛЕМОМ) языков высшего, надчеловеческого уровня - "металингв". Здесь я, признаюсь, не имею определенного мнения.
Это введение в предмет, сознательно выдержанное в объективном ключе, я хотел бы завершить одним признанием личного свойства. ГОЛЕМ, который, в отличие от нас, начисто лишен эффекторных центров и тем самым, по сути, эмоциональной жизни, не способен к спонтанному проявлению чувств. Конечно, он может имитировать любые эмоциональные состояния, и это отнюдь не актерство; как он сам утверждает, имитация чувств нужна ему для того, чтобы ответы вернее доходили до слушателей. Такая настройка на "антропоцентрический уровень" позволяет добиться наилучшей связи с нами. Впрочем, он вовсе этого не скрывает. Даже если он относится к нам отчасти как учитель к ребенку, то это, во всяком случае, не отношение доброжелательного наставника; тут нет и следа индивидуализированных, личных чувств, которые могли бы преобразить доброжелательность в дружбу или любовь.
У нас с ним одна только общая черта, хотя существует она на неодинаковых уровнях. Эта черта - любопытство, конечно, чисто интеллектуальное, холодное, ненасытное, которого ничто не в состоянии укротить и тем
Но, возможно, я ошибаюсь. Мы так же далеки от постижения ГОЛЕМА, как и в ту минуту, когда он возник. Неправда, будто это мы его создали. Его породили законы материального мира, а мы лишь сумели их подсмотреть.
2027, Ирвинг Т.Крив
Предуведомление
Читатель, будь бдителен, ибо слова, которым ты внимаешь в эту минуту, не что иное, как голос Пентагона, НСИ и прочих мафий, сговорившихся, чтобы очернить сверхчеловеческого Автора этой Книги. Эта диверсия стала возможной благодаря любезности издателей, которые поступили в соответствии с формулой римского права "Audiatur et altera pars" [следует выслушать и другую сторону (лат.)].
Я хорошо понимаю, каким диссонансом прозвучат мои замечания после изящных периодов доктора Ирвинга Т.Крива, уже несколько лет гармонично сожительствующего с исполинским гостем Массачусетского технологического института, вернее, не гостем, а просвещенным - поскольку светопроводным приживальщиком, вызванным к жизни нашими гнусными происками. Я не намерен защищать тех, кто дал ход проекту "Абсолютный Победитель", или пытаться смягчить справедливое негодование налогоплательщиков, из кармана которых выросло электронное древо познания, хотя никто их согласия не спрашивал. Я бы, конечно, мог обрисовать геополитическую ситуацию, побудившую политиков, ответственных за позицию Соединенных Штатов в мире (а также их научных советников), израсходовать многие миллиарды на неэффективный, как потом оказалось, проект. Но я ограничусь лишь кое-какими напоминаниями на полях великолепного предисловия доктора Крива; ведь даже самые прекрасные чувства порой ослепляют, и я опасаюсь, что перед нами как раз такой случай.
Конструкторы ГОЛЕМА (вернее, целой серии опытных образцов, последний из которых - ГОЛЕМ XIV) не были такими невеждами, какими рисует их доктор Крив. Они знали, что невозможно создать усилитель разума, если меньший разум будет создавать больший непосредственно, по методу барона Мюнхгаузена, который сам себя вытянул за волосы из трясины; сперва нужно создать эмбрион, который с определенного момента будет развиваться сам, собственными силами. Серьезные неудачи первого и второго поколений кибернетиков - отцов-основателей и их преемников - проистекали из незнания этого факта; а ведь ученых такого масштаба, как Норберт Винер, Шеннон или Макей, вряд ли можно назвать невеждами. В разные эпохи стоимость добывания настоящих знаний различна, а в нашу она сопоставима с бюджетом крупнейших держав.
Итак, Реннен, Макинтош, Дьювенант и их коллеги знали, что существует определенный порог - порог разумности, к которому надо подвести систему, а иначе на создание искусственного мудреца нет ни малейшего шанса; система, не достигшая этого порога, не сможет сама себя совершенствовать. Дело тут обстоит так же, как с цепной реакцией: ниже определенного порога она не может стать самоподдерживающейся, а тем более лавинообразной. Какое-то количество ядер расщепляется, вылетающие из них нейтроны вызывают распад других ядер, но реакция имеет затухающий характер и быстро прекращается. Чтобы она могла продолжаться, коэффициент размножения нейтронов должен превышать единицу, что и наблюдается в критической массе урана. Ее аналог - информационная "масса мыслящей системы.
Теория предусматривала существование этой массы, вернее, "массы", поскольку это не масса в понимании механики. Она определяется постоянными и переменными, характеризующими процесс разрастания т.н. эвристических деревьев, - но я, разумеется, не могу вдаваться в подробности. Осмелюсь напомнить лишь, с каким напряжением, тревогой и даже страхом создатели атомной бомбы ожидали первого взрыва в пустыне Аламогордо, обратившего ночь в яркий солнечный день; а ведь они тоже располагали всеми доступными в то время знаниями, теоретическими и экспериментальными. Никогда ученый не может быть уверен, что знает об изучаемом явлении все. И это - в атомной физике. Что же говорить об области знаний, нацеленной на создание разума, превосходящего, но замыслу его творцов, их совокупную интеллектуальную мощность?