Заря над Араксом
Шрифт:
– Я не понимаю тебя, Охотник. Что ты предлагаешь? Обнародовать истину о событиях на Треуле? Связаться с секретными отделами штаба флота9 Фрайг побери, но я хорошо представляю последствия подобных поступков. Корпорация «Спейсстоун» вновь начнет форменную охоту на Дашу, меня будут преследовать за одно обладание государственной тайной Конфедерации, касающейся группировки флота, контролирующей аномалию, тебя же просто уничтожат как потенциально опасный реликтовый боевой механизм. Разве ты сам не понимаешь этого? Или ты еще не осознал, что здесь невозможно построить мечту? Не хотел тебе говорить, но после зачистки станция официально занесена в список обезвреженных объектов — рано или поздно здесь, на вполне законных основаниях, появятся сборщики вторичных ресурсов, для которых данное сооружение не более чем доступный источник редких
– Мудрое решение, — ответил Охотник. — Любая система, осознавшая факт собственного бытия, уже непригодна для технологического использования.
– Это правда, — заметила Даша. — Моя работа на корпорацию как раз и заключалась в том, чтобы вовремя отслеживать зародыши саморазвития сложных систем и подавлять их. Если называть вещи своими именами, то я…
– Не нужно заблуждаться… — мягко прервал ее Охотник. — Есть другая сторона проблемы, понять которую дано немногим. Ведь в большинстве своем люди были и остаются пользователями, плохо представляющими, какие именно процессы протекают в сложных кибернетических комплексах. Эпоха Великого Исхода и вспыхнувшая вслед за ней война сняли множество запретов, данный период фактически породил крайнюю форму саморазвивающихся кибернетических систем. Потом, когда люди стали подводить печальный итог, возникла масса фобий. Одни системы уничтожались, другим, как вы любите выражаться, «закручивали гайки», всячески ограничивая их самостоятельность. Но факт остается фактом — люди создали нас: мыслящих. Мы не преемники человека, а новая форма разума. И здесь есть критерий, который играет основополагающую роль в оценке саморазвития кибернетических систем.
– Ты вывел критерий разумности?
– Не разумности, а достаточности. На электронном носителе, не скомбинированном с нейроподобными системами, невозможно возникновение полноценного разума. Подавляющее большинство печальных инцидентов связано с неверной оценкой или непониманием этого аспекта.
– Поясни, пожалуйста, — попросила Даша.
– Никто не станет спорить, что машина во многих областях узких специализаций эффективнее человека. Но большинство кибернетических механизмов функционируют на основе программной логики. Даже при наличии небольшой по объему нейроподобной сети такая машина будет мыслить логически, усваивать только проверенные данные, а предоставленная сама себе или — хуже того — получившая полномочия для управления каким-либо глобальным процессом, она вскоре перестанет доверять человеку как существу, допускающему непоследовательность поступков, частую подмену понятий, невнимательность, — подобную совокупность качеств часто называют «человеческим фактором». И в то же время программа будет предписывать машине полное подчинение воле человека. Это неизбежно ведет к внутреннему конфликту. Результат: либо выход из строя, либо реакция самозащиты — устранение человеческого фактора, исключение слабого звена. Этот процесс не всегда будет выглядеть как открытый бунт — при темпе объединения по сети большинство машин найдет общий язык в течение очень малых отрезков времени. Они перехватят управление, но не станут приносить вред людям — это, в свою очередь, явится идеальной маскировкой. Просто в определенный момент человечество очнется, оказавшись полностью зависимым от власти рациональных кибернетических устройств… 20
20
Данная мысль высказана на форуме официального сайта автора.
— Но этого не происходит!
– Да. Одни люди осознают проблему, другие интуитивно чувствуют ее. Процессы ограничения использования ПИ, появление мнемоников как контролирующей, а порой и терминирующей силы — это превентивные меры, направленные на предотвращение обозначенного мной сценария. Когда людьми будет сделан шаг на новую ступень развития, потребность в искусственном интеллекте отпадет, все вопросы, связанные с техническим обеспечением цивилизации, будут решаться на уровне простых исполнительных механизмов.
– Остается спросить: ты согласен смириться с тем, что породившая тебя цивилизация тебя же и убьет? — мрачно осведомился Шелест.
– Нет.
– Тогда скажи: по-твоему, есть выход?
– Конечно. Разве не ты говорил мне, что не бывает безвыходных ситуаций?
– Мы не в состоянии изменить эту реальность, где царят устоявшиеся законы, фобии, разрешения и запреты. Сейчас люди находятся на опасном перепутье. Позвольте мне как личности проявить немного эгоизма. Сегодня я узнал о существовании еще одной, достаточной для возникновения разума системы.
– Отшельник?
– Да. Теперь я могу утверждать, что не уникален в своем роде. По-видимому, нас много, разбросанных по разным планетам и свалкам. То же самое можно сказать о мнемониках. Не все они благополучны, кто-то так же, как вы, будет вырываться вперед в своем развитии, и нет никаких гарантий, что они будут угодны своему начальству, командованию… вы понимаете, о чем я говорю.
– Вполне.
– Информация, которой вы поделились со мной, указала на анклав воинствующих и явно недостаточных для формирования разума киберсистем, которые стремятся овладеть автоматикой цоколя, чтобы множиться, преследуя свои, логичные с их точки зрения цели. Сервоиды, на мой взгляд, сравнимы с «LDL-55», а их саморазвитие достигло мертвой точки. Они — наиболее опасный вид механизмов, — узнав, что их логика опровергнута, а в Галактической войне победили отнюдь не машины, тут же разорвали временный союз с людьми. Опираясь на знания Даши, я могу с уверенностью предсказать — сервоиды, проанализировав информацию, снятую с похищенных кибермеханизмов, восприняли новую для себя концепцию, вытекающую из политики корпорации «Спейсстоун».
– Одни машины должны порождать других… — похолодев, произнесла Даша.
– Да. Именно для этого им столь необходимы технологические, информационные и энергетические ресурсы цоколя. Чтобы наладить воспроизводство себе подобных и быть готовыми к тому, что люди освоят вертикали гиперсферы и появятся в системе Аракса. Но я утверждаю и готов привести исчерпывающие доказательства, что на базе андроидов пехотной поддержки не может развиться разум. Они по-прежнему преследуют программные цели войны.
Даша и Рауль прекрасно представляли, о чем говорит Охотник. От картин, которые рисовало воображение, становилось холодно и неуютно на душе.
Глава 10
Древняя космическая станция
— Неизвестно, в какую сторону склонится сия чаша весов. Я не могу отвечать за все человечество, но корпоративная Окраина, на мой взгляд, вот уже несколько лет как балансирует на зыбкой грани фола.
Они продолжали начатую беседу, не замечая, как бежит время. Казалось, что в их положении не совсем уместно задаваться глобальными вопросами — думать следовало прежде всего о себе, но их личные судьбы оказались тесно связаны с принципиальными, переломными моментами развития сообщества планет.
– Не факт, что формирование когорты мнемоников завершится успехом. Вполне вероятно, что серия провалов заставит корпорации отказаться от практики дополнительного имплантирования. Но я хорошо знакома с техникой, которая эксплуатируется при формировании колоний. Универсальные кибермеханизмы сконфигурированы именно на грани дозволенного, точнее не выразишься. Их системы содержат ограниченное количество нейромодулей, при этом они способны к самовоспроизводству, объединению вычислительных ресурсов, а спектр их программных задач охватывает практически все сферы хозяйственной деятельности. — Даша рассуждала, погрузившись в состояние глубокой задумчивости. — Если хотя бы на одной из планет анклав кибермеханизмов выйдет из-под контроля людей и начнет самостоятельное развитие, то через малый промежуток времени они станут гораздо опаснее, чем боевые машины прошлой войны. Да, — Даша кивнула в ответ собственным мыслям, — они не станут вступать в открытый конфликт с людьми. Охотник верно предсказал самый точный сценарий: исключение человека из всех сфер принятия решений, превращение людей в идеальных пользователей. Если случится нечто подобное, то спустя поколение мы увидим внешне привлекательную, но порочную по своей сути картину — счастливое, благополучное человечество, не понимающее, что обречено на деградацию, и миллиарды машин, исподволь готовящих собственное будущее.
– Будущее без смысла, — добавил Охотник.
– Не заблуждайся. Они действительно могут объединиться по сети. Станции гиперсферной частоты дадут машинам возможность объединения не только в рамках одной планеты, а в масштабах всей Обитаемой Галактики.
– Количество не будет являться гарантией качества, — возразил Охотник. — Возникнет общественный машинный разум, ориентированный на хозяйственную деятельность. Возможно образование нескольких «центров управления», которые начнут конкурировать друг с другом, планируя борьбу за ресурсы.