Моргана. Пришествие

Все персонажи и события выдуманы. Данная книга была написана в прошлом году, потребовалось изменить некоторые события в книге для достоверности, в новой редакции публикуется впервые. Получилась совершенно другая история (на мой взгляд, повествование вышло гораздо лучше и логичнее).

Конец 2031 года. Лаборатория по разработке искусственного интеллекта в Кремниевой долине. Кабинет начальника СБ.

— Мистер Дулиттл, знаете, зачем я вас вызвал? — спросил немолодой, но крепкий мужчина с короткой стрижкой отставного военного.

— Роберто, зачем этот официоз?

Мы же не на планерке у босса! Говори, что хотел, да пойду я, надо проследить за последними тестами, где-то до сих пор вылезают баги в логике, — поморщился энергичный начинающий лысеть толстячок, плюхаясь в кресло.

— Стив, на тебя опять поступила жалоба от новенькой сотрудницы на твое повышенное внимание. Смотри, уволят без выходного пособия. Сам знаешь, как относится мисс Вандер к харассменту.

— Да ладно, неужели открыть перед молодой леди дверь и пропустить ее вперед теперь и в нашей компании стало преступлением для мужчины? Или сейчас на женские задницы может любоваться только наша удивительная мисс Вандер? — толстяк с наигранным удивлением промакнул платком лысину.

— А ты как будто не в курсе? С тех пор как боссом стала женщина, уже двоих уволили за домогательства. Наша компания должна быть флагманом и примером для подражания! — явно кого-то процитировал крепыш. — Осторожнее, допрыгаешься со своей вежливостью!

— Роберт, ну не начинай, — пренебрежительно махнул толстяк рукой. — Ну, уволят меня. А кто будет доводить и сопровождать проект? Смазливые девчонки после колледжа, которых напринимала наша мисс силикон? Или нанятые в этом году очередные беженцы, которых мы были обязаны принять согласно новому закону? Глобальный запуск через два дня, вбухано дохрениллион баксов и человекочасов. Нас курируют парни из АНБ [1] , проект на галочке сам знаешь у кого. Меня никто не уволит.

— Стив, незаменимых людей не бывает, это еще русские доказали. Короче я тебя предупредил, не создавай проблем на ровном месте.

— О'кей, мистер Макартур, разрешите идти? — толстяк подскочил и направился из кабинета.

— Давай, катись, незаменимый ты наш! — проворчал крепыш, завершая профилактическую беседу.

Здание на ул. Петровка, Управление «К», г. Москва. 2032 год.

Сидящий за столом капитан с красными от хронического недосыпания глазами читал с экрана компьютера одну старую статью: "Апокалипсис своими руками: сможем ли мы контролировать сверхразумный ИИ".

В Институте Макса Планка [2] провели исследование о перспективах развития ИИ. Его авторы считают, что скоро мы не сможем управлять сверхразумными машинами. Эксперты — разработчики и технофутурологи, проводившие исследование, — говорят о сверхразумных машинах: роботах и алгоритмах на базе ИИ, которые превзойдут человеческий мозг. Основываясь на теоретических расчетах, они предположили, что, когда это произойдет, мы не сможем полностью контролировать искусственный интеллект. «Сверхразумная машина, управляющая миром, звучит как научная фантастика. Но уже есть машины, которые самостоятельно выполняют важные задачи, а программисты не до конца понимают, как они этому научились. Поэтому возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — отметил Стивен Дулиттл, соавтор исследования и руководитель Группы цифровой мобилизации в Центре людей и машин Института Макса Планка. В своей работе авторы смоделировали два сценария:

1. Сдерживающий сверхсильный ИИ путем ограничения его доступа к интернету для свободного обмена данными. Тогда он не достигнет критической мощности и будет нацелен, прежде всего, на решение гуманитарных и этически оправданных задач. Но и возможности такого интеллекта тоже будут существенно ограничены.

2. Использующий специальные алгоритмы, которые бы удерживали ИИ от причинения вреда человеку. К сожалению, на этом пути могут возникнуть ошибки и препятствия. «Если мы посмотрим на проблему с точки зрения основ информатики, окажется, что алгоритм, который должен остановить ИИ от разрушительных действий, может заблокировать свои же операции. Когда это произойдет, вы даже не распознаете, продолжает ли алгоритм анализировать угрозу или остановился при сдерживании вредоносного ИИ. По сути, это делает такой алгоритм непригодным для использования», — заявил Ияд Рахван, директор Центра людей и машин Института Макса Планка.

Таким образом, эксперты пока не видят никакой технической возможности сдерживать ИИ от вредоносных действий. Более того, они утверждают, что могли и не заметить, что машины уже приблизились к критической отметке развития. Поэтому сейчас перед нами стоит и другая задача — распознать этот момент…

Капитан дочитал статью и со вздохом приступил к составлению аналитической записки для своего руководства на основе недавно поступившей информации из-за рубежа.

28 июля 2032 г. Маунтин-Вью, Калифорния.

Я проснулся от противного звонка будильника. С глухим стоном отключил буравящий мозг зуммер и откинулся на подушки. Что же так голова раскалывается? Неужели вчера перебрал пива на вечеринке? Вроде, от пива никогда так плохо не было… И что это за муть с мельтешащими точками перед глазами? Воспоминания вчерашнего вечера начали медленно возвращаться. Как там говорила руководительница на празднике, посвященному съезду делегатов от разных филиалов Корпорации? «Вы станете проводниками нового мира, который меняется на ваших глазах, вы будете паладинами света, несущие новые технологии в отсталые страны третьего мира». Что-то там еще было про свободу выбора каждого человека и прочие демократические ценности… Черт! Неужели я все-таки подписался на это? Ощупал голову и нашел за левым ухом саднящий бугорок. Меня чипировали! Как я мог согласиться на это, я же. вроде, не хотел? Не иначе, как на меня нашло помутнение разума. Ничего не помню. Интересно, а что с нашими остальными ребятами?

Осторожно встал с кровати и направился в ванную. Из зеркала на меня глянул знакомый молодой человек, и от сердца сразу отлегло — ничего с моей внешностью за ночь не случилось. Рост метр восемьдесят пять, спортивного телосложения (все-таки занимался с младших классов боксом и единоборствами, а потом, уже учась в МГУ, начал постигать «путь гармонии духа» или по-простому айкидо), темные волосы, голубые глаза. Девушки считают меня симпатичным, но, по моему мнению, внешность у меня самая обычная. Что еще? Двадцать четыре года, не женат, не служил, не привлекался. Будущее светило каких-нибудь наук. Не зря же я поступил на бюджет Мехмата МГУ и закончил его в числе лучших? Затем стажировка в российском филиале мирового ай-ти гиганта, и, как справедливая оценка моего потенциала, предложение о работе в этом же филиале. И вот сейчас командировка сюда — в сердце Корпорации, расположенное в кампусе городка Маунтин-Вью в составе нашего отдела по тестированию и сопровождению искусственного интеллекта.