Совершенный: пробуждение

Vector

— Тихо! — прервал их обсуждение Андрей Владимирович. — Потом все мысли. Заканчиваем снимать параметры и ты, Сергей, пока что будешь свободен, поспи, отдохни.

Дальнейшее обследование заняло минут десять от силы, и меня быстро спровадили в комнату, заперев в ней. Как-то растеряно оглядываюсь по сторонам. И что такого произошло, что как мне показалось они все оказались напуганы?

Саморазвитие... что это значит? Нейросеть может самостоятельно развиваться, эволюционировать? Да не, бред какой-то. Полноценных искинов еще не существует в реальности, а те что есть весьма ограничены, а без такого ни о каком саморазвитии и речи не может быть. Максимум реакция на угрозы.

Или не бред... Ведь так подумать, нанофабрика есть — может проводить физические модификации, а программно она точно может меняться, недавно убедился в этом. Правда, это скорее все же была реакция на угрозу. Но вот вопрос, почему она так распознала попытку подключения к ней?

Осознав до конца что это значит, не нахожу слов чтобы выразить эмоции. Надеюсь хоть какое-то ограничения у нее останутся, и она меня хотя бы за угрозу не посчитает, а то это же будет полный...

*****

Прошла неделя с того момента, как нейросеть Сергея начала агрессивно реагировать на попытки к ней подключиться и все это время лабораторный комплекс был словно разворошенный улей: все что-то усердно делали и носились туда-сюда, пытаясь найти выход из сложившейся ситуации.

В этот раз в кабинете Андрея Владимировича было многолюдно: сам хозяин кабинета, пятеро ученых, включая его помощника, и в углу, сидя в тени притаился особист.

— Пожалуй начнем. — отвлекся от монитора компьютера Андрей Владимирович. — Алексей, обобщи то что нам известно на данный момент, а потом перейдем к конкретике.

— Не смотря на прошедшую неделю, особо больше узнать нам не удалось. Парень на пару со своей нейросетью находится в стабильном состоянии. Продолжаем снимать данные, все идет по плану, только исключили прямое взаимодействие с сетью во избежание повторения недавнего случая. В целом, все что нужно и возможно мы сняли с него, больше держать его здесь смысла нет. Дальше нужен уже специально подготовленный подопытный с нужным набором модификаций и тому подобным, а не этот простой парень с улицы. Еще могу добавить, что благодаря нейросети Сергей прекрасно справляется со всеми возложенными на него задачами и быстро адаптируется под условия: будь то стрельба из оружия или физические нагрузки — в этом нейросеть работает отлично, превосходя все наши теоретические расчеты. По поводу непосредственного взаимодействия с ней, пусть об этом лучше расскажет Влад, именно его команда занималась этим. — Закончив говорить, Алексей облегченно перевел дух.

— А вот с моей стороны с самой нейросетью не все так радужно, как расписал Алексей. — взял слово упомянутый Влад, нос которого уже давно зажил. — Она напрочь игнорирует прямые команды и не поддается управлению. Если пытаться пробиться силовыми методами, то она переходит в активную защиту и атакует программную оболочку аппаратуры, выводя ту из строя. Если действовать не напрямую, то вот тогда можно чего-то от нее добиться, но... не всегда получается задуманное, слишком много надо внести косвенных изменений и не всегда удается до конца просчитать все факторы. И важно — итоговые изменения не должны нести вреда ей или ее хозяину, тогда в девяносто девяти из ста случаев она не заблокирует их.

— Проще говоря — вы не можете контролировать нейросеть и урезать ее возможности не получится. — подал голос особист из своего угла.

— Не совсем так. Как раз вот с урезанием возможностей мы нашли выход. Уже несколько дней мы проводим точечные изменения, которые в итоге должны будут привести к нужному для нас результату. Еще неделя максимум в таком темпе, и мы сможем практически полностью заблокировать ее.

— И тогда получится подключиться к ней? — задал вопрос особист.

— Сомневаюсь. Мы урежем ей почти все внешние возможности, но вот ее защита никуда не денется. — разведя руками ответил ему ученый. — Здесь мы бессильны, никто даже не мог предположить, что такое случится, ведь управляющий доступ прописан у нее на уровне ядра.

— Выяснили почему так получилось? — спросил у Влада уже Андрей Владимирович.

— Нет, не понятно, что именно привело к такому результату. Мы проверили все записи экспериментов. Ничего выходящего за рамки. А выяснить у нее самой не получается, как вы уже поняли.

— Понятно. — кивнул ему Андрей Владимирович. — Кто-то еще что-нибудь хочет добавить?

В ответ ему была тишина.

— Тогда все свободны. — отпустил он своих подчиненных.

Все то что они рассказали он и так знал, но это нужно было обсудить, вдруг всплыли бы какие-нибудь упущенные детали или вдруг родились гениальные идеи.

— Что будешь делать? — спросил особист, когда все вышли из кабинета.

— Как и думал: урежем ему нейросеть, только придется оставить его еще на какое-то время, чтобы проверить как получится. А потом пусть живет себе.

— Ты уверен? Может проще оформить все как неудачный эксперимент?

— Зачем? Пусть себе живет, нам он ничем не помешает. А вытащить или взломать нейросеть ни у кого не получится. Особенно взломать, если этого даже мы не смогли сделать, те кто создали ее и знали все слабые места. Да и с вытащить не все так просто, она же теперь одно целое с его мозгом: умрет он уничтожится и нейросеть, а в мозге ее изучить практически не реально.

— Я не совсем понял, как вам удастся урезать ее функционал, если она блокирует негативные изменения?

— Там все хитро, изменения по отдельности не несут вреда, но стоит произойти последнему, кстати тоже в целом безвредному, как все вместе они просто положат нейросеть, обрезав ее функционал.

— Так может таким образом кто-то сможет ее взломать?

— Ага, это нужно еще знать, что и где искать. Ну и во второй раз провернуть все это не получится — сеть уже научится и не допустит. Так что после блокировки она станет совершенно неуправляемой извне.

— Ясно. Отчет готов?

— Разумеется. Сегодня вечером отправлю его, а завтра жди бурю.

— Будешь сообщать о возникшей проблеме?

— Пока что нет. Попробуем исправить ее в следующей версии, есть парочка идей.

— Хорошо. Кстати, давно хотел спросить. А что это за саморазвитие у нее? Вы туда, что, искин впихнули? На что оно способно — это я уже увидел, впечатлило, но хотелось бы хоть примерно понимать, что за оно такое.

— Все сложно, если честно. Можно сказать, что там урезанный искин с кучей наших доработок. По идее — отдельный урезанный блок с реагированием на внешние угрозы и адаптацией к ним. А вот что получилось в итоге — это хороший вопрос. Уже сейчас понятно, что мы где-то ошиблись, но к чему это приведет, помимо потери возможности внешнего управления нейросетью, неизвестно. Если так подумать, то может это не так уж и плохо. Подключились в первый раз, пока она не вышла на полную мощность, настроили все что нужно, зато потом никто уже не сможет больше управлять ею, особенно потенциальные противники, которые захотят исследовать нашу новинку.