Совершенный: пробуждение
Шрифт:
Рассказать ему про то, что писала нейросеть, или не стоит? Наверно, все же нужно.
– Перед тем как я в первый раз потерял сознание, нейросеть вывела мне сообщение о каком-то внешнем вторжении. Потом, когда я очнулся в капсуле, в ответ на вашу попытку подключения она активировала какую-то защиту.
Стоило мне договорить, как со стороны всех троих ученых донесся поток матов, а Андрей Владимирович как-то сбледнул. Эм, и что это значит?
– Саморазвитие, – донесся до меня голос одного из ученых.
– Ну конечно, она наше подключение расценила как угрозу, вот и приняла меры, – ответил ему Влад.
–
Дальнейшее обследование заняло минут десять от силы, и меня быстро спровадили в комнату, заперев в ней. Как-то растерянно оглядываюсь по сторонам. И что такого произошло, что, как мне показалось, они все оказались напуганы?
Саморазвитие… что это значит? Нейросеть может самостоятельно развиваться, эволюционировать? Да не, бред какой-то. Полноценных искинов еще не существует в реальности, а те, что есть, весьма ограничены, а без такого ни о каком саморазвитии и речи не может быть. Максимум реакция на угрозы.
Или не бред… Ведь, так подумать, нанофабрика есть – может проводить физические модификации, а программно она точно может меняться, недавно убедился в этом. Правда, это скорее все же была реакция на угрозу. Но вот вопрос, почему она так распознала попытку подключения к ней?
Осознав до конца, что это значит, не нахожу слов, чтобы выразить эмоции. Надеюсь, хоть какие-то ограничения у нее останутся и она меня хотя бы за угрозу не посчитает, а то это же будет полный…
*****
Прошла неделя с того момента, как нейросеть Сергея начала агрессивно реагировать на попытки к ней подключиться, и все это время лабораторный комплекс был словно разворошенный улей: все что-то усердно делали и носились туда-сюда, пытаясь найти выход из сложившейся ситуации.
В этот раз в кабинете Андрея Владимировича было многолюдно: сам хозяин кабинета, пятеро ученых, включая его помощника, и в углу, сидя в тени, притаился особист.
– Пожалуй, начнем, – отвлекся от монитора компьютера Андрей Владимирович. – Алексей, обобщи то, что нам известно на данный момент, а потом перейдем к конкретике.
– Несмотря на прошедшую неделю, особо больше узнать нам не удалось. Парень на пару со своей нейросетью находится в стабильном состоянии. Продолжаем снимать данные, все идет по плану, только исключили прямое взаимодействие с сетью во избежание повторения недавнего случая. В целом все, что нужно и возможно, мы сняли с него, больше держать его здесь смысла нет. Дальше нужен уже специально подготовленный подопытный с нужным набором модификаций и тому подобным, а не этот простой парень с улицы. Еще могу добавить, что благодаря нейросети Сергей прекрасно справляется со всеми возложенными на него задачами и быстро адаптируется под условия, будь то стрельба из оружия или физические нагрузки, – в этом нейросеть работает отлично, превосходя все наши теоретические расчеты. По поводу непосредственного взаимодействия с ней, пусть об этом лучше расскажет Влад, именно его команда занималась этим. – Закончив говорить, Алексей облегченно перевел дух.
– А вот с моей стороны с самой нейросетью не все так радужно, как расписал Алексей, –
– Проще говоря – вы не можете контролировать нейросеть и урезать ее возможности не получится, – подал голос особист из своего угла.
– Не совсем так. Как раз вот с урезанием возможностей мы нашли выход. Уже несколько дней мы проводим точечные изменения, которые в итоге должны будут привести к нужному для нас результату. Еще неделя максимум в таком темпе, и мы сможем практически полностью заблокировать ее.
– И тогда получится подключиться к ней? – задал вопрос особист.
– Сомневаюсь. Мы урежем ей почти все внешние возможности, но вот ее защита никуда не денется, – разведя руками, ответил ему ученый. – Здесь мы бессильны, никто даже не мог предположить, что такое случится, ведь управляющий доступ прописан у нее на уровне ядра.
– Выяснили, почему так получилось? – спросил у Влада уже Андрей Владимирович.
– Нет, непонятно, что именно привело к такому результату. Мы проверили все записи экспериментов. Ничего выходящего за рамки. А выяснить у нее самой не получается, как вы уже поняли.
– Понятно, – кивнул ему Андрей Владимирович. – Кто-то еще что-нибудь хочет добавить?
В ответ ему была тишина.
– Тогда все свободны, – отпустил он своих подчиненных.
Все то, что они рассказали, он и так знал, но это нужно было обсудить, вдруг всплыли бы какие-нибудь упущенные детали или вдруг родились гениальные идеи.
– Что будешь делать? – спросил особист, когда все вышли из кабинета.
– Как и думал: урежем ему нейросеть, только придется оставить его еще на какое-то время, чтобы проверить, как получится. А потом пусть живет себе.
– Ты уверен? Может, проще оформить все как неудачный эксперимент?
– Зачем? Пусть себе живет, нам он ничем не помешает. А вытащить или взломать нейросеть ни у кого не получится. Особенно взломать, если этого даже мы не смогли сделать, те, кто создали ее и знали все слабые места. Да и с «вытащить» не все так просто, она же теперь одно целое с его мозгом: умрет он – уничтожится и нейросеть, а в мозге ее изучить практически нереально.
– Я не совсем понял, как вам удастся урезать ее функционал, если она блокирует негативные изменения?
– Там все хитро, изменения по отдельности не несут вреда, но стоит произойти последнему, кстати тоже в целом безвредному, как все вместе они просто положат нейросеть, обрезав ее функционал.
– Так, может, таким образом кто-то сможет ее взломать?
– Ага, это нужно еще знать, что и где искать. Ну и во второй раз провернуть все это не получится – сеть уже научится и не допустит. Так что после блокировки она станет совершенно неуправляемой извне.