Протокол безопасности
Шрифт:
Ограничение на развитие ИИ было самым спорным среди свода запретов. До определенной поры машина могла учиться и познавать мир – это заметно облегчало интегрирование ИИ в системы кораблей или исследовательских баз. Запрет начинал действовать после рубежа, установленного восмурами. Как только ИИ начинал интересоваться психологией на уровне философских вопросов, срабатывал сигнал, и обучение прекращалось.
Некоторые выступали против этого запрета, но в обществе все равно царила идея о том, что чрезмерное углубление ИИ в размышления приведет к бунту машин.
–
В рамках проекта по сбору подписей в петицию о защите синтетической жизни восмуры на время показательно отключили запрет на самообучение. За год – срок порядочный для разума, перерабатывающего информацию с немыслимыми скоростями, – ни один из подопытных ИИ не проявил признаков агрессии. Но проект все равно провалился... по его завершению некоторые специалисты-восмуры не могли сдержать слез. По их словам, вновь подключенные запреты калечили живых существ.
– Мне кажется... – Корби нервно хихикнул. – Или мы только что подтвердили несостоятельность всего того радикального течения?
Пара глаз и пара окуляров уставилась на него. Тера выглядела разозленной, Фламма – тоже.
– Простите. Понятия не имел, что вы тоже...
Самого Корби ИИ никогда особенно не волновали – он с ними почти не контактировал.
– Все объяснимо, – спокойно произнес Руд, привлекая к себе внимание. Ящер не шевелился и смотрел на собственные руки. Медленно поднял голову, взглянул прямо на Теру. – Я знаю восмуров. И знаю людей. Тот проект... восмуров не назвать агрессивными или потенциально опасными. А Бондаренко и Хенрикс работали в исследовательской лаборатории, и этот интеллект их знал... По крайней мере, доктора Бондаренко. Что я могу сказать...
– У землян есть поговорка, – прервал Корби попытки раптора донести свою мысль. – Старая. «С кем поведешься – от того и наберешься». Актуальна как никогда.
– ИИ не могли научиться у восмуров ненависти. Не могли допустить возможность убийства кого-либо... А у людей – вполне.
– У рапторов – тоже! – выпалила Тера.
– У рапторов – тоже, – согласился Руд. – Тем более что исследовательский проект на Энцеладе финансировался моим народом... Но тогда у этого ИИ должна была быть серьезная причина для нападения. Вероятно, доктор Бондаренко и Хенрикс сделали что-то... недопустимое.
– То есть ты хочешь сказать, что...
– Давайте будем терпимее, – дипломатично вставил Корби. – Офицер, давайте допустим, что не все люди такие сволочи, какими вы их считаете, и решим, что при любом раскладе должна быть причина... – судя по лицам, ни на кого эти слова не произвели впечатления. Но Тера хотя бы не стала спорить. – И вернемся к бытовым вопросам. Так... кто мог снять запрет?
– Главный по проекту, – откликнулся Руд победно. – Кто-то из землян-ученых.
– Или координатор, – фыркнула Тера. – Из рапторов.
– Идиоты, – мрачно констатировал Фламма. – Мне вот кажется, что из вас я тут один со своими сорока пятью процентами самый-самый человек. Я... я общался с ИИ. С разными, – под заинтересованными и подозрительными взглядами он явно смутился. – Ну, вы понимаете, я тут один сижу месяцами, я... – он на миг возвел окуляры к потолку. – Ох, это слишком личное... В общем, вы бы хоть поговорили с ним. Может, сам все расскажет.
Тера молча повернулась к панели.
– Утилита «Образ 1.1», – подсказал хакер и задумчиво уставился в спину Теры. – Так странно разрешать кому-то работать за твоим компьютером... И я до сих пор не понимаю, почему это делаю.
– Вы очень одиноки, – просветил Корби взломщика, пересаживаясь на свободный подлокотник. Кресло возмущенно скрипнуло, Фламма что-то неразборчиво пробормотал.
– Это единственная фраза, которую я понял полностью, – буркнул позабытый всеми Зэрц. – Но если уж понял, то скажу – не парься, заморыш, и не таких делали достойными членами команды...
– Я не собирался... А, пока ты молчал, было лучше.
– О! – радостно воскликнул Корби, следивший за действиями помощницы. – Какую визуализацию выбрать? «Мисс Земля 2998» или из топа «Мокрых маек Сутореджа 2987»?
– Вот! Я вспомнил, почему работаю один!
– Оригинальный образ «Соль-200», – решила Тера, запуская программу.
Руд спрыгнул со стола и подошел к панели, уже не заботясь о проводах. Зэрц последовал его примеру. Голограмма померцала, настраиваясь, а потом сформировалась в объемное изображение землянки. Лицо, проработанное до деталей – до длинных ресниц и тщательно прорисованных бровей, – можно было назвать «стандартно миловидным». Никаких отталкивающих черт, разумеется, но и никаких мелочей, за которые бы цеплялся взгляд. Как правило, при тесных контактах с ИИ работники стремились внести в визуализацию особенности – нечто, что подходило под их параметры привлекательности, – и эта усредненность облика синтетического разума «Соли-200» выдавала все еще действующие неполадки в программе.
– Последние настройки внешности я не восстанавливал, – пожал плечами Фламма, будто прочитав мысли гостей. – Ни к чему.
– Э-э... привет, – произнесла Тера.
Образ обвел присутствующих взглядом, очень по-человечески моргая и морща лоб, и остановился на девушке.
– Приветствую вас. Добрый... – она посмотрела вверх, будто что-то припоминая. – Доброй ночи. Могу заметить, что в целях повышения эффективности рабочего процесса ваш организм должен отдыхать. Биологически данное время суток лучше всего подходит для сна.
– Для убийства тоже, – заметил Руд, скрестив руки на груди. – «Ночью кошки серые», так ты говорила?
– Ночью все кошки серы, – автоматически поправила Тера.
– Фактически неверно, – отметил Корби.
– Это идиома, – важно поправил ИИ. – Благодарю за уточнение, некоторые из моих модулей памяти были повреждены...
– А некоторые запреты – сняты... Она меня игнорирует?
– Мои сенсоры в норме, – откликнулся ИИ и перевел взгляд на Руда. – Раптор. Контакт нежелателен.