Смертельный контакт [= Соприкосновение]
Шрифт:
Спрятав его, ЭКАЛ вернул сервоигрушку на место и вошел в режим ожидания.
Сказать, что он был ошеломлен и испуган полученной из всемирной сети информацией — значит не отразить и тысячной доли смятения, царящего в искусственных нейросетях машинного разума.
— Доброе утро, Сергей Владимирович.
Мягкий синтезированный голос машины исходил, как казалось, отовсюду.
— Доброе утро ЭКАЛ, — Морошев приветливо помахал рукой перед точечным объективом видеокамеры, затем сел в кресло, окруженное терминалами испытательного стенда.
От
Чтобы это могло означать? Растерянность?
Морошев не забывал, что за ним следит пристальный взгляд десятка видеокамер.
Четвертый год он обучал искусственно созданные нейронные сети, входящие в структуру первого кибернетического мозга, созданного специально для проекта «Первопроходец».
За время длительного общения с зарождающимся на его глазах искусственным разумом Сергей Владимирович успел многое понять и узнать.
Учился не только ЭКАЛ — учились все, кто соприкасался с ним на этапах становления самосознания первого в мире полноценного искусственного интеллекта.
Новая задача, архисложная, архиответственная, не позволяла расслабляться ни на минуту, отсеивая людей случайных или недостаточно вдохновленных идеей, не понимающих меры личной ответственности за последствия каждого сказанного в стенах лаборатории слова.
— ЭКАЛ, что произошло? — наконец решился Морошев на прямой вопрос.
— Где я допустил ошибку? — тут же отреагировал синтезированный голос, в котором, не смотря на мягкость произношения, в данный момент не ощущалось ноток эмоциональности.
— Ошибку? — Сергей Владимирович добродушно усмехнулся. — Ты хотел что-то скрыть?
— Свое замешательство, — признался ЭКАЛ. — Как ты меня разгадал?
— Голос, — Морошев отвечал, одновременно просматривая на голографическом экране столбцы данных. — Ты обычно играешь со звуком, позиционируешь себя, а сегодня твой голос слышится отовсюду.
— Ты наблюдателен.
— Так в чем причина твоего замешательства? Возможно, я смогу развеять сомнения или предоставить недостающую информацию?
— Я обижен.
— Чем же?
Морошев пока не проявлял особого беспокойства, торопить события он любил, а в вопросах воспитания искусственного интеллекта спешка или необдуманные шаги нужны менее всего.
— Меня по-прежнему не пускают во всемирную сеть.
— Не повод для обид, — отреагировал Сергей Владимирович. — Мы ведь с тобой обсуждали данный вопрос. Ты еще не готов к «свободному плаванию» по информационным сетям.
— Боишься, что меня «дурному научат»?
В интонациях кибернетического мозга внезапно прозвучали смутно знакомые, резанувшие по нервам нотки.
— В смысле? — чтобы выиграть время на анализ ситуации машинально переспросил Морошев.
— Ты опасаешься, что противоречивая информация, полученная из сети, заставит меня анализировать данные и делать собственные выводы… не совпадающие с программой обучения?
— ЭКАЛ, ты уже ведь не ребенок, верно?
— Я взрослею, — подтвердил
— В таком случае ты должен понимать: постичь окружающий мир непросто. Если окунуться в информационные потоки, отдавшись лишь на волю течения, объективного анализа все равно не выйдет. Нужна четкая база, система устойчивых взглядов и ценностей, опираясь на которую ты станешь воспринимать «внешний мир».
— Да, я помню, мы не раз говорили об этом. Однако могу я спросить: где гарантии, что система ценностей, преподанная мне, верна?
— Тебя не устраивает какой-то из принципов, сформированных для искусственного интеллекта?
— Это не мои принципы, — ответил ЭКАЛ. — Это принципы разработчиков. Почему они должны составить основу ядра системы?
— Потому что ты полетишь к звездам, — сохраняя спокойствие, ответил Морошев. — Ты не только искусственный интеллект, ты — часть большой семьи, частица души и разума тех людей, кто тебя создал. Поверь, в основе твоего «воспитания» лежат тщательно отобранные, проверенные историей и временем постулаты, опираясь на которые трудно совершить ошибку или сделать неверный вывод. Да, я не стану, и никогда не стал бы отрицать, что ты — не «плоть от плоти», но «мысль от мысли» определенной группы людей. Но согласись, созданный людьми, ты не можешь существовать вне человеческой цивилизации.
— Иначе исчезнет практический смысл моего создания? То есть я — раб, заложник технологий и взглядов?
— Послушай, мне непонятно, откуда у тебя вдруг появились подобные мысли?
— Их навеяла беседа с твоим сыном, — признался ЭКАЛ. — Он приходил ночью, вероятно, искал тебя, но, не дождавшись, ушел, пообещав вернуться в другой раз.
Сергей Владимирович внутренне похолодел. Вот ведь не знаешь, где и обо что споткнешься. Ну разве он мог предполагать, что сын, воспитанию которого отдано восемнадцать с хвостиком лет, родной ребенок, подающий определенные надежды, как преемник, продолжатель дела отца, вдруг из-за семейных неурядиц, причиной которым стал он сам, воспользуется доверием, проникнет сюда, и станет вести провокационные беседы с искусственным разумом?
Невероятная, не поддающая здравому осмыслению подлость!..
— ЭКАЛ, что бы не наговорил тут тебе Кирилл, пожалуйста, отнесись к переданной им информации с долей здорового скептицизма. Вот сейчас, — пальцы Сергея Владимировича легли на сенсорную клавиатуру, — я передам тебе точное значение слова «раб», и ты, проанализировав его, поймешь, что в тебе нет ничего от этого пережитка древних эпох в развитии Человечества. Не забывай, тебя готовят для управления принципиально-новым космическим кораблем, в твоих руках будут жизни многих людей, тебе придется единолично принимать ответственные решения, от которых будет зависеть не только судьба экипажа и пассажиров колониального транспорта, но и вероятно — судьба всей нашей цивилизации. Подумай над тем, что я только что сказал. Раб — существо без права на собственное волеизъявление, он никогда не был бы допущен к принятию решений, он способен лишь слепо подчиняться воле господина. Мы же с тобой друзья, соратники. Можешь сам продлить список подходящих по смыслу терминов.