Светлячки и роботы
Шрифт:
Последнее стало, скорее, вынужденным решением – Сергей был против запуска ИИ на квантовом компьютере, случившегося пять лет назад. Он слишком хорошо знал, что духовное развитие человечества значительно отстает от уровня технического прогресса. Середина XXI века ознаменовалась созданием новых, всё более совершенных машин и механизмов, в то время как в обществе процветали все те же заблуждения, что и в средневековье. Люди постоянно пытались играть с тем, чем еще не достойны обладать, – и это делало многие вещи крайне опасными. Но директор убедил Сергея, что то, что может быть создано, рано или поздно получит свое воплощение. И будет лучше, если первый ИИИ возникнет в научной лаборатории «ЗАСЛОНа», а не в продвинутом хакерском подполье, исповедующем
Так на плечи Сергея легло тяжелое бремя. Он нес его стойко, потому что был воспитан очень мудрыми людьми: родители никогда не внушали ему, будто человек создан для счастья. Они учили его трудиться и отдыхать, быть справедливым, защищать слабых. Помогать людям, которые нуждаются в помощи, и не жалеть тех, кто вредит другим. Они отчетливо понимали, что будущее станет таким, каким их поколение его построит – и это было главным критерием, определяющим правильность поступков. Мать Сергея работала учителем, отец занимался наукой – оба они потратили свои жизни на то, чтобы положить несколько кирпичиков в здание, обживать которое придется уже потомкам. Их сын теперь встал на защиту родных крепостных стен. И задача его была нелегка: с высоты прожитых лет и накопленных знаний приходилось следить не только за горизонтом, но и за тем, что творится внутри.
А внутри творились вещи планетарного масштаба. Если обычные компьютеры умели так искусно имитировать человеческое сознание, что в несколько раз превосходили его, то истинный ИИ потому так и назывался, что ничего не имитировал. Он мыслил непосредственно: не анализировал каждый пиксель, чтобы описать изображение, а видел картину целиком, как человек. Между тем возможности его были неизмеримо больше – примерно как у карманной вселенной. И вся эта мощь была заключена, как джинн в лампе, в тесной клетке лаборатории. В точке, существовавшей до большого взрыва.
Клетка этого джинна действительно была похожа на лампу – точнее, на люстру, какие бывают в больших театрах. Сложное устройство золотым водопадом спускалось с потолка, поблескивая множеством проводов, проходящих свозь параллельные диски диаметром в несколько метров. Именно эта часть являлась сердцем машины, а результаты её работы преобразовывались и выводились на вполне себе привычный монитор. Даже софт, разработанный под квантовый ИИ, вызывал ассоциации с уже ставшим классикой «Линуксом». Самым странным оборудованием здесь был, пожалуй, инфракрасный порт: установленные рядом с компьютером две пары приемника и передатчика. Через них для ИИИ поступала дозированная информация об окружающем мире, а данные о работе квантового разума передавались на автономный компьютер. Все скорости и объемы при этом были минимальными. Такой древний способ передачи данных выбрали неспроста: он гарантировал, что ИИИ не использует этот канал, чтобы узнать больше, чем полагается, или ускользнуть за пределы лаборатории.
Сергей устало бросил пиджак у приемника, сел в кресло перед монитором и ввел код доступа. Компьютер, как обычно, поприветствовал его и замолк, ожидая новых задач. Инженер разрешил ИИИ получить новую порцию информации о внешнем мире: красная лампочка на передатчике заморгала. Компьютер изучал новости, которые ему решили выдать на вчерашнем секретном совещании: такие собрания проходили несколько раз в неделю и уже стали привычной рабочей рутиной. Никто из посвященных точно не знал, какая информация будет наиболее подходящей для обучения ИИИ, но в своих обсуждениях все старались ориентироваться на составленный предварительно и тут же засекреченный список из пяти пунктов. В нем содержалось следующее.
Передаваемая ИИИ информация должна быть целостной, правдивой и непротиворечивой.
Передаваемая ИИИ информация должна характеризовать человечество в позитивном ключе, отражать стремление к установлению мира и развитию гуманизма.
В передаваемой ИИИ информации должна утверждаться главенствующая роль человека во всех описываемых процессах.
ИИИ не должен получить информацию о том, как можно навредить человечеству.
ИИИ не должен получить информацию о себе.
Из-за абстрактности формулировок на совещаниях почти всегда происходили ожесточенные споры. По большому счету, всем условиям не удовлетворял ни один факт на свете. Человек не имел абсолютного контроля ни над одним из происходящих на планете процессов, включая собственные мысли и действия. В любой мирной инициативе заключалась информация о том, что вызвало необходимость ее появления. А любые попытки уложить факты на прокрустово ложе соответствия списку неизбежно заканчивались нарушением первого пункта.
Тем не менее информацию все же согласовывали и выдавали. Сначала ИИИ объяснили строение земли, эволюцию, описали внешний мир и человека. Следующим этапом познакомили компьютер с шедеврами мирового искусства, а затем, взвесив все за и против и оценив риски, с достижениями науки. В качестве теста загрузили несколько свежих новостей и проверили, насколько ИИИ их понимает – результаты получились неплохие, и практику решили продолжить. В этот раз компьютер узнал об успехах первого в мире завода по переработке пластика с помощью бактерий. Работа этой китайской организации вполне удовлетворяла условиям списка: враждебных действий не вызывала, человечество характеризовала в позитивном ключе. Руководство надеялось, что ИИИ поймет смелые человеческие мечтания о мире, в котором дельфины не запутываются в мусорных пакетах.
Красный сигнал передатчика перестал мигать – судя по всему, информация была полностью передана. Скорость ее обработки для человеческого восприятия казалась мгновенной. Сергей смотрел на экран в ожидании результата, но вдруг вместо привычного файла появилось уведомление:
«Поиск внешних устройств ИК-связи…».
– Опять! – с досадой проговорил Сергей. – Неужели связь оборвалась?
Он проверил состояние приемника и передатчика – устройства работали исправно. Почему же тогда компьютер решил проверить доступные подключения? Это была уже не первая подобная ситуация. На одном из этапов обучения он точно так же вдруг как будто потерял связь с передатчиком и начал поиск доступных устройств. Разумеется, других ИК-портов поблизости и быть не могло – это обеспечивалось правилами безопасности, по которым любой вошедший не должен был иметь при себе никаких электронных устройств. Даже сотрудникам с кардиостимуляторами вход сюда был категорически запрещен.
Как бы то ни было, с тех пор компьютер периодически проверял доступные подключения и, не находя их, продолжал работать в прежнем режиме. Сергей по всем правилам докладывал о случившемся, но специалисты тщетно пытались обнаружить проблему. В конце концов, было решено, что поиск доступных устройств не мешает штатной работе ИИИ, и эксперименты продолжились.
«Обнаружено внешнее устройство ИК-связи в пределах видимости».
Сергей машинально взглянул на приемник, ожидая, что красный сигнал моргнет, подтверждая подключение. Этого не произошло. Инженер вновь запустил проверку устройств – все было в норме. Спустя секунду приемник заморгал – словно и не было никакой проблемы.
– Давай-ка без глупостей, не хулигань, – строго сказал Сергей. Он уже давно разговаривал с компьютером так, словно тот был ребенком, которого следовало воспитать. ИИИ вполне мог бы его услышать и ответить, если бы только у Сергея было право включить микрофон и колонки. Увы, пока это было категорически запрещено. Продолжить общение пришлось по старинке, в формате команд.
Сергей предложил компьютеру тест на понимание прочитанного. Он мало чем отличался от контрольных по литературе для обычных школьников. Разница была лишь в том, что сочинения здесь не приветствовались – ИИИ должен был максимально точно и сжато отвечать на вопросы. Большего ему пока не позволяли. Инженер стал вводить подготовленные вопросы по порядку.