Подарок
Шрифт:
– Хочу заметить, что для нас сущность бога все-таки имела иное значение: он, кроме всего прочего, до сих пор для многих является еще и высшей совестью. Сожалея о содеянном, у нас было кому покаяться и попросить прощения. Это великое дело. Хозяин с ним сравниться не может, хотя он вас и воссоздал. И мы больше боялись не наказания за грехи, а возможности погубить свою душу. Я читал воспоминания тех, кто был на войне, некоторые отмечали, что, убив даже одного врага, при том имея на это моральное право и не боясь попасть в ад, поскольку считали себя атеистами, они чувствовали, что душа их стала другой и в прежнее состояние уже не вернется. Но это сложная тема, и, если позволите, я бы обратился к прежнему вопросу... Доверяет ли он вам свои технологии?
Дэвон, посмотрев на Сергея, задумался,
– Доверяет по мере развития нашего общества, потому что мы должны понимать что получаем. Кроме того, для управления некоторыми процессами необходимо достаточное количество специалистов, а нас пока мало - женщины у нас рожают редко. Поэтому мы готовы развиваться с вашей помощью - ведь мы очень близки.
– Извините, - вмешался опять Борис.
– Как я понял, вы каким-то образом получаете детей при смешанных браках, Но ведь они не совсем тэрианцы - вас это не волнует?
– Нас это не волнует и вас не должно беспокоить. Тэрианцы останутся, но будут и землеты, и просто земляне. Вы же у себя в завуалированной форме позаботились о сохранении людей со светлыми волосами и голубыми глазами, иначе в силу генетических законов они бы исчезли. В этом не было бы большой трагедии - у вас пропали сотни животных и растений, - но согласитесь: было бы жаль потерять этот вид человечества.
– То есть вы хотите сказать, что он возродил вас в том числе и из понимания необходимости сбережения всего созданного в космосе?
– спросил Сергей.
– Всё правильно. Как у вас говорят, жизнь хороша своим разнообразием. Кстати, некоторые исчезнувшие у вас растения и животные находятся у нас в заповеднике. Если хотите, Мэла вам их покажет.
– Я до сих пор думал, что эволюционировать самостоятельно могут только живые организмы, но не машины. За какое время Хозяин достиг такого уровня развития? Да и можно ли теперь его так называть?
– На первоначальное развитие у него ушло около ста лет вашего времени. Тормозили его в основном технологические процессы, ну а дальше он уже совершенствовался в геометрической прогрессии. Машиной же его, в обычном понимании этого слова, с самого начала трудно было назвать, сейчас - тем более. Сам он достиг такого состояния, или ему кто-то помог, мы не знаем.
Дэвон жестом дал понять, что еще не закончил, и, сделав пару глотков воды, продолжил:
– Вначале мы думали, что при его создании он не получил образного мышления, но вскоре поняли, что без некоторых элементов этого мышления находить нужное решение ему было бы намного труднее. Ваше общество - впрочем, как и наше, - по сути, является коллективным разумом, включающим в себя людей с разными видами мыслительных процессов. Он же, насколько это возможно, должен иметь в себе всё. Видимо, этот момент и заставил наших предков пойти на такое допущение. Что же касается наших эмоций, то если даже они у него есть, то, скорее всего, в виде дополнительной опции, чтобы лучше нас понимать, - мы же знаем, что он наделяет человеческими качествами некоторых роботов, по крайней мере, имитируя это внешне. Это мы свои эмоции считаем достоинством, хотя они могут как помочь, так и препятствовать достижению результата. Таким созданиям, как он, они только мешают. Поэтому, даже если они у него есть, Хозяин их хорошо контролирует.
– Думаю, что они ему хорошо знакомы, - сказал Сергей.
– То, что он сделал с нами, несколько противоречит логике, но не чувствам. И мне кажется, что он не мог не заинтересоваться этой стороной нашей жизни.
– Возможно, вы правы, но нам это точно не известно, да и чем он руководствовался в отношении вас, тоже никто точно не знает.
– Как мы поняли, прежние тэрианцы сами предоставили ему самостоятельность. В нашем понимании его просто "не выключили", или они заранее предусмотрели такое развитие событий?
– спросил Сергей.
– По заложенной в нем программе, он должен был сохранить себя, даже если те, кому он подчинялся, исчезли. И вот дальше произошли удивительные вещи, которые он не стремится нам раскрывать. Например, еще не достигнув своего настоящего развития, но уже сумев получить контроль над Тэрой, что для него было крайне важно, он сражу же
– Но компьютер может утаить свое развитие - и тогда он будет опасен. Может ли он этого достичь без посторонней помощи, раз уж он изначально не мобилен?
– Вы научились создавать простые биологические организмы. Теоретически через несколько миллиардов лет они могут достичь уровня высокоразвитой цивилизации. С суперкомпьютером это может произойти гораздо быстрее. Но только - и здесь вы правы, - если он получит возможность использовать техническую базу своих создателей. А взять ее под свой контроль он может очень легко - передача многих функций вашей деятельности искусственному интеллекту неизбежна, поскольку с расширением нагрузки на каждого из вас понижается коэффициент управляемости, ведь возможности человека ограничены, и это при том, что количество людей из-за роботизации у вас постоянно снижается. Поэтому вы будете всё больше пользоваться услугами машин и, следовательно, той информацией, которую они вам поставляют. И здесь кроется опасность, что когда-нибудь главный компьютер, даже не считая вас своими врагами, поймет, что ваши эмоции только вредят делу и он все понимает лучше вас. И просто заботясь о своих создателях, как в нем заложено, начнет делать всё по-своему. Вы стараетесь это предвидеть и предпринимаете определенные действия, но всегда ли они будут эффективны?
– Значит ли это, что его нужно всегда держать под жестким контролем, и насколько это реально?
– Вам уверены, что вы управляете роботами через программы, которые сами в них заложили. Но так будет не всегда. От электронных сетей вы не откажетесь, а значит, главный компьютер всегда сможет всё контролировать, да так, что вы даже этого не поймете. Например, он просто завалит вас информацией, в которой вы не сможете разобраться. В нашем случае мы всё нужное для его развития освободили сами. Нетрудно догадаться, что могло бы произойти, если бы наши предки встали на его пути. Чтобы так не получилось, вы либо не должны давать ему развиваться, что противоречит прогрессу, либо когда-нибудь вам придется с ним договариваться, что возможно хотя бы потому, что вы своим существованием ему в принципе не мешаете, как сейчас не мешаем мы, - ведь он получил всё, что ему нужно. Но пойти на компромисс вам будет трудно. Вы предпочтете думать, что сможете в любой момент его выключить, и это будет ошибкой.
– Как я понимаю, это у вас всё более или менее удачно сложилось: Хозяин находится на другой планете, он вам помогает и даже, возможно, опекает, о чём вы сами сказали. У нас же такое соседство будет крайне неуютным. Я не представляю себе несменяемого президента-машину всея Земли, который, в соответствии со своей логикой, будет нами руководить.
– Я полагаю, что это никому не нужно, и есть много способов избежать подобного развития событий. Но такая опасность существует, особенно если он окажется средством односторонней коммуникации между вами и еще кем-то. Мы думаем, что прежние тэрианцы это понимали, поэтому и расположили его на другой планете; к тому же в этом случае все наши контакты с ним мы когда-нибудь научимся контролировать. Вы отчасти именно так и поступили, разместив свой главный искусственный интеллект на Луне.