Лучшая зарубежная научная фантастика
Шрифт:
— Конечно. — Реально Дэниел не намеревался выпускать свое изделие на рынок. Он за собственные средства купил у изобретателя технологию его изготовления, поэтому ни другие акционеры, ни директора не могли ему указывать, как именно использовать эту технологию.
— Но искин — это совсем другое, — продолжила Джули. — Мы в лабиринте, а не на шоссе, и одной лишь скорости для успеха недостаточно. Сколько бы экзафлопов скорости ни было в моем распоряжении, они никогда спонтанно не разовьются в сознание. И вовсе не университетские компьютеры меня сдерживают — у меня
— Лабиринт — не тупик, — заметил Дэниел. — Когда мне было двенадцать лет, я написал программу для поиска выхода из лабиринтов.
— И не сомневаюсь, что она хорошо работала — для небольших лабиринтов на плоскости. Но вы и сами знаете недостатки алгоритмов таких программ. Запустите вашу старую программу работать в этом суперпроцессоре, и я все равно за полдня придумаю лабиринт, который поставит ее на колени.
— Конечно, — согласился Дэниел. — Именно поэтому я так и заинтересован вас нанять. О лабиринте искусственного интеллекта вы знаете намного больше меня, и любая разработанная вами стратегия будет неизмеримо превосходить слепой перебор вариантов.
— Я не говорила, что бреду на ощупь в темноте, — возразила она. — Если бы дело обстояло настолько плохо, я занималась бы совершенно другой проблемой. Однако я не вижу, какую принципиальную разницу может создать этот процессор.
— Что создало единственный известный нам пример разума? — спросил Дэниел.
— Эволюция.
— Совершенно верно. Но я не хочу ждать три миллиарда лет. Поэтому мне нужно сделать процесс отбора намного более совершенным, а источники вариаций — более целевыми.
Джули обдумала его слова.
— Вы хотите попытаться методом эволюции создать настоящий искин? Разумный, человеческого уровня искусственный интеллект?
— Да.
Дэниел увидел, как напряглись ее губы, как тщательно она подбирает слова, прежде чем ответить.
— При всем моем уважении, — сказала она в конце концов, — я не считаю, что вы тщательно все обдумали.
— Как раз наоборот, — заверил Дэниел. — Я планировал это двадцать лет.
— Эволюция — это история и неудач, и смертей. Вы хотя бы представляете, сколько разумных существ жило и умерло на пути к Homo Sapiens? И сколько страданий было на этом пути?
— Частью вашей работы будет свести эти страдания к минимуму.
— К минимуму? — Похоже, его слова ее искренне потрясли, словно его предложение было еще хуже небрежного предположения о том, что процесс не затронет этические проблемы. — Да какое у вас есть право вообще их причинять?
— Вы ведь благодарны тому, что существуете, разве не так? Независимо от страданий ваших предков.
— Да, благодарна, — признала она, — но в человеческом случае эти страдания не были сознательно кем-либо навязаны, а любого альтернативного пути, ведущего к появлению человека, не имелось. И если бы справедливый творец действительно существовал, то я не сомневаюсь, что он буквально действовал бы так, как
— Справедливый и всемогущий, — уточнил Дэниел. — Жаль, что второе качество еще реже первого.
— А по-моему, для создания чего-либо по образу и подобию своему всемогущество не требуется. Лишь чуть больше терпения и самопознания.
— Но мой метод не будет подобен естественному отбору. Не такой слепой, не такой жестокий, не такой расточительный. И вы будете вольны вмешиваться в него, когда пожелаете — чтобы ввести те смягчающие меры, которые сочтете подходящими.
— Смягчающие меры? — Джули встретила его взгляд, и он увидел, как неверие в ее глазах мгновенно сменилось чем-то более мрачным. Она встала и взглянула на телефон у себя на запястье. — У меня здесь не ловится сигнал. Вы не могли бы вызвать мне такси?
— Пожалуйста, выслушайте меня. Дайте мне еще десять минут, а потом вертолет доставит вас в аэропорт.
— Я предпочла бы добраться домой самостоятельно. — Она бросила на Дэниела взгляд, ясно показывающий, что ее решение окончательное.
Он вызвал ей такси и проводил к лифту.
— Я знаю, что вы сочли это морально вызывающим, и я уважаю ваше мнение, — сказал он. — Я и не мечтал нанять того, кто считает подобные темы мелкими и тривиальными. Но если я этого не сделаю, то сделает кто-то другой. Тот, чьи намерения намного хуже моих.
— В самом деле? — Теперь в ее тоне прозвучал неприкрытый сарказм. — А как именно само существование вашего проекта помешает этому гипотетическому бин Ладену от ИИ осуществить свой?
Дэниел был разочарован — он ожидал, что она хотя бы поймет, что стоит на кону.
— Это гонка, в которой предстоит сделать выбор между богоравностью и порабощением, — сказал он. — Того, кто добьется успеха первым, остановить будет невозможно. А я не собираюсь быть чьим-то рабом.
Джули вошла в лифт. Он вошел следом.
— Знаете, как звучит современная версия «пари Паскаля»? [58] Подлизывайся к как можно большему числу трансгуманистов — а вдруг кто-нибудь из них превратится в бога? Наверное, вам подошел бы такой девиз: «Будь добр к каждому говорящему роботу, он может оказаться дядюшкой божества».
— Мы будем добры, насколько это возможно, — сказал Дэниел. — И не забывайте, что мы сможем выбрать природу этих существ. Они будут счастливы тому, что существуют, и благодарны своему создателю. Мы можем делать отбор по этим признакам.
58
Пари Паскаля — предложенный математиком и философом Блезом Паскалем аргумент для демонстрации рациональности религиозной веры: безверие ничего не требует от человека и ничего ему не дает (если не считать некоторой экономии времени). «Проигрыш» при этом может оказаться существенным. Верить чуть более затруднительно, но не опасно и «выигрыш» велик.