Т. 12 Фрайди
Шрифт:
— Хорошо. Понятно. Джордж, скажи, ты работал с мыслящими машинами?
— Конечно, Марджори. Искусственный интеллект — область, тесно связанная с моей работой.
— Ясно. Значит, ты должен знать о том, что специалисты по искусственному интеллекту много раз заявляли, что они подошли вплотную к созданию самостоятельно мыслящей машины. Но на поверку это каждый раз оказывалось очередной уткой.
— Увы. Как ни печально, но это факт.
— Нет. Это не печально — это неизбежно. Это никогда не получится! Гипотетически компьютер можно наделить сознанием. Доведи его до человеческого уровня сложности в мыслительных процессах — и ему придется стать
Я продолжала, несмотря на то что на лицах всех было написано неподдельное удивление.
— Вот такая дилемма. Он не сможет стать человеком, никогда. Ян, может, и не сумеет спасти своих пассажиров, но, по крайней мере, попытается. Но живой артефакт, не будучи человеком и не чувствуя сострадания к людям, может погубить корабль просто так, от нечего делать. А может, потому, что устал от того, что его не считают человеком.
Нет, Джордж, я полетела бы с Яном, а не с твоим артефактом, который непременно научится ненавидеть людей.
— Не с моим артефактом, дорогая, — мягко возразил Джордж. — Разве ты не заметила, в каком наклонении я говорил об этом проекте?
— Пожалуй, нет.
— В сослагательном. Поскольку все, что ты сейчас сказала, для меня не новость. Я никогда не выступал за такое предложение и не собираюсь. Я могу разработать и создать такого пилота. Но для меня невозможно этим заняться по той же этической причине, по которой ты выбрала Яна.
Ян сидел в глубокой задумчивости.
— Может быть, — сказал он, потирая руки, — стоит на предстоящем совещании поднять вопрос о том, чтобы любого будущего пилота — искусственный артефакт или искусственного человека — проверяли на этические установки?
— Как проверишь-то, Ян? Я не знаю, каким образом можно заложить этические установки в зародыш, а Мардж только что доказала, что этого не сделаешь и в курсе подготовки и обучения. И, с другой стороны, какой тест это может выявить?
Джордж повернулся ко мне:
— Знаешь, в студенческие годы я почитывал кое-какие рассказики о гуманоидных роботах. Истории были просто очаровательные, и кое-где там встречались намеки на существование некоего кодекса, который именовался там законами роботехники. Причем главный закон означал, что в конструкцию робота заложено нечто такое, что никогда не позволит ему нанести вред человеку ни действием, ни бездействием. Это послужило прекрасной основой для научной фантастики, но вот вопрос: как этого добиться на практике? Как можно добиться, чтобы самосознающий, мыслящий организм — электронный или биологический, но нечеловеческий — был бы настроен лояльно по отношению к людям? Лично я не знаю, как этого добиться. И похоже, что специалисты по искусственному интеллекту в этом плане тоже в тупике.
Джордж несколько цинично улыбнулся:
— Такое впечатление, что интеллект можно определить как уровень, достигнув которого сознательный организм вопрошает: «А что я с этого буду иметь?»
Он продолжал:
— Так вот, Мардж, по поводу приобретения у тебя свеженького яичка: я должен объяснить тебе как сознательному организму, что ты с этого будешь иметь. — Не слушай его, — вмешалась Жанет. — Он положит тебя на холодный стол и будет смотреть в туннель любви без всяких там романтических устремлений. Я-то знаю, я себя уже трижды позволяла уговорить. Причем мне за это даже не заплатили.
— Интересно, а как я мог тебе заплатить, если у нас — общие деньги. Марджори, голубка моя, стол не холодный, он мягкий, и ты сможешь, пока я буду работать, читать или смотреть телевизор или болтать со мной — в общем, делать все, что тебе заблагорассудится. Прошло уже много лет с тех пор, когда для того, чтобы получить яйцеклетку, разрезали брюшную стенку и часто повреждали яичники. Если думаешь…
— Заткнись! — крикнул Ян. — Что-то новое в ящике!
Он включил звук.
«…«Совет по выживанию». События последних двенадцати часов являются предупреждением всем толстосумам и богатеям о том, что время их кончилось. Настал час расплаты. И убийства, и прочие события будут продолжаться до тех пор, пока не будут выполнены наши требования. Продолжайте слушать срочные выпуски новостей на канале местного телевидения…»
ГЛАВА 11
Не знаю, стоит ли подробно рассказывать про «Совет по выживанию». Про эту организацию знает каждый школьник. Но о том, что они творили в те дни, я немного расскажу, поскольку это имело некоторое отношение к странностям моей судьбы. Этот «Совет по выживанию» является секретной организацией борцов за справедливость, призванной покончить с бесчисленными проявлениями дискриминации на Земле и на всех других планетах, где только проживало человечество. Именно этой борьбе они якобы были готовы отдать все свои жизни без остатка.
Но для начала они решили отдать этому святому делу жизни других людей. Они объявили, что составили списки истинных виновников беспорядков — как на земном шаре, так и за его пределами, — отдельные списки для каждого территориального государства плюс длинный список мировых лидеров. Это были их главные жертвы.
«Совет» перечислил тех, кто уже был убит, и обещал, что будет убито гораздо больше, пока не будут удовлетворены их требования.
После перечисления мировых лидеров голос, который мы слушали, начал зачитывать список по Британской Канаде. Судя по отрывистым фразам и многозначительным кивкам, которыми обменивались мои хозяева, было ясно, что им знакомо большинство кандидатов на тот свет. В списке, к примеру, был назван заместитель премьер-министра, а самой премьерши не было — к моему, да, наверное, и к ее собственному удивлению. Как бы вы, интересно, почувствовали себя, если бы положили свою жизнь без остатка на алтарь политики, карабкались бы на самый верх из последних сил, а потом вдруг стало бы ясно, что вы и убийства собственного не заработали? Что-то вроде того, как если бы вас изнасиловал собственный кот.
Голос объявил, что в ближайшие десять дней новых убийств не последует. Если же обстановка не улучшится, то они по жребию будут выбирать одного из каждых десяти оставшихся в списках и убивать их. Жертв предупреждать не будут — просто будут убивать, и все. А десять дней спустя — еще каждого десятого. И так далее, пока оставшиеся в живых не доживут до светлых дней Утопии.
Голос объяснил, что «Совет» не является правительственной структурой и не собирается подменять собой какое-либо правительство, что он является всего лишь проводником морали, общественной совестью властей предержащих. Те из руководителей, кто останется в живых, могут остаться у власти, но выживут они только в том случае, если будут править справедливо. Было высказано предупреждение, чтобы они не думали подавать в отставку.