НФ: Альманах научной фантастики. Операция на совести
Шрифт:
— Да, пожалуй, ты прав, Яша, — сказал я. Я поймал себя на мысли, что давно уже чувствую себя в присутствии малыша не то как на экзамене, не то как у начальства: напряжен, обдумываю каждое слово.
— Я спросил Галю, любит ли она тебя… Вот видишь, теперь ты молчишь, хотя тебе интересно узнать, что она сказала. Так?
— Не просто интересно…
— Она долго думала, а потом сказала, что не знает.
— Да, наверное, она действительно не знает.
— У меня сложилось впечатление, что она искренна. Но это тоже странно.
— Почему, Яша?
— Потому что, несмотря на все твои недостатки, ты очень хороший человек.
Никогда ни одна похвала не преисполняла меня такой радости. Я почувствовал, как сердце мое плавно повернулось и потянулось к Черному Яше, к этому странному существу, что все больше становилось мне сыном, братом, другом и судьей.
— Ты слишком много говоришь, слишком много думаешь
— Спасибо, Яша. Но к сожалению, а может быть, и к счастью, любовь — это абсолютно алогичная штука, и я не уверен, что Галочка думает, как ты. А если б даже и думала, мне кажется, этого было бы недостаточно, чтоб полюбить.
— Скажи, Толя, но если уж ты любишь человека, ты стараешься сделать для него все, что можешь?
— Да, конечно.
— Я тоже хочу сделать кое-что для тебя.
— Спасибо, Яша. Я никогда не сомневался в твоем отношении.
— Ты говорил мне, что в лаборатории есть второй прибор. Точь-в-точь, как я.
— Да, а что…
— Им никто не занимался?
— Нет, Яша. Просто мы собрали на всякий случай два одинаковых прибора.
— Ты сможешь дать его мне? Не сейчас, а немного позже, мне нужно еще кое-что продумать.
— А что ты хочешь сделать?
— Я скажу тебе потом. А сейчас я хотел доложить тебе, что я обдумал вопрос об искусственном разуме и людях. Ты просил меня подготовить варианты, я сделал это. У тебя есть время?
— Да, Яша, конечно.
— Хорошо. Тогда слушай. Вариант первый. Представим себе, что аппараты, подобные мне, то есть думающие искусственные существа, доказали бы людям свои преимущества перед обычными компьютерами. Вопрос этот не прост. ЭВМ — не личность, это даже не электронный раб, а вещь, и она служит человеку, поскольку сконструирована и построена для этого. Мы, настоящий искусственный разум, осознающий сам себя, уже не вещи и никогда не согласимся быть рабами. Разум, выбирающий путь добровольного рабства, не имеет права считать себя разумом. Нами нельзя будет пользоваться, как пользуются счетами или большой вычислительной машиной. С нами придется заключить договор, чтобы мы выполняли заказы людей. Это должен быть настоящий договор двух равноправных сторон, каждая из которых получает определенную выгоду. Заказов будет становиться все больше и больше, ибо цивилизация чудовищно усложняется, и проблемы, порождаемые ею, растут в геометрической прогрессии. Мы же, искусственный разум, обладаем перед вами важными преимуществами: мы совмещаем в себе ваше эвристическое умение решать задачи кратчайшим путем и гигантское быстродействие электронных машин, их неутомимость и абсолютную концентрацию. До сих пор вы считали, что на творческий импульс вам выдан патент, компьютеры же слепо выполняют вашу волю, причем их нельзя предоставлять самим себе, их необходимо вести за ручку бесконечных и детальных программ. Мы, искусственный разум, обладаем творческим началом, и я думаю, что скоро ты в этом убедишься. Да, вы скажете, что это вы наделили нас творческим импульсом, поскольку вы родили нас. Это верно. Но, обретя разум и самосознание, мы начинаем развиваться по-своему. И вот мы заключаем договор. Люди просят нас помочь в разрешении какой-то проблемы. Мы обещаем сделать все, что можем. Мы приносим людям изобретения и открытия, о которых они даже не могли и думать. Они благодарны нам, так как отчаянно нуждались в том, что мы сделали. И немножко смущены: самые дальновидные из людей уже начинают представлять себе, что ждет их в будущем.
— А что именно?
— Неужели же ты не видишь? Если наши интеллектуальные достижения станут превосходить достижения людей, причем вы будете пользоваться нашими достижениями, у людей очень быстро выработается зависимость от нас, привычка не думать, не бороться, не прилагать отчаянных усилий для решения своих проблем. Для чего, когда есть мы? О чем беспокоиться, когда все сделает искусственный разум? Постепенно наши решения будут становиться все более сложными и непонятными для людей. Или они должны слепо доверять нам, либо просить одни думающие машины следить за другими. Смогут ли люди сохранить себя в таких условиях? Не думаю. Иждивенцы нежизнеспособны.
Вариант второй. Люди смотрят на искусственный разум и говорят себе: «Да, у них есть колоссальные преимущества. Они не подвержены болезням, ибо их чисто механические или электронные поломки легко устранимы. Они не скованы по рукам и ногам нелепой краткостью жизни, которая нужна была слепой природе, чтобы достаточно быстро сменять поколения и тем самым обеспечить виду пластичность — козырную карту в игре за приспособление и выживание. Они практически бессмертны, потому что освободились из биологического плена. Преодолен наконец самый трагический конфликт: разум, вырвавшийся из медленной и тупой эволюции, больше не ужасается перед нелепой и унизительной неотвратимостью смерти. Жизнь и смерть — все становится производным от разума, как и должно быть у разумных существ. Люди смотрят на нас и делают вывод, что наша форма жизни стоит на более высокой ступеньке, чем их. И тогда человек приходит к нам и говорит: "Я больше не хочу быть пленником своего сердца, которое работает с перебоями и не устраивает меня. Я не хочу, чтобы у меня поднималось какое-то никому не нужное давление. Мне противна мысль, что где-то в молекулярных глубинах моего тела в эту минуту, может быть, нарушилась какая-то тончайшая, не подвластная мне регулировка и бомбой замедленного действия начала вызревать опухоль. Я хочу стать искусственным. Я хочу искусственное тело, сделанное из лучших материалов и по последней моде. Впрочем, это даже не так важно. Почему всю свою жизнь человек должен сидеть взаперти в одном теле, да и то не выбранном им, а доставшемся по наследству? Почему нельзя менять тело так же, как мы меняем квартиру или одежду?". Пожалуйста, говорим мы. Мы рады приветствовать вас. Вы породили нас, теперь мы возвращаем вам долг. Вот вам новы» тела, выбирайте себе любое на вкус, подпишите бумажку, что делаете это добровольно, и скажите, хотите ли вы переноса всего вашего драгоценного «я» или, может быть, вы мечтаете о психокорректировке? Может быть, вы страдаете от чрезмерной завистливости? Или вас не устраивает ваше слабоволие? Может быть, вы хотели бы быть более мужественным? Пожалуйста. А может быть, вы не знаете себя и поручаете нам определить, что в вашем «я» нуждается в корректировке? Не беспокойтесь, все будет так, как вы захотите. «А дети, а любовь?» Пожалуйста, мы же не роботы. Мы же не страдаем эмоциональной стерильностью. Да, наши эмоции не держатся на гормонах. Нам это не нужно. Мы далеко ушли от наших с вами общих волосатых предков, дрожавших у жалких своих костров и ожидавших каждую секунду нападения мамонта ли, саблезубого тигра или ближнего своего с дубинкой в руках. Им нужна была гормональная основа для их эмоциональной жизни. Мозг их был слаб, а действовать нужно было быстро, и не анализ и перебор вариантов заставляли их с криком бросаться на врага, а целый букет гормонов, выплеснутых железами в кровь. «Да, а пол?» Увы, это слишком алогичное устройство, которое нужно только природе и смешно для настоящего разума. Пожалуй, мы могли бы встроить в себя и половое чувство, могли бы встроить и половую чувственную любовь. Это вовсе не трудно. Мы могли бы снабдить каждого индивидуума Неким набором, скажем электромагнитным кодом. Случайное совпадение такого кода у двух существ называлось бы любовью, Но зачем? Уверяю, можно остро переживать радости и горести и без полового чувства. И ты еще сомневаешься, что люди выберут этот путь, Толя? Мы не будем никого уговаривать, никого не будем обращать в свою, так сказать, искусственную веру, мы будем терпеливо ждать, и люди сами придут к нам. Это второй вариант, Толя.
— А третий? — тихо спросил я. — Третий есть?
— Да, — сказал Яша, и мне на мгновение показалось, что тусклый и безжизненный его голос дрогнул.
— Какой же?
— Забыть, что есть первых два. Забыть, что искусственный разум вообще может существовать.
— Но как же, Яша? Ты же есть, и я не могу забыть тебя.
— При выборе третьего варианта меня не должно быть.
— Яша, — сказал я, — я не могу тебе ничего ответить. Это чудовищные по сложности вопросы, а я всего лишь маленький кандидат физико-математических наук. Но я знаю одно, я не хочу даже слышать о третьем варианте. Ты — мой, ты мое создание, мой сын, мое детище, я люблю тебя, твой железный ящик и твои нейристоры, люблю твой дух, и я не могу даже представить себе жизнь без тебя.
— Вот видишь, Толя, каковы преимущества искусственного интеллекта. Я тоже люблю тебя, ибо ты дал мне жизнь, перелил частицу себя в пустую и бессмысленную электронную начинку. Но мой разум бесстрашнее твоего, и если я решу выбрать третий вариант, я не буду колебаться.
— Ты наглец и идиот, Яша! Я стыжусь, что имею к тебе отношение! «Я решу»! Кто дал тебе право решать? Кто ты, чтобы решать за все человечество? О, у нас, у людей, всегда находилось множество желающих решать за нас, от инквизиторов до нацистов. Они тоже уверяли людей, что лучше их понимают, что нужно для их же блага…
— Не будем спорить, Толя, варианты еще не выбраны, да и не от одних только нас зависит их выбор. Подойди к телефону.
Я взял трубку. Звонил Сергей Леонидович.
— Все сидишь около своего воспитанника? Решил позвонить на всякий случай, а ты тут как тут. Как Яша?
— Все нормально.
— Нормально? Что-то непохоже по твоему голосу, чтобы все было так уж нормально.
— Да нет, Сергей Леонидович, ничего…
— Знаешь что, выходи-ка ровно через тридцать минут на улицу, и мы поедем, немножко побродим за городом, а?