I, Robot Inc.

Любое использование текста, оформления книги – полностью или частично – возможно исключительно с письменного разрешения Автора. Нарушения преследуются в соответствии с законодательством и международными договорами. For information address: Copyright Office, the US Library of Congress.

TXu 1-647-222

TXu 1-870-830

TXu 2-100-174

the US Library of Congress

1124

Степень

– Кутта Мл.

1

На воротах у входа в ад было написано: «Господи, какая красивая планета». Я вспомнил этот сюжет, когда сидел в приемной, терпеливо ожидая приглашения большого начальства и разглядывая кусок абстрактной грубой живописи на стене перед собой, непонятно как очутившейся в ведомстве военной разведки. Я вспоминал этот сюжет всякий раз, когда дело заходило достаточно далеко, чтобы потерять обычную уверенность в неизбежности светлого завтра. Художник так старался остаться непонятным на случай возможной критики, что картина почти получилась. Я закрыл глаза, перестав искать смысл в логике абстрактных пятен холста и по старой привычке сразу отключив мозг.

Времена уже не те, что были раньше. Когда-то, не так давно, я начинал как хороший снайпер. Говорили, я был одним из лучших. Наверно, так и было, я делал то, чего сделать больше не мог никто, но теперь волнует совсем немногих. Любая штатная машина со штатным набором программ оформит тебя на весь горизонт обзора еще до того, как ты успеешь принять упор лежа. Они не пахли потом, у них ничего не болело, у них не тряслись руки и они не задыхались от ужаса за свою дорогостоящую жизнь, захлебываясь собственной кровью и адреналином, их даже не надо было мыть. Они определяли снайпера по акустическим данным и характеристикам среды, делая это по единственному выстрелу, и могли лежать на одном месте неделями, пока не пойдут мхом. Впрочем, для руководства вся эта философия сводилась к одному и главному достоинству: они не чесали языками. Штабной офицер появился в приемной, и я понял, что приглашен еще до того, как открыл глаза.

Капитан Рамин Далай Циммер был убит выстрелом в голову. Выстрел был сделан с расстояния почти в две мили, в условиях, почти исключающих возможность участия человека, показания прилагались. Там была чужая территория, и можно было без показаний догадаться, чьих рук это работа. Уже один этот параметр расстояния мог сказать, с чем мы имеем дело. Но мы в самом деле этого не знали, как ни старались, а старались мы очень хорошо. Не надо много ума предсказать исход столкновения, когда ты не видишь противника, но который явно знает больше, чем ему нужно. Хотя открытые военные действия закончились, даже не успев стать формальными, еще до начала было ясно, что эту войну нам не выиграть. Мы больше и не пытались это сделать. Все, что мы хотели, уже просто сохранить равновесие сил. Потом началась другая проблема. Где-то в горах нейтральной территории, которую такой давно никто не считал, на самой последней грани между тем, что будет, и тем, что еще было, осталась боевая единица давно мертвого расчета – штатная механическая модель жизнеобеспечения подразделения снабжения с уже сто лет как устаревшей программой «Acoustic Sniper Detector». Как самурай на вражеской территории, преданный делу, он без всякой связи и поддержки в одиночку вел боевые действия в давно проигранной войне, постоянно провоцируя и грозя нарушить шаткое равновесие сил. По стандартному протоколу использование дистанционной связи исключалось, видно его не было, но по последним данным слышно было очень хорошо. Что он там делал, догадаться было не сложно, по тому как отдельными ночами на чужой территории становилось светло, как днем. Посланный за ним капитан Циммер сделал попытку дать оценку его стараниям, и теперь папка с его заданием лежала на коленях у меня. Спасибо тебе, незнакомый капитан Циммер, за тот жизненный опыт и тот скупой абзац информации, который мне может помочь остаться в живых. После него был еще капитан Краусс – он был тоже убит выстрелом в голову. Потом ушел сержант Деспла – его миссию можно назвать отчасти удавшейся: его никто не убивал. По непонятным причинам не раскрылся парашют, и он умер, так сказать, естественной смертью. Я не хочу сказать, что здесь есть повод для веселья, это показывает, на какой стадии разрешения ситуация пребывала. Я не спрашивал, почему именно я, хотя можно было набрать бригаду кандидатов с гораздо большим практическим опытом как раз в такого рода делах. Пути умозаключений начальства иногда еще более удивительны, чем их конечные результаты.

Человек как вид не так уж бестолков, как сейчас принято думать. И, конечно, с самого начала почти разумным машинам просто из здравого смысла меньше всего планировали давать возможность самим решать, когда давить на спусковой крючок, а когда подождать. Это притом, что еще в 2009 году на конференции технических экспертов была признана не очень приятная необходимость полуавтономности таких систем в той или иной форме, включая как поиск и добывание источников энергии, так и самостоятельное определение цели. Военно-морские силы финансировали доклад, где в связи со всё большим возрастанием сложности военных роботов необходимость внимания к их способности принимать решения декларировалась как «абсолютная». Абсолютная необходимость внимания – так они это называли. Любая корпорация вроде «I, Robot Inc.» в своих разработках получала грант на исследования прежде всего – и это всюду проходит красным абзацем – по линии безопасности. Глупые люди там не работают, но кто-то давно сказал, что мы с самого начала где-то ошиблись в выборе куда идти. Ирония ситуации в том, что никто уже не может точно сказать, где проходит та линия безопасности, а где ее уже нет. «…Сегодня робот воспринимается не просто как инструмент для выполнения работы определенного рода, а скорее как неотъемлемая часть подразделения…» Предполагалось, он должен был восприниматься не иначе, чем именно как особо дорогой инструмент. В основном, для обезвреживания заминированных участков: по запаху определять наличие мин – его просто планировали быть таким. Функция этой неотъемлемой части подразделения была ясна, как день.

«Используя роботов, мы делаем нашу миссию более безопасной».

Я слышал это не один раз. Мы все это слышали. Так оно и было. И дело уже не в том, что кто-то оказался в расчетах оптимистичнее, чем следовало, или пошел в своих желаниях чуть дальше, чем нужно. Все было гораздо сложнее.

Подтаскивать боеприпасы, вытаскивать на себе раненных, определять местоположение чужого снайпера, давать ценные наставления из мыслителей всех народов, рассказывать только свежие анекдоты, выращивать зеленый лук и редиску, готовить и выносить мусор – все это было уже потом, вроде приятного, но не обязательного для солдата дополнения.

Лично для меня жизненной трагедией стало, когда обнаружилось, что этот механический урод из стандартного тренировочного армейского лука стреляет практически так же хорошо, легко и невозмутимо, как я. Что уже граничило даже не с конкуренцией видов – с личным оскорблением. Некоторое облегчение еще приносила мстительная мысль, что разве только реальную лошадь под тот механический зад найти было трудно, и стрельба на полном скаку так и останется нашей чисто человеческой привилегией биологического вида Homo sapiens. Конечно, можно было представить того же механического конкурента верхом на тракторе, как он, гремя и подпрыгивая, во весь опор натягивает тетиву лука, напряженно пытаясь учесть сразу целый сборник показателей среды, но вряд ли здесь тот горизонт возможностей, о котором спит и мечтает стратегический отдел приемной комиссии ДАРПА.

Потом начались разговоры о мирном сосуществовании разных типов организаций в биоценозе. В том ключе, что вот если мы все-таки решили ввести в этот беспокойный мир еще одного члена экосистемы, то давайте научим его тем же человеческим ценностям – просто научим ценить, что ценно для нас, «быть лучшими гражданами» (цитата дословная), и как всем сразу станет хорошо. Имелась в виду явно только модификация той же общей базовой программы. И только кто-то один тогда сказал единственную стоящую вещь. Дайте ему понять человека. При этом нигде так ни разу и не прозвучало разумного обоснования, из чего следует, что то, что ценно для нас, должно иметь ту же ценность для кого-то еще. И однажды тот же член экосистемы не решит, что не слишком ли много беспокойства из-за условностей, которые созданы кем-то другим.

Вот эти разумные, трезвые и в высшей степени гуманистические принципы работали ровно до того момента, пока не стало окончательно ясно, что эту войну нам не выиграть. Никогда. Она просто была нам не по зубам. Ни как биологическому виду, ни как случайному недоразумению на витке эволюции. Вымерший вид Человека неандертальского вымирал на протяжении тысячелетий – чего-то не хватило ему, чтобы жить долго и счастливо. Как всегда, ума, наверное. Все говорило за то, что у нас столько времени не будет. Хуже всего, что мы не могли понять, с чем имеем дело.

Впервые заподозрили, что что-то не так, когда у операторов беспилотников-«дронов», автоматических летающих модулей, управляемых с земли, стал с устрашающим постоянством проявляться посттравматический синдром. Это у них-то, которым, как предполагалось, просто вменялось в обязанность воспринимать работу как некую разновидность видеоигр и на всё должно было бы по идее наплевать. Очень скоро обнаружилось, что им еще как было не наплевать. Настолько, что после работы они начинали окапываться в огороде у себя дома, пугая соседей.