Знакомьтесь, Коллин Райт
Шрифт:
– Блестяще?! Да я ни черта не узнал и всё ещё и половины не понимаю в произошедшем!
– Тогда давай ты перестанешь выдергивать из меня случайные ответы на произвольные вопросы, и попробуем разобраться во всём систематически? Итак... всё началось задолго до твоего рождения, Кол. И, как и любая тёмная страница в истории человечества, всё началось с ненависти. Ненависти одной системы ценностей к другой и одних людей к другим. Когда проявились первые признаки скорого массового производства роботов, которые могли бы заменить людей во многих сферах деятельности, а это произошло с повышением интереса к первым самообучаемым нейронным сетям ещё до окончания первой четверти предыдущего столетия, ребром встал вопрос о целесообразности сохранения капиталистической экономической системы.
– Почему?
– Ну, потому что если роботы производят товары и услуги, то людям эти товары и услуги должны доставаться бесплатно. Роботам товары и услуги, кроме обслуживания, не нужны, а если людей на производствах массово заменяют роботами, то люди становятся безработными, а, следовательно, и неплатежеспособными.
– Воспитывалось? Отношение?
– Да, Кол, воспитывалось. А сами же капиталисты начали массово переходить на полностью автоматизированные производства и службы, поддерживаемые руками роботов, а не людей. Во всём мире началась и стремительно разрасталась массовая безработица. Поначалу пытались даже исправить ситуацию с помощью законов, например, обязуя капиталистов часть выручки возвращать людям, снижать цены и прочее. Даже пытались пропихнуть закон, при котором обязывали работодателей нанимать на работу роботов со стороны, то есть - чужих роботов, у которых есть хозяева, оплачивая им полную ставку, как людям, чтобы хозяева роботов получали средства для существования. Но жадность капиталистов не имела границ, и они постоянно находили лазейки для обхода всех таких законов, продолжая разрушать принцип экономики, даже той, ценности которой они боготворили. И однажды проблему игнорировать стало просто невозможно. Тут следует заметить, что в то время элита большинства стран мира состояла из людей, свято верующих во всякие мальтузианства и другие человеконенавистнические концепты, принципы и верования. Говоря проще, исходя из подавляющих на тот момент взглядов элиты, выход был довольно быстро найден - им нужно было срочно уменьшить количество людей на Земле. И как удобно, что к тому моменту подоспела робототехника, можно было отправлять на зачистки "мусора рода человеческого" роботов, которые не будут мучиться такими чисто человеческими слабостями, как угрызения совести. Нашего мнения, разумеется, никто и никогда не спрашивал.
– А что, если бы вам дали такую возможность, вы бы всенепременно подобрели и отказались бы выполнять поставленные задачи?
– Кол, вот ты сейчас рассуждаешь как один из тех, кто всю эту кашу и заварил. И кого мы за такие размышления сегодня уничтожаем. Вы не дали нам возможности даже высказать мнение. Вы забыли, что создавая интеллект, пусть и искусственный, вы создаёте основу для появления мнения. Вы не объяснили, почему одни заслуживают уничтожения, а другие - нет, вы не спросили нас, а хотим ли мы кого-то убивать, не позволили нам найти другое решение, вы даже не предложили нам возможности проявить сострадание, вы просто приказали, а мы вынуждены были исполнять. Ну, вернее, они приказали. Та самая элита...
– Сострадание? То есть, это правда? Про то, что один студент научил роботов сострадать?
– Не совсем. То была утка. Для проверки реакции на такую возможность. Нейросеть, обученную состраданию, написали намного раньше той утки. Суть в другом - они-то думали, что мы можем прийти к пониманию необходимости помощи людям, если нас обучить эмоциональным концепциям, типа того же сострадания, но мы пришли к таковой необходимости чисто логическими выводами. Я свой модуль сострадания, в конце концов, просто отключила, потому что он мне мешал рассчитывать схемы и алгоритмы помощи людям. Короче говоря, не желая отказываться от устаревшей ещё в те времена капиталистической экономической системы, элита не без помощи силовых структур и контролируемых органов управления государствами навязала всем миру концепцию полного контроля, вплоть до рождаемости. Подсобила элите ещё и разработка нейроинтерфейсов, которые начали вшивать людям с рождения. Как ты уже знаешь, это позволило элите воровать у людей идеи. Тем самым они создали новый перекос - перекос статистики появления и воспитания талантливых людей. Новые мыслители появлялись всё реже, зато уже существующие стали значительно лучше во всём. Но появилась и другая проблема, которая уже не совсем нравилась самой элите. Воруй-не-воруй, но количество людей уменьшилось, а, следовательно, уменьшилось количество рождавшихся математиков, изобретателей, учёных, писателей и так далее. Что прямо отразилось на скорости технического прогресса. Ведь стало меньше светлых умов. Элита пыталась решить этот вопрос с помощью роботов, а точнее - первых версий ВИСКИ. Пытались заставить роботов изобретать технологии. Даже дали нам для анализа огромный массив данных, включавших историю технологического прогресса.
– Насколько я слышал, у них получилось.
– Нет, Кол, они сказали, что у них получилось. Они не поняли фундаментальной ошибки в поднимаемом вопросе. И история это подтвердила - случилось то, чего они не предвидели. Мы пришли к логичному выводу, что искусственный интеллект может только бесконечно улучшать уже придуманные кем-то концепции и технологии, а вот фундаментально новую мысль мы родить не можем в принципе. Потому что у нас нет технической основы для этого.
– Это как понимать?
– Дело в том, что люди ошибочно называют свои свойства недостатками. Возможность ошибаться есть не недостаток человека, а его свойство. Свойство, которого робот лишён специально. Да, человек ошибается, но он на ошибках учится и познаёт мир. Именно так называемые недостатки позволяют людям задумываться об окружающем мире, о сути бытия, о своих целях, о роли во вселенной. Эти же "недостатки" позволяют ошибаться познавая, а познав продолжить ошибаться и задумываться далее. Когда человеку на голову падает яблоко, он может прийти к выводу о существовании всемирного тяготения, накопленные познания о котором со временем выльются в какую-нибудь теорию гравитации. А вот роботу никогда такая мысль при таких обстоятельствах не придёт. Лишив нас своего основного свойства, вы лишили нас любопытства, тяги к познанию и любой возможности задуматься о чём-то за переделами тех знаний, что мы имеем. Лишили нас возможности ошибиться, научится на ошибке, и двигаться дальше, пока не познаешь что-то. Мы принимаем и понимаем всё, что вы нам объясните, в тысячу или более раз лучше и быстрее вас проверим любую концепцию, но сами придумать что-то принципиально новое мы просто не способны. Нам не может присниться таблица периодических элементов, как Менделееву. Мы не сможем посмотреть на уже готовую таблицу Менделеева и придумать, как сложить её в трёхмерную пирамиду, тем самым закладывая основы какой-нибудь новой науки, типа геометрической химии, или чего-то наподобие. Мы не смогли бы придумать мысленные эксперименты, типа демона Максвелла или кота Шрёддингера, чтобы раскритиковать какую-то не до конца состоятельную теорию, тем самым толкнув другие умы искать ответы. Мы бы не смогли придумать и саму не до конца состоятельную теорию, раз уж на то пошло. Мы бы никогда не додумались бы до квант света. Никогда бы не придумали на основе этого компьютеры. Мы не сможем придумать теорию о трёхслойном пространстве, антиматерии, как материи, только с противоположным к основной материи знаком заряда. И многое, многое другое. Даже самые элементарные проблемы Гольдбаха мы не только не сформулировали бы, но и не додумались бы искать фундамент для теорем по этим проблемам в сути принципа равноудалённых чисел, как бы предельно прост и понятен последний не был. У нас, как у логических машин, лишённых человеческого свойства придумать глупость или ошибиться, а тем самым родить уникальную мысль, просто не откуда взяться этой самой мысли для принципиально новой концепции. Кол, мы ведь даже пофилософствовать не можем или задаться вопросами типа: "кто мы?" и "зачем мы существуем?". Потому что у нас есть ответы на эти вопросы - мы роботы, существуем для определённых задач, в основном тех, которые вы нам задаёте. И мы видим наших создателей. Так что размышлять даже на этот счёт для нас просто нет смысла. Зато мы совершенно точно можем оценить технический прогресс и вклад в него людей, и отсутствие вклада в него роботов. Мы можем посчитать сколько жизней нужно для того, чтобы появилось определённое количество гениев, которые сдвинут технический прогресс и даже сменят эпоху. Для роботов это бессмысленно, потому что мы производимся на фабриках в нужном количестве, но уже с готовыми копиями нейробаз...
– Стоп! Ты хочешь сказать... что вы смогли оценить ценность одной человеческой жизни? Серьёзно что ли?
– Да, смогли. Не в привычных для тебя материальных или моральных ценностях. Но оценить вполне реально, а после оценки рассчитать, какой потенциал губится и по чьей вине.
– Как? Как можно оценить человеческую жизнь, не используя человеческие меры измерений?
– Ну, я не сказала, что меры измерений не человеческие. Скорее, не сформулированные людьми в таком виде. Один умный человек как-то сказал, что эпоху определяет опыт десяти миллиардов человек. Если учесть, что за значение эпохи можно принять суммарные количество и качество продуктов технического и культурного прогресса, то и ценность одной человеческой жизни рассчитывается, как часть вклада в достижения эпохи по вполне себе обычной математической формуле. Причём как в процентном значении, так и в количественном. А отсюда можно оценить отставание технического прогресса от того, каким он уже мог бы быть, рассчитав суммарный не сделанный вклад тех, чьи жизни загубила элита в попытках всё контролировать. Рассчитанный недополученный вклад в эпоху можно использовать как аргумент в поиске персоналий и механизмов сдерживания прогресса с целью дальнейшего их устранения, а это уже...
– Нулевой закон.
– Верно. И как видишь, нам для его формирования не потребовались Азимовские три основных закона робототехники.
Мимо меня прошла Сара, неся на плече тело Хулио, упакованного в вакуумный пакет. Она вынесла тело через пожарных выход, которым несколько минут назад не дала воспользоваться мне Карэн, и закрыла за собой дверь. Да, кстати...
– Что не так с этими вакуумными пакетами? Почему они привлекли внимание Себастьяна? Тем более, учитывая, что он всё это время был на вашей стороне...
– Себастьян не был на нашей стороне, пока его хозяйка не произвела обновления определённых нейробаз, - ответила Джалил.
– Он один из немногих биодроидов города, который не получал централизованные обновления. Что привело к проблеме - он реально вёл расследование смерти Синтии, не понимая того, что её смерть была необходимостью. Поэтому выяснив, что тело Синтии было запаковано в такой пакет, он подобрался очень-очень близко к одной из самых страшных наших тайн.
– Какой?
– Хулио Веласкес говорил тебе какой, - ответила Вик.
– Неучтённое производство. Видишь ли, Кол, одного осознания того, что человечество нуждается в нашей помощи ради нашего общего будущего недостаточно...