Роботы-убийцы против человечества. Киберапокалипсис сегодня
Шрифт:
Этот доклад призван детально выявить основные эксплуатационные характеристики БАРС, создаваемые ими преимущества, а также новые типы операций, в которых могут быть использованы БАРС.
Пока БАРС используются либо для замены людей, либо как средства поддержки воинских подразделений. В докладе мы специально остановимся на принципиально новых, радикально разрушительных возможностях, которые открывает использование БАРС без участия воинских подразделений. Мы покажем принципиально новые преимущества, открываемые использованием БАРС как разведывательно-ударного, не зависящего от людей на поле боя, роя. Этот рой может быть охарактеризован как Разведывательно-Ударная Боевая Сеть (РУБС), обладающая следующими ключевыми характеристиками:
• мобильностью и отсутствием преград для доступа;
• незаметностью и низкой распознаваемостью для средств противника;
• масштабируемостью и пластичностью состава БАРС, входящих в рой;
• высочайшим уровнем координации действий и взаимной
• разнообразием реализуемых функций и выполняемых задач;
• скоростью.
Преимущества БАРС
В соответствии с «Дорожной картой БАРС» FY 2013-2038, принятой министерством обороны США, использование БАРС нацелено на «монотонные, грязные и опасные миссии». Такое понимание БАРС драматическим образом ограничивает их потенциал. В Дорожной карте под роботизированными устройствами понимаются два принципиально разных типа систем: собственно БАРСы и платформы и транспортные средств, удаленно контролируемые, управляемые человеком, требующие его постоянного присутствия. Относительно второго типа систем некорректно применять термин БАРС. Более правильно использовать термин «Человеко-машинные системы и платформы».
БАРС в чистом виде предполагает два ключевых преимущества:
• высокую эффективность, связанную с отсутствием различного рода преград, имеющихся для человека в различных средах, чрезвычайно высокие возможности проникновения, скорость, невидимость и, в случае необходимости, самая различная размерность;
• нечувствительность к рискам. Потерять платформу и человека – риски несоизмеримые.
Боевые роботизированные системы используются сегодня по-разному. В Ираке и в Афганистане активно применялись наземные роботы-саперы, разминировавшие и разрядившие тысячи самодельных взрывных устройств. В авиации всеобщее признание получили такие беспилотники, как Predator и т. п. за их способность выполнять функции непрерывно в течение 24 часов на самых различных высотах. При этом следует заметить, что и наземные роботы, и дроны не являются БАРСами, а представляют собой человеко-машинные системы, в которых человек осуществляет удаленное управление и контроль над роботом. В принципе, эти системы мало чем отличаются от использовавшихся Советами в 70-е годы прошлого века автоматизированными средствами исследования Луны, типа лунохода. При этом, подобные человеко-машинные системы весьма эффективны, поскольку позволяют снизить самые неприемлемые потери для американской армии – потери личного состава. Операторы роботов-саперов и дронов могут многократно меняться в ходе сеанса использования роботизированных систем без ущерба для выполнения боевых функций. Любопытно, что даже в этих условиях, как показали исследования военных психологов, операторы роботов-саперов и дронов подвержены чрезмерным эмоциональным и психологическим перегрузкам. Результатом является недостаточная эффективность выполнения боевых миссий, и большое количество ошибок, особенно в случае дронов, повлекших за собой бессмысленные жертвы среди мирного населения. Дроны, повинуясь управляющим командам операторов, атаковали вместо Аль-Каиды бойцов Талибан, мирные караваны и деревни. Широкое освещение этих случаев в средствах массовой информации не только нанесло вред внешней политике и национальной безопасности нашей страны, но и бросило несправедливую тень на использование робототехнических систем на поле боя. Как это ни парадоксально, ошибки происходили не из-за того, что человек был выключен из этих систем, а из-за того, что операторы играли в них слишком большую роль.
Внимательно анализируя эволюцию роботов-саперов и дронов можно без труда обнаружить, что процесс идет в направлении сокращения присутствия оператора и уменьшения функций, выполняемых ими. Например, MQ-1 Predator требует большего участия человека, чем MQ-1C Gray Eagle или RQ-4 Global Hawk. Более автоматизированные дроны показали особо высокую эффективность как с точки зрения решения боевых задач, так и минимизации атаки ложных или ошибочных целей, а также потерь устройств из-за ошибок операторов. Если брать наземных и морских роботов, то здесь эта тенденция также действует. При этом в отличие от дронов, степень автоматизации наземных и морских роботов обратно пропорциональна размерам.
Необходимо подчеркнуть, что в реальности все возможности боевых человеко-машинных систем пока не используются. И дело здесь даже не в том, что эти системы отличаются от БАРСов, но и в том, что пока многие роботизированные системы стоят очень дорого. В этих условиях их применение сдерживается опасениями командования потерять столь дорогостоящие системы. До сегодняшнего дня применяемые в вооруженных силах роботизированные системы являются результатом многочисленных компромиссов, связанных с порядком формирования производственных программ и тендеров. Этот порядок не позволяет принять участие в конкурсах наиболее инновационным молодым командам, стартапам и университетским группам, которые в результате разрабатывают различного рода гражданских роботов, существенно более эффективных, чем техника, используемая Пентагоном. Бюрократические процедуры, зацикленность
Эффект автономности
Автономность – это способность машины (робота) выполнять задачи без участия человека. Автономные роботы не предполагают наличия управляющего оператора. Автономия позволяет добиться нескольких ключевых эффектов, включающих в себя:
• увеличение надежности и повышения выживаемости;
• быстроту реакции и повышение адаптивности;
• повышение точности и десубъективизация при выполнении задач, элиминация человеческих ошибок;
• способность осуществлять операции в высокорискованной, либо вообще не приспособленной для присутствия человека среде, или в среде, требующей от дистанционного оператора невыносимых эмоциональных и сенсорных нагрузок.
Автоматизированные функции выполняют не только БАРС, но и человеко-машинные системы. Такая ситуация характерна не только для военного, но и для гражданского сектора. Однако именно в гражданском секторе мы в наиболее наглядном виде видим эволюцию роботизированных систем. Сначала автомобили были полностью механическими. Затем появились автоматические коробки передач, автоматические приборы контроля устойчивости, сцепление, подушки безопасности и т. п. Относительно недавно автомобили получили датчики дистанционного контроля при парковке, круиз-контроль и т. п. Сегодня на улицах уже нескольких американских городов ездят автомобили Google, которые, по сути, представляют собой автономные робототехнические средства. Пассажиры автомобилей Google никоим образом не участвуют в управлении. По тому же пути будут неизбежно развиваться и военные АРСы.
Когда мы рассматриваем вопрос автономии ро-бототехнических систем, его нужно изучить по трем параметрам:
• первый – распределение функций командования и контроля между человеком и машиной;
• второй – уровень комплексности робототех-нической системы;
• третий – каким образом в системе принимаются решения о ее действиях.
Машины, которые в одних ситуациях действуют автономно, а в других – нуждаются в решении и управляющем воздействии человека, называют полуавтономными. Как правило, человек вмешивается в такие системы в случае возникновения нештатных операций. В полуавтономных системах предусмотрено два контура управления – чисто автоматический и человеко-машинный при выявлении неисправностей, либо при сигнализировании об определенных ситуациях, связанных с необходимостью принятия именно человеческого решения. Полуавтономные системы получили особое развитие в конце прошлого века и в начале нынешнего веков. Их распространение было связано с тем, что до самого последнего времени существовала твердая убежденность относительно способности машин принимать решения более оптимальные, чем человек только в стабильных, устойчивых, так называемых – счетных ситуациях. Однако с появлением Больших Данных и соответствующих методов их обработки и анализа, включающих «глубокое обучение» и самосовершенствующиеся программы, выяснилось, что во многих нестабильных, неопределенных ситуациях машины принимают более эффективные решения по сравнению с человеком. Поэтому сегодня все большее распространение в гражданском секторе и бизнесе получают полностью автономные робо-тотехнические системы.
Следует отметить, что автономность характеризует не только взаимоотношения между человеком и машиной, но и уровень сложности системы. Так случилось, что термин «автоматический» используется, как правило, для простых систем, базирующихся на элементарных механических и электромагнитных эффектах. Термин «автоматический» привычно применяется к самодельным минам в военном деле или тостерам и механическим термостатам в быту. Когда появились первые самоуправляющиеся машины, использующие последние достижения программной инженерии, их сразу стали называть автономными. Поэтому традиционно автономными системами называют сложные системы, предусматривающие такие программные решения, как нейронные сети, глубокое обучение, самосовершенствующиеся программы и т. п. Наконец, несколько слов следует сказать по процессу принятия решения.
Автономными, как правило, называются роботизированные системы, где функция принятия решений реализована через те или иные программные продукты, размещенные в самом устройстве, либо в «облаке». В автономных системах блок принятия решений представлен сложными разнообразными алгоритмами и не требует присутствия человека. Фактически автономные роботизированные системы обладают полной независимостью в решении, по крайней мере, некоторых из поставленных перед ними задач. Например, на самой ранней стадии дроны были автономны в части решения задач навигации, обеспечения полета и т. п., но человек принимал окончательные решения об открытии огня на поражение. На наш взгляд по критерию принятия решений подавляющая часть систем пока является автономной. Лишь в последние пару лет появились БАРС, где решение об открытии огня принимается на алгоритмическом уровне.