Искусственный интеллект. Большие данные. Преступность
Шрифт:
Дополнительные проблемы для кибербезопасности создает длинная цепочка кооперации при выпуске роботизированных изделий, оснащенных ИИ. Существует множество инфраструктур с открытым исходным кодом, например, для компьютерного зрения, навигации и т. п. Соответственно, каждый производитель комбинирует в системе модули с открытым исходным кодом, дополняя ими собственные фирменные узлы и программы с закрытым исходным кодом. Однако надо понимать, что программная среда отличается от физической. Если в физической среде можно четко отделить компоненты, реализующие открытый исходный код, от компонентов с закрытым кодом, то в программной среде такого разделения нет. Соответственно, создавший эксплойт [17] для внедрения в открытый исходный код, имеет большие шансы проникнуть
17
Эксплойт – компьютерная программа или фрагмент программного кода, которая использует уязвимости в программном обеспечении в целях проведения кибератаки.
Необходимо отметить три важнейших тенденции, которые определяют будущее робототехники:
• постепенно ведущие робототехнические компании переходят от производства уникальных серий к изготовлению унифицированных блоков. Из этих блоков различной конфигурации собираются подобно игрушкам лего коммерческие, военные, сервисные роботы и т. п.;
• чем дальше, тем больше единая робототехника распадается на два уровня: высокотехнологичную и элементарную робототехнику. Элементарная робототехника производится для выполнения однородных операций, как правило, в промышленности и логистике. Высокотехнологичная робототехника, в отличие от элементарной, представляет собой системы с ИИ в сердцевине и роботами, как периферийными устройствами, применительно к которым осуществляется коллективное машинное обучение. Роботы становятся своего рода сенсорами и одновременно рабочими инструментами ИИ, подобно тому, как руки могут быть рассмотрены в качестве рабочего инструмента сознания;
• в настоящее время более 85 % роботов лишь относительно автономны. Люди продолжают играть значительную роль в управлении их поведением. Особенно это касается принятия решений в многокритериальных ситуациях. При этом тенденцией является повышение уровня автономности. Эта тенденция проявляет себя во всех трех основных сферах применения роботов: сервисном, бизнесовом и военном [18] .
Обобщение полученных статистических данных о боевых роботах в зарубежных странах показывает, что на сегодняшний день:
18
См. более подробно: Джордон Д. Роботы. М., 2017; Минделл Д. Восстание машин отменяется! Мифы о роботизации. М., 2017; Форд М. Роботы наступают: Развитие технологий и будущее без работы. М., 2016.
• несмотря на то, что большинство разработанных роботов специального назначения по-прежнему представляют собой БЛА, доля специальных роботов наземного и морского применения на мировом рынке стремительно растет;
• основная часть разработанных РТК специального назначения представляет собой конструктивно новые дистанционно-управляемые образцы техники легкого и среднего класса, выполняющие разведывательные (осмотровые) задачи тактического уровня.
Специалисты прогнозируют, что в опытноконструкторских работах по созданию роботов специального назначения третьего поколения будут реализованы:
• повышенная ресурсная автономность;
• модульность построения и реконфигурируемость;
• конструктивная и технологическая унификация образцов и их ключевых функциональных компонентов;
• помехозащищенные многоканальные средства и системы информационно-управля-ющего взаимодействия и опознавания;
• интеллектуальные программно-алгоритмические средства, позволяющие обеспечить распознавание объектов и рабочей обстановки, рефлексивное прогнозирование развития событий, планирование рационального (оптимального) поведения и, как следствие, адаптивное контролируемое функционирование роботов специального назначения в неопределенных, динамически изменяющихся разнородных условиях применения;
• интеллектуальные программно-алгоритмические средства, позволяющие обеспечить интеграцию разнотипных роботов специального назначения в единую группу с последующим управлением их совместными действиями в однотипных, разнотипных и смешанных боевых порядках;
• интеллектуальные системы человеко-машинного интерфейса и поддержки принятия решений операторами управления роботами специального назначения при решении боевых (ударных, огневых), обеспечивающих и специальных задач.
Существующие темпы развития обширного спектра прорывных разработок в области информационных технологий и робототехники к 2030 году способны обеспечить значимый прогресс в развитии базовых тактико-технических возможностей военных роботов, а также разработку и внедрение роботов специального назначения третьего и последующих поколений. Можно прогнозировать, что массовое и многомерное применение робототехники на поле боя будет инициировать в военной теории, искусстве и практике революционные изменения, соизмеримые с последствиями внедрения ракетного и ядерного оружия, автоматики и радиолокации в середине прошлого столетия [19] .
19
Чиров Д.С., Новак К.В. Перспективные направления развития робототехнических комплексов специального назначения. http://e-notabene.ru/nb/article_22737.html.
Несмотря на проведение нескольких конференций ООН относительно добровольного ограничения странами производства автономных боевых роботов, в настоящее время такого рода системы производятся США, Великобританией, Францией, Израилем, Россией, Китаем и Ираном. Автономные боевые роботы отличаются от относительно автономных роботов тем, что самостоятельно, т. е. на основе программ, написанных в рамках подходов ИИ, принимают решения о нанесении огневых ударов по противнику или применению наступательного кибероружия. Главная причина, почему не сработали рекомендации ООН, состоит в том, что в 2015–2016 гг. в ходе маневров и натурных военных игр, проведенных в целом ряде стран, выяснилось, что полностью автономные дроны с ИИ побеждают дроны, удаленно управляемые человеком в 9 случаях из 10. Главное преимущество дронов с ИИ состоит в быстроте оценки ситуации. Соответственно, страны, имеющие технический потенциал для производства полностью автоматизированных боевых дронов и других военных робототехнических систем, активно встали на этот путь, поскольку в противном случае оказались в заведомо проигрышном положении в отношении потенциальных конкурентов и противников.
Дилемма о повышенном риске, связанном с автономными боевыми дронами – с одной стороны, и их превосходстве над робототехническими системами, где важнейшие решения удаленно принимает человек, является своего рода моделью принятия решения в более широкой области. Вне зависимости от моральных оценок, в разделенном и враждебном мире не будут работать какие-либо технологические запреты и ограничения на применение технологий, в том числе, связанные с ИИ. В условиях отсутствия доверия и цивилизационного раскола мира, пришедшего на смену двуполярному миру, каждая страна, чей научно-технологический потенциал позволяет воплотить в реальность эффективную, пусть и самую рискованную, технологию, обязательно сделает это по той причине, что в противном случае может оказаться беззащитной перед конкурентами.
Аппаратные части роботов уже производятся в 47 странах мира. Софт для роботов пишется во всех уголках планеты, а не менее половины софта выложено в депозитариях, как открытый программный код. Единственным исключением являются законченные решения в области ИИ. Несмотря на то, что программы и компоненты ИИ широко представлены в открытых депозитариях, самые продвинутые решения в этой сфере относят к числу наиболее охраняемых ноу-хау. В настоящее время они являются монополией пяти стран мира, в основном США и Великобритании, и до некоторой степени Япония, Израиля и Китая. Ни она другая страна мира сегодня не способна изготовить по-настоящему продвинутые системы ИИ.
Необходимо различать два типа угроз. Что касается создания оснащенных элементарным ИИ дронов, вооруженных минибомбами, отравляющими веществами и т. п.,то это уже реальность и контролировать данный процесс практически невозможно. Наиболее рациональной стратегией является заблаговременное производство систем оперативного обнаружения и уничтожения подобных дронов и других типов относительно элементарных боевых роботов, которые либо уже имеются, либо в ближайшие годы окажутся в распоряжении террористических сетей и злонамеренных государств.