Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего
Шрифт:
В рамках подключенного государства полиция не только активно использует данные видеонаблюдения, но и с каждым годом все больше доверяет автоматизированным системам распознавания образов на основе анализа поточного видео. Программным обеспечением систем распознавания образов являются обучаемые нейросети. В 2017 году группа информационной безопасности корпорации Google опубликовала доклад. Из него следует, что команда программистов и инженеров Google смогла найти уязвимости во всех основных наиболее эффективных системах распознавания образов, в том числе выпущенных Google, Amazon и Apple. Удалось экспериментально установить, что, используя уязвимости в программах распознавания лиц, можно удаленно и незаметно внести корректировки в алгоритмы обучения нейросети. Более того, оказалось возможным исключить определенных лиц из процесса обучения
Кроме того, существуют инструменты, позволяющие добиваться от нейросетей строго определенных ошибок. Их итогом становится неправильное распознавание. Программа неточно устанавливает принадлежность и не распознает преступников и в то же время маркирует благонамеренных граждан как криминальных элементов. В рамках этого исследования была протестирована система распознавания лиц Amazon Recognition. В результате взлома программы обучения удалось сделать так, что программа среди преступников, которых ей удалось опознать, установила 28 членов Конгресса США. Эти 28 членов были поименованы как преступники, которые были замечены камерами городского наблюдения Вашингтона, Нью-Йорка за совершением преступных действий. Все это происходило, когда Конгресс был на каникулах, и узнанные конгрессмены вообще не могли попасть в поле зрения видеокамер в Вашингтоне и Нью-Йорке, поскольку пребывали в своих округах. Стоимость каждого лжеопознания составила $ 12,33.
Из приведенного примера видно, что по мере перехода к подключенному государству и все более активному использованию автоматизированных систем анализа видеопотоков криминал может подменять реальность, делая виновных невиновными и наоборот. В ближайшие годы это, скорее всего, будет доступно лишь для небольшого числа высокопрофессиональных специалистов, однако в последующем окажется под силу квалифицированным хакерам, специализирующимся на преступлениях, связанных с IoT;
– использование IoT для создания криминальных армий. Уязвимости в безопасности IoT уже в настоящее время обнаруживаются не часто. В будущем же специалисты прогнозируют, что IoT будет доступен для хакеров даже больше, чем уязвимые смартфоны. В 2016–2017 годах была разработана вредоносная программа Mirai. Зловред автоматически распознавал и идентифицировал устройства с уязвимостями и подключал их к сети. Mirai удалось собрать и использовать в течение года в криминальных целях армию ботов из более 3 млн незащищенных IP-камер, роутеров и других устройств IoT. Армия использовалась для целенаправленных атак на банки со штаб-квартирами в США и Великобритании, а также для похищения личных данных и платежных реквизитов из розничных сетей в странах ЕС. Вполне очевидно, что с каждым годом масштабы создания криминальных бот-армий из IoT устройств будут возрастать. Поскольку атака армий, включающих миллионы устройств, крайне трудна для отражения, то данная опасность должна быть купирована на начальной стадии, иначе будет поздно.
Во второй половине двадцатых годов нынешнего века экспоненциальные темпы развития информационно-коммуникационных технологий в их сегодняшнем виде станут сами по себе создавать угрозы для национальной и глобальной безопасности. В нынешнем конфликтном, все более деструктивном мире риски неконтролируемого развития ИКТ, включая IoT, накладываются на неуклонный рост могущества небольших и даже малых – в составе пяти-семи человек – деструктивных группировок хакеров, киберкриминала и террористов. Уже сегодня небольшие группы будут способны поставить под угрозу жизнедеятельность не отдельных домов или кварталов, но мегаполисов, а возможно и различного рода критических сетей. Главная проблема состоит в том, что, по оценкам большинства «фабрик мысли», специализирующихся на высоких технологиях, например, Центра новой американской безопасности для того, чтобы полностью защитить свое киберпространство в эпоху Интернета всего Соединенным Штатам ежегодно надо тратить до 3–5 % государственного бюджета, как минимум. Covid-19 также стимулирует дальнейшие инвестиции в корпоративный сектор IoT. В условиях длительного периода низких темпов экономического роста это просто невозможно. Уже сегодня Соединенные Штаты, а также Япония и Великобритания стали крепостями, которые невозможно защитить не только от вражеских киберармий, но и от банд молодых хакеров и небольших киберпреступных группировок, действующих поверх границ, и игнорирующих любые государственные соглашения и договоры.
1.2. Интернет тела
Неутомимый Илон Маскв рамках проекта Neuralink планирует в благих намерениях (помочь больным и обездвиженным) провести испытания нейроинтерфейса на людях и вживить нейрочип в мозг человека уже в 2022 году. На свиньях и обезьяне он уже удачные испытания провёл. Обезьяна с чипом даже поиграла в видеоигру. А реакции свиней стали похожи на реакции человека. Видимо, конечной целью является достижение результата, когда люди станут управляемые как свиньи. А что ещё внедряют людям в мозг, сердце и другие части тела?
Со стремительным развитием микроэлектроники появилась возможность встраивать элементы, передающие информацию, в предметы гардероба (часы, кроссовки, майки и т. п.), а также широко использовать микроэлектронику в новом поколении медицинской техники, реализующей различного рода имплантаты – от чипов, контролирующих сахар в крови, до кардиостимуляторов и т. п. Устройства, подключенные к Интернету, которые человек носит на своем теле, которые проглатываются или имплантируются хирургическим путем в человеческое тело, позволяющие передавать информацию через Интернет, называют по-разному. По-английски – Internet of Bodies (IoB). На русском языке встречаются такие названия, как «Интернет людей», «Интернет тела», «бодинет».
С одной стороны, развитие IoВ технологий порождает огромное количество данных, связанных со здоровьем, которые могут улучшить благосостояние людей во всем мире и оказаться решающими в борьбе с пандемией Covid-19. С другой стороны, широкое распространение устройств IoВ порождает принципиально новые типы угроз, связанные с возможностью осуществления киберпреступлений, вплоть до нанесения тяжелых телесных повреждений и убийств, а также целевого точечного кибертерроризма. Сейчас в мире данная угроза рассматривается как актуальная, и как на государственном уровне, так и на уровне частных компаний разрабатываются конкретные меры по противодействию ей.
В октябре 2020 года американская корпорация RAND опубликовала доклад «Бодинет: возможности, риски и управление». В этом докладе обсуждаются тенденции технологического развития IoВ, описываются выгоды и риски для пользователя IoB и других заинтересованных сторон. Авторы представляют текущее состояние управления, которое применяется к устройствам IoB, и данные, которые они собирают, а также дают рекомендации, чтобы наилучшим образом сбалансировать эти возможности, риски и угрозы.
Что же такое IoB? Широкий спектр «умных» устройств, подключенных к Интернету, обещает потребителям и предприятиям повышенную производительность, удобство, эффективность и удовольствие. В рамках более широкого Интернета вещей (IoT) находится растущая индустрия устройств, которые контролируют человеческое тело, собирают информацию о здоровье и другую личную информацию и передают эти данные через Интернет. Эти новые технологии и собираемые ими данные называются Интернетом тела (IoB). Впервые термин использовала в 2016 году американка, профессор права и инженерии Андреа М. Матвишин.
Устройства IoB бывают различные. Некоторые уже широко используются, например, фитнес-мониторы с наручными часами или кардиостимуляторы, которые передают данные о сердце пациента непосредственно кардиологу. Другие, находящиеся в стадии разработки или недавно появившиеся на рынке, могут быть менее знакомы, например, продукты для приема внутрь, которые собирают и отправляют информацию о кишечнике человека, имплантаты микрочипов – устройств для стимуляции мозга, подключенные к Интернету.
Эти устройства имеют непосредственный доступ к организму и собирают огромное количество личных биометрических данных. Производители устройств IoB обещают обеспечить существенную пользу для здоровья и другие преимущества, но также несут серьезные риски, включая риски взлома, нарушения конфиденциальности или неисправности.
Некоторые устройства, такие как искусственная поджелудочная железа для диабетиков, могут произвести революцию в лечении болезней, в то время как другие могут просто завышать расходы на здравоохранение с небольшим положительным влиянием на результаты.
Общепринятого определения IoB не существует.
В докладе авторы называют IoB(или экосистему IoB)
устройствами IoB вместе с программным обеспечением, которое они содержат, и данными, которые они собирают.
Устройство IoB определяется как устройство, которое: