НеВенец творения. Всё, что вы боитесь знать о будущем
Шрифт:
Конечно, очень здорово, что такой уважаемый в мире высоких технологий человек, как Тим Бернерс-Ли, озаботился столь важной проблемой, как состояние интернета, но… есть ощущение, что его идеи немного запоздали, приблизительно лет на пятнадцать.
Кроме того, Бернерс-Ли обходит стороной ключевой, на самом деле, вопрос. Для того, чтобы реально воплотить в жизнь возвышенные «принципы безопасного интернета», нужно… запретить использование технологии Big Data, то есть сбор любых персональных данных. А ведь без «больших данных» невозможно обучать нейросети, то есть развивать искусственный интеллект. А это уже прямое нарушение третьего
В общем, учитывая, что интернет уже давно стал ареной настоящей кибервойны между конкурирующими государствами и способом получения высокотехнологичными корпорациями сверхдоходов путем эксплуатации «экономики внимания» и использования персональных данных граждан (зачастую без ведома самих пользователей), ожидать, что кто-то немедленно бросится исполнять «заветы Тима», бессмысленно.
Это подчеркивает Бенджамин Гарфилд, научный сотрудник Школы медиаискусств и технологий Солентского университета в Великобритании, в интервью медиапорталу «The Conversation»: «Алгоритмы таких компаний как Google, Facebook и Twitter определяют, что люди видят в интернете. Google зарабатывает на людях, которые пользуются его бесплатными услугами, за счет сбора данных пользователей для создания таргетированной рекламы, и его бизнес-модель вряд ли изменится в одночасье. Для успеха интернет-реформы потребуется сотрудничество между правительствами разных стран для эффективного регулирования работы технокомпаний, а также реакция со стороны пользователей».
Похоже, риски для «вычислительных машин предыдущего поколения», или, как любят выражаться ученые-биологи, «наборов из 46 хромосом», будут только возрастать. Для того, чтобы полностью устранить их, пользователю нужно не только соблюдать множество правил «киберграмотности», но желательно еще и разбираться в информационных технологиях, понимать, что, с точки зрения собственной безопасности, делать необходимо, а чем можно пренебречь, дабы не слишком усложнять собственную жизнь. Впрочем, то же самое можно сказать и о финансовой грамотности: как говорится, лучший способ быть финансово грамотным – это получить профильное образование.
Поэтому, принимая во внимание киберриски, возникшие для людей с появлением новых технологий, наверное, не стоит сильно преувеличивать именно их. В конце концов, технологические риски были всегда: с изобретением железных дорог и автомобилей появился риск попасть под поезд или машину, с появлением самолетов неминуемо возник шанс попасть в авиакатастрофу.
Тем не менее, в последние годы появилось немало рисков глобального масштаба, о которых стоит поговорить отдельно. Один из них – стремительное развитие военных технологий.
В 2019 году высокотехнологичные гиганты Amazon и Microsoft подтвердили, что, невзирая на протесты сотрудников, будут принимать участие в военном проекте Соединенных Штатов – JEDI, направленном на «повышение смертоносности» вооруженных сил Пентагона с помощью искусственного интеллекта. Alphabet (Google) публично отказался участвовать, сославшись на корпоративную этику.
Повсеместно искусственный интеллект все активнее используют в военных проектах, дискуссия об этичности этого публично не ведется, а риски не афишируются. Неудивительно, что мировые лидеры уже не рассматривают войну как нечто далекое и фантастическое, думая и даже говоря так, как в 2019 году выразился
Появляются и совершенно новые технологии, такие, как, например, Автономные Боевые Системы (АБС). Это боевые роботы, которые смогут самостоятельно принимать решение о применении смертоносного оружия, и они становятся все более популярной идеей в военных ведомствах разных государств мира. США, Великобритания, страны ЕС, Китай, Россия, Индия, Израиль, Южная Корея – это далеко не полный перечень государств, значительно продвинувшихся в последние годы в разработке АБС.
Руководство Пентагона не скрывает, что в ближайшие годы Автономные Боевые Системы станут неотъемлемой частью вооруженных сил США. При этом противники технологии резонно указывают, что искусственный интеллект не может на свое усмотрение принимать решение о применении летального оружия. Представители военных ведомств в ответ замечают, что прогресс достиг такого уровня, что повсеместное распространение АБС становится лишь делом времени. Ведь такой робот гораздо менее уязвим, чем солдат из плоти и крови, дешевле в эксплуатации, а (самое главное) практически любую его ошибку при желании можно списать на технический сбой.
Несмотря на жаркую дискуссию вокруг использования Автономных Боевых Систем, страны, пытавшиеся обратить внимание на опасность технологий АБС для человечества, в свое время даже не смогли получить мандат на создание рабочей группы по обсуждению этого вопроса в рамках Организации Объединенных Наций. Ведь плюсы Автономных Боевых Систем для оборонных ведомств всех стран мира настолько очевидны, что долгосрочными рисками, похоже, будут пренебрегать до последнего. Кстати, пренебрежение долгосрочными рисками ради краткосрочных выгод уже стало мировым трендом.
Об огромных рисках использования АБС с искусственным интеллектом предупреждает Лора Нолан, бывшая сотрудница Google, работавшая в этой мегакорпорации над проектом по усовершенствованию технологии военных беспилотников. Она уверена, что, в отличие от беспилотных летательных аппаратов, которые контролируются операторами, зачастую находящимися за тысячи километров от места дислокации беспилотников, Автономные Боевые Системы могут совершать «ужасные вещи, для которых они изначально не были запрограммированы».
Она считает, что автономные роботы-убийцы, не управляемые человеком, должны быть запрещены международным договором наподобие тех, которые запрещают химическое или биологическое оружие: «Вероятность катастрофы прямо пропорциональна тому, сколько этих машин будет находиться одновременно в конкретном районе… Может случиться все что угодно, если роботы начнут вести себя неожиданным образом. Поэтому любые передовые системы вооружений должны полностью контролироваться человеком, в противном случае они должны быть запрещены, потому что слишком непредсказуемы и опасны».
Очень хочется надеяться, что такие боевые системы все-таки не будут полностью автономными. Ведь любое вторжение кибертеррористов в системы принятия решений АБС может привести к поистине катастрофическим последствиям – тем более что сетевые злоумышленники с усилением темпов технологического прогресса тоже прогрессируют. В 2019 году на одной из конференций хакеров была продемонстрирована программа, которую было возможно настроить так, чтобы она самостоятельно генерировала вредоносное (вирусное) программное обеспечение.