Будущее: рассекречено. Каким будет мир в 2030 году
Шрифт:
Но чем дальше, тем больше решений будут принимать и сами компьютеры. И именно здесь нам необходимо ввести меры безопасности на случай сбоя. В начале 2014 г. прошло сообщение, что один из мощнейших суперкомпьютеров в мире – японский K. – создал наиболее точную симуляцию человеческого мозга из когда-либо существовавших, которой требуется 40 минут на то, чтобы воспроизвести одну секунду человеческой мозговой деятельности. Ученые предполагают, что симуляция работы мозга в полном объеме будет возможна тогда, когда появятся еще более мощные компьютеры. Скорее всего, это произойдет в следующие 10 лет {104} . Понимание устройства человеческого мозга и способность воспроизвести его имеют широкое применение в медицине при лечении таких заболеваний, как болезни Альцгеймера, Паркинсона, и множества других нарушений работы мозга. Это также даст существенный стимул в работе над созданием искусственного интеллекта и применении больших данных.
104
Tiffany Trade. Supercomputer Models Human Brain Activity // HPC Wire // http://www.hpcwire.com/2014/01/15/supercomputer-models-human-brain-activity/.
Первые
105
http://en.wikipedia.org/wiki/Artificial_intelligence.
Мой коллега по Атлантическому союзу доктор Бэннинг Гаррет исследовал проблему мира, управляющегося алгоритмами, и рисков, с ним связанных {106} . Он отмечает, что прогресс в сфере алгоритмов привлек гораздо меньше внимания общественности, чем рост производительности микропроцессоров (причем скорость развития алгоритмов существенно выходит за рамки закона Мура). Скорости процессоров ускорились в 1000 раз, но за тот же период, с 1988 по 2003 г., работа алгоритмов улучшилась аж в 43 тысячи раз. Алгоритмы и интернет вещей, который все чаще называют интернетом всего, – союз, заключенный на небесах, вносящий существенный вклад в науку, здравоохранение, эффективное использование ресурсов и умные города. Однако вместе большие данные и алгоритмы могут привести к массированной атаке на личную информацию. Более того, есть огромный потенциал для злоупотребления алгоритмами прогнозирования. «Уже сегодня страховые компании и комиссии по условно-досрочному освобождению используют прогнозные алгоритмы, чтобы вычислять риски; в США все больше мест, где работа полиции осуществляется на основе прогнозирования, после обработки данных выбираются улицы, группы или отдельные люди, которые становятся объектами более пристального внимания», – рассказал Гаррет.
106
Garrett B. A World Run on Algorithms? // FutureScape, публикация Инициативы стратегического прогнозирования Атлантического совета, июль 2013 года // http://www.atlanticcouncil.org/images/publications/a_world_run_on_algorithms.pdf.
Как объяснил Гаррет, основной ограничивающий фактор для анализа алгоритмов заключается в том, что результаты основываются на корреляциях, а не причинной зависимости. В своей книге о больших данных Виктор Майер-Шенберг и Кеннет Кукьер объясняют, что корреляции хороши, если их можно обнаружить «гораздо быстрее и дешевле, чем причинную зависимость» {107} . Однако ложные корреляции могут привести к ошибочной оценке со всеми вытекающими: например, преследование правоохранительными органами невинных граждан на основе предсказанной склонности к совершению преступлений.
107
Майер-Шенбергер В., Кукьер К. Большие данные. Революция, которая изменит то, как мы живем, работаем и мыслим. М.: Манн, Иванов и Фербер, 2013.
Стэнфордский профессор и археолог Ян Моррис в своей последней книге «Война! Для чего она нужна?» начинает повествование с инцидента, который мог бы уничтожить большую часть мира, если бы не было системы защиты на случай сбоя алгоритма. Станислав Петров дежурил на командном пункте советской системы предупреждения ракетного нападения в Серпухове-15. Алгоритмы, над которыми работали Петров и его команда, зафиксировали 26 сентября 1983 г. запуск ракет из США. К счастью, Петров понял, что тревога ложная, и убедил советский Генштаб, что произошел сбой алгоритма. Ему пришлось принять решение за доли секунды и добиться того, чтобы его руководство отменило ответный удар {108} .
108
Morris I. War! What Is It Good For?: Conflict and the Progress of Civilization from Primates to Robots. New York: Farrar, Straus and Giroux, 2014. Моррис передал рукописные материалы, в которых упоминался этот случай.
Остается надеяться, что в будущем таких ложных тревог не будет. Однако пример ситуации, случившейся несколько десятилетий назад, еще до появления суперкомпьютеров, невероятного расширения использования и развития алгоритмов, ставших сегодня привычными во всех сферах жизни, а не только в системах предупреждения ракетного нападения, только подчеркивает опасность.
Гаррет справедливо предупреждает: неважно, насколько хорошо написаны и качественно протестированы алгоритмы. В реальной жизни существуют исключительные ситуации, и они возникают тогда, когда алгоритмы сталкиваются с непредвиденным сочетанием событий или факторов. А значит, кибербезопасность становится все более важной темой по мере того, как все больше «вещей» подключаются к интернету. С подключением новых устройств появляются новые уязвимые места, а для компаний, ориентированных на повышение эффективности систем коммутации, «безопасность не является главной заботой на этом высококонкурентном рынке» {109} . При наличии миллиардов устройств, запрограммированных выполнять разнообразные функции автономно и асинхронно, любой узел может стать вектором атаки на всю систему {110} . В конце концов, это мир, где «машины при помощи сложных алгоритмов и адаптивного поведения [теперь] ведут себя как разумные исполнители, действующие по поручению человека. Выполняя задачи от оптимизации организации движения до наблюдения за здоровьем пожилых или детального контроля использования электроэнергии, “интернет всего” призван сделать мир разумнее, а нашу жизнь проще. Но хакерам будет куда легче нанести серьезный ущерб в реальном мире» {111} . Уже было несколько тестовых случаев, когда компьютеризированные системы в современных автомобилях и электронные кабинеты для ведения медицинской документации продемонстрировали, насколько они уязвимы перед хакерской атакой {112} . Учитывая возможность серьезного ущерба или даже катастрофы, ключевым системам в будущем понадобится отдельная система для управления и мониторинга.
109
Burg D. The Internet of Things Raises New Security Questions. PricewaterhouseCoopers (PWC) blog, 2013. September 30 // http://usblogs.pwc.com/emerging-technology/the-internet-of-things-raises-new-security-questions/.
110
Haynes P., Campbell T. A. Hacking the Internet of Everything // Scientific American, 2013. August 1 // http://www.scientificamerican.com/article.cfm?id=hacking-internet-of-everything.
111
Haynes P., Campbell T. A. Hacking the Internet of Everything // Scientific American, 2013. August 1 // http://www.scientificamerican.com/article.cfm?id=hacking-internet-of-everything.
112
Haynes P., Campbell T. A. Hacking the Internet of Everything // Scientific American, 2013. August 1 // http://www.scientificamerican.com/article.cfm?id=hacking-internet-of-everything.
В мире, где машины будут управлять целыми системами без существенного вмешательства со стороны человека, необходимо найти пути обеспечения стабильности работы систем и выполнения ими изначальных функций и при этом минимизирования нежелательных последствий. Вспоминается знаменитый фильм Джозефа Лоузи «Слуга» (1963 г.) с Дирком Богартом в главной роли. По сюжету богатый молодой лондонец нанимает героя Богарта с качестве камердинера. Сначала эти двое формируют тихий союз, укрепляя свои социальные роли как хозяина-аристократа и прислуги, но по мере развития сюжета меняются ролями. Состоятельный лондонский житель становится все более зависимым и в результате полностью деградирует, а слуга все больше захватывает бразды правления. Такого будущего хотелось бы избежать.
Глава 4
Эра дефицита или эра изобилия
В июне 2012 г. я в рамках кругосветного путешествия отправился в Абуджу, столицу Нигерии, чтобы протестировать предварительную версию «Глобальных тенденций 2030». На первый взгляд Абуджа не казалась местом, где стоит искать научно-исследовательские центры: в других столицах именно они были основным местом обитания экспертов, чье мнение мы хотели услышать. Американский посол показал нам в окно место, где «Боко Харам», мусульманская повстанческая группировка, организовала атаку террориста-смертника на представительство ООН. В те нескольких дней, что мы провели в столице Нигерии, нас всегда сопровождали многочисленная охрана и представители посольства.
По счастью, встречи того стоили, а в одном случае буквально открыли нам глаза на последствия изменения климата. Я до сих пор помню пожилого, прекрасно одетого мужчину, который, перегнувшись через стол, приглушенным голосом сказал: «Мы уже сейчас переживаем изменения климата, которые, как почему-то кажется вам, только замаячили на горизонте». И рассказал о серьезном ухудшении экологической ситуации на севере страны после нескольких лет слабых осадков и частой засухи. Он высказывал озабоченность миграцией скотоводческих общин из сахеля в земли, заселенные оседлыми фермерами. Он наблюдал, как по мере роста плотности населения, связанного как с высокой рождаемостью, так и с переселением людей, бегущих из сахеля после 20 с лишним лет засухи, растет и конкуренция за ресурсы. Он также сказал, что опасается раскола Нигерии, теперь, когда в Лагосе и на юге страны наблюдается подъем. Это старая история: британцы наспех склеили Нигерию из разрозненных частей, потому что хотели «поженить» менее благополучные северные регионы с экономически более успешными прибрежными. Напряженность присутствовала всегда, но теперь вновь начались разговоры о распаде страны, и, по его словам, важным фактором было ухудшение экологического положения на севере Нигерии {113} .
113
Все активнее изучаются изменения климата в Сахеле и Западной Африке, а также их последствия для стабильности. См. Changes in Climate Trends Impacting Livelihoods and Food Security in the Sahel and West Africa. United Nations Environment Programme, 2011. December 5 //Werz M., Conley L. Climate Change, Migration, and Conflict in Northwest Africa. Center for American Progress, 2012. April 18 //Nyong A. Climate-Related Conflicts in West Africa // Report from Africa: Population, Health, Environment, and Conflict. Wilson Center // http://www.wilsoncenter.org/sites/default/files/Nyong12.pdf.
Он был прав в том, что в нашем исследовании речь в основном шла о климатических изменениях в будущем. И с самыми серьезными последствиями этих изменений мы столкнемся позже, в XXI в., если существенно не уменьшатся выбросы углекислого газа в атмосферу. Но он также предлагал рассмотреть климатические изменения в более широком контексте, связав их с другими факторами, такими как резкий прирост населения, историческая этническая и религиозная напряженность, миграция, медленный экономический рост и слабое управление.