Цифровое общество в культурно-исторической парадигме
Шрифт:
Более того, алгоритмы превращаются в «архитектуру выбора», подталкивающую нас к решениям, которые должны повысить качество нашей жизни (Талер, Санстейн, 2017). Даже если в основе такого цифрового патернализма будут либеральные ценности, – что кажется маловероятным в культурах с вертикальным коллективизмом, – использование алгоритмов, корректирующих несовершенство человеческой природы ради благих целей, может способствовать снижению осознанности и рефлексивности общества.
В этой связи нельзя не упомянуть о растущей актуальности исследований, направленных на поиск психологических механизмов, которые делают личность уязвимой в отношении информационных компаний в социальных медиа, опирающихся на технологии ИИ. Сегодня специально обученные нейросети позволяют создавать вымышленный видеоконтент, неотличимый от настоящего. Созданные искусственным интеллектом видеодвойники политиков или значимых для конкретного человека людей могут говорить заданные тексты, обращаться с призывами, которых никогда не произнесли бы их реальные прототипы. Стало возможно управление такими видеодвойниками в режиме реального времени (Memes That Kill, 2018). Использование ИИ позволяет перевести информационные войны в полностью автоматизированный режим, когда нейросети сами скачивают метаданные «мишеней» и анализируют их психологический профиль по цифровым следам в поиске уязвимостей, затем генерируют искусственный видеоконтент с учетом этих психологических профилей, организуют армию ботов для его вброса в социальные сети, таргетируют сообщения для тех пользователей, которые с наибольшей вероятностью перешлют эту информацию своим друзьям, а затем проводят автоматизированную оценку разрушительного воздействия информационной кампании на общество страны-противника.
Сегодня вновь приобретают актуальность исследования конформности и подчинения, однако, в роли авторитетного другого будут выступать не экспериментаторы, а киберфизические системы, искусственный интеллект или специалисты по большим данным, психологически бесконечно далекие для обывателя. Чрезвычайно важно изучить, как все большая «искусственность» управляемой нейросетями повседневной жизни повлияет на фундаментальные психологические феномены – объяснение человеком своих успехов и неудач, веру в способность влиять на свое будущее, убеждение в справедливости мира, доверие к социальным институтам.
Перечисленные нами проблемы станут обостряться по мере того, как автоматизация будет приводить к потере все большего числа рабочих мест, особенно в массовых профессиях – среди продавцов, водителей и грузчиков, бухгалтеров, юристов, программистов. Потеряв работу из-за внедрения технологий искусственного интеллекта, они все равно будут вынуждены этими технологиями пользоваться. Какие требования будут предъявлять к искусственному интеллекту люди, вынужденные менять профессиональную идентичность? Каковы социально-психологические последствия появления в обществе большого количества «лишних людей»?
Целый ряд важных направлений исследований можно выделить в связи с влиянием ИИ на межличностные отношения и социальные группы. Применение машинного обучения уже сегодня влияет на формирование персонального социального капитала и межличностное сравнение в социальных сетях, подсказывая нам людей, похожих на нас. Как повлияют персональные помощники на процессы каузальной атрибуции? Будем ли мы по-прежнему более склонны объяснять поведение других людей их личностными качествами, а не обстоятельствами? Внимание исследователей сосредоточено на том, как люди взаимодействуют в мультиагентных человеко-машинных системах, в том числе с социальными роботами. Особенно перспективными в этом направлении представляются модели «межличностного» восприятия роботов (Kotov, 2017), а также исследования психологии взаимодействия людей с роевым интеллектом (Карпов, 2018). Вместе с тем, недостаточно внимания уделяется тому, какое влияние слабый (специализированный) искусственный интеллект в качестве интеллектуального агента может оказывать на групповую динамику, как он участвует в групповой рефлексии, формировании ситуативной осознанности и ментальных моделей. Прежде всего это касается использования машинного обучения в системах поддержки группового принятия решений. Примером могут служить нейросети, которые по обмену сообщениями в корпоративных чатах дают не только оценку эмоционального состояния и лояльности участников той или иной команды, но и прогноз эффективности проектных групп. Как рекомендации основанных на ИИ экспертных систем будут влиять на принятие кадровых решений, ролевые ожидания участников, межличностное восприятие и внутригрупповое доверие? В каких случаях совместного принятия решений такая система должна быть наделена чертами виртуальной личности, действовать как «член команды», а в каких – полностью обезличена?
Развитие ИИ тесно связано с рынком больших данных, с борьбой за доступ к обучающим выборкам. Создание совместных баз данных, а также открытых платформ для обучения нейросетей типа Azure, потребует разработки социально-психологических технологий формирования не только межличностного, но и межгруппового доверия. Новый импульс получат исследования межгрупповых отношений в цифровой экономике, доверия клиентов к организациям, совместимости разных корпоративных культур обращения с ИИ.
Отдельной и крайне мало изученной областью является социальная психология разработчиков ИИ и робототехников (Голиков, 2018). Усложнение технологий приводит не к ослаблению, а к усилению роли человеческого фактора как причины крупных катастроф. Как психологические характеристики команды разработчиков влияют на создаваемые ими нейросети? Как групповая рефлексивность, коллективные эмоциональные состояния и способы разрешения конфликтов с заинтересованными сторонами проекта влияют на способность разработчиков вовремя обнаружить ошибки и оценить последствия некорректной работы алгоритма? Как в среде специалистов по большим данным и робототехников формируются нравственные нормы и представления о конечных пользователях? Как эти нормы и представления влияют на создаваемые ими алгоритмы?
Совершенно очевидно, что использование нейросетей в финансовых операциях и кредитном скоринге, рекламе, формировании новостного контента, работе государственных служб и системе здравоохранения открывает новую страницу для юридической психологии. С одной стороны, все более актуальными становятся исследования социально-психологической специфики киберпреступлений с использованием машинного обучения, а также готовности граждан обращаться к услугам хакеров для взлома или обхода значимых для них алгоритмов. Анализ Big Data открывает здесь новые возможности не только для участников теневой экономики, но и для психологов, их изучающих. С другой стороны, важно разобраться в том, как применение искусственного интеллекта повлияет на правовое сознание молодежи, на стратегии оправдания теневого поведения и экстремизма. Кроме того, появление общедоступных алгоритмов в сфере обработки обращений граждан и юридического консультирования может изменить способы мобилизации права в российском обществе. Наконец, специального изучения требуют психологические проблемы, которые возникают у работников органов защиты правопорядка при внедрении различных автоматизированных систем выявления и прогнозирования преступлений в условиях дефицита ресурсов для борьбы с этими правонарушениями.
1. Голиков Ю.Я. Неопределенность и риски традиционных и новых областей высоких технологий и актуальные психологические проблемы их развития // Актуальные проблемы психологии труда, инженерной психологии и эргономики: Сб. научных трудов. Вып. 8 / Под ред. А.А. Обознова, А.Л. Журавлева. М.: Изд-во «Институт психологии РАН», 2018. С. 11–29.
2. Карпов В.Э. От роевой робототехники к социуму роботов // Искусственный интеллект: проблемы и пути решения – 2018: Материалы конференции. М., 2018. С. 122–130.
3. Нестик Т.А. Социально-психологические аспекты отношения человека к новым технологиям // Актуальные проблемы психологии труда, инженерной психологии и эргономики: Сб. научных трудов. Вып. 8 / Под ред. А. А. Обознова, А. Л. Журавлева. М.: Изд-во «Институт психологии РАН», 2018. С. 50–73.
4. Роботизация работы: возможность или опасность? // ВЦИОМ. № 3538. 4 декабря 2017. URL:(дата обращения: 05.01.2018).
5. Талер Р., Санстейн К. Nudge. Архитектура выбора. Как улучшить наши решения о здоровье, благосостоянии и счастье. М.: Манн, Иванов и Фербер, 2017.