Цифровое общество в культурно-исторической парадигме
Шрифт:
Более того, алгоритмы превращаются в «архитектуру выбора», подталкивающую нас к решениям, которые должны повысить качество нашей жизни (Талер, Санстейн, 2017). Даже если в основе такого цифрового патернализма будут либеральные ценности, – что кажется маловероятным в культурах с вертикальным коллективизмом, – использование алгоритмов, корректирующих несовершенство человеческой природы ради благих целей, может способствовать снижению осознанности и рефлексивности общества.
В этой связи нельзя не упомянуть о растущей актуальности исследований, направленных на поиск психологических механизмов, которые делают личность уязвимой в отношении информационных компаний в социальных медиа, опирающихся на технологии ИИ.
Сегодня вновь приобретают актуальность исследования конформности и подчинения, однако, в роли авторитетного другого будут выступать не экспериментаторы, а киберфизические системы, искусственный интеллект или специалисты по большим данным, психологически бесконечно далекие для обывателя. Чрезвычайно важно изучить, как все большая «искусственность» управляемой нейросетями повседневной жизни повлияет на фундаментальные психологические феномены – объяснение человеком своих успехов и неудач, веру в способность влиять на свое будущее, убеждение в справедливости мира, доверие к социальным институтам.
Перечисленные нами проблемы станут обостряться по мере того, как автоматизация будет приводить к потере все большего числа рабочих мест, особенно в массовых профессиях – среди продавцов, водителей и грузчиков, бухгалтеров, юристов, программистов. Потеряв работу из-за внедрения технологий искусственного интеллекта, они все равно будут вынуждены этими технологиями пользоваться. Какие требования будут предъявлять к искусственному интеллекту люди, вынужденные менять профессиональную идентичность? Каковы социально-психологические последствия появления в обществе большого количества «лишних людей»?
Целый ряд важных направлений исследований можно выделить в связи с влиянием ИИ на межличностные отношения и социальные группы. Применение машинного обучения уже сегодня влияет на формирование персонального социального капитала и межличностное сравнение в социальных сетях, подсказывая нам людей, похожих на нас. Как повлияют персональные помощники на процессы каузальной атрибуции? Будем ли мы по-прежнему более склонны объяснять поведение других людей их личностными качествами, а не обстоятельствами? Внимание исследователей сосредоточено на том, как люди взаимодействуют в мультиагентных человеко-машинных системах, в том числе с социальными роботами. Особенно перспективными в этом направлении представляются модели «межличностного» восприятия роботов (Kotov, 2017), а также исследования психологии взаимодействия людей с роевым интеллектом (Карпов, 2018). Вместе с тем, недостаточно внимания уделяется тому, какое влияние слабый (специализированный) искусственный интеллект в качестве интеллектуального агента может оказывать на групповую динамику, как он участвует в групповой рефлексии, формировании ситуативной осознанности и ментальных моделей. Прежде всего это касается использования машинного обучения в системах поддержки группового принятия решений. Примером могут служить нейросети, которые по обмену сообщениями в корпоративных чатах дают не только оценку эмоционального состояния и лояльности участников той или иной команды, но и прогноз эффективности проектных групп. Как рекомендации основанных на ИИ экспертных систем будут влиять на принятие кадровых решений, ролевые ожидания участников, межличностное восприятие и внутригрупповое доверие? В каких случаях совместного принятия решений такая система должна быть наделена чертами виртуальной личности, действовать как «член команды», а в каких – полностью обезличена?
Развитие ИИ тесно связано с рынком больших данных, с борьбой за доступ к обучающим выборкам. Создание совместных баз данных, а также открытых платформ для обучения нейросетей типа Azure, потребует разработки социально-психологических технологий формирования не только межличностного, но и межгруппового доверия. Новый импульс получат исследования межгрупповых отношений в цифровой экономике, доверия клиентов к организациям, совместимости разных корпоративных культур обращения с ИИ.
Отдельной и крайне мало изученной областью является социальная психология разработчиков ИИ и робототехников (Голиков, 2018). Усложнение технологий приводит не к ослаблению, а к усилению роли человеческого фактора как причины крупных катастроф. Как психологические характеристики команды разработчиков влияют на создаваемые ими нейросети? Как групповая рефлексивность, коллективные эмоциональные состояния и способы разрешения конфликтов с заинтересованными сторонами проекта влияют на способность разработчиков вовремя обнаружить ошибки и оценить последствия некорректной работы алгоритма? Как в среде специалистов по большим данным и робототехников формируются нравственные нормы и представления о конечных пользователях? Как эти нормы и представления влияют на создаваемые ими алгоритмы?
Совершенно очевидно, что использование нейросетей в финансовых операциях и кредитном скоринге, рекламе, формировании новостного контента, работе государственных служб и системе здравоохранения открывает новую страницу для юридической психологии. С одной стороны, все более актуальными становятся исследования социально-психологической специфики киберпреступлений с использованием машинного обучения, а также готовности граждан обращаться к услугам хакеров для взлома или обхода значимых для них алгоритмов. Анализ Big Data открывает здесь новые возможности не только для участников теневой экономики, но и для психологов, их изучающих. С другой стороны, важно разобраться в том, как применение искусственного интеллекта повлияет на правовое сознание молодежи, на стратегии оправдания теневого поведения и экстремизма. Кроме того, появление общедоступных алгоритмов в сфере обработки обращений граждан и юридического консультирования может изменить способы мобилизации права в российском обществе. Наконец, специального изучения требуют психологические проблемы, которые возникают у работников органов защиты правопорядка при внедрении различных автоматизированных систем выявления и прогнозирования преступлений в условиях дефицита ресурсов для борьбы с этими правонарушениями.
1. Голиков Ю.Я. Неопределенность и риски традиционных и новых областей высоких технологий и актуальные психологические проблемы их развития // Актуальные проблемы психологии труда, инженерной психологии и эргономики: Сб. научных трудов. Вып. 8 / Под ред. А.А. Обознова, А.Л. Журавлева. М.: Изд-во «Институт психологии РАН», 2018. С. 11–29.
2. Карпов В.Э. От роевой робототехники к социуму роботов // Искусственный интеллект: проблемы и пути решения – 2018: Материалы конференции. М., 2018. С. 122–130.
3. Нестик Т.А. Социально-психологические аспекты отношения человека к новым технологиям // Актуальные проблемы психологии труда, инженерной психологии и эргономики: Сб. научных трудов. Вып. 8 / Под ред. А. А. Обознова, А. Л. Журавлева. М.: Изд-во «Институт психологии РАН», 2018. С. 50–73.
4. Роботизация работы: возможность или опасность? // ВЦИОМ. № 3538. 4 декабря 2017. URL:(дата обращения: 05.01.2018).
5. Талер Р., Санстейн К. Nudge. Архитектура выбора. Как улучшить наши решения о здоровье, благосостоянии и счастье. М.: Манн, Иванов и Фербер, 2017.