Угрозы и риски влияния цифровых платформ на молодежь

Введение .

Подростковый и юношеский возраст являются важными стадиями социализации и развития личности, поскольку именно в этот период формируются основы мировоззрения и социального поведения, ценностные ориентации и идентичность. Именно поэтому молодежь является одной из приоритетных категорий негативного информационно-психологического и информационно-пропагандистского воздействия со стороны организаторов и акторов информационных войн.

Первые десятилетия XXI века привели к «цифровому повороту» в способах коммуникации, информационной доступности, репрезентации и саморепрезентации личности, этот процесс стал возможен благодаря новым информационнокоммуникативным технологиям, приведшим к появлению и массовизации использования социальных сетей, мессенджеров, видеохостингов и т.п., объединенных понятием «цифровые платформы».

За несколько десятилетий выросли два поколения, взросление которых проходило и происходит в условиях полной диджитализации и погруженности в киберпространство. Цифровая среда, ее агенты и акторы стали играть роль не только агентов социализации, но и институтов социализации современной молодежи, формируя реляционные структуры, повседневные практики социального взаимодействия, обучения и досуговой деятельности.

Распространение и массовизация использования искусственного интеллекта в последние годы, детерминировали появление еще более новых агентов социализации – AI-агентов (чат-ботов, виртуальных компаньонов, ассистентов), формирующих более глубокий уровень социального взаимодействия с нечеловеческими сущностями и личностной привязанности к симулированной персонификации.

Хотя рассмотрение влияния AI-агентов на молодежь и не является задачей данного исследования, тем не менее, отметим, что это наиболее актуальная и наименее изученная проблема в современной социологии и социальногуманитарном звании как таковом.

Обсуждение .

Диалектический аспект анализа влияния цифровых платформ на молодежь предполагает рассмотрение не только их положительных эффектов и преимуществ (к коим следует отнести до ступность информации/знания, расширение социальных связей и вероятностных коммуникаций, изменение социальных отношений, возможности личностного развития и самовыражения), но и тех противоречий, проблем, рисков и угроз, которые они порождают.

Возникает вопрос о классификации данных рисков и угроз. К примеру, Я.В. Зубова и И.В. Лип-чанская, вслед за другими отечественными исследователями, делят их на три основные группы: информационные, коммуникационные и социальные [1].

Подобные классификации включают и ряд других видов, к примеру, «психологические рис-ки/угрозы» или такой комбинированный вид, как «социально-психологические риски/угрозы».

Тем не менее, деление на данные виды является распространенным и устоявшимся в научной литературе.

Информационные риски и угрозы в западной литературе также интерпретируются как «алгоритмические» или «информационноалгоритмические». Также выделяются риски и угрозы нарушения и утраты приватности и анонимности, использования личной информации и индивидуальных данных в коммерческих, мошеннических или экстремистских целях («рис-ки/угрозы конфиденциальности»).

В эмпирическом исследовании Ш. Лю, Ю. Хуна и И. Хуана риски влияния цифровых платформ на сознание и поведение молодежи интерпретируются и операционализируются в следующие виды:

• 1)    риски цифрового развития, отражают проблемы отчужденности молодого человека от реальности, ослабления связей с реальным миром в пользу киберпространства;

• 2)    риски, связанные с цифровым контентом (или «контентные риски»), угрозы пассивного столкновения детей, подростков и молодежи с вредоносной для людей их возраста информацией;

• 3)    риски цифрового взаимодействия (или «контактные риски», «риски контакта» в других исследованиях), негативное воздействие, которому подвергаются подростки и юноши в ходе онлайн-интеракций;

• 4)    риски, связанные с цифровым поведением («поведенческие риски»), интерпретируемые как поведение детей в онлайн/офлайн-среде, кото-

• рое может причинить вред другим или им самим [2].

Обобщая вышеупомянутые интерпретации и классификации, можно использовать следующую дифференциацию рисков и угроз, которые несет для молодежи использование цифровых платформ:

• 1)    информационные (контентные, алгоритмические, информационно-алгоритмические) риски и угрозы – это столкновение в киберпространстве с негативным, нелегальным и дезинформирующим контентом, алгоритмическое усиление распространения деструктивного контента;

• 2)    коммуникационные риски и угрозы («контактные риски», «риски контакта»), к ним относят различные выражения агрессии в киберпространстве, в частности, такие «деструктивные интеракции», как кибербуллинг, хейт, киберстал-кинг, флейминг и т.д.;

• 3)    социальные (социально-психологические) риски и угрозы чаще возникают как следствия снижение эмпатии, когнитивных расстройств, депрессивных и тревожных состояний, обусловленных углублением цифровой зависимости и номофобии.

• 4)    риски и угрозы вовлечения в нелегальные экстремистские, деструктивные социальные общности и группы, распространенные в последние годы методы вербовки молодежи с использованием алгоритмов;

• 5)    риски/угрозы конфиденциальности, утрата приватности и анонимности, использования личной информации и индивидуальных данных в коммерческих, мошеннических, экстремистских и иных целях.

Информационно-алгоритмические риски и угрозы связаны с самой спецификой работы рекомендательных алгоритмов цифровых платформ, нацеленных на селекцию и таргетинг информации, усиливающих воздействие на сознание пользователя. Алгоритмы в силу своей цифровой механистической природы создают эффекты «информационных пузырей» («filter bubbles») и «эхо-камер» («echo chambers»). То есть, с одной стороны, они позволяют находить необходимую и разнообразную информацию и, следовательно, предоставляют индивиду большую степень информационной свободы, но, с другой стороны, частота использования тех или иных запросов и попадание в массив больших данных активирует алгоритмы таргетирования, выстраивающие вокруг пользователя комплиментарные каналы коммуникации и подбирающие определенную информацию.

Алгоритмические риски и угрозы связаны с поляризацией и информационной самоизоляцией индивидов и сообществ, они структурно усиливают идеологическую однородность и ограничивают разнообразие точек зрения.

Так, по мнению Р.Ш. Гилязова и Н.Ю. Мадяки-ной: «Цифровая среда способствует поляризации мнений. Молодежь часто встречает информацию, которая усиливает ее предвзятость, и становится частью виртуальных пузырей, где люди обсуждают темы только с теми, кто разделяет их взгляды. В таких условиях значительно возрастает риск радикализации политических позиций, поскольку молодежь оказывается изолированной от других точек зрения» [3, с. 72].

Выполненный М. Ахмадом, К. Шахзадом и А. Икбалом по методологии PRISMA обзор и анализ трех десятков исследований влияния «информационных пузырей» и «эхо-камер» на молодежь за 2015–2025 гг., полностью подтвердил гипотезу о том, что алгоритмы цифровых платформ усиливают избирательность восприятия и детерминируют рост поляризации [4].

Результаты проведенного ими исследования выявили несколько устойчивых закономерностей:

– алгоритмы цифровых платформ структурно и последовательно усиливают культурную, политическую, идеологическую и др. однородности, укрепляют избирательность восприятие и ограничивают разнообразие точек зрения;

– несмотря на непрозрачность рекомендательных алгоритмических систем и различающуюся степень цифровой грамотности, молодежь демонстрирует определенный уровень информированности о специфике действия данных механизмов и использует адаптивные стратегии для навигации по алгоритмическим лентам;

– несмотря не определенные негативные следствия в виде поляризации, избирательности восприятия и ограничения разнообразия позиций, информационные пузыри и эхо-камеры имеют и очевидные позитивные следствия, и эффекты, поскольку одновременно являются и пространством для укрепления идентичности и культурной принадлежности.

• К. Регеер, К. Шогнесси, М. Чжао и И. Камбазоглу исследуют роль рекомендательных алгоритмов для психического здоровья и социального благополучия молодежи.

Исходя из результатов проведенного ими исследования, ученые сформулировали несколько основных выводов:

– рекомендательные алгоритмы усиливают воздействие экстремистских идей и «вредных идеологий» на сознание молодежи, они подбирают каналы коммуникации и контент для эффекта эхо-камер и формируют вокруг индивида и/или сообщества информационные пузыри из комплиментарной информации;

– агрессивный и экстремистский контент проникает в сознание в развлекательном виде, что позволяет ему набирать большую популярность у пользователей цифровых платформ;

– алгоритмы работают на нормализацию экстремистских идей и «вредных идеологий»;

– изменение в сознании оказывает воздействие на поведение молодежи, их психическое здоровье и отношения в семье и со сверстниками [5]. В качестве рекомендаций ученые указывают на необходимость кардинальных изменений в подходах к цифровой грамотности, образованию и молодежной политике.

М. Гильберт, Д. Сингел, С. Л. Виджил и др. обратили внимание на свойства рекомендательных алгоритмов выявлять уязвимых детей и подростков и целенаправленно подбрасывать им дис-трессовый контент. Было установлено, что алгоритмы цифровых платформ умеют быстро распознавать не только детей и подростков, которые указывают ложную информацию о своем возрасте в аккаунте, но и выявлять и дифференцировать их уязвимости [6]. К примеру, пользователи цифровых платформ, ведущие себя как дети в возрасте 8 лет, получают почти в семь раз больше контента, ориентированного на детей, чем 16-летние подростки. Алгоритмы реагируют на пользователей, которые ведут себя как проблемные и «страдающие» подростки, поэтому адаптация коммерческих предложений приводит к тому, что они получают более чем на 30 % больше проблемного и более чем на 70 % больше тревожного контента, чем их сверстники, не испытывающие проблем.

Результаты исследования поставили вопрос об ответственности создателей и собственников цифровых платформ за защиту несовершеннолетних в киберпространстве.

Помимо этого, ученые рекомендуют сформировать исследовательскую программу с привлечением представителей всех направлений работы с молодежью, которая бы занималась независимым аудитом алгоритмов и проблемой устранения пробелов, возникающих в результате автоматизированных процессов принятия решений.

Результаты .

Одним из самых распространенных видов коммуникационных рисков для молодежи, которые несет использование цифровых платформ, является онлайн-агрессия и ее наиболее распространенная форма – кибербуллинг.

Согласно данным социологического исследования «Поведение детей школьного возраста в отношении здоровья» (HBSC) Европейского регионального бюро ВОЗ, сегодня с кибербуллингом сталкивается каждый шестой школьник. В 2020-е годы растет количество детей и подростков, подвергающихся онлайн-агрессии и травле, с 11 % до 14 % среди мальчиков и с 7 % до 9 % среди девочек [7].

В России, по данным исследовательской группы «РБК Life», 57 % пользователей цифровых платформ сталкивались с различными формами онлайн-агрессии, а около 47% школьников хотя бы раз становились жертвами травли в интернете [8].

По данным исследований Л.И. Лукашковой на 2020 год: «…Наиболее распространенными формами кибербуллинга, совершаемых в отношении подростков, размещение обидных, оскорбительных комментариев (6-е классы – 31 %, 7-е классы – 23 % и 8-е классы – 24 %) . Далее, по частоте встречаемости, следует распространение слухов и сплетен (6-е классы – 20 %, 7-е классы – 16 % и 8-е классы – 22 %) . От 8 % до 16 % учеников являлись свидетелями таких форм как удаление из группы, из «списка друзей», отказ в общении; размещение оскорбительного видео или фото; использование имени человека для рассылки негативной информации его знакомым; открытые угрозы физической расправы» [9, с. 452].

В отличие от офлайн-травли, кибербуллинг носит тотальный характер, поскольку не ограничен пространственно-временными границами. Легко достижимая анонимность субъекта травли в сети интернет провоцирует его негативное поведение, не сдерживаемое системой социального контроля. Онлайн-травля приводит к развитию тревожности и страхов, депрессивным состояниям и снижению самооценки. Наиболее распространенные чувства у жертв кибербуллинга, это раздражение и злость, чувство обиды, подавленность, тревога и страх.

Следует признать, что цифровые платформы предоставляют необходимые условия для организации онлайн-агрессии и кибербуллинга, однако и решение этой проблемы также имеет и аппаратно-технологический аспект.

В настоящее время, как в России, так и за рубежом, разрабатываются системы для автоматической модерации текстовых сообщений с целью интеграции их в социальные сети и мессенджеры (к примеру, AIMS (AI Moderation System). Данные системы обучаются на массивах из разнонаправленных комментариев и акцентируются на семантике и контексте высказывания.

Коммуникационные риски тесно связаны с рисками и угрозами конфиденциальности, заключающимися в утрате пользователем приватности и анонимности, использовании личной информации и индивидуальных данных в коммерческих, мошеннических, экстремистских и иных целях. Цифровые платформы предоставляют как компаниям, так и киберпреступникам возможности для сбора данных, доступ к молодежной аудитории, распространение рекламного и пропагандистского контента.

Социально-психологические риски для молодежи со стороны цифровых платформ являются следствиями цифровой зависимости и номофо-бии. Постоянное нахождение в сети («always-on») ведет к «цифровой перегрузке» («digital overload»), которая истощает когнитивные и пси- хоэмоциональные ресурсы молодого человека, ведет к снижению эмпатии, когнитивным расстройствам, депрессивным и тревожным состояниям. Исследования влияния чрезмерного использования цифровых платформ выявляют их существенное влияние на психику и самооценку молодежи.

Как показывают данные исследований Д.А. Усика: «Выявлена значимая отрицательная корреляция между интенсивностью использования социальных сетей и самооценкой (r = –0.31, p < 0.001), а также положительная корреляция с уровнем тревожности (r = 0.33, p < 0.001) и депрессии (r = 0.28, p < 0.001). Обнаружена криволинейная зависимость между использованием социальных сетей и психологическим благополучием, где умеренное использование связано с наиболее позитивными результатами» [10, с. 41].

Группа корейских ученых, во главе с К.-Х. Су пришли к выводам о комплексном воздействии цифровых платформ на социальное самочувствие и психику молодежи [11, с. 1844]. Индивидуально-личностные особенности и проблемы: заболевания, плохой сон, импульсивность, низкая самооценка сочетаются и накладываются на социальный контекст: неустойчивое или аутсай-дерное положение в малой группе, давление со стороны сверстников, конфликты в семье и т.п.

Повседневные коммуникации в киберпространстве, формируемом рекомендательными алгоритмами, активизирует сравнение и рефлексию своего статуса и реляционной адекватности собственного исходящего и внешнего входящего контента. Возникают специфические тревожности и страхи несовпадения с реляционными структурами киберпространства: страх упустить что-то важное из контента; страх неодобрения собственной позиции со стороны других пользователей; страх упустить возможность коммуникации, рождающий навязчивую номофобию и др.

В настоящее время учеными выделяются два специфических расстройства:

• 1)    «SMD» («Social Media Disorder»), связанное с использованием цифровых платформ, социальных сетей и мессенджеров;

• 2)    «IGD» («Internet Gaming Disorder») – расстройство, связанное с использованием интер-нет-игр,

К примеру, Й. Трул, Д. Сахиб, Л. Клари и др. провели общенациональное исследование школьников в Саудовской Аравии и установили, что симптомы SMD среди старшеклассников доходят до 21 %, а IGD – до 16 %. Около трети подростков показали положительный результат по шкале одиночества, и более 40 % – по шкале симптомов депрессии или тревожности [12].

Исследования нейрофизиологов и психологов фиксируют ряд негативных нейропсихологических последствий влияния цифровых платформ на современную молодежь: снижение концентрации внимания, ослабление импульсного контроля и изменения в работе мозга и т.д.

Важную прикладную значимость имеют исследования рисков и угроз вовлечения в нелегальные экстремистские, деструктивные социальные общности и группы. Наиболее актуальное значение данная проблема получила в последние годы, в условиях СВО на Украине, поскольку российское общество столкнулось как с «традиционными » сетевыми практиками и методами вербовки молодежи, так и с новыми цифровыми – с использованием алгоритмов и AI-агентов.

Проблема радикализации молодежи носит общемировой характер, к примеру, согласно «Глобальному индексу терроризма 2025» за 20202025 годы только ультраправый экстремизм вырос на 250% [13]. Однако применительно к нашей стране более актуальна не проблема радикализации молодежи, которая скорее демонстрирует политическую пассивность, доходящую до абсентеизма, а проблема вовлечения в деструктивные сообщества и вербовки для осуществления экстремистской и террористической деятельности.

В чем же состоит главная опасность использования цифровых платформ в целях негативного информационно-пропагандистского и психологического влияния внешних контрагентов на современных детей и молодежь?

Социальные сети, мессенджеры и коллективные платформы позволяют обходить не только вторичных, но и первичных агентов социализации, выводя вербовщиков, акторов психологических операций и информационных войн на непосредственный контакт с молодежной аудиторией в сети.

В доцифровую эпоху на процессы радикализации и вовлечения молодежи в экстремистские, деструктивные социальные общности и группы уходили относительно большие отрезки времени, месяцы и года. В цифровом мире процессы вовлечения и вербовки значительно ускорились и могут составлять более короткие промежутки времени, месяцы, дни и даже часы. К примеру, короткий, яркий, образно и эмоционально насыщенный видеоконтент может оказывать куда более быстрое воздействие на индивида, чем чтение экстремистской литературы и знакомство с носителем подобных воззрений.

Процессы радикализации и вовлечения молодежи в экстремистские, деструктивные социальные общности и группы не протекают исключительно в идеологических «информационных пузырях» и «эхо-камерах» со своими особыми рамками и границами, лексикой и образами. Деструктивный и экстремистский контент проникает в речь, визуальные образы, юмор и поведенческие особенности репрезентации и самопрезентации в молодёжной культуре.

Основной акцент при вовлечении молодежи в экстремистские и деструктивные сообщества делается на зрелищно-эмоциональную составляющую, а оказанное влияние подкрепляется разнообразным «вирусным» контентом. Вовлекаемый индивид совершает социальный переход из одного статуса в другой, цель вербовщиков – вырвать его из-под влияния прежних малых групп и агентов социализации, сменить ценностно-нормативную среду и мировоззрение, изменить идентичность. Как в ситуации любого со-циоструктурного перехода из одного статуса в другой, его успешность зависит от способности индивида десоциализироваться в прежней групповой среде и ресоциализироваться в новой. Индивид получает новую ингруппу и свой личный статус в ней, мировоззрение и идентичность.

Для успешности вовлечения ломается прежняя социально-групповая среда, индивид уводится из-под влияния малых групп, сетевых сообществ и значимых агентов социализации, чей авторитет подвергается сомнению и критике (точнее, рефлексия их авторитета сначала переводится в сомнение, потом в критику, далее критика углубляется, пока не достигнет стадии отказа от лояльности и разрыва с авторитетом). К. Манхейм называл данный механизм «дезорганизационной стратегией нацизма»: «Гитлер инстинктивно чувствует, что пока люди находятся под защитой своей социальной группы, они невосприимчивы к его влиянию. Поэтому скрытый механизм гитлеровской стратегии состоит в том, чтобы сломить сопротивление индивидуального сознания путем дезорганизации групп, к которым эти индивиды принадлежат. Он знает, что человек без групповых связей подобен крабу без панциря» [14, с. 499].

В качестве метафоры и примера описания основного механизма данного социального перехода и вовлечения молодого человека в экстремистские и деструктивные сообщества, воспользуемся аналогией из религиозных практик прозелитизма и мессианской деятельности:

• 1.    Прозелит (обращаемый). Привлечение внимания индивида, установление и поддержание контакта, подкрепление возникшего интереса разнообразным контентом и одобрением его оценок и действий со стороны членов сообщества. Презентация сообщества для индивида в качестве его возможной, желанной и необходимой референтной группы.

• 2.    Неофит (новообращенный). Вовлечение в сообщество, втягивание во внутригрупповую ценностно-нормативную среду. Новое сетевое виртуальное сообщество должно выстраивать взаимодействие с индивидом подобно реальной офлайн ингруппе. На этой стадии начинает постепенно меняться идентичность индивида. Втягивание в сетевое сообщество подобно вовлечению в структуру малой группы офлайн, и определение личного статуса внутри нее (как

• 3.    Адепт (обращенный). Индивид рассматривается как член ингруппы, вовлекается в ее практическую деятельность сообразно своему личному статусу и роли в ней. На этой стадии социальный переход завершается, индивид ресоциа-лизируется в новом сообществе.

правило, для неофитов в процессе вербовки — это всегда роль полноправного члена группы, поскольку для молодежи и, в особенности, для подростков, проблема нахождения своей малой группы и места в ней является важнейшей возрастной задачей и проблемой социализации, на реализацию которой они быстро «покупаются»).

Заключение .

Проблематика угроз и рисков влияния цифровых платформ на молодежь актуализирует разработку рекомендаций и практических мер по профилактике их негативного влияния.

В результате обобщения подобных рекомендаций, мы получили срез тех мер, которые рекомендуют отечественные и зарубежные исследователи.

Образовательные меры, в основе своей, сводятся к развитию цифровой гармотности/медиа-грамотности, формированию и развитию критического мышления. Цифровая грамотность и медиаграмотность утверждаются в качестве обязательного компонента обучения в школах и вузах. Помимо этого, поднимается вопрос о развитии специфического вида грамотности, связанного с когнитивными способностями понимания алгоритмов работы цифровых платформ, искусственного интеллекта и рекомендательных систем – «алгоритмической грамотности» (данное понятие использовалось и в доцифровую эпоху, но пока в науке не появилось какого-то нового, уточняющего нюанс алгоритмики рекомендательных систем и искусственного интеллекта термина, поэтому большинство исследователей используют устоявшийся). Следующий важный момент – это формирование культуры «цифровой гигиены», «цифровой диеты» или «цифрового детокса», практик сознательного регулирования использования гаджетов и воздержания от чрезмерной погруженности в киберсреду.

Меры психологической поддержки предполагают ряд основных направлений:

• 1)    выявление представителей наиболее уязвимых групп и отдельных индивидов с признаками тревожности и изоляции, потребителей радикального контента и т.д.;

• 2)    укрепление психологической устойчивости молодежи, развитие саморефлексивности поведения, навыков саморегуляции и решения личностных проблем;

• 3)    необходимость анонимной психологической поддержки как в традиционных формах (горячие

линии, центры и кабинеты консультирования), так в современных цифровых формах (чат-боты, онлайн-консультации и т.д.).

Работа с институциональными агентами:

• 1)    повышение цифровой компетентности родителей;

• 2)    обучение учителей и преподавателей, как распознаванию ранних признаков цифровых поведенческих девиаций, так и цифровой компетентности, и алгоритмической грамотности, в частности;

• 3)    создание и продвижение молодежных сообществ и таргетированных под данную категорию специализированных цифровых платформ, где бы осуществлялась селекция вредоносного и коммерческого контента, обеспечены возможности для позитивной коммуникации, творчества и самореализации.

Нормативно-регуляторные меры предполагают повышение ответственности самих цифровых платформ перед своими пользователями молодого возраста:

• 1)    прозрачность алгоритмов и акцентированная модерация, платформы должны быть активнее в селекции вредоносного для молодежи контента;

• 2)    совершенствование правовых механизмов по защите персональных данных детей, подростков и, в целом, молодых пользователей;

• 3)    постоянная адаптация законодательства к инновационным цифровым технологиям, использованию AI, дипфейкам, геймификации, появлению новых по функциональным возможностям цифровых платформ;

• 4)    активизация мер государственно-частного партнерства и сотрудничества властей, IT-компаний и общества в молодежном сегменте кибепространства.

Эффективная борьба с угрозами и рисками влияния цифровых платформ на современную российскую молодежь, с научной точки зрения, требует комплексного подхода, междисциплинарного – по своей методологической сути и многоуровневого – по практической организации информационной селекции, профилактики и противодействия.

Полагаем необходимым объединение усилий первичных и институциональных агентов социализации – семьи, школы, специалистов по работе с молодежью, IT-индустрии и представителей самих цифровых платформ.