Тактика продвижения дезинформации на основе искусственного интеллекта: в контексте цифровой социологии

Введение .

Современный технологический уклад развития общества XXI века, предоставляя человечеству невиданные ранее достижения в области социальной коммуникации, способствует формированию новой парадигмы взаимоотношений, основу которой составляет сверхразум, представленный в качестве искусственного интеллекта (далее – ИИ). При этом под сверхразумом следует понимать любой интеллект, существенным образом превосходящий когнитивные способности человека в различных областях, имеющих существенное значение для личности и социума в целом.

Констатируя об очевидном достоинстве технологии ИИ для современного состояния цивилизации, важно учитывать и деструктивный аспект применения ИИ в манипулятивных целях, направленность которых сведена к изменению сознания и шаблона поведения индивида, группы и общества.

Отмеченные тезисы свидетельствуют о востребованности более углубленного осмысления фактора задействования ИИ в системе тактических приемов продвижения в общественное мнение массива дезинформации, что, в свою очередь, предопределяет актуальность указанного вопроса для цифровой социологии.

Обсуждение .

Динамика развития информационного общества XXI века свидетельствует о наличии принципиальных изменений в различных сферах социальной практики, включая существующую парадигму социальной коммуникации, интенсивно интегрирующей в свои пределы новые цифровые технологии, включая ИИ. Данное обстоя- тельство подтверждает необходимость возрастания роли цифровой социологии, нацеленной на «теоретическое критическое осмысление цифровизации, датификации, алгоритмизации и платформизации, определение социальных последствий этих процессов» [1, с. 250].

Представленная констатация распространяет свое действие также в отношении цифровых алгоритмов, платформ и других цифровых инструкций и цифровых сред, основанных на техн логии ИИ. В аксиологическом плане ИИ следует воспринимать в качестве когнитивной технологии, а построенные на ее основе алгоритмы социальных сетей и новостные сайты, обеспечивая смешение смысла фактов и истины [2, с. 58], предопределяют оперативное и масштабное продвижение в адрес пользователей как объектов манипулирования, потока дезинформации. Приведенный нами тезис и корреспондирующий ему вывод отечественных ученых, позволяет отметить противоречивость последствий задействования технологии ИИ для решения множества задач, стоящих перед обществом и по этой причине направить фокус внимания на «прояснение взаимоотношений между техникой и обществом» [3, с. 174]. Отдельного внимания бесспорно заслуживает и факт того, что экспоненциальный рост инвестиций в развитие ИИ привел к появлению обилия «программных приложений, начиная от клинических алгоритмов и автономных транспортных средств, и заканчивая инструментами генеративного ИИ (англ. «generative artificial intelligence», GAI), такими как ChatGPT» [4].

Наряду с отмеченным, необходимо учитывать очевидность взаимосвязи потенциала ИИ с практикой социального конструирования, формирующего программируемый ценностный ряд, опираясь на который общество, профессиональная и/или иная группа и личность, воспринимают окружающий мир таким, каким его стремятся презентовать источники подачи верной или искаженной информации. С учетом изложенного, следует согласиться с утверждением того, что идея социального конструирования не отрицает идею дихотомии, при которой «конструируемый феномен одновременно существует в двух изменениях: восприятия и влияния» [5, с. 123].

Апеллируя к триаде «цифровая социология-ИИ-дезинформация», следует заметить, что передовая область искусственного интеллекта, именуемая глубоким обучением (англ. «deep learning») и основанная на искусственных нейронных сетях (англ. «artificial neural networks»), в настоящее время выступает в качестве мощного инструмента машинного обучения («machine learning»), позволяющего решать сложные задачи, «обеспечивая при этом извлечение признаков из неструктурированных данных» [6, p. 10]. По нашему представлению, данный факт имеет ценное значение для идентификации контента потоков информации как истинного, так и ложно-го/искаженного, что в свою очередь отвечает направлению цифровой социологии, для которой осмысление последствий влияния цифровых технологий на общество имеет принципиальное значение.

На основе проведенного нами анализа содержания терминов и концептуальных подходов, различающихся по намерениям и фактам, и связанных с проблемой дезинформации, следует представить следующую их градацию:

– во-первых, дезинформация (англ. «misinfor-mation»), сводимая к неточности как результата непреднамеренной ошибки или передачи устаревшей информации;

– во-вторых, дезинформация (англ. «disinfor-mation»), заключающаяся в намеренной передаче специально сконструированной ложной информации, направленной на причинение вреда и представленной, к примеру, в виде новостных статей, содержащих искаженные статистические данные;

– в-третьих, вредоносная информация (англ. «Malicious information»), под которой понимается специально подобранная реальная информация, целью которой является причинение вреда конкретному объекту воздействия. Что касается слухов, являющихся историями или заявлениями, распространяемыми без подтверждения достоверности, то они бывают правдивыми, частично или полностью ложными. Важно заметить, что вошедшее в современный лексикон понятие «фейковые новости» – это сфабрикованная информация, имитирующая форму официальных новостей и целью которой является обман.

Обозревая свод применяемых тактических приемов распространения массива дезинформации, формирование и тиражирование которой осу

ществляется на основе возможностей ИИ, следует обратить внимание на следующий ряд наиболее часто применяемых действий тактического плана:

• 1.    Создание поддельных или вводящих в заблуждение личностей и веб-сайтов: формируя сети из поддельных личностей (фальшивые «эксперты», журналисты, аналитические центры, академические учреждения, и др.) и создавая фальшивые веб-сайты, субъекты дезинформации придают своим сообщениям в адрес целевой аудитории подобие их правдоподобности.

• 2.    Формирование глубоких подделок и искусственных медиа: искусственно создаваемый медиа-контент, целеполагание которого сопряжено с дезинформированием, как правило, содержит цифровую версию сфабрикованных фотографий, способствующих переводу получателя информации в состояние заблуждения и решению задач манипулирования целевой аудиторией.

• 3.    Разработка и продвижение теории заговора: теоретическое объяснение ложной информации, привлекательность которой основана на эксклюзивной и цифровым образом оформленной яркой и внешне убедительной презентацией каких-либо важных событий, связанных с тайными заговорами влиятельных лиц. Данная тактика позволяет обеспечивать появление инсайта (англ. «insight» – «озарение»), предопределяющего смену жизненной стратегии личности и даже ее мировоззрения, незримо переходящего в состояние конспирологического восприятия окружающего личность мира.

• 4.    Астротурфинг (от англ. «AstroTurf» – «наименование американской компании, производящей искусственную траву, напоминающую подлинную»): дезинформационная кампания:

  – во-первых, обеспечивающая публикацию массива контента, наполняющего одинаковые или похожие сообщения из множества недостоверных аккаунтов;

  – во-вторых, создающая впечатление широкой поддержки или массового несогласия с каким-либо сообщением/событием со стороны большинства населения/профессионального сообщества, скрывая при этом истинное происхождение источника передаваемой информации.

• 5.    Флудинг (от англ. «flood» – «наводн ние»): обильное насыщение информационной среды посредством интенсивной рассылки сообщений в социальных сетях и разделах комментариев с целью формирования повестки дня/обсуждения или нейтрализации неприемлемых взгля-да/позиции/точки зрения.

• 6.    Злоупотребление альтернативными цифровыми платформами или «цифровой абьюз» (англ. «digital abuse»): используя преимущество применяемых субъектами дезинформации цифровых платформ, указанные источники/идеологи

• 7.    Использование информационных пробелов: учитывая недостаток сведений по какому-либо вопросу, т.е. наличие ряда пробелов в данных, что свидетельствует об отсутствии или недоста-точночности достоверной информации для удовлетворения поискового запроса, субъекты дезинформации формируют свой собственный контент для оказания влияния на целевую аудиторию и размещают при этом поисковый запрос в социальных сетях, с целью побуждения пользователей к поиску необходимой информации. Данная тактика способствует повышению вероятности доведения до целевой аудитории дезинформационного контента без каких-либо точных или авторитетных результатов поиска, которые могли бы его опровергнуть.

• 8.    Манипулирование ничего не подозревающими субъектами: доведение через социальные сети дезинформации до авторитетных людей, в ожидании того, что они сами, в случае последующей передачи полученных ими ложных сообщений другим адресатам, невольно становятся «союзниками» субъектов дезинформации.

• 9.    Распространение целевого контента: создание субъектами дезинформации целенаправле-ного по смыслу контента, который с большой вероятностью будет ожидаемо воспринят среди определенной аудитории, исходя из мировоззрения, базовых ценностей и интересов входящих в нее людей/участников, которые обретают статус инсайдеров, набирают онлайн-подписчиков и повышают эффект информационной атаки, сводимой к манипулированию людьми. Отмеченная тактика основана на использовании подхода «долгой игры», сводимого к распространению целевого контента с течением времени и позволяющего более основательно завоевать доверие целевой аудитории.

и т.п. акторы социального взаимодействия основывают свои злонамеренные устремления на относительной слабости объектов их цифрового воздействия (более низкая степень защиты пользователей, менее строгая политика модерации контента, меньшее число средств контроля для обнаружения и удаления недостоверного контента и учетных записей - по сравнению с платформами социальных сетей, на которых осуществляется генерирование массива дезинформации). Данная тактика позволяет укрепить веру в дезинформационное повествование для целевой аудитории из числа пользователей сети Интернет, с эвентуальным последующим тиражированием передаваемой дезинформации к адресатам, находящимся вне пределов сетевого пространства.

С учетом изложенного, необходимо отм тить ряд рекомендаций, относящихся к разряду цифровой гигиены, имеющих силу «охранительного щита» от атакующих действий субъектов дезинформации и представленных в отдельных наставлениях [7].

Как следует из проведенного анализа, к подобного рода рекомендациям относятся следующие советы:

• -    во-первых, осознание риска доверия любой информации, стремление к пониманию истинных целей дезинформаторов и соблюдение канонов цифровой бдительности;

• -    во-вторых, овладение навыками задавать вопросы виртуальному источнику информации и/или виртуальному собеседнику, применяя при этом критический подход к восприятию контента получаемых сообщений и сверку информации с достоверными источниками, а также осуществляя проверку подтверждающих фактов;

• -    в-третьих, проведение обстоятельного анализа спорных вопросов и альтернативных точек зрения;

• -    в-четвертых, обеспечение замедления в распространении получаемой информации, сдерживая при этом возможную эмоциональную реакцию на полученный «посыл», возможно от дезинформатора;

• -    в-пятых, поддержание конфиденциального диалога со своим кругом общения и предостережение его участников от непродуманных действий по отношению к распространению любой информации по принципу «всем и всё!».

Заключение .

Проведенное исследование позволяет сформулировать следующие выводы:

В связи с отмеченным, следует признать важность устранения существующих пробелов в проводимых исследованиях, контекст которых позволит предложить современные концептуальные подходы для последующей разработки эффективных стратегий решения широкого спектра проблем дезинформации в эпоху цифровых технологий, одним из сущностных признаков которой является стремление научной мысли и ряда заинтересованных кругов к обеспечению диктата в обществе технологии ИИ.

• 1)    влиять на других;

• 2)    побуждать их к действию;

• 3)    причинять вред противной стороне (англ. «counter party»).

• 3.    Агрессивный характер существующей обоймы, основанной на потенциале ИИ пропагандистских приемов, по определению, требует применения более надежной и эффективно действующей тактики применения контрпропаганды, действующей по принципу «противостояние брони снаряду» и опирающейся на возможности ИИ и иных цифровых решений.

При этом необходимо учитывать объективно существующее стремление каждого субъекта дезинформации к принятию им маскировочных действий, назначение которых заключается в обеспечении доверия к передаваемым им ложным сообщениям/дезинформационным операциям.

Как нам представляется, отмеченное позволит повысить уровень готовности и устойчивости при столкновении с дезинформацией, создающей угрозу для критически важной инфраструктуры, имеющей прямое отношение к поддержанию должного состояния информационной безопасности.

Наряду с отмеченным, принципиальное значение имеет снятие с любого получаемого дезинформационного месседжа «пелены приличия и правдивости», под которой скрывается злонамеренный смысл истинных целей субъекта дезинформации, стремящегося обеспечить соответствующий вброс потока лжи, замаскированного под истинный, с целью тиражирования ее обсуждения в формате специального нарратива, под которым предлагается понимать публичный разговор, специально организованный для обсуждения определенных событий, с использованием соответствующих метафор, знаков, образов, событий, оценок и иных символов информационной культуры, позволяющих задавать желаемую рамку восприятия прошлого, настоящего и ожидаемого будущего. При этом тактика ведения дискурса в пределах специального формируемого на началах лжи или подбора дискредитирующих фактов нарратива, направлена на поляризацию целевой аудитории и обеспечение доверия к передаваемым сообщениям субъекта дезинформации.