Архитектура мультиагентной системы принятия решений для детекции текстов, сгенерированных искусственным интеллектом

Современная образовательная среда сталкивается с возрастающей проблемой использования инструментов генерации текста на базе искусственного интеллекта (далее – ИИ), в частности больших языковых моделей (Large Language Model – LLM), способных анализировать и генерировать тексты на любую тему. Это, в свою очередь, создает трудности для преподавателей при оценке студенческих работ. Современные исследования показывают возможность использования систем детекции ИИ-текстов в различных областях, в том числе и в образовательной среде. Однако стоит отметить, что все существующие и будущие решения должны сводиться не только к итоговой классификации работы по принципу «работа сгенерирована ИИ» или «не сгенерирована ИИ», а объяснять действия и приводить аргументацию в пользу того, почему был сделан тот или иной вывод. Это позволит всем участникам процесса (и студентам, и преподавателям) понять, какие признаки текста повлияли на его принадлежность к человеческому или ИИ-происхождению. В данной работе рассмотрен вариант архитектурного решения, в котором

Вестник Российского нового университета

Серия «Сложные системы: модели, анализ и управление». 2026. № 2

предложен XAI-модуль (Explainable AI, объяснимый искусственный интеллект), а также подход на основе мультиагентного обучения с подкреплением (Multi-Agent Reinforcement Learning – MARL) для согласованного обучения агентов.

Проблемы текстов, сгенерированных искусственным интеллектом

На сегодняшний день существуют различные исследования, изучающие влияние использования генеративного ИИ в образовательной сфере. В общем контексте выводы сводятся к тому, что современные методы преподавания должны быть адаптированы к поиску решений в вопросах детекции ИИ-текстов при написании любых видов студенческих работ [1], поскольку это прямо влияет на оценку качества образования [2–4].

Стоит отметить, что не все программные продукты в полной мере справляются с решением данного вопроса. Тут следует пояснить, что многие факторы в исследованиях могут не учитываться вовсе. Например, довольно часто эксперименты проводятся с использованием недостаточного набора инструментов для выявления текста, сгенерированного ИИ, и на ограниченном наборе данных [5]. Также важно учесть, что иногда тексты, написанные людьми, берутся с общедоступных веб-сайтов или из печатных источников, поэтому потенциально могут быть использованы для обучения больших языковых моделей [5].

То, что сфера ИИ развивается в достаточно быстром темпе, подтверждает, что чаще всего результаты исследований проверки существующих инструментов и систем детекции могут быть актуальны только на момент публикации и являются по большей мере ориентировочными, а не исчерпывающими [6].

В условиях внедрения генеративных моделей в образовательный процесс становится очевидным, что повышение качества систем детекции ИИ-текстов невозможно свести исключительно к усложнению отдельных алгоритмов классификации или увеличению объема обучающих данных. Ключевым фактором повышения надежности и устойчивости таких систем является архитектурное решение, определяющее способ взаимодействия компонентов, распределение функций анализа и механизм принятия итогового решения.

Любое разработанное решение в образовательной области должно учитывать следующие факты.

• 1.    Не всегда возможно установить происхождение текста, иногда даже в случаях полной генерации текста с ИИ [7].

• 2.    Ошибочность работы программного продукта детекции не должно сводиться к ложному обвинению студента в использовании ИИ.

• 3.    В образовательном процессе ценен не только результат, но и процесс его обоснования.

Следуют отметить, что система детекции не должна опираться на решение задачи как на стандартную классификацию текстов (ИИ или не ИИ), а подводить к процессу аргументированного вывода. Опираясь на вышеперечисленный 3-й пункт, можно сказать, что речь идет об использовании объяснимого ИИ (Explainable AI – XAI), который представляет свое решение в виде объяснений, как это решение было принято. Это важно в первую очередь для студента, получающего обратную связь, и для понимания не только того, «что неправильно», но и «почему». Преподаватель также должен понимать логику системы для принятия обоснованных решений.

Архитектура мультиагентной системы принятия решений для детекции текстов, сгенерированных искусственным интеллектом

Исследование архитектурного решения

В настоящей работе предложена мультиагентная архитектура с интеграцией мультиа-гентного обучения с подкреплением (MARL) и XAI. Такой выбор обусловлен необходимостью:

• •    реализовать согласованное принятие решений между агентами, где Агент-Судья формирует сигналы вознаграждения для обучения Агента-Обвинителя и Агента-Защитника;

• •    обеспечить интерпретируемость решений через XAI-модуль, фиксирующий журнал сессии аргументации и формирующий объяснения;

• •    проводить многоуровневый анализ признаков текста с учетом исторических данных студента и профиля работы с использованием базы знаний.

Стоит учесть, что уже существуют работы, показывающие результаты с использованием XAI-методов и подходов машинного обучения в области детекции ИИ-текстов [8; 9].

Ключевым отличием в данной работе является использование конкретного набора необходимых агентов для выполнения соответствующих задач. В предлагаемом исследовании MARL и XAI интегрируются на архитектурном уровне в рамках единой мультиагент-ной системы детекции ИИ-текстов для образовательной среды. Объяснимость в системе формируется не на уровне отдельных политик или локальных решений агентов, а на уровне коллективного процесса принятия решения. XAI-модуль интерпретирует вклад каждого агента и последовательность аргументов, что позволяет связать результат детекции с конкретными алгоритмическими механизмами MARL.

Предложенная в работе система детекции реализовывается как мультиагентная система с четырьмя агентами: Агентом-Детектором, Агентом-Обвинителем, Агентом-Защитником, Агентом-Судьей. Стоит отметить, что мультиагентные системы (МАС) представляют собой сети взаимодействующих агентов, которые могут общаться, координировать свои действия и работать вместе для достижения общих целей [10, с. 108]. Подход MARL, реализованный в рамках сложных адаптивных МАС, позволяет обучать автономных агентов принимать решения в общей среде и получать вознаграждения за эти решения. В MARL действия одного агента могут влиять на вознаграждение других, что приводит к нестационарной среде, которая может повлиять на эффективность обучения и производительность [11, с. 14].

Агент-Детектор представляет собой аналитический модуль, выполняющий функцию первичной обработки текста. Его основная задача заключается в преобразовании неструктурированного текстового материала студента в формализованное представление, пригодное для дальнейшего анализа другими агентами системы.

Пространство действий (А_детектор) у Агента-Детектора включает следующие категории:

• •    извлечение стилометрических, лексических, семантических, синтаксических признаков, перплексии и burstiness (порывистость текста);

• •    проверка согласованности набора признаков;

• •    оценка релевантности признака в заданном контексте;

• •    выявление сегментов текста с высокой неопределенностью анализа;

• •    формулировка объяснения для конкретного признака;

• •    создание сводного отчета по всем извлеченным признакам.

Вестник Российского нового университета

Серия «Сложные системы: модели, анализ и управление». 2026. № 2

Стилометрические признаки текста включают среднюю длину предложения, соотношение уникальных слов к общему числу слов, долю слов, встречающихся в тексте только один раз, а также частоту использования определенных частей речи [12].

Лексические признаки основываются на частоте или редкости использования слов (разнообразие словарного запаса), степени предсказуемости языковых конструкций, анализе уникального сочетания слов.

Семантические показатели раскрывают смысл предложений текста, в частности исследуется анализ связности предложений, сохранение тематической направленности текста, частота использования слов-связок. Для синтаксических признаков характерны: процент сложных предложений, соотношение союзных и бессоюзных конструкций, доля знаков препинания.

Перплексия (perplexity) является метрикой, измеряющей степень неопределенности языковой модели относительно предсказания следующего слова в последовательности. Чем ниже показатель perplexity, тем выше вероятность, что текст создан машиной [13, с. 120].

Под определением burstiness (порывистость) понимается вариативность использования слов в тексте [14]. Стоит отметить, что низкая вариативность часто указывает на работу ИИ, так как алгоритмы стремятся к усредненной подаче информации.

Процесс обработки текста Агентом-Детектором (см. Рисунок 1) формализован через последовательность состояний и переходов. Начальное состояние соответствует получению текста студента и контекста. Контекст может включать метаданные образовательной среды (тип задания, дисциплину, историю автора). После инициализации агент переходит к состоянию извлечения признаков.

В рамках синтаксической обработки текста производится POS-tagging (присвоение каждому слову в тексте значения определенной части речи), лемматизация словоформ (приведение слов к его базовой форме) и выявление синтаксических структур.

Семантический анализ требует данных о частотности слов, ключевых терминах, которые предоставляет лексический анализ. Показатель burstiness вычисляется на основе сти-лометрических характеристик (вариативность длины предложений, дисперсия частотности слов) и не может быть получен до завершения стилометрического анализа.

Вычисление перплексии, основанное на оценке предсказуемости текста языковой моделью, требует только токенизированного текста и может выполняться параллельно с другими видами анализа.

Состояние оценки достоверности отвечает за выявление противоречий между различными источниками признаков. Независимо от выбранной траектории принятия решения агент переходит к генерации объяснений.

Агент-Обвинитель представляет собой аналитический модуль, задачей которого является построение аргументированной позиции в пользу гипотезы о происхождении текста. Принципы работы агента сводятся к поиску свидетельств, противоречащих гипотезе о человеческом авторстве, и конструктивному противостоянию альтернативной точке зрения Агента-Защитника.

Стоит отметить, что в зависимости от характера исследуемого текста Агент-Обвинитель может принимать в своей работе стратегию поиска аномалий текста, анализ несоответствия текста требованиям задания, сопоставление с паттернами ИИ-генерации (повторяющиеся синтаксические структуры, предсказуемые переходы между абзацами).

Архитектура мультиагентной системы принятия решений для детекции текстов, сгенерированных искусственным интеллектом

Рисунок 1 . Процесс обработки текста Агентом-Детектором Источник: здесь и далее рисунки выполнены авторами.

Вестник Российского нового университета

Серия «Сложные системы: модели, анализ и управление». 2026. № 2

Пространство действий (А_обвинитель) включает следующие категории:

• •    выбор стратегии аргументации;

• •    формулировка аргумента на основе выбранного признака;

• •    усиление аргумента путем добавления дополнительных доказательств;

• •    ослабление аргумента при наличии контраргументов;

• •    анализ контраргумента, выдвинутого Агентом-Защитником;

• •    предложение завершить дискуссию, если позиция считается достаточно обоснованной.

Третьим агентом является Агент-Защитник, выполняющий функцию конструктивного аналитика, задачей которого является поиск объяснений характеристик текста в рамках гипотезы о человеческом авторстве.

Выделено следующее пространство действий (A_защитник):

• •    предложение объяснения признака с точки зрения человеческого авторства;

• •    предложение альтернативной интерпретации аргумента Агента-Обвинителя;

• •    апелляция со ссылкой на индивидуальный стиль студента;

• •    предложение запросить мнение эксперта (человека) по спорному вопросу.

Агент-Судья представляет собой модуль, задачей которого является объективная оценка аргументации сторон и принятие обоснованного решения о происхождении текста студента.

Пространство действий (А_судья) включает следующие категории:

• •    вынесение вердикта о ИИ-происхождении с указанием уровня уверенности;

• •    вынесение вердикта о человеческом авторстве;

• •    констатация невозможности вынести определенный вердикт с указанием причин;

• •    создание структурированного итогового решения;

• •    выделение ключевых аргументов, повлиявших на решение, с указанием их веса.

Сигналы Агента-Судьи напрямую влияют на обновление стратегий агентов Обвинителя и Защитника в рамках алгоритмов Q-learning (как один из вариантов обучения с подкреплением для одного агента) и MARL, что обеспечивает адаптацию агентов к различным типам текстов и достижение общих целей.

Ключевым координационным компонентом системы является контроллер аргументации (далее – контроллер). Основные задачи контроллера включают инициацию сессии аргументации на основе входного текста и контекста, маршрутизацию сообщений между агентами, агрегирование результатов дискуссии, а также управление итеративным циклом аргументации в зависимости от сигналов Агента-Судьи.

В качестве шаблона проектирования для предложенной МАС выбран паттерн «Посредник» (Mediator), поскольку контроллер управляет взаимодействием между агентами, минимизируя их прямую взаимозависимость. Выбор обусловлен тем, что данный паттерн облегчает коммуникацию между агентами, централизуя обмен сообщениями.

Также в рамках данной работы в архитектуру мультиагентной системы введен XAI-модуль, обеспечивающий интерпретируемость решений агентов (по большей мере Агента-Судьи).

Представление варианта архитектуры

Исследуя функциональные возможности каждого агента, можно визуализировать сценарий их работы (см. Рисунок 2).

Архитектура мультиагентной системы принятия решений для детекции текстов, сгенерированных искусственным интеллектом

Рисунок 2. Процесс обмена сообщениями между агентами

В данном случае контроллер инициирует извлечение признаков текста Агентом-Детектором и формирует начальное состояние сессии аргументации. Агент-Обвинитель генерирует аргументы на основе состояния, которые публикуются контроллером и оцениваются Агентом-Защитником в форме контраргументов, создавая итеративный цикл аргументации (отмечено фрагментом loop на Рисунке 2). Агент-Судья оценивает состояние дискуссии на каждом шаге, формируя сигнал о продолжении или завершении цикла.

Итоговое решение формируется с детальным пояснением для пользователя в XAI-модуле. Объяснение для пользователя (это может быть и студент, и преподаватель) выводится в виде описания того, как взвешивались различные критерии и аргументы, а также в виде указаний на ограничения, которые могли повлиять на решение. В том числе описываются рекомендации для преподавателя и студента на основе вердикта и предлагаются конкретные действия для устранения выявленных проблем.

На этапе извлечения признаков Агент-Детектор в зависимости от доступности вычислительных ресурсов выбирает оптимальную стратегию обработки – параллельное или последовательное извлечение (см. Рисунок 3).

Состав и взаимосвязь компонентов предлагаемого архитектурного решения отражены на Рисунке 4. В основе решения лежит принцип трехуровневой организации. Слой представления обеспечивает взаимодействие пользователя с системой через вебинтерфейс и REST API. Слой данных включает хранилище текстов, базу знаний и профили пользователей, ядро МАС объединяет контроллер аргументации и всех агентов.

Вестник Российского нового университета

Серия «Сложные системы: модели, анализ и управление». 2026. № 2

стилометрический анализ, вычисление burstiness

вычисление перплексии тематическая классификация стилометрический анализ (длина предложений, burstiness)

Рисунок 3 . Извлечение признаков Агентом-Детектором

лексические признаки и семантические признаки

лексический анализ

лексические признаки

семантический анализ

семантические признаки

стилометрические признаки, burstiness

лексический анализ (частотность слов, предсказуемость языковых конструкций) и семантический анализ (тематическая классификация)

предсказуемость языковых конструкций

длина предложений, burstiness

Архитектура мультиагентной системы принятия решений для детекции текстов, сгенерированных искусственным интеллектом

Рисунок 4 . Архитектура мультиагентной системы детекции ИИ-текстов

В данной системе предлагается разделение методов Q-learning и MARL. Каждый агент обучается по методу Q-learning, при котором он хранит Q-функцию Q(s,a) [15], отражающую ожидаемое вознаграждение за выполнение действия в состоянии дискуссии. В каждом шаге цикла агент получает состояние S от контроллера аргументации, выбирает действие A (аргумент или контраргумент) и получает локальное вознаграждение R на основе отклика других агентов и оценки судьи. При этом каждое действие одного агента влияет на наблюдаемое состояние и вознаграждение других агентов, создавая зависимость между стратегиями участников.

Чтобы учесть эти взаимозависимости, локальные Q-функции отдельных агентов интегрируются в MARL, где контроллер агрегирует состояния и действия всех участников и формирует коллективные сигналы вознаграждения, позволяя агентам корректировать свои стратегии с учетом влияния других.

Заключение

В работе предложена и формализована архитектура мультиагентной системы детекции сгенерированных ИИ-текстов, ориентированная на использование в образовательных системах. Разработанное решение основывается на взаимодействии агентов, реализующих процесс принятия решений в общей среде. Мультиагентное обучение реализова-

Вестник Российского нового университета

Серия «Сложные системы: модели, анализ и управление». 2026. № 2

но через использование Q-learning в условиях коллективного принятия решений, где состояние среды формируется динамически на основе аргументов и оценок агентов. Также в работе уделено внимание архитектурной интеграции XAI-модуля, который выступает составным элементом мультиагентного процесса.