Большие языковые модели в системе менеджмента качества высокотехнологичных производств

Современные высокотехнологичные производства характеризуются высокой сложностью технологических цепочек и многовариантностью возникновения дефектов. Значительная доля информации о качестве продукции или услуг поступает в неструктурированном виде: это тексты рекламаций, заключения аудитов, записи в журналах несоответствий. Традиционные методы обработки таких данных (поиск, по ключевым словам, ручная категоризация) перестают отвечать требованиям оперативности и полноты анализа.[1]

К таким производствам относятся предприятия авиастроения, точного машиностроения, а также выпуска медицинских изделий. Практический опыт одного из авторов, полученный на предприятии ООО «МЕДТЕХСЕРВИС», выпускающем медицинские изделия, показал, что значительная часть информации о качестве – протоколы испытаний, рекламации, сертификационные отчёты – сосредоточена в неструктурированной текстовой форме. Это подтверждает универсальность рассматриваемой проблемы для широкого класса высокотехнологичных производств, где цена дефекта особенно высока, а оперативность и полнота анализа неструктурированных данных напрямую влияют на безопасность конечного продукта.

Большие языковые модели (Large Language Models, LLM), обученные на обширных объемах текстов, способны извлекать смысловые связи, классифицировать контекст и даже генерировать объяснения выявленных проблем.[2] Однако их внедрение в контур управления качеством требует адаптации к специфике предметной области и интеграции с существующими информационными системами.

Исторически первые LLM использовали сверточные нейросети (CNN), которые могли собирать слова в предложения, но не понимали смысл написанного. Современные LLM используют архитектуру трансформер (Transformer), что позволяет понимать смысл документов и могут предложить решение проблем.

МЕТОДОЛОГИЯ ИССЛЕДОВАНИЯ

Настоящее исследование носит поисковый аналитико-практический характер, что обусловлено ранней стадией проникновения больших языковых моделей в строго регламентированные процессы систем менеджмента качества. Работа выполнена в четыре этапа.

• 1.    Обзор литературы. Проведён анализ научных публикаций за 2022–2026 гг., а также актуальных нормативных документов (ГОСТ Р ИСО/МЭК 42001–2024, ГОСТ Р 71476–2024), непосредственно затрагивающих вопросы цифровизации СМК и применения методов искусственного интеллекта. Выявлено, что, несмотря на высокий интерес к теме, число работ, содержащих конкретные архитектурные решения и результаты практической апробации LLM применимо к задачам менеджмента качества, остаётся крайне ограниченным. Существующие публикации, как правило, ограничиваются постановкой проблемы или общими рассуждениями, что не позволяет опереться на готовые методические шаблоны.

• 2.    Сравнительный анализ. Опираясь на классический процессный подход и известный цикл PDCA, основанные на требованиях международного стандарта ISO 9001:2015, были сопоставлены типовые процессы СМК (анализ рекламаций, управление несоответствиями и корректирующие действия, внутренний аудит, управление документацией) с функциональными возможностями LLM, описанными в литературе. Результаты систематизированы в табличной форме (табл. 1), что позволило выделить три ключевых направления с наибольшим потенциалом.

• 3.    Практическая апробация и синтез архитектуры. В условиях дефицита опубликованных внедренческих кейсов основой для выработки архитектурного решения послужил личный опыт авторов, полученный в период с 2022 г. по настоящее время. Этот опыт включал: а) экспериментальное применение доступных языковых моделей (включая облачные и локальные LLM) для решения задач категоризации несоответствий и генерации проектов корректирующих действий в учебных проектах на кафедре, а также б) анализ реальных производственных запросов на конфиденциальность данных и необходимость верификации результатов LLM. Полученные эмпирические данные и выявленные ограничения (галлюцинации, риск утечки данных) легли в основу предлагаемой архитектуры, базирующейся на RAG-парадигме с локальным контуром анонимизации и обязательным human-in-the-loop, а так же требования стандарта ГОСТ Р ИСО/МЭК 42001–2024.

ОСНОВНЫЕ НАПРАВЛЕНИЯ ПРИМЕНЕНИЯ LLM В СМК

Анализ процессов СМК, где LLM демонстрируют наибольший потенциал:

• 1.    Семантический анализ рекламаций и отзывов. Модель способна не только выделить суть проблемы, но и определить тональность, срочность и возможный экономический ущерб. Применение LLM позволяет сгруппировать входящие обращения не по формальным признакам (код дефекта), а по первопричинам, которые часто описаны в тексте неявно.

• 2.    Интеллектуальная поддержка при разработке корректирующих и предупреждающих действий (CAPA). При этом, следует иметь в виду, что «корректирующие действия», определяются, прежде всего, по итогам аудитов, а «предупреждающие действия»- как способ (или инструмент) управления рисками. На основе описания проблемы и архива успешных решений LLM может предложить проект плана мероприятий. При этом корректирующие действия фокусируются на устранении уже выявленных несоответствий (например, по итогам аудитов или рекламаций), тогда как предупреждающие действия основаны на прогнозировании рисков и предотвращении потенциальных проблем.

• 3.    Автоматизация внутренних и сертификационных аудитов. Языковые модели могут не только анализировать протоколы внутренних проверок, но и готовить предприятие к сертификационным аудитам на соответствие требованиям международных стандартов менеджмента качества ISO 9001:2015 и стандарта ISO 13485:2016, который содержит требования к системе менеджмента качества производителей медицинских изделий и основан на требованиях стандарта Европейского комитета по стандартизации EN 46001 «Quality systems — Medical devices — Particular requirements for the application of EN 29001» и других отраслевых стандартах. LLM сопоставляет внутренние документы, записи о несоответствиях и доказательства выполнения требований, выявляя пробелы и противоречия, которые могут стать причиной несоответствия при внешней проверке.

Задача сертификации высокотехнологичных предприятий выходит за рамки подтверждения соответствия требованиям стандарта. Смысл сертификации системы менеджмента качества состоит не просто в получении сертификата соответствия, а в создании управляемой и понятной системы. Сертификационные органы проверяют не столько наличие процедур, сколько их реальную работоспособность и способность системы к постоянному улучшению.

Таблица 1. Применение LLM в процессах системы менеджмента качества

Процесс СМК (по ИСО 9001)	Традиционный подход	Применение LLM	Ожидаемый эффект
Анализ рекламаций и обратной связи	Ручная сортировка, статистика по видам дефектов	Автоматическая классификация, тональный анализ, выявление скрытых закономерностей и формулировок	Сокращение времени реакции,выявление новых, ранее не учтенных видов рисков
Управление несоответствиями и корректирующие действия	Заполнение форм, поиск коренных причин силами экспертной группы	Генерация списка вероятных причин на основе базы знаний предприятия, поиск аналогичных инцидентов в прошлом	Повышение точности анализа коренных причин, предотвращение повторных несоответствий
Внутренние и сертификационные аудиты	Ручная подготовка чек-листов и отчётов, экспертный анализ накопленных доказательств	Автоматическая генерация адаптивных чек-листов, анализ текстов отчётов на полноту и соответствие требованиям стандартов, выявление зон риска для сертификации	Повышение глубины аудитов, снижение субъективности, сокращение времени подготовки к сертификационным проверкам
Управление документацией СМК	Поиск по названиям и ключевым словам в нормативной базе	Интеллектуальный поиск ответов на естественном языке по всей документации (инструкции, стандарты, регламенты)	Многократное ускорение доступа к информации для сотрудников, снижение ошибок

Внедрение больших языковых моделей трансформирует ключевые процессы системы менеджмента качества. Обращение к процессному подходу, несомненно, оправдано в высокотехнологичных предприятиях. При анализе рекламаций LLM заменяет ручную сортировку автоматической классификацией, ускоряя реакцию и выявляя скрытые риски. В управлении несоответствиями модель генерирует вероятные коренные, что повышает точность анализа. При аудитах LLM формирует адаптивные чек-листы и проверяет отчеты на противоречия, снижая субъективность анализа. В документации интеллектуальный поиск на естественном языке по стандартам и регламентам ускоряет доступ к информации. Таким образом, LLM обеспечивает переход к проактивному управлению качеством.

В высокотехнологичных производствах система менеджмента качества неизбежно опирается на процессный подход, заложенный в стандарты ИСО серии 9000, а его практическим воплощением служит цикл Деминга PDCA. Последовательность «планируй (plan) – делай (do) – проверяй (check) – действуй (act)» позволяет последовательно переводить любой процесс на новый уровень зрелости: на этапе планирования формулируются цели и распределяются ресурсы, на этапе выполнения реализуются намеченные мероприятия, контроль даёт картину фактических результатов, а завершающий этап корректирует отклонения и закрепляет успешные изменения. Классический PDCA отлично структурирует управление, но в условиях высокотехнологичного предприятия, где огромную роль играет глубокая аналитика производственных данных, этап проверки часто оказывается недостаточно насыщенным, чтобы вскрыть истинные причины проблем.

Именно поэтому в современных подходах всё чаще обращаются к варианту PDSA, предложенному самим Демингом, где третий этап называется не «проверяй», а «изучай» (study). Смысл такого смещения в том, чтобы не просто констатировать факт брака или отклонения, а провести статистический анализ, выявить закономерности и понять природу несоответствия. Подтвердим, что совершенствование системы менеджмента качества за счет нового подхода к циклу PDCA, может отличаться от известного, классического цикла модернизацией цикла Деминга в формате PDDCA (Plan-Design-Do-Check-Act), особо актуального в высокотехнологичных предприятиях. [5]. Внедре- ние больших языковых моделей идеально ложится именно на этот этап изучения: LLM способна автоматически обработать сотни и тысячи текстов рекламаций, протоколов несоответствий и аудиторских отчётов, классифицировать их по семантическим признакам, а не только по формальным кодам, и предложить эксперту гипотезы о коренных причинах. Таким образом, цикл PDSA, усиленный языковыми моделями, превращается из формальной управленческой рамки в реальный инструмент извлечения знаний из накопленных данных, позволяя быстрее переходить от выявления проблемы к обоснованным корректирующим и предупреждающим действиям.

АРХИТЕКТУРНЫЕ РЕШЕНИЯ ДЛЯ ВНЕДРЕНИЯ LLM

Документы

Запрос пользователя^

Дополненный контекстом запрос

Готовый ответ

Рис. 1. Интеграция LLM в контур управления качеством предприятия

Рассмотрим рисунок 1. Когда пользователь отправляет запрос, локальная LLM находит в заранее загруженных документах (или через подключенные инструменты поиска по локальному хранилищу), анонимизирует их и добавляет к исходному запросу. Дополненный запрос отправляется на внешнюю LLM (например, ChatGPT), и в результате пользователь получает ответ с требуемой точностью. Такой подход позволяет внешней модели работать только с обезличенными данными, сохраняя конфиденциальность чувствительной информации и одновременно повышая точность ответа за счет внутренней документации.

В данной схеме скорость конечного ответа зависит от мощности ЭВМ, в частности от объема и быстродействия видеопамяти видеокарты, на которой запущена локальная LLM, от количества параметров локальной модели и объема загруженных документов. Это означает, что для оперативной обработки запросов необходима достаточно производительная локальная инфраструктура, однако сама архитектура избавляет от задержек, связанных с ручным поиском и анонимизацией, и обеспечивает стабильное время отклика при любом масштабе локального хранилища.

РИСКИ И ОГРАНИЧЕНИЯ

Внедрение LLM в контур управления качеством сопряжено с рядом рисков. Основным остается возможность генерации некорректных рекомендаций при работе с неполными или противоречивыми данными, что в сфере качества способно привести к пропуску критического несоответствия или выбору неоптимального корректирующего действия.[3] Для минимизации рисков предлагается двухконтурная система: автоматическая генерация рекомендаций с последующим утверждением ответственным специалистом (human-in-the-loop).[4]

К числу других значимых рисков относятся:

Галлюцинации модели – генерация правдоподобно выглядящих, но ложных рекомендаций. Снижается обязательной верификацией экспертом в данной области и разграничением допустимых ответов.

Утечка конфиденциальных данных – распространение в свободном доступе секретных сведений, таких как тексты рекламаций, протоколы внутренних и сертификационных аудитов, записи. Использование публичных облачных LLM (ChatGPT) без специальных мер защиты означает передачу таких данных третьим лицам, что может нарушать требования законодательства и отраслевых стандартов (например, ГОСТ Р ИСО/МЭК 42001–2024) Снижается локальным слоем анонимизации и отказом от передачи чувствительной информации на внешние серверы.

Зависимость от качества исторических данных – если предыдущие отчёты составлялись формально, LLM воспроизведёт искажённые закономерности. Необходим аудит обучающей выборки и создание качественных примеров.

КАДРОВЫЕ АСПЕКТЫ РЕАЛИЗАЦИИ ПРИНЦИПА HUMANINTHELOOP

Практическая реализация принципа humanintheloop предъявляет принципиально новые требования к специалистам по СМК, изменяя не только их инструментарий, но и саму профессию. С появлением LLM специалист становится, «верификатором» и «редактором» сгенерированных рекомендаций, что требует развитого критического мышления и понимания границ применимости модели. Это означает, что наряду с глубокими знаниями в области менеджмента качества, сотрудник должен владеть базовыми представлениями о том, как языковые модели обрабатывают информацию, в чём заключаются их типичные ошибки (рассмотрено ранее) и какие факторы повышают вероятность галлюцинаций.

Обращение к принципу humanintheloop в высокотехнологичных предприятиях является объективным основанием совершенствования подходов управления персоналом, или Human Resources (HR). Управление персоналом является одним из важнейших факторов теории и практики управления. Современный менеджмент характеризуется повышенным вниманием к человеческому фактору, изменением роли человека в организации, превращение его в решающий ресурс обеспечения конкурентоспособности компании. В сфере высокотехнологичных, наукоемких производств особенно остро встает вопрос подготовки высококвалифицированных кадров. Это связано с мировыми тенденциями интенсификации производства и с приоритетными задачами российской экономики, ориентируемой на устойчивое развитие и реализацию экологических, социальных и корпоративных факторов-ESG устойчивого развития. Поэтому возникает необходимость подготовки высококвалифицированных специалистов в области высоких технологий, владеющих современными методами теоретических и экспериментальных исследований, инженерных разработок. Определение текущего состояния и прогнозирование будущего состояния и оценка достижимости критериев результативности в процессах управления персоналом и социальной ответственности целесообразно выполнять методами векторного прогнозирования и использования трендов.

Анализ временных рядов отличается от других задач исследования данных как кругом представляющих интерес вопросов, так и методами, применяемыми для реализации этих целей. Временные ряды, формирующиеся в различных предметных областях, имеют различную природу, поэтому для их исследования оказались эффективными разные методы.

Важным при этом, является требования социальной ориентированности предприятия, что вполне определенно регламентируется стандартом семейств ISO- SA8000 [6]. Назначение и область применения стандарта SA8000 представляет собой стандарт, основанный на международных нормах о правах человека и национальных трудовых законодательствах, целью которого является защита и поддержка персонала, находящегося под контролем и влиянием со стороны компании и участвующего в процессе производства или оказания услуг, в том числе образовательных. Соответствие требованиям SA8000 проверяется в ходе аудитов на основе объективных свидетельств.

В системе управления персоналом, или Human Resources в наукоемком высокотехнологичном секторе экономике приоритетным является подход управление компетенциями. Следовательно, система развития персонала (HR) должна быть дополнена модулями, направленными на формирование новых компетенций. Во-первых, это навыки промпт-инжиниринга (умение общаться с LLM), позволяющие формулировать запросы так, чтобы модель выдавала релевантные, непротиворечивые и безопасные результаты. Специалист учится не просто задавать вопрос, а конструировать контекст, ограничивать область поиска корпоративными документами, явно указывать требуемый формат ответа (например, в виде таблицы). Во-вторых, необходимо умение распознавать ситуации, в которых LLM склонна к ошибочным выводам: противоречивые исторические данные, метафорические описания несоответствий или когда ручное выполнение задачи будет быстрее. Здесь сотрудник проявляет себя как последний фильтр, принимающий или отвергающий автоматическую рекомендацию.

Важным аспектом является управление изменениями. Внедрение LLM в СМК неизбежно вызывает сопротивление: сотрудники опасаются обесценивания своей экспертизы, снижения контроля над решениями, увеличения нагрузки из-за необходимости перепроверять «машинные» советы. Поэтому HR-службе совместно с руководством необходимо выстроить систему внутренних коммуникаций с сотрудниками, объясняющую, что языковая модель не заменяет человека, а усиливает его, освобождая от рутинной обработки текстов и позволяя сосредоточиться на сложных, творческих задачах.

Все перечисленные изменения означают, что программа обучения в области качества в вузах должна включить в себя дисциплины, связанные с искусственным интеллектом, управлением данными и основами анализа текстовой информации на естественном языке (критическое мышление). Именно такая подготовка кадров позволит в полной мере реализовать потенциал LLM для перехода к предиктивному и превентивному управлению качеством, не подвергая систему рискам неконтролируемой автоматизации.

ЗАКЛЮЧЕНИЕ

Большие языковые модели открывают новые возможности для систем менеджмента качества, позволяя перейти от реактивной модели, которая лишь фиксирует уже случившийся брак, к предиктивной и превентивной. Такой переход означает, что система начинает работать на опережение, прогнозируя вероятные отклонения по слабым сигналам и автоматически формируя предупреждающие меры. Предложенная архитектура и результаты апробации подтверждают, что LLM способны эффективно обрабатывать неструктурированную информацию, выявлять скрытые закономерности и сокращать время принятия решений, усиливая экспертизу специалистов и формируя фундамент для самообучающейся системы качества.

Успех интеграции больших языковых моделей в СМК определяется не столько технической архитектурой, сколько готовностью персонала к новой роли, развитием критического мышления и способностью организации управлять изменениями.

Дальнейшие исследования будут направлены на создание отраслевых датасетов для дообучения локальных LLM и разработку методов оценки экономического эффекта от внедрения.