Доменно-независимый онтологический паттерн проектирования интерпретируемых нейросимвольных систем

Интерпретируемость выводов в системах поддержки принятия решений – важное практическое требование, в том числе в таких областях, как медицина, психологическая диагностика и безопасность. Распространённым способом повышения интерпретируемости являются апостериорные методы атрибуции, формирующие объяснения для уже обученной модели. Объяснения формируются независимо от процесса вывода и не опираются на формализованное представление предметного знания, их связь с используемыми понятиями предметной области (ПрО) остаётся неявной.

В нейросимвольных системах (НСС) графы знаний (ГЗ) используются для представления предметного знания, а графовые нейронные сети (ГНС) – для анализа данных и формирования предсказаний. Интерпретация результата в этом случае может быть представлена семантическим путём в ГЗ. Подобные системы проектируются независимо для каждой ПрО.

Предметом настоящей статьи является онтологический паттерн (ОП) проектирования и его применение в различных ПрО. Предлагаемый ОП основан на разработанном автором подходе к построению интерпретируемых НСС [1].

1    Источниковая база для исследования

Онтология в инженерии знаний определяется как формальная спецификация концептуализации ПрО [2]. Реализация онтологий обычно основана на языках RDF и OWL [3, 4].

ОП проектирования представляют собой переиспользуемые решения типовых задач построения онтологий [5, 6]. ОП фиксируют устойчивые структуры классов и отношений, применимые в различных ПрО. Выделяются содержательные, логические и другие виды ОП, рассматриваются методы их каталогизации и повторного использования [7].

В онтологии проектирования рассматриваются знания о процессах создания и модификации артефактов, включая описание объектов и субъектов проектирования, используемых понятий, ограничений и процедур [8]. Вопросы инженерии знаний, онтологического моделирования и построения порталов знаний исследованы в работах [4, 9].

В нейросимвольном искусственном интеллекте объединены методы машинного обучения и формализованное представление знаний [10]. В таких системах предметное знание представлено ГЗ, а обработка данных выполняется ГНС [11].

Для обработки графовых структур используются ГНС, в том числе графовые сети внимания [12], включающие структуры ГЗ и выявленные зависимости при формировании предсказаний. Существующие НСС ориентированы преимущественно на решение задач в отдельных ПрО. Инвариантные компоненты их онтологической организации и механизмы междоменного переноса не формализованы.

В обзоре [13] систематизированы методы нейросимвольных рассуждений с помощью ГЗ; в [14] причинно-ориентированный механизм объяснения встроен непосредственно в ГНС; в [15] в сеть встраиваются обучаемые нечёткие правила для интерпретируемой классификации медицинских изображений; в [16] интерпретируемость графовой сети усиливается интеграцией внешних предметных знаний; в [17] предложены объяснения для задач дополнения ГЗ. Онтологическая составляющая объяснимого искусственного интеллекта рассматривается в обзоре [18].

В настоящей работе под интерпретируемостью понимается возможность проследить формирование предсказания через семантические связи ГЗ: от наблюдаемого признака к целевой характеристике [1]; интерпретируемость определяется структурой онтологии и связями между её концептами. Объяснение рассматривается как представление этого процесса в форме подграфа вывода, набора семантических путей или их текстового описания.

2    Паттерн «Объект анализа – Признак – Целевая характеристика»

ОП задаёт доменно-инвариантную структуру онтологии интерпретируемой НСС. В его состав входят классы концептов, предикаты и ограничения, не зависящие от ПрО. Наполнение признаков и целевых характеристик определяется применением ОП в конкретной ПрО.

ОП включает следующие классы сущностей.

Объект анализа ( AnalysisObject ) - сущность ПрО, для которой выполняется анализ и формируется предсказание. Объект описывается набором атрибутов, получаемых из исходных данных и производных признаков.

Признак ( Feature ) - характеристика объекта анализа, используемая при построении предсказания. Состав признаков определяется ПрО.

Целевая характеристика ( Targetcharacteristic ) - концепт ПрО, отражающий интерпретируемое свойство объекта анализа и являющийся объектом предсказания или объяснения.

Значение целевой характеристики ( TargetMeasurement ) - значение целевой характеристики, полученное в результате наблюдения, измерения или экспертной оценки и используемое при обучении и валидации модели.

Разделение классов Targetcharacteristic и TargetMeasurement отражает различие между концептами ПрО и результатами их измерения. Наличие этих классов упрощает расширение онтологии и формулирование зависимостей между признаками и характеристиками.

Семантические связи ОП задаются бинарными предикатами.

• ■    has_feature (имеет_признак): домен - AnalysisObject , ко-домен - Feature . Связывает объект анализа с наблюдаемым признаком.

• ■    associated_with (ассоциируется_с): домен - Feature , ко-домен - TargetCharacteristic . Отражает связь признака с целевой характеристикой. Количественная оценка этой связи определяется при построении ГЗ для конкретной ПрО.

• ■    correlates_with (коррелирует_с): домен и ко-домен - TargetCharacteristic . Описывает вза-

• имосвязи между целевыми характеристиками и используется при задании предметных ограничений.

Композиция предикатов has_feature и associated_with образует элементарный семантиче ский путь вывода вида «Объект анализа - Признак - Целевая характеристика». Данный путь является базовой структурой интерпретации результатов в рамках предлагаемого ОП. Для описания ОП используются языки OWL и RDF. Фрагмент спецификации инвариантного ядра в синтаксисе Turtle имеет вид: :AnalysisObject           a owl:Class.

Рисунок 1 - Схема онтологического паттерна

:Feature                   a owl:Class.

:TargetCharacteristic      a owl:Class.

:TargetMeasurement     a owl:Class.

:has_feature a owl:ObjectProperty;

rdfs:domain :AnalysisObject;

rdfs:range :Feature.

:associated_with a owl:ObjectProperty; rdfs:domain :Feature;

rdfs:range :TargetCharacteristic.

Спецификация      задаёт структуру ОП и служит основой для построения ГЗ, используемого в НСС. Схема ОП представлена на рисунке 1.

ОП содержит набор аксиом, определяющих структуру онтологии и правила формирования интерпретации.

Для предикатов has_feature и associated_with задаются ограничения домена и ко-домена. Предикат has_feature связывает экземпляры классов AnalysisObject и Feature , а предикат associated_with - экземпляры классов Feature и TargetCharacteristic . Ограничения предотвращают формирование семантически некорректных связей.

Классы AnalysisObject, Feature, TargetCharacteristic и TargetMeasurement являются по- парно дизъюнктными. Один и тот же индивид не может одновременно принадлежать нескольким классам ОП.

Предикат correlates_with задаётся как симметричный. Если одна целевая характеристика связана отношением корреляции с другой, то справедливо и обратное отношение.

Для отношения associated_with может задаваться характеристика associationStrength , отражающая силу связи между признаком и целевой характеристикой. Способ определения данного значения зависит от конкретной реализации и может основываться на статистических оценках, экспертных знаниях или параметрах обучаемой модели.

3    Метод проектирования нейросимвольной системы на основе паттерна

Проектирование начинается с выделения объекта анализа и целевых характеристик ПрО. Далее выполняется выделение признаков объекта анализа на основе знания ПрО. Каждый признак отображается на концепт класса Feature и включается в онтологическую модель.

Устанавливаются связи между признаками и целевыми характеристиками. Отношения

associated_with задаются на основе статистических зависимостей, экспертных знаний или их комбинации.

Построенная онтология отображается в ГЗ. На следующем этапе обучается ГНС. В настоящей работе используется ГНС внимания, но допускается применение других моделей обработки графов.

После обучения модели формируются объясняющие пути, связывающие объект анализа, признаки и целевые характеристики. Интерпретация результата представляется в виде подграфа вывода или набора семантических путей, а её качество может оцениваться специализированными метриками на основе онтологии.

Схема метода проектирования НСС представлена на рисунке 2. Этапы концептуализации ПрО, выделения признаков и построения онтологии зависят от рассматриваемого домена. Построение ГЗ, обучение графовой модели и формирование объясняющих путей определяются инвариантной структурой паттерна и воспроизводятся при его переносе между ПрО.

Рисунок 2 – Схема метода проектирования нейросимвольной системы

4    Объяснимость как следствие онтологической модели

Объяснение строится на основе онтологии. Элементарное объяснение предсказания есть семантический путь, составленный из ребра has_feature и ребра associated_with . Онтология фиксирует допустимые типы связей и их семантику. Специалист может сопоставить путь с предметным знанием и принять либо опровергнуть полученную интерпретацию.

Применение ОП можно показать на примере дерматоскопической диагностики. Пусть для изображения o графовая модель сформировала предсказание класса «меланома» t. Объясняющий путь строится из двух рёбер: ребро has_feature связывает o с присутствующим на изображении признаком «структурная гетерогенность» f, а ребро associated_with связывает этот признак с целевой характеристикой «меланома», поскольку в ГЗ задана соответствую- щая значимая ассоциация. Полученный путь «o – has_feature – структурная гетерогенность – associated_with – меланома» – допускает проверку специалистом: структурная неоднородность относится к признанным дерматоскопическим индикаторам злокачественности [19]. Если модель опирается на признак, не имеющий значимого ребра к предсказанному классу, путь не строится. Таким образом, наличие и состав объяснения определяются структурой онтологии, а не постобработкой.

Для количественной оценки качества объяснений используется структурная метрика, анализирующая граф вывода. Метрика учитывает наличие значимого объясняющего пути и степень его использования моделью при формировании решения. Поскольку метрика определяется на уровне онтологической модели ГЗ, она сохраняет применимость при переносе ОП на различные ПрО.

Объясняющим путём для предсказания целевой характеристики t объекта o называется путь я = ( о ^ f ^ t)c состоящий из ребра has_feature (объект обладает признаком f) и ребра associated_with (признак ассоциирован с целевой характеристикой t). Путь считается значи- мым, если одновременно выполняются два условия: нормированная выраженность признака с объекта о удовлетворяет условию с ff , о) > т, т = 0,2, а связь associated_with становится статистически значимой после поправки на множественные сравнения q < 0,05.

Основной характеристикой интерпретируемости является покрытие значимыми объясняющими путями. Для каждого объекта o вводится индикатор

^h = {

1,

если существует хотя бы один значимый путь я,

Тогда показатель покрытия GPI_{C 0V} = 1 ^ п=i

иначе.

1_п , где N - количество объектов выборки.

Дополнительно оценивается взвешенная согласованность объясняющих путей, отражающая долю вклада значимых путей в итоговое решение:

ХяЕ п ■ ш(я) GPIW =       s 13      , п wf7r)

где Π – множество всех путей от объекта o к предсказанной целевой характеристике t , Π ⊆Π – множество значимых путей.

Вес отдельного пути вычисляется по формуле ш(я) = cff, о ) - а _е , где cff, о ) - нормированная выраженность признака объекта, а – коэффициент внимания ребра associated_with между признаком f и целевой характеристикой t , полученный в процессе обучения ГНС внимания. Значения GPI _C0V и GPI _W вычисляются для каждого объекта и затем усредняются по всей выборке. В качестве дополнительной проверки объяснений используется тест верности. Узлы графа, соответствующие признакам, последовательно удаляются в порядке убывания их вклада в предсказание (например, по величине коэффициента внимания ). Корректное объяснение должно приводить к монотонному снижению уверенности модели при удалении наиболее значимых признаков.

ния этот атрибут уточняется как коэффициент внимания соответствующего ребра в последнем слое GAT . Таким образом, структура определяет, что может быть связано, а данные – что действительно связано и насколько сильно.

Онтологические ограничения учитываются при обучении. Функция потерь включает основной член ошибки предсказания и регуляризирующий член, штрафующий нарушение структуры взаимосвязей целевых характеристик, заданной предикатом correlates_with :

£ = £pred + Л-Я, где ℒ – стандартная функция потерь (например, кросс-энтропия для классификации или среднеквадратичная ошибка для регрессии), – гиперпараметр, управляющий силой регуляризации, ℛ - штраф за несоответствие между предсказанными значениями целевых характеристик и их известными корреляционными связями:

^Я =  ^ (^sim(y i , y_}) -p^ ,

( Gj )E Cotrrtn где Erm - множество рёбер correlates_with между целевыми характеристиками i и j; ^ и у j -предсказания модели для соответствующих характеристик; sim(-) - функция сходства (например, косинусное сходство или коэффициент корреляции Пирсона);    – заданная в онтологии эталонная мера связи (например, экспертно определённый коэффициент корреляции). Регуляризатор способствует тому, чтобы предсказания модели согласовывались с известной структурой зависимостей между целевыми характеристиками.

Обучению подлежит только графовый модуль (слой внимания и классификатор), тогда как энкодеры признаков используются в режиме фиксированных параметров. Это предотвращает искажение семантики признаков в процессе обучения и сохраняет прослеживаемость связи «онтология – ГЗ – архитектура – обучение»: узлы и рёбра сети сохраняют предметную семантику на всех этапах.

Отображение онтологии на ГНС -a и интерпретация объяснения могут быть представлены следующим псевдокодом.

Вход : онтология  (классы, предикаты, ограничения); обучающая выборка; извлечённые признаки объектов.

Выход : обученная ГНС внимания; объясняющие пути; значение метрики интерпретируемости.

1)    Для каждого класса создать тип узла ГЗ; для каждого предиката – тип ребра. 2)    Для каждого объекта добавить узел и рёбра has_feature к присутствующим признакам (вес – нормированная выраженность признака с(/, о )). 3)    Для каждой пары «признак – целевая характеристика» вычислить статистическую меру связи (например, корреляцию Пирсона); включить ребро associated_with только при статистической значимости после поправки на множественность ( q < 0,05); вес ребра инициализируется значением associationStrength. 4)    Инициализировать ГНС внимания топологией ГЗ; механизм передачи сообщений ограничен типами рёбер, заданными онтологией. 5)    Обучить графовый модуль, минимизируя £ = £pred + ЛЯ с онтологической регуляризацией; веса рёбер associated_with уточняются механизмом внимания, т.е. финальный вес ребра становится равным коэффициенту внимания из последнего слоя GAT. 6)    Извлечь объясняющие пути (композиции рёбер has_feature и associated_with) и вычислить компоненты метрики интерпретируемости ( GPI _соv , PP__w). 6    Перенос паттерн-aа между предметными областями

Возможность переноса предложенного ОП показана на двух ПрО. В обоих случаях используется одно и то же инвариантное ядро, включающее классы и предикаты, описанные в разделе 2. Различается наполнение сущностей и отношений ПрО.

Задача 1 – Применение ОП для психологического профилирования. В задаче анализа пользователей социальных сетей класс «Объект анализа» соответствует профилям пользова- телей. Признаки формируются на основе поведенческих и визуальных модальностей цифровой активности, а целевые характеристики соответствуют психометрическим факторам личности. Измерения целевых характеристик получены с использованием известных психологических методик. Отношения associated_with связывают поведенческие признаки с факторами личности, тогда как отношения correlates_with отражают взаимосвязи между факторами [1].

Задача 2 – Применение ОП для дерматоскопической диагностики. В задаче анализа изображений новообразований кожи объектом анализа является дерматоскопическое изображение. Признаки соответствуют дескрипторам правила ABCD (асимметрия, нерегулярность границы, вариативность цвета и диаметр) [19], а также показателям структурной гетерогенности. Целевыми характеристиками являются диагностические категории, измерения которых определяются клиническим диагнозом. Отношения associated_with связывают выявленные дерматоскопические признаки с диагностическими категориями. Постановка задачи основана на правиле [19] и наборе данных [20].

Сопоставление двух реализаций ОП (таблица 1) показывает, что инвариантными остаются классы и предикаты, способ построения ГЗ, тип обучаемой модели и механизм формирования объяснений.

Таблица 1 – Сопоставление доменно-инвариантных и доменно-специфичных элементов паттерна

Элемент проектирования	Инвариантно (ядро паттерна)	Домен 1 – Психология	Домен 2 – Дерматоскопия
Объект анализа	класс AnalysisObject	профиль соцсети	дерматоскопическое изображение
Признаки	класс Feature , предикат has_feature	данные цифровой активности и визуальные	дескрипторы ABCD и структуры
Целевая характеристика	класс TargetCharacteristic	факторы личности	диагностические категории
Измерение	класс TargetMeasurement	психологическая методика	клинический диагноз
Ассоциации	предикат associated_with	связь данных цифровой активности с факторами	связь дескрипторов с диагнозом
Обучаемая модель	графовая нейронная сеть	графовые сети внимания	графовые сети внимания
Механизм объяснения	семантический путь в графе	идентичен	идентичен

Доменно-зависимыми являются состав признаков и целевых характеристик, источники ассоциаций и используемые измерительные методики. Сопоставление двух онтологий с выделением общего ядра представлено на рисунке 3.

Для формализации переносимости ОП разграничиваются терминологический и фактологический компоненты онтологии. ОП как терминологический компонент ( TBox ) задаётся четвёркой P = ⟨C, R, A, M⟩ , где C – множество классов, R – множество типов предикатов, A – онтологические аксиомы, M – механизм вывода интерпретации (семантический путь). Реализация ОП в конкретной ПрО представляет собой отображение, которое наполняет фактологический компонент ( ABox ) экземплярами классов «Признак» и «Целевая характеристика», а также определяет источник весов ассоциаций.

Для рассмотренных ПрО без изменений сохраняются элементы TBox онтологии. Доменная адаптация сводится к пополнению ABox . Сохранение единого онтологического ядра при существенном различии ПрО подтверждает доменную независимость предложенного ОП и общность метода проектирования НСС.

Работоспособность ОП подтверждена количественно в двух рассмотренных ПрО.

Результаты в психологическом домене представлены в [1].

Рисунок 3 – Психологическая и дерматоскопическая реализации паттерна с выделением общего онтологического ядра

В дерматоскопическом домене (HAM10000 [20], 10 015 изображений, 7 диагностических классов) получены следующие значения показателей работы модели: извлечение признаков Accuracy = 0,807 и AUC = 0,955; при равной точности рассуждающих модулей (≈0,67) отделено графовое рассуждение, опирающееся на концепты, от моделей типа «чёрный ящик» без онтологической опоры GPI_w = 0,42 (GAT) при покрытии GPI_cov ≈ 1,0. Переносимость подтверждена внешней валидацией на независимом наборе ISIC 2018 1 (1 511 изображений), где воспроизведены показатели классификатора и значимые рёбра ГЗ. ОП апробирован на задачах интерпретируемой классификации токсичных текстов и классификации эмоций.

ОП предполагает наличие полной и непротиворечивой предметной онтологии. При неполной онтологии часть решений модели не покрывается объясняющими путями; это состояние диагностируется метрикой (снижение GPI_cov) и указывает на необходимость расширения словаря признаков. Противоречивые или ложные экспертные ассоциации отсеиваются на этапе статистической валидации рёбер: связи, не подтверждённые данными после поправки на множественность проверок, в ГЗ не включаются. Качество объяснений ограничено качеством исходной концептуализации: ОП структурирует и верифицирует предметные знания, но не заменяет доменную экспертизу, а при смене ПрО требуется повторная реализация словаря признаков и целевых характеристик.

ОП реализован в программном комплексе, включающем модули: извлечения признаков; наполнения ГЗ по правилам ОП; нейросимвольного вывода и генерации объяснений с ранжированием семантических путей. Веб-интерфейс визуализирует объясняющие пути и вклад признаков, обеспечивая возможность экспертной верификации результатов анализа.

Заключение

Предложен доменно-независимый ОП проектирования интерпретируемых НСС анализа данных «Объект анализа – Признак – Целевая характеристика» и метод его применения. ОП включает классы, типы отношений, способ построения ГЗ, тип обучаемой модели и механизм формирования объяснений.

1 ISIC 2018 Challenge (International Skin Imaging Collaboration) – международный конкурс по анализу изображений кожных поражений.

Применение ОП в задачах психологического профилирования и дерматоскопической диагностики показало, что при различии ПрО сохраняются структура онтологии, механизм вывода и способ формирования объяснений. Новым является выделение доменноинвариантного ядра проектирования, сохраняемого при изменении ПрО, а также метод построения объясняющих путей вывода на основе онтологической структуры ГЗ.