Нейронные сети в кредитном скоринге

В современных условиях цифровизации всех сфер экономики и управления внедрение систем искусственного интеллекта в одном из самых проблемных направлений банковского сектора – кредитном скоринге, получило дальнейшее развитие. Кредитные организации начали разработку собственных программных продуктов, основанных на собственных методиках. На рынке появились специализированные программные продукты, использующие различные математические модели. Информация, необходимая для оценки кредито спо собно сти заемщика, бралась не только из документов, предоставленных заемщиком, но также из баз данных кредитных организаций. По данным некоторых исследователей, внедрение таких систем позволило сократить на 50 % уровень безнадежного долга [1]. В 80-х годах прошлого века появились первые разработки на основе искусственного интеллекта, в частности, компания HNC разработала нейросетевую модель кредитного скоринга, обладавшую преимуществами по сравнению с моделями статистического анализа, главным из которых была способность к обучению. Ряд научных публикаций посвящены нейросетевому моделированию практических направлений различных сфер деятельности [2, 3]. Это определило начало перехода многих кредитных организаций на системы оценки кредитного риска на основе искусственного интеллекта.

Цель исследования

Целью исследования является разработка модели кредитного скоринга на основе искусственного интеллекта при помощи нейронных сетей, а также анализ возможностей использования нейросетевой модели в практической деятельности организаций банковского сектора.

Материалы и методы исследования

При осуществлении исследования в качестве статистической выборки использовалась информация по 1000 заемщикам [4]. Статистическая выборка рассматривалась как два подмножества: обучающая выборка – информация о 800 заемщиках; тестирующая выборка – информация о 200 заемщиках. Поскольку информация, использующаяся для построения нейросетевой модели, имеет разнообразный характер, а нейронная сеть оперирует только с числовыми данными, вся нечисловая информация была закодирована в соответствии принятыми правилами. Например, пол мужской кодируют числом 1, пол женский – 0 (или наоборот). В табл. 1 приведена структура статистической выборки с учетом кодирования нечисловой информации.

Как видно из таблицы, значения 9 входных переменных должны определять значение одной выходной переменной «Благонадежный заемщик». Отметим, что объем обучающей выборки удовлетворяет условию репрезентативности, согласно которому этот объем (информация о 800 заемщиках) должен быть больше, чем 7∙ N + 15, где N = 9 – число входных переменных [5].

При осуществлении исследования использовались методы системного анализа, методы моделирования на основе искусственных нейронных сетей, методы вероятностно-статистического моделирования.

Результаты исследования и их обсуждение

Проблема кредитного скоринга может быть сформулирована следующим образом: пусть известны ответы заемщика на вопросы анкеты, обозначаемые как x Î A, тогда необходимо определить группу, к которой относится заемщик: x Î AВ – «плохие» или x Î AG – «хоро- шие». Естественно, «плохой» и «хороший» заемщики могут иметь одинаковые ответы на одни и те же вопросы анкеты, поэтому моделирование носит вероятностный характер.

Разработка модели скоринга требует полной и достоверной информации о заемщиках кредитной организации. Объем данных может меняться в зависимости от конкретной модели, но в любом случае должен удовлетворять условиям случайности и статистической значимости. Для построения модели могут использоваться как внутренняя информация банка, так и внешние данные, предоставляемые, например, Национальным бюро кредитных историй. Модель должна применяться только в отношении тех кредитных продуктов (сектора рынка или экономической ситуации), данные о которых легли в основу проектирования нейросетевой модели. Так сведения по ипотеке не целесообразно использовать при разработке модели скоринга по автокредитам. Важен также период получения информации: например, информацию для построения модели скоринга заявок потребительских кредитов рекомендуют брать за последние 2–5 лет, для проектирования моделей поведенческого скоринга рекомендуется использовать информационный интервал 6–12 месяцев [6]. Как правило, при разработке модели из исходного массива данных исключают информацию о «нетипичных» клиентах (мошенники, сотрудники банка, умершие клиенты, VIP-клиенты, клиенты с аномально большими суммами, нестандартными условиями погашения и целями кредита).

Определение зависимой переменной предусматривает деление всех клиентов на две категории: «хорошие» и «плохие». В категорию «хорошие» попадают клиенты, добросовестно и в полной мере исполняющие свои обязательства

Таблица 1

Структура статистической выборки

перед банком. К категории «плохие» относят мошенников, банкротов, «безнадежных» заемщиков, а также клиентов со следующими параметрами:

• •    количество дней просрочки платежа превышает установленное значение;

• •    размер пророченной задолженности превышает величину, установленную банком;

• •    количество просрочек более установленного числа дней превышает величину, установленную банком.

Возможно введение двух дополнительных категорий клиентов: «отклоненные» заемщики, которым отказано в выдаче кредита; «неопределенные» заемщики – это клиенты с недостаточной кредитной историей, имеющие незначительные про срочки платежа и т. п. По мнению ряда экспертов, учет отклоненных заявок, требует значительно больше ресурсов и не всегда приводит к качественному улучшению модели. Таким образом, при проектировании модели кредитного скоринга целесообразно рассматривать зависимую переменную с двумя категориями: «плохой» и «хороший».

При проектировании модели кредитного скоринга могут быть использованы различные методы: статистики (линейная регрессия, дискриминантный анализ), эконометрического моделирования (корреляционно-регрессионный, дисперсионный, факторный анализ); методы оптимизации, методы экспертных оценок, методы искусственного нейросетевого моделирования. Ряд авторов научных исследований оценивают точность методов моделирования кредитного скоринга и отдают предпочтение тому или иному методу моделирования (табл. 2) [7, 8].

При осуществлении данного исследования проектирование модели кредитного скоринга было о суще ствлено с использованием искусственных нейронных сетей в среде R Studio.

При построении нейросетевой модели кредитного скоринга для определения значения выходной функции «Благонадежный заемщик» в качестве аргументов используют следующие входные данные:

• •    социально-экономические (пол, возраст, семейное положение, стаж работы общий и на последнем месте работы, состав семьи, доход личных и семьи в целом, наличие депозитов и их сумма);

• •    информация о кредите (сумма, назначение, обеспечение, срок погашения и т. д.);

• •    кредитная история (рейтинг, информация о взятых и погашенных кредитах, об имеющихся кредитах, в том числе просроченных, наличие других банковских продуктов).

Как видно из приведенного выше перечня аргументы могут быть как количественными (размер кредита, срок погашения и т. д.), так и качественными (пол, назначение кредита). Для использования качественных переменных для построения модели кредитного скоринга осуществлено их нормирование.

Статистическая выборка разделена на две части: обучающая выборка (данные о 800 заемщиках) использована для расчета числовых параметров модели; тестовая выборка (информация о 200 заемщиках) – для проверки адекватности модели, т. е. способности построенной нейросетевой модели отличать «хороших» заемщиков от «плохих». Для этого в нейросетевую модель подставляют данные тестовой выборки с заранее

Таблица 2

Оценка точности методов построения модели кредитного скоринга

Автор к о А 3S ХО Щ Рч^ Ч а 8 О s ^S ц к А о g о м ^ i д is Q Щ со S £ = я£ 2 s ^ 8 Й s д &® s И

Естественно, что на всей тестовой выборке нейро стевая модель может и не дать полного совпадения результатов и заранее известных критериев заемщиков, однако, если различия будут иметь место в пределах заданной погрешности, можно говорить об адекватности нейросетевой модели и ее возможности для практического применения оценки надежности заемщиков.

Расчет необходимого количества синаптических весов нейронной сети осуществлен с использованием формулы, вытекающей из теоремы Колмогорова – Арнольда-Хехт-Нильсена:

где N_x – количество входных факторов-аргументов, определяющих число нейронов входного слоя (V1–V9); N_y – количество нейронов выходного сло^yя, определяемое числом выходных переменных (V10); Q – размерность обучающей выборки (информация о 800 заемщиках); N_w– необходимое число синаптических связей.

Число нейронов скрытого слоя N может быть определено по формуле:

N

N=--^—,

N +N

Подставив в формулу (1) соответствующие значения переменных, получим, что число синаптических связей нейронной сети принадлежит интервалу [75; 989]. Количество нейронов скрытого слоя модели ИНС, рассчитанное по формуле (2), должно находиться в интервале [7; 99].

Авторы исследования ранее отмечали, что «на практике число нейронов в скрытых слоях выбирают в пределах от Nx /2 до 3∙Nx, и, как правило, их чис- ло определяется ошибкой, получаемой на этапе обучения сети. В нашем случае число нейронов в скрытом слое начнем изменять от 2 в сторону увеличения» [9].

При проектировании нейросетевой модели кредитного скоринга в R Studio использовались следующие возможности программного продукта: считывание подготовленных исходных данных; формирование структуры нейронной сети при обучении и тестировании; нормирование входных и выходных данных для этапа обучения; нормирование входных данных при тестировании и представление выходных данных в реальном диапазоне.

В результате проектирования нейросетевой модели получены следующие результаты (рис. 1).

Соответствие между переменными модели и переменными предметной области представлено в табл. 3.

Таблица 3

Соответствие между переменными модели и переменными предметной области

Переменная модели	Переменная предметной области
V1	Возраст (полных лет)
V2	Пол
V3	Состоит в браке
V4	Иждивенцы (количество)
V5	Доход (рублей)
V6	Опыт работы (полных лет)
V7	Срок проживания (полных лет)
V8	Рыночная стоимость недвижимости (тыс. рублей)
V9	Зарплата (рублей)
V10	Благонадежный заемщик

С целью определения параметров ИНС с наименьшей погрешностью будем менять число нейронов в скрытом слое и оценивать погрешность, получаемую на тестирующей выборке.

В качестве меры погрешности оценки выберем среднее квадратичное отклонение:

где δ – погрешность оценки; n – объем те стирующей выборки; y' – значение

Рис. 1. Нейросетевая модель кредитного скоринга с тремя нейронами в скрытом слое

выходной переменной из тестирующей выборки (заемщик «хороший» или «плохой»); уР – значение выходной переменной, полученное ИНС на тестирующем наборе (прогнозная оценка заемщика).

График зависимости ошибки модели от числа нейронов ИНС в скрытом слое представлен на рис. 2.

Визуальный анализ представленного графика позволяет утверждать, что наименьшее значение ошибки модели до стигается при количестве нейронов в скрытом слое равное 3.

В ходе исследования для повышения точности нейросетевой модели была разработана искусственная нейронная сеть (ИНС) с двумя скрытыми слоями (рис. 3).

0,035

0,03

0,025

0,02

0,015

0,01

0,005

О 2        4        6        8       10       12       14       16

Рис. 2. График зависимости ошибки ИНС от числа нейронов в скрытом слое

0,035

0,03

0,025

0,02

0,015

0,01

0,005 0

Рис. 3. Искуственная нейронная сеть с двумя скрытыми слоями

5.2 5.3 5.4 5.5 5.6 6.2 6.3 6.4 6.5 6.6 6.7 6.8

Рис. 4. График зависимости ошибки ИНС от числа нейронов в скрытых слоях

График зависимости ошибки ИНС от числа нейронов в скрытых слоях представлен на рис. 4 (первая цифра – число нейронов в первом скрытом слое, вторая – во втором).

Одним из направлений исследования является оценка влияния входных факторов на значение выходной переменной. Для решения данной проблемы могут быть использованы различные методы, в частно сти, методы эконо-метриче ского моделирования, рассмо- тренные в [10]. В рамках настоящего исследования, используя модель кредитного скоринга, полученную на основе ИНС, осуществим ее анализ, в частности, определим, от каких факторов в больней степени зависит значение выходной переменной «благонадежность заемщика». Для этого будем поочередно исключать входные факторы и оценивать точно сть модели. Графическая интерпретация полученных результатов исследования представлена на рис. 5.

Анализ представленного графика позволил выявить наиболее значимые факторы, определяющие благонадежность заемщика, которыми являются доход заемщика и зарплата.

Выводы по результатам исследования:

• •    разработаны модели кредитного скоринга на основе ИНС с одним и двумя скрытыми слоями, позволяющие прогнозировать «надежность» заемщика;

• •    нейросетевые модели кредитного скоринга позволяют нивелировать фактор субъективности в оценке надежности заемщика;

• •    по результатам сравнения точности (величины ошибки) ИНС с одним скрытым слоем и ИНС с двумя скрытыми слоями, можно сделать вывод о том, что погрешность

  для ИНС второго вида в меньшей степени зависит от числа нейронов в скрытых слоях, хотя в целом имеет большую погрешность, по сравнению с ИНС с одним скрытым слоем (минимальное значение погрешности ИНС с одним скрытом слоем равно 0,02050, с двумя скрытыми слоями – 0,02412);

• •    на основе построенных ИНС выявлены ключевые факторы, в наибольшей степени оказывающие влияние на «надежность» заемщика – доход заемщика и его зарплата;

• •    практическая значимость осуществленного исследования заключается в возможности использования нейросетевой модели кредитного скоринга для оценки надежности заемщика и снижения риска потерь и/или сокращение числа дефолтов по выданным кредитам.