Возможности и риски применения нейросетей для расширения методологического инструментария исследований в сфере устойчивого развития

В настоящее время эволюция концепции устойчивого развития достигла своеобразной точки бифуркации: при росте числа публикаций по данной теме, её активном обсуждении в научных и политических кругах, включении в корпоративные и территориальные стратегии, всё больше распространяются идеи о необходимости трансформации подхода к обеспечению устойчивости. Во многом это связано с недостижением установленных показателей: в 2025 году по сравнению с базовым 2015 годом для 31% оцениваемых целей в области устойчивого развития зафиксированы недостаточные улучшения, для 17% целей – отсутствие улучшений и для 18% целей – ухудшение ситуации [17].

ГРНТИ 06.01.07

EDN CXXHCB

Валентина Владимировна Каргинова-Губинова – кандидат экономических наук, старший научный сотрудник отдела региональной экономической политики Института экономики – обособленного подразделения Карельского научного центра Российской академии наук (г. Петрозаводск). ORCID 0000-0002-8630-3621

Тамара Алексеевна Селищева – доктор экономических наук, профессор, профессор кафедры общей экономической теории и истории экономической мысли Санкт-Петербургского государственного экономического университета. ORCID 0000-0001-6787-9150

В частности, усугубляется неравенство характеристик отдельных территорий и социальных групп. При этом, в научном сообществе растёт понимание необходимости учёта нелинейности связей и их многообразия в эколого-социально-экономических системах (далее – экосистемах). Повышение реалистичности моделей и, соответственно, корректности получаемых выводов возможно за счёт включения больших массивов данных, однако получившие распространение традиционные статистические методы, в первую очередь, из-за «проклятия размерности», не обеспечивают эффективную обработку многомерных данных. Это делает актуальным поиск новых методических подходов к исследованиям в сфере устойчивого развития.

В значительной мере описанные проблемы методологического инструментария можно решить при обращении к технологиям искусственного интеллекта, в том числе нейронным сетям. Однако методологический аспект, фокусирующийся на потенциале искусственного интеллекта, как инструмента научного познания в области устойчивого развития, остаётся недостаточно изученным. Целью статьи является концептуально-теоретический анализ возможностей и рисков применения нейросетей для расширения методологического инструментария исследований в сфере устойчивого развития. Авторы оценивают позитивные и негативные последствия обращения к нейронным сетям в рассматриваемой области знаний, опираясь на проведённый литературный обзор и личный опыт использования технологий искусственного интеллекта.

Становление инструментария исследований в сфере устойчивого развития

На первоначальном этапе оформления концепции устойчивого развития в научных работах активное применение нашёл метод компьютерного моделирования динамических процессов, основанный на дифференциальных уравнениях. В частности, выводы, полученные с помощью данного метода, отражены в докладе «Пределы роста» 1972 года [11]. Этот доклад направлен на представление последствий продолжающегося экономического роста при существующих ресурсных ограничениях и способности экосистем противостоять оказываемому негативному антропогенному воздействию.

В более поздние периоды основной фокус внимания стали уделять разработке и анализу индикаторов устойчивости. При этом приоритетно рассматривались также проблемы дефицита ресурсов и необходимости их сбережения. Однако в последнее время всё больше учёных говорят о значимости для устойчивого развития иных аспектов – институтов и механизмов трансформации всего общества. Соответственно, исследователи в своей работе больше не могут довольствоваться исключительно запасами природных ресурсов и их стоимостью – требуются данные обо всех объектах и событиях экосистем. При этом появляется понимание: даже при изучении проблемных зон локальной территории из-за высокой взаимосвязанности элементов современного мира необходимо мыслить в планетарном масштабе.

Это обуславливает спрос на большие массивы данных и зарождающийся интерес к нейросетям. В качестве примеров исследований в области устойчивого развития, выполненных с использованием нейронных сетей, можно привести определение показателей бедности на уровне городов на основе сведений об электронной торговле [19] и проверки исправности датчиков в хранилище радиоактивных отходов [9]. В то же время, пока что говорить о явном доминировании нейросетей в методологическом инструментарии не приходится.

Дополнительные возможности исследователей при использовании нейросетей

Нейронные сети – это группа алгоритмов, обладающих различной архитектурой, которая определяет «способ мышления» сети, её способность работы с определённым типом данных и доступные для решения задачи. В частности, возможно применение: перцептронов – для построения регрессий, кластеризации и классификации объектов, свёрточных нейронных сетей – для обнаружения объектов на изображениях и видео (объектного детектирования), распознавания и классификации объектов, рекуррентных нейросетей и трансформеров – для анализа тональности текста, его перевода или генерации. Выделим основные позитивные последствия от обращения к нейросетям в научной работе в области устойчивого развития (те новые возможности, которые появляются у учёных):

• 1.    Возможность обработки больших объёмов информации и «сложных» данных. В силу совершенствования технологий и увеличения периода собираемых данных исследователям становятся доступными для анализа значительные массивы информации. А в связи с необходимостью для целей устой-

• чивого развития рассматривать объект с максимально большого числа сторон, учитывать все точки зрения, ориентация на большие данные выглядит оправданной и целесообразной. Однако их обработка традиционными эконометрическими методами является очень трудоёмкой и иногда практически нереализуема из-за внутренней неоднородности данных, накопления шума и т.д. Нейронные сети позволяют не только анализировать огромные объёмы информации, но и работают с недоступными традиционной методике «сложными» данными, а именно с:

• •    мультимодальной информацией (собранной из разных источников и(или) в различных форматах: в виде текста, чисел, изображений, аудио, видео и т.д.); при этом для понимания ситуации в сфере устойчивого развития, в частности, для оценки биоразнообразия, важно принимать во внимание записи акустических датчиков и лесных камер, снимки фотоловушек, текстовые отчёты и т.д.;

• •    нестандартизированными данными (полученными с помощью неформализованных и(или) различных методик); при расширении горизонта исследования учёные сталкиваются с расхождением применяемых подходов к определению величины показателей в разных странах, организациях и ведомствах, классический пример этого – установление уровня безработицы;

• •    мультиколлениарными переменными (объясняющими факторами, связанными между собой) [6];

• •    переменными при отсутствии знания о форме их взаимной зависимости [18] и перечне значимых признаков (нейросети выберут их самостоятельно) [10].

• 2.    Получение доступа к данным, показывающим картину в реальном времени. Ориентация лишь на статистическую информацию, чья публикация происходит с определённым лагом запаздывания, в стремительно меняющимся мире не позволит оценить текущую ситуацию. С помощью нейронных сетей возможен анализ, например, фотографий, сделанных спутниками, для контроля изменения площади лесов и пустынь. Также учёные могут изучать посты в социальных сетях с целью понимания текущего уровня готовности общества к ответственным моделям поведения.

• 3.    Обеспечение требуемой полноты информации. Зачастую исследователи не в состоянии применять стандартные статистические методы вследствие отсутствия данных: пропусков во временных рядах, дефицита редких событий, неосуществимости сбора информации из-за запретов и т.д. Однако нейросети способны создать синтетические данные и, в частности, оценивать ситуацию для территорий, проведение измерений на которых в отдельные периоды было невозможно.

• 4.    Экономия ресурсов при выполнении некоторых задач, первостепенно рутинных операций. Нейронные сети, по сравнению с ручной обработкой, иногда требуют значительно меньше времени. Это связанно и с более быстрым сбором данных, и с большей скоростью вычислений (см., например, [13]), что, в свою очередь, может быть обусловлено параллельной обработкой информации. Однако нейросети необходимо обучать, а обучающую выборку – тщательно готовить: от её качества существенно зависит эффективность работы нейронных сетей в будущем. В связи с этим возможны исследования, в которых более продуктивным станет использование традиционных методов, а не технологий искусственного интеллекта.

• 5.    Доступность глубокого (всестороннего) и глубинного (принимающего во внимание субъективные аспекты) анализа данных. Нейронные сети позволяют расширить простой эконометрический анализ. В частности, применение машинного обучения даст не просто прогноз динамики температуры для определённой местности, но и модель всей экосистемы, построенной на учёте максимально возможного комплекса взаимосвязанных событий: ожидаемых уровней биоразнообразия, здоровья людей и т.д. За счёт поиска внутренней структуры данных и иерархии признаков с помощью нейросетей допустимо выявлять скрытые закономерности (паттерны) – неочевидные связи, которые не способны обнаружить классические алгоритмы.

Аналогично, при переходе к нейросетям могут сократиться затраты вследствие уменьшения участия человека, но поскольку нейронные сети требуют значительных расходов электроэнергии и вычислительных мощностей или облачных вычислительных ресурсов [15], в ряде случаев наблюдается рост стоимости работ. В целом можно говорить о меньшей потребности в ресурсах при обращении к нейросетям, в сравнении с традиционными методиками, при выполнении трудоёмких и типичных операций, с высокой периодичностью.

Так, возможен анализ корпоративных отчётов в области устойчивого развития, обычно содержащих информацию в текстовом, числовом и графическом форматах. Для человека определение уровня ответственности компании на основе текста и ряда изображений затруднено: это требует много времени и в значительной степени субъективно. Однако нейронные сети способны успешно справиться с подобной задачей. При этом они могут и подтвердить достоверность предоставляемых сведений, проводя их проверку на логическую связанность, наличие внутренних механизмов и стандартных приёмов сокрытия информации.

Таким образом, включение нейросетей в методологический инструментарий исследований в сфере устойчивого развития позволяет дополнить дескриптивную (описательную) методологию диагностической, предиктивной (предсказательной) и предписывающей; расширить пространственный и временной горизонт научных работ; учесть объективные и субъективные стороны реальности, а также в ряде случаев получить результат за счёт меньшего объёма ресурсов.

Негативные последствия и риски при обогащении методологического инструментария за счёт нейронных сетей

Описанные преимущества нейросетей при их использовании в исследованиях устойчивого развития сопряжены с рядом негативных последствий. Рассмотрим их и вытекающие из них риски:

• 1.    Высокая вероятность ошибки. В данном случае необходимо остановится на пяти аспектах:

  • 1.1.    Несовершенство нейросетей. Из-за ограничений архитектуры нейронных сетей возможны ошибки при классификации данных, их прогнозировании и выполнении прочих операций. При генерации программных кодов с помощью нейросетей отмечается их склонность обращения к устаревшим библиотекам и репозитариям, ранее публичным, но в настоящее время закрытым. Это препятствует применению создаваемых программ. Кроме того, они, как и тексты, генерируемые нейронными сетями, часто избыточны. А при большем распространении контента, созданного с помощью технологий искусственного интеллекта, из-за его учёта при новом обучении нейросетей ожидается снижение качества их работы (это получило название «проклятие рекурсии» [14]).

  • 1.2.    Особенности обращения к нейронным сетям, в частности склонность к чрезмерному и необоснованному применению технологий искусственного интеллекта, неоправданному расширению анализируемой базы данных. Применительно к последнему отметим: сама по себе возможность включения в исследование больших мультимодальных данных, безусловно, является крайне ценной для изучения сложных систем, взаимосвязанных объектов и событий. Однако при агрегации информации разных форматов повышаются риски возникновения ошибок и потери части сведений.

  • 1.3.    Рост привлекательности индуктивного подхода в научной работе. Большая доступность аппарата нейросетей делает более популярными исследования, направленные на выявление закономерностей на основе больших данных и машинного обучения. При этом подобный индуктивный подход особенно хорош на начальных стадиях научной работы и всегда должен быть дополнен дедукцией – уточнением исходных гипотез, проверкой сформулированной теории и оценкой её ограничений. Кроме того, для рассматриваемых исследований высокая роль и других методов логического мышления, в частности абдукции (выдвижения гипотез при связывании известных законов с результатами явлений или процессов) и традукции (перенос законов с одного события на другое). В долгосрочной перспективе научная деятельность должна предполагать цикл из повторяющейся связки разных методов мышления [1].

  • 1.4.    Отсутствие должного уровня квалификации при работе с нейронными сетями. Учёные, не являющихся специалистами в данной области, используют готовые программные коды без их требуемой адаптации под решаемые задачи с детальным тестированием. А современные форматы представления полученных выводов – и в научных статьях, и на конференциях – позволяют сделать это так, что у научного сообщества не будет возможности проверить корректность применения инструментария. Таким образом, в дальнейших научных работах и в практическом поле могут получить распространение ложные постулаты и рекомендации.

  • 1.5.    Возможная контекстная слепота нейронных сетей, ориентация на инкрементальные изменения (постепенное уточнение параметров моделей). Во многом с помощью нейросетей реализуется так называемый подход, основанный на данных. Он предполагает принятие решения с ориентацией на объективные факты, а не личный опыт и интуицию исследователя [7]. При этом в рассматриваемых исследованиях значение опыта и интуиции учёного крайне велико. В частности, именно они позволяют совершить квантовый скачок – предложить качественно иной подход к рассмотрению и решению проблемы, в то время как для нейронных сетей полная перестройка логики – одна из наиболее сложных задач.

• 2.    Эпистемологическая непрозрачность научной работы. Во многих случаях нейросети выступают своеобразным «чёрным ящиком»: крайне сложно понять, почему полученный результат именно такой. При этом если в ряде задач результат работы может быть хотя бы проверен (например, классификация с помощью дерева решений покупателей компании), то в задачах, поставленных в исследованиях в сфере устойчивого развития (в частности, при прогнозе среднегодовой температуры, темпов рождаемости или коэффициента миграции), провести подобную проверку не представляется возможным. Соответственно, в отсутствии у учёного высокой квалификации в области искусственного интеллекта, решении нетипичных и сложных задач большая вероятность некорректного применения алгоритмов или же ошибочной интерпретации выводимой информации. Причём при высокой цене ошибки подобный отход от прозрачности нельзя признать оправданным.

• 3.    Хрупкость нейронных сетей при их сложной трансформируемости. Изменения в данных, незначимые для человека, являются критическими для нейросетей: их результат работы становится ошибочным. При этом учёный, не видящий произошедшие изменения информации на входе и имеющий узкие возможности интерпретировать логику функционирования нейронной сети, может всё также считать выдаваемый результат корректным. Кроме того, написанный нейросетями код сложно перерабатывать и интегрировать в иные архитектуры.

• 4.    Дополнительные угрозы информационной безопасности. Злоумышленники, внеся минимальные изменения в обучающую выборку, способны сделает работу нейросети некорректной. Аналогично, возможно искажение уже написанного программного кода или входных данных. С помощью инъекций в запросы киберпреступники получают доступ к частным сведениям. Причём утечка данных может произойти и без внешнего воздействия, из-за способности нейронных сетей запоминать информацию при риске её дальнейшего внедрения в работу без специального указания на это.

• 5.    Низкие показатели устойчивости научной деятельности при применении нейронных сетей: они в отсутствии устойчивого развития экосистем могут способствовать дальнейшему регрессу. Работа нейросетей требует колоссальных энергии и вычислительных мощностей, и потому характеризуется большим экологическим, в частности углеродным, следом. Так, выбросы 20 ведущих систем искусственного интеллекта в мире достигают 102,6 миллион тонн CO 2 -эквивалента в год [21]. При этом ориентация на большие данные увеличивает эмиссию парниковых газов, связанную с хранением информации. По прогнозам на основании существующих тенденций, выбросы углекислого газа только от услуг хранения данных к 2040 году составят 14 % от глобального уровня эмиссии [8].

• 6.    Сложность учёта этических принципов, особенно их динамичного характера. Решения в области устойчивого развития не свободны от аксеологических убеждений и этических принципов. Для того, чтобы нейросети также принимали их во внимание, данные убеждения и принципы должны быть осознаны разработчиками, сформулированы и учтены при создании и обучении нейронной сети. Но зачастую людям крайне сложно чётко обозначить свои ценности, свою позицию по отношению к нормам, морали и нравственности. Кроме того, для нейросети эти убеждения и принципы будут стационарными, в то время как человек в состоянии совершенствовать их всю жизнь.

Во многом это исходит из существующей разделённости для нейросетей процессов обучения и выполнения задачи – человек учится всё время.

Частично проблема неучёта личного опыта может быть решена с помощью подхода «человек-в-контуре» – метода машинного обучения, уделяющего особое внимание опыту людей при настройке и применении нейронных сетей [20]. Однако в данном случае ослабевают такие преимущества обращения к технологиям искусственного интеллекта, как экономия времени и трудовых ресурсов. Кроме того, возможна деградация профессиональных навыков исследователей, а модели становятся узкоспециализированными. Альтернативный вариант преодоления обозначенной проблемы даёт концепция воплощённого интеллекта, предполагающая невозможность реализации истинного интеллекта исключительно с помощью алгоритмов – требуется и физическое тело для взаимодействия с иными объектами, что станет основой для обучения [16].

В связи с этим исследователи из разных сфер всё чаще отмечают необходимость перехода к ответственному искусственному интеллекту, принимающему во внимание этические и юридические аспекты работы [12], и его более узкой концепции – объяснимому искусственному интеллекту, предполагающему применение определённого набора технических методов для обеспечения ясности работы искусственного интеллекта для людей [4]. Однако единое трактование указанной концепции отсутствует, во многом, вероятно, из-за дифференциации понимания вопросов ответственного и этичного поведения в разных странах и для разных социальных групп.

Также массовое внедрение нейронных сетей способно снизить занятость ряда категорий граждан, и при отсутствии новых рабочих мест, отвечающих текущим потребностям общества, может усугубиться проблема бедности, социального расслоения в обществе, возникнут общественные волнения. А в силу цифрового неравенства государств [2] и их субъектов [3], различия возможностей федеральных и реги- ональных институтов в доступе к нейросетям их включение в инструментарий исследований при прочих равных условиях усилит миграцию учёных. В долгосрочной перспективе это может привести к оторванности их взглядов от существующих «на местах», на их малой родине, а также к усугублению депопуляции отдалённых и депрессивных территорий.

Соответственно, при использовании нейронных сетей стоит говорить о наличии аксеологического и этического противоречия между предпосылками методологического инструментария исследователя и теми фундаментальными предпосылками, на которых должны базироваться научные работы в сфере устойчивого развития и которые лежат в основе представляемых выводов. А нарушение норм ответственного поведения учёными приведёт к потере доверия со стороны общества его прогнозам и рекомендациям, способно иметь негативные следствия для имиджа исследователей. Понимание этого привело к развитию ещё одного поднаправления ответственного искусственного интеллекта – зелёного [5]. Однако пока разработкам по данному направлению не хватает масштабируемости, они остаются фрагментарными и хуже справляются с задачами [8].

Таким образом, при применении нейронных сетей в исследованиях в сфере устойчивого развития, по сравнению с традиционным инструментарием, возможно снижение точности результатов, особенно при недостаточной квалификации учёных в области искусственного интеллекта. Основными причинами этого допустимо считать неспособность нейросетей одновременно обучаться и выполнять поставленные задачи, а также отсутствие (в лучшем случае – статичность) заложенных ценностей и этических принципов. При этом эпистемологическая непрозрачность научной работы, выполненной с использованием нейронных сетей, может привести к распространению некорректных выводов, а повышение привлекательности индуктивного подхода в исследованиях – к недостаточной проверке формулируемых гипотез и теорий, выявлению их ограничений. В целом при активном обращении к нейросетям из-за их негативного воздействия на устойчивость экосистем возможно ожидать снижение имиджа учёного и доверия к его результатам.

Заключение

В исследовании выделен ряд возможностей и рисков при применении нейронных сетей для расширения методологического инструментария исследований в области устойчивого развития. Так, происходит переход от описательной методологии к её более высшим уровням в аналитической иерархии, а сама научная работа выходит за узколокальный и краткосрочный горизонты, анализ детализируется и становится более системным. Несмотря на это, результаты могут быть менее точными. Во многом описанные следствия использования нейронных сетей характерны для всех общественных наук.

При этом, в силу особой важности в исследованиях в сфере устойчивого развития опыта учёных, аксеологических убеждений и применяемых принципов этики, а также низких показателей устойчивости функционирования нейросетей, в качестве наиболее значимых рисков для данной области знаний (и наиболее значительных, по сравнению с другими областями) стоит признать: размытие фундаментального каркаса работы и её концептуальных рамок, излишнюю привлекательность индуктивного подхода, ориентацию на инкрементные улучшения, снижение профессионального имиджа учёного и доверия к его результатам. Данные особенности нейронных сетей во многом не позволяют решить главные задачи, стоящие перед исследованиями в сфере устойчивого развития, а именно требуемость качественного изменения подхода к обеспечению устойчивости и представление рекомендаций для получения значимых улучшений в максимально сжатые сроки.

Кроме того, это может ещё больше усугубить текущую разобщённость общества относительно политики, направленной на устойчивое развитие. С другой стороны, при работе с нейросетями учёные способны получить многомерное и чётко структурированное представление об объектах и событиях, что создаст новые исходные предпосылки для умозаключений, которые уже будут способствовать трансформации общества и устойчивому развитию экосистем. Однако для этого необходим отход от «слепого» доверия к нейронным сетям при распространении принципов ответственного искусственного интеллекта и ответственного обращения к нему.

Применение нейросетей требуется осуществлять при наличии достаточной квалификации исследователя (сведении к минимуму для него проблемы эпистемологической непрозрачности результата работы технологий искусственного интеллекта) и ограничить только теми исследованиями, в которых нейронные сети повышают точность получаемого результата. При этом, ценность данного повышения должна оправдывать ресурсы, затраченные как непосредственно на научную работу, так и на нивелирование сопряжённого с ней ущерба для экосистем.

Статья подготовлена в рамках государственного задания КарНЦ РАН «Комплексное исследование и разработка основ управления устойчивым развитием северного и приграничного поясов России в контексте глобальных вызовов».