Искусственный интеллект и ловушки цифровой трансформации

Современный этап развития мировой и российской хозяйственных систем характеризуются их глубинной цифровой трансформацией и переходом к гиперконкурентной нейро-сетевой экономике. Интегрированные системы искусственного интеллекта (Artificial Intelligence, AI) на основе нейронных сетей начинают формировать основные тренды развития в третьем десятилетии ХХI века [5] и влияют на изменение характера отношений на всех уровнях и во всех сферах экономической и социальной

ГРНТИ 06.81.23

EDN TFFRVZ

Сергей Алексеевич Дятлов – доктор экономических наук, профессор кафедры общей экономической теории и истории экономической мысли Санкт-Петербургского государственного экономического университета.

Статья поступила в редакцию 08.12.2022.

Данная статья подготовлена на основе экспертной работы автора на сессии ПМЭФ-2022 «Цифровая трансформация и суверенные интересы» (см.: https://roscongress.org/sessions/spief-tsifrovaya-transformatsiya-i-suverennye-interesy/about/#).

жизни [2]. Тотальное применение систем искусственного интеллекта в экономике и общественной жизни выявляет целый ряд проблем, среди которых важнейшей социо-психологической и организационно-управленческой проблемой является взаимодействие человеческого интеллекта и искусственного интеллекта, определение их роли и меры при принятии решений.

Материалы и методы

В Китае принят и реализуется «План развития искусственного интеллекта» (Notice of the State Council Issuing the New Generation of Artificial Intelligence Development Plan). В соответствие с этим планом искусственный интеллект должен стать основой цифровой модернизации всех сфер китайской экономики и общества. Важнейшими направлениями инновационного технологического развития Китая в соответствие с планом 14 пятилетки на 2021-2025 годы становятся развитие наночипов, квантовых компьютеров и искусственного интеллекта [6].

В России основные направления развития искусственного интеллекта определены в «Национальной стратегии развития искусственного интеллекта на период до 2030 года», утвержденной Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р была принята и утверждена «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года». В настоящее время в России началась реализация федерального проекта «Искусственный интеллект». При Правительстве РФ на базе Аналитического центра создан «Центр экспертизы по реализации федерального проекта "Искусственный интеллект"».

Основные результаты

В ноябре 2022 года на международной конференции «Путешествие по искусственному интеллекту» (AI Journey) было отмечено, что экономический эффект от внедрения технологий ИИ российскими компаниями в 2021 году превысил 300 млрд рублей [1]. Р. Курцвейл в работе «Сингулярность близка» [8] сделал прогноз о развитии искусственного интеллекта и грядущей сингулярности человеческого общества. Сингулярность является точкой, в которой искусственный интеллект станет мощнее всего человеческого интеллекта. По прогнозу Р. Курцвейла это произойдет к 2045 году.

На наш взгляд, сегодня следует говорить о «полифункциональной соционейроморфной сингулярности» [3], в соответствии с которой новым оцифрованным товаром в нейро-сетевой экономике, на который постоянно растет спрос, становятся прогнозирование и управление поведением отдельного человека, коллективов, групп людей и всего человеческого общества. Следует выделить и классифицировать основные проблемы взаимодействия человеческого интеллекта и искусственного интеллекта, а также ловушки цифровой нейро-сетевой экономики, основанной на нейронных сетях и искусственном интеллекте [4]:

• 1.    Ловушка перенасыщения избыточными данными AI. Проблема сбора большого объема разнообразных данных, перенасыщения информации, сбора избыточных данных, которые собирают и обрабатывают системы ИИ и на основании которых принимаются решения. Собранные данные очень быстро устаревают. Излишние и устаревшие данные нужно собирать, хранить, копировать, утилизировать, архивировать, корректировать полученные результаты, т.е. резко возрастают дополнительные затраты, что приводит к снижению эффективности. Перенасыщение (накопление) избыточными данными приводит к «эффекту цифрового ожирения».

• 2.    Цифровое ожирение (Digital obesity AI). Цифровое ожирение приводит к замедлению процессов принятия решений, запаздыванию реакции на текущие изменения, к резкому росту затрат на сбор, архивацию и хранение избыточных данных. Рост затрат на цифровое ожирение снижает рентабельность работы и эффективность использования искусственного интеллекта.

• 3.    Ловушка достоверности принимаемых решений AI. Искусственный интеллект оперирует с большим объемами самых разнообразных данных (технологических, экологических, политических, социальных, психологических, экономических и др.), при обработке и анализе которых могут возникать погрешности и ошибки. Люди, которые используют ИИ при принятии решений, не обладают достоверными методами проверки правильности обработанных больших данных и полученных на их основе результатов. Это создает предпосылки для принятия ошибочных решений, к потерям ресурсов и времени.

• 4.    Ловушка многослойности и потери контроля над процессами внутри слоев AI. Множество слоев в глубокой сети позволяют ей распознавать вещи на разных уровнях. Взаимодействие вычислений внутри глубокой нейронной сети важно для принятия решений. Действие нейронной сети предполагает анализ поведения десятков и сотен тысяч моделируемых нейронов, расположенных в многоуровневой, многослойной нейронной структуре. Также следует учитывать обратное распространение сигналов и их анализ сетью, что является основой самообучения сети для достижения необходимых результатов.

• 5.    Ловушки «правды – вымысла», доверия распознавания эмоций. Искусственный интеллект пока не способен критически анализировать и с большой точностью отделять правду от вымысла и бороться с хайповой дезинформацией. Апробацию первых алгоритмов в этом направлении осуществляет компания OpenAI, которая создала систему искусственного интеллекта для генерации убедительных «фейк ньюс». Другое важное направление исследований и практических разработок – это создание системы распознавания эмоций в социальных и бизнес-сетях, так называемый эмоциональный искусственный интеллект. Эмоциональный ИИ позволит повысить эффективность решения проблемы кибербуллинга – целенаправленного нанесения вреда с помощью компьютерных технологий в экономической, политической и социальной сферах. Руководитель компании «Сингуляринет», базирующейся в Гонконге, Б. Герцель поставил задачу: научить последующее поколение роботов с более высоким уровнем ИИ имитировать человеческие эмоции.

• 5.    Искусственный интеллект и интуиция. Нынешнее поколение алгоритмов искусственного интеллекта и машинного обучения сфокусировано на сборе и анализе огромных объемов данных с целью выявления закономерностей, позволяющих делать прогнозы и предсказания. Исследователи пытаются включить в алгоритмы элемент, напоминающий человеческую интуицию. Например, с этой целью исследователи из Массачусетского технологического института изучают методы решения проблем, используемые интуитивно очень умными людьми. Стратегии, используемые этими людьми, затем реализуются в программном обеспечении.

• 6.    Ловушка лидерства. Человеческий интеллект и искусственный интеллект: кто лидер? Сегодня искусственный интеллект вчистую обыгрывает всех людей-чемпионов в интеллектуальные игры (шахматы, го и др.). В перспективе сильный искусственный интеллект может изменять и навязывать людям порядок и алгоритмы принятия решений. В социальных сетях уже сегодня искусственный интеллект учится и пытается воздействовать на пользователей и склонить их к некоторым действиям и решениям, которые выгодны ИИ, а не человеку-пользователю.

Сегодня ведутся разработки систем «сильного ИИ», который должен обладать не только логическими, но и интуитивными способностями анализа данных, принимаемых решений и предвидением их последствий. Интуицию человека и ее действие при принятии человеком решений чрезвычайно сложно измерить и перевести в алгоритмы, понятные ИИ. При этом возникает закономерный вопрос: «Если будет создан сильный ИИ с интуицией, могут ли люди доверять интуитивному принятию решений ИИ, и какова цена возможной ошибки и ее исправления?»

Если в перспективе сильный ИИ будет принимать более эффективные решения, чем человеческий интеллект, то возникает ряд новых проблем:

• •    каковы критерии оценки «правильности и эффективности» решений, принимаемых ИИ, по сравнению с решениями человеческого интеллекта;

• •    при каких условиях и в какой мере человек (человеческий интеллект) способен подчиняться решениям ИИ;

• •    каковы алгоритмы интерпретации и корректировки человеком решений ИИ;

• •    как защитить права живой личности человека при возникновении конфликта интересов человеческого интеллекта и искусственного интеллекта;

• •    имеет ли право человек не соглашаться с решением ИИ, и какой институт выступит в качестве арбитра;

• •    каковы моральные и мировоззренческие границы доминирования ИИ над людьми и др.

Сегодня исследователи и разработчики ИИ считают, что мы можем построить модели искусственного интеллекта, но мы не знаем, как они работают [10]. М. Хвистендаль исследовал проблему взаимодействия естественного и искусственного интеллектов и попытался ответить на вопрос: может ли ИИ вырваться из-под контроля человечества и уничтожить его? Появление искусственного интеллекта, способного «подчинить или уничтожить» человечество является одной из главных проблем, волнующих сегодня ученых [7]. Если, согласно прогнозу Р. Курцвела, после 2045 года наступит эра сильного искусственного интеллекта, то не будет ли это означать не только потерю людьми суверенитета принятия решений, но и конец эры Homo sapiens как такового?

Заключение

В условиях роста глобальной нестабильности возникает необходимость разработки новых инновационно-цифровых методов координации, регулирования и управления, основанных на использовании нейро-сетей и экосистем сильного искусственного интеллекта, который трансформирует всю систему отношений между людьми и искусственным интеллектом, а также меняет роль институтов регулирования и управления в гиперконкурентной нейро-сетевой экономике. С учетом грядущей сингулярности важнейшей задачей является защита суверенных интересов людей (отдельного человека, семьи, коллектива и всего человеческого общества) в нейро-сетевом обществе, где доминировать будет искусственный супер нейро-интеллект.

Все рассмотренные выше проблемы взаимодействия человеческого интеллекта и искусственного интеллекта в гиперконкурентной нейро-сетевой экономике, которые приобретают особую актуальность в ближайшие десятилетия, требуют глубокого и системного научного изучения на основе междисциплинарного подхода, интегральной методологии информационного анализа с учетом нравственно-этических норм.