Философские основания применения систем искусственного интеллекта: опыт Китая

Бадмаева М. Х., Бальчиндоржиева О. Б., Золхоева М. В. Философские основания применения систем искусственного интеллекта: опыт Китая // Вестник Бурятского государственного университета. Философия. 2024. Вып. 3. С. 30–37.

Государственные и коммерческие структуры, научное сообщество Китая в последние годы активно поддерживают инициативы по развитию искусственного интеллекта (далее — ИИ). Был создан Национальный экспертный комитет по управлению искусственным интеллектом. В Китае создаются программные документы, отражающие принципы управления развитием искусственного интеллекта1. Приоритетной задачей развития ИИ должно стать сохранение благосостояния человечества, обеспечение общественной безопасности и соблюдение прав человека, социальной справедливости. Анализ документов позволяет сделать вывод о том, что Китай напрямую связывает развитие страны с возможностями ИИ. Этот вывод подтверждает недавнее исследование Э. Хайна и Л. Флориди [1, с. 44], установивших, что в государственных документах, принятых в последнее время в Китае, содержится более 400 упоминаний об инновационном развитии страны на основе новых цифровых технологий. В настоящее время в стране насчитывается более 4 тыс. компаний, работающих в области ИИ, причем большая часть их приходится на стартапы2. Общий объем китайских коммерческих структур, занятых в сфере ИИ, достиг 70 % от общемирового, что позволило стране занять первое место по уровню инвестиций в данную область3.

Применение систем ИИ в Китае достигло значимого прогресса в области медицины. ИИ сегодня интенсивно используется в медицинской диагностике, профилактике и при назначении лечения пациентам, обрабатывая огромный банк данных и успешно выполняя разноплановый спектр задач. С завидной для человека легкостью ИИ, основываясь на тысячах доступных ему историй болезней, устанавливает диагноз, обнаруживает патологии, оценивает состояние пациента, помогает в выборе необходимых медикаментов. В качестве примера может быть приведена разработанная в Китае система ИИ, способная построить модель сегментации поражения легких больного и поставить ему диагноз, опираясь на базу данных, принадлежащую Китайскому консорциуму исследования изображений КТ грудной клетки (от 3 777 пациентов) [2, с. 1423–1425].

Системы ИИ успешно справляются со своими функциями и в области экологии. Быстрый экономический рост государства в свое время породил серьезные экологические проблемы в Китае: загрязнение водоемов, вырубка лесов, загрязнение воздуха, опустынивание земель и пр. Сегодня системы ИИ широко используются в Поднебесной для прогнозирования и снижения уровня загрязнения воздуха [3]. Отметим здесь, что плохое качество воздуха напрямую связано с повышенным риском возникновения целого ряда заболеваний. Именно оно, по оценкам китайских специалистов, занимает четвертую строчку в рейтинге причин летального исхода, наступившего при лечении пациентов с заболеваниями различной этиологии [4, с. 116].

Деградация естественной среды обитания в тех масштабах, которые имеют место в Поднебесной, наносит серьезный ущерб здоровью населения, снижает качество жизни и создает существенную нагрузку на инфраструктуру социального обеспечения государства. Поэтому китайское руководство на самом высоком уровне регулярно поднимает вопросы «зеленой» повестки дня. Председатель КНР Си Цзиньпин продвигает политику «цифровой защиты окружающей среды», которая должна, по его мнению, стать действенным шагом государства на пути к преодолению существующих экологических проблем ( 数字环保 ) [5, с. 769–781].

В области правосудия системы ИИ используются в Китае с целью сделать судебную систему более справедливой и профессиональной, избавить ее от проблем местного протекционизма, вмешательства в судебные дела местных властей. Высший народный суд Хайнаня ввел подобную систему [6], предназначенную для вынесения судебных решений на базе изучения прецедентов [7]. Указанная система ИИ помогает работникам судебных органов найти решения по ранее рассмотренным делам и предоставляют эту информацию судьям в качестве вспомогательного материала. Тем самым она предупреждает судью о том, что решение по рассматриваемому делу, возможно, следует соотносить с уже имеющимся опытом, существующей судебной практикой. Использование подобных систем, по мнению их разработчиков, призвано снизить нагрузку на судей и содействовать устранению коррупционных проявлений в судопроизводстве Китая.

В связи с активным применением систем ИИ, их вхождением в жизнь общества китайские исследователи все больше внимания уделяют этическим аспектам применения ИИ. Например, Сян Бяо, специалист в области антропологии, выступил с речью на конференции Tencent «Технологии во благо», в которой выразил серьезную озабоченность характером отношений, складывающихся между людьми и системами ИИ1.

Важно понимать, что их внедрение и использование одновременно создают существенные риски и проблемы, среди которых потенциальная безработица, возникающая вследствие замещения людей системами ИИ на рынке труда, деквалификация специалистов из-за чрезмерного делегирования полномочий от человека к ИИ, негативные последствия для всей системы человеческих взаимодействий и деятельностной, целеполагающей сущности человека.

Не менее опасно широкое применение ИИ в политике, в международных отношениях. Китайские ученые обеспокоены тем, что ИИ может привести к эскалации гонки вооружений, стать катализатором войн, использоваться террористическими группами для распространения фейковых новостей, политической пропаганды и манипулирования общественным мнением [8].

Наличие этих проблем, имеющих по сути экзистенциальное значение для человека, не означает исключения ИИ из жизнедеятельности современного общества. Оно призывает людей к более осторожному и обдуманному внедрению систем ИИ в различные сферы социальной жизни.

В медицине применение систем ИИ также порождает массу сомнений и тревог. Не заменят ли системы ИИ, которые постоянно совершенствуются, большую часть врачей? Не возникнет ли ситуация, при которой консультация врача-человека станет редкой и практически недоступной опцией для абсолютного большинства пациентов учреждений здравоохранения? Не повлияет ли упомянутое выше внедрение онлайн-кабинетов негативным образом на качество и уровень первичной помощи в сфере, где так необходимы человеческое соучастие, эмоциональная поддержка и забота? Не оказывают ли системы ИИ, призванные стать помощниками для специалистов, «медвежью услугу» этим людям, постепенно способствуя отмиранию такого важного и необходимого для врача навыка, как клиническое мышление, которое принципиально недоступно ИИ, поскольку никогда не сводится к набору правил?

Еще одним примером широкого использования возможностей ИИ в Китае стала система социального кредитования, призванная на основе оценки граждан по показателям доверия, репутации и значимости в обществе повысить экономический потенциал страны, обеспечить информационную безопасность, решить проблему социального неравенства. Система охватывает сферу торговли, финансов и налогообложения, занятости, образования и науки, транспортного обслуживания, обеспечения жильем и т. д., осуществляя контроль за действиями граждан, организаций, компаний, государственных учреждений на основе применения технологии больших данных.

Полученные на данный момент результаты ее работы вызывают множество споров и ожесточенную полемику среди специалистов. Шен Куй, профессор юридического факультета Пекинского университета, в своей научной статье описывает как минимум четыре позиции, которые сложились в академических кругах Китая [9]. Приверженцы первой позиции уверены, что внедрение системы социального кредитования поможет разрешить отмечаемый обществоведами кризис упадка добросовестности и кредитоспособности граждан Поднебесной [10; 11]. Они считают, что электронная оцифровка личной информации помогает своевременно и точно предоставлять кредитную отчетность, бороться с должниками. Например, с начала 2018 г. в городе Циндао ужесточились наказания за незаконное строительство в городских и сельских районах, незаконный дренаж, беспорядочный сброс мусора, операции по захвату дорог, незаконную рекламу и другие городские проблемы. В результате к концу июля 2018 г. благодаря системе социального кредитования были рассмотрены и завершены вынесением необходимых судебных решений 128 дел, просроченных органами городского управления в 2017 г. В целом по итогам 2018 г. органами правосудия были рассмотрены 3 538 дел, а выявленными должниками уплачен штраф в размере 14,74 млн юаней [9]. Кроме того, приверженцы первой позиции апеллируют к объективности принятых решений, поскольку социальный рейтинг формируется на основе мнения независимых экспертов или учреждений, руководствующихся определенными системой методами оценки.

Вторая позиция — прямая противоположность первой. Ее сторонники фактически отрицают тезис об эффективности системы социального кредитования и аргументируют это тем, что подобная система оценки — это своего рода «моральный архив», создаваемый государством для осуществления непрерывного и полного контроля над обществом [12]. Сторонники данной точки зрения в качестве аргумента указывают также на отсутствие единого метода оценки и несоблюдение принципа справедливости в работе системы кредитования. Например, в государственной системе оценки кредитоспособности округа Суйнин государственные служащие имеют значительное преимущество перед обычными гражданами при начислении баллов. Их шансы на успех составляют, по мнению экспертов, 20:1 [9].

Кроме того, система социального кредитования, утверждают ее критики, может стать объектом многочисленных манипуляций и злоупотреблений, поскольку в настоящее время услугу оценки населения осуществляют рейтинговые агентства, на которые заинтересованные физические лица и организации вполне могут оказывать давление с тем, чтобы их рейтинг при любых обстоятельствах оставался неизменно высоким. В свою очередь, такие недостоверные данные о рейтинге способны нанести серьезный удар по всей системе рыночных отношений, залогом успеха которой является здоровая конкурентная среда.

Третью позицию отличает призыв отойти от любых оценочных суждений, проанализировать риски и последствия внедрения системы социального кредитования, оценить ее реальный потенциал по улучшению и оптимизации работы правительства и существующего законодательства [13].

И, наконец, четвертая позиция исходит из фактической эффективности построенной системы социального кредитования, однако ее сторонники подчеркивают то обстоятельство, что последняя должна быть ограничена принципом верховенства закона, настаивая на необходимости регулирования указанной системы посредством законодательства о социальном кредитовании, защищающем в первую очередь права человека [14].

Обзор данных позиций отражает различные точки зрения ученых, мнения, которые полезны для более полного понимания и оценки текущей конструкции системы социального кредитования. Очевидно, что в настоящее время проект демонстрирует определенные ожидаемые результаты, однако его реализация сопровождается огромными проблемами и вызовами.

По нашему мнению, общей тенденцией развития современного общества в Китае является стремление к синтезу традиционных для культуры Китая мировоззренческих представлений, китайского холистичного типа мышления, который опирается на идеи гармонии, «взаимосвязи Неба, Земли и Человека» ( 天地人 ), единства человека с окружающим миром. Что касается развития ИИ, то здесь также необходимо согласованное развитие и сотрудничество, технологий ИИ и других сфер общества.

Китай сегодня не только демонстрирует определенный прогресс в развитии технологий ИИ, но и в ответ на возникающие угрозы стремится сформулировать этические нормы и стандарты, призванные обеспечить благополучие общества.