Цифровизация и проблемы развития информационного общества в контексте традиционных мировоззренческих представлений философских школ Китая

Бадмаева М. Х., Золхоева М. В. Цифровизация и проблемы развития информационного общества в контексте традиционных мировоззренческих представлений философских школ Китая // Вестник Бурятского государственного университета. Философия. 2024. Вып. 4. С. 9–19.

Отечественные и зарубежные ученые в течение ряда лет немало внимания уделяют исследованию усиливающегося воздействия цифровизации на социальную реальность: внедрению в повседневную жизнь и популяризации разнообразных цифровых платформ, растущему использованию технологий искусственного интеллекта (далее — ИИ), угрозам и вызовам, возникающим вследствие их проникновения в жизнь человека и общества.

Значительное в количественном отношении население страны, множество предприятий, представляющих широкий спектр отраслей современной промышленности, генерируют огромные объемы данных, обеспечивая соответствующий рынок и основу для развития ИИ. Крупнейшие технологические компании Китая содействуют росту внедрений самых современных технологий ИИ, вкладывая значительные средства в исследования и разработки в области теории «искусственного разума».

Предварить работу необходимо уяснением сущности ИИ, выраженной в его определении. Сегодня существует огромное количество дефиниций понятия «искусственный интеллект», однако до сих пор нет его общепринятого определения. Ряд ученых трактуют искусственный интеллект как отрасль информатики, которая фокусируется на создании систем, выполняющих те задачи, которые способен выполнить человеческий интеллект [5, с. 2113]. Другие описывают искусственный интеллект как набор технологий или приложений, позволяющих машинам или компьютерам имитировать когнитивные функции человека [14, с. 2150].

В данном случае ИИ определяется посредством указания на способы, методы его функционирования в мире, подчеркивается системная природа узкого ИИ, отражается реально достигнутый в настоящее время уровень развития технологий ИИ, активно проникающих практически во все сферы жизнедеятельности человека, от медицины до автономных вооружений, трансформируя эти области кардинальным образом.

Для понятийного аппарата нашего исследования системы социального кредитования в Китае мы выбрали определение ИИ, данное группой экспертов высокого уровня Европейской комиссии, согласующееся с классификацией искусственного интеллекта как его слабой (или узкой) версии. Согласно данному определению ИИ — это «системы, созданные людьми, преследующие заданную человеком цель, действуя в физическом или цифровом мире. Воспринимая окружающую среду и интерпретируя собранные структурированные или неструктурированные данные, рассуждая на основе знаний, полученных из этих данных, решают, какие действия предпринять (в соответствии с заранее определенными параметрами) для достижения поставленной для них цели. Системы искусствен- ного интеллекта также могут быть спроектированы так, чтобы научиться адаптировать свое поведение путем анализа того, как их предыдущие действия повлияли на окружающую среду» [3].

Захватывающий и далеко идущий потенциал ИИ наглядно демонстрирует опыт его использования в Китае. Эта страна с помощью ИИ сегодня стремится повысить свою производительность и обеспечить будущий экономический рост государства несмотря на объективно существующее сокращение численности населения трудоспособного возраста.

У Китая есть потенциал и возможность возглавить международное сотрудничество в области разработки и управления ИИ. Согласно ежегодному отчету Стэнфордского университета The AI Index 2021 Китай лидирует как по общему количеству публикаций в журналах по ИИ, так и по цитируемости журналов в области ИИ во всем мире [15], что свидетельствует о существующей в Китае чрезвычайно оживленной дискуссии, объединяющей широкий круг заинтересованных лиц, посвященной изучению опыта, перспектив и проблем его использования в экономике, социальной сфере, других областях жизни общества.

Одной из важнейших сфер приложения ИИ в повседневной практике Китая стало применение искусственного разума в системе социального кредитования, призванной укреплять экономику государства, безопасность его граждан посредством оценки репутации и социальной значимости граждан государства, а также уровня доверия, оказываемого им другими членами общества.

Необходимо отметить, что данная система отнюдь не первый проект, осуществляющий оценку и мониторинг граждан Китая. Существуют ранее созданные и внедренные в жизнь модели «Хукоу» (регистрация домохозяйств) [4, с. 358] и «Данань» (личные архивы) [11, с. 125]. Хукоу была разработана для контроля миграции внутри страны, она анализирует персональные данные потенциальных сельских мигрантов (возраст, образование, кредитная история и т. д.) и на этом основании решает, может ли тот или иной гражданин проживать в городе. Модель Данань архивирует личные данные граждан (удостоверение личности, трудоустройство, образование и т. д.), разрешая доступ к ним только должностным лицам, имеющим специальное разрешение.

Многие участники тестируемой в Китае системы социального кредитования (например, Центральный банк КНР, отдельные правительственные структуры, местные органы власти и частные компании) [6; 7] приступили к разработке и внедрению собственных систем социального кредитования, в связи с чем возникает вопрос, не является ли такая модель гражданской добродетели излишне инструментализированной и стандартизированной, не нарушает ли она права граждан, гарантированные законом? Инструментализация в данном случае означает возможное опасение того, что от людей ожидается развитие гражданской добродетели не ради себя, а ради поддержания социального порядка, и они стимулируются к этому посредством внешних мотивов, которые связаны с оценкой наблюдаемого поведения. Стандартизация выражается в том, что посредством системы социального кредитования добропорядочный гражданин представляется фактически продуктом обучения, основанного на каталогах с заранее определенными стандартами хорошего и плохого поведения, встроенными в централизованную, основанную на технологиях архитектуру.

Стандартизация и инструментализация, по нашему мнению, могут способствовать конформизму из-за характерной для системы социального кредита модели мягкого доминирования «хорошей гражданственности». Мягкий характер означает, что система социального кредита неявным образом воздействует на социальные нормы, определяющие наиболее предпочитаемый общественным мнением обобщенный паттерн поведения граждан. Подобная инструментальная концептуализация гражданской добродетели может привести к тому, что добродетель не воспринимается как ценность для счастья гражданина, обладающего ею, а выступает ценностью для чего-то внешнего, например, благополучия политического сообщества, обеспечения социального порядка. Она становится своего рода человеческой метрикой — измеримым человеческим качеством, которое оценивается с помощью заранее определенных показателей, а воспитание гражданской добродетели в таком случае превращается в рутинный процесс, сходный, например, с процессом улучшения и развития технических навыков у начинающего ремесленника.

Человек в подобной ситуации рискует утратить уверенность в себе, в своей способности без посторонней помощи справляться с решением жизненных проблем. Это обесценивает значение личностного участия, важности самостоятельного выбора гражданина, приводит к утрате контроля со стороны человека над основополагающими аспектами его собственной жизни. Такое делегирование ИИ важных жизненных решений делает человека менее автономным и более зависимым. Чем больше он делегирует принятие важных решений технологии ИИ, тем больше теряет возможность справляться с задачами без помощи ИИ, что с большой долей вероятности приведет к деградации личности или утрате ею своего Я.

Наличие этих проблем, имеющих по сути экзистенциальное значение для человека, тем не менее не означает необходимость исключения ИИ из жизнедеятельности современного общества. Оно призывает людей к более осторожному и обдуманному внедрению систем ИИ в различные сферы социальной жизни.

Понимая преимущества использования ИИ, необходимо столь же ясно осознавать и проблемы, трудности, порождаемые ИИ. Китайский исследователь Сяо Шансянь в своей статье «Проблемы и изменения в построении социального кредита Китая» [18], обсуждая использование систем ИИ в сфере социального кредитования, указывает на то, что национальные законы и правила для данной области деятельности еще не созданы. Законодательство Китая, связанное с построением системы социального кредита, разбросано по таким нормативно-правовым актам, как Уголовный кодекс, Общие принципы гражданского права, Договорное право, Закон о ценных бумагах, Закон о страховании и Закон о защите прав потребителей. Это свидетельствует об отсутствии единого правового механизма предотвращения и недопущения нарушений, противоправных деяний в рассматриваемой сфере. Сами нормативные акты, разработанные относительно кредитного рейтинга, по мнению ученого, фрагментированы и лишены глубины. Кроме того, отсутствуют четкие законы и положения, касающиеся сбора и оценки кредитной информации, ее использования, надзора за кредитным рынком, защиты прав и интересов субъектов информации, что способно привести к ошибочному определению уровня кредитоспособности гражданина. Тем не менее в действующей системе социального кредитования уже работают механизмы наказания граждан за нарушение тех или иных правил и требований [18]. Вышесказанное позволяет автору сделать вывод о том, что агентства кредитных услуг в настоящее время не способны адекватно обрабатывать кредитную информацию, что серьезно ограничивает построение эффективной и адекватной системы социального кредита в Китае.

Обсуждая отдельные трудности, возникающие в работе систем социального кредитования, созданных на основе технологий ИИ, отметим тот факт, что до сих пор остается расплывчатым, неоднозначным содержание самих критериев оценивания. Так, система социальных кредитных баллов в Фучжоу учитывает такой критерий, как «высокий уровень занятости», при котором выбор осуществляется из двух неясных по содержанию категорий «трудолюбивый человек» и «ленивый человек [9]. Это несколько произвольный стандарт, затрудняющий адекватный выбор между теми, кому предоставляются определенные преимущества, и теми, кто ограничивается в них. Риск нарушения конфиденциальности данных не дает возможности развернуться этой системе в более широких масштабах. Заявление Робина Ли, соучредителя Baidu, о том, что «китайский народ менее чувствителен к проблеме конфиденциальности и готов ею пожертвовать во благо комфорту, безопасности и эффективности» [10] получило в интернет-пространстве жесткую реакцию китайского сообщества. В интернет-опросе 2018 г. более 54 % респондентов заявили, что проблема утечки данных представляет серьезную угрозу для личной безопасности граждан [13]. Следовательно, в китайском обществе существует общее чувство озабоченности по поводу защиты личного пространства человека и недобросовестного использования его персональных данных.

Эту точку зрения отстаивает и профессор юридического факультета Пекинского университета Шен Куй, который утверждает, что конфиденциальность данных для человека является важной моральной концепцией и ценность конфиденциальности заключается в сохранении человеческого достоинства [16]. Информация, касающаяся конфиденциальности, может быть раскрыта только с согласия личности, в соответствии с требованиями закона и только в случае возникновения рисков для значительных общественных или национальных интересов. Важность защиты конфиденциальности информации учитывалась при создании системы социального кредитования, однако существующая система наказаний, по мнению исследователя, может легко сделать крайне несовершенную защиту конфиденциальности информации еще более хрупкой.

Другой китайский ученый Ши Бифан, демонстрируя данный тезис примерами из социальной практики, описывает операцию, проведенную 29 ноября 2006 г. полицией Шэньчжэн Футянь, направленную на борьбу с проституцией. В ходе операции, несмотря на то, что лицо одного из клиентов «жриц любви» было полностью закрыто, за исключением глаз, полицейскими было оглашено имя, дата и место рождения лица, а также объявлено о наказании в виде 15 суток ареста. Ши Бифан пишет, что данный шаг был расценен как нарушение основных прав человека, закрепленных в Конституции, унижение его человеческого достоинства [17].

При использовании системы социального кредитования следует также учитывать влияние человеческого фактора. Вследствие обработки слишком большого объема данных возникают проблемы, вызванные элементарной невнимательностью оператора системы или неточностью введенной в систему информации, техническими ошибками в алгоритме, допущенными разработчиками программного обеспечения.

И, наконец, следует помнить о том, что системы ИИ на основе глубокого машинного обучения «страдают предвзятостью». Последняя возникает в том случае, когда программное обеспечение по неизвестным и неочевидным причинам начинает дискриминировать отдельных лиц или группы людей, отдавая одним приоритет, а других лишая социальных благ или ущемляя их права и свободы. З. Обермейер и др. отмечают, что алгоритмы работы ИИ в подобных ситуациях могут воспроизводить расовые и гендерные предубеждения через данные, используемые для их обучения [12, с. 2019]. В упомянутом исследовании приводятся различные примеры дискриминации: объявления о поиске работы на высокооплачиваемых должностях системы ИИ с меньшей вероятностью предоставляют женщинам; поиск имен, принадлежащих афроамериканцам, выдает записи об арестах и т. д.

Вмешательство в частную жизнь граждан посредством системы социального кредитования, зависимость социально-экономического положения от информационных систем противоречит принципам «безопасности персональных данных». Правовые документы не содержат достоверной информации о национальных оценочных агентствах и нормативных положениях, регламентирующих их деятельность.

Безусловно, правительство Китая пытается внедрить систему социального кредитования с благими намерениями, однако практическая реализация этой системы в провинциях государства происходит с искажениями, что способно привести к дискредитации всей системы социального кредитования.

Учитывая вышесказанное, можно сделать вывод о том, что системы социального кредитования Китая сегодня находятся только на раннем этапе развития и опыт их применения нуждается в глубоком теоретическом рассмотрении, особенно с позиции социальной философии, этики, социологии, всего комплекса наук о человеке и обществе.

По нашему мнению, одним из важнейших аспектов анализа обсуждаемой проблемы в указанном ключе должно стать внимательное изучение теоретических истоков и предпосылок системы социального кредитования. Для этого необходимо обратиться к мировоззренческим представлениям древнекитайских философских учений. Данной точки зрения придерживаются многие ученые. В частности, Сяо Шансянь указывает на роль конфуцианских добродетелей и принципов. Автор статьи, утверждая, что формирование системы социального кредитования является важнейшим условием построения гармоничного общества в Поднебесной, уверен, что подлинная гармония в социуме может быть достигнута только при условии неукоснительного соблюдения членами общества требований, сформулированных в концепции конфуцианства [18]. Система социального кредитования, соответствующая таким требованиям, по мнению ученого, является хорошим инструментом для борьбы с ненадежным поведением граждан, адекватным способом построения общества, в котором честность, как высшая ценность выступает основой социального единства, сотрудничества, взаимодействия.

Аргументируя свою позицию, Сяо Шансянь утверждает, что система социального кредитования, оценивая поведение гражданина, неизбежно выходит за границы того, что принято регулировать посредством только юридических норм (например, учитывая отношения гражданина с соседями, членами семьи и т. д.) и апеллирует к морально-этическому содержанию поступков членов общества [18]. Поощряя общественно полезные поступки и отрицательную реакцию социума на социально вредные действия, система социального кредитования фактически формирует социальный ритуал, следуя конфуцианской линии, согласно которой функции закона выполняет своеобразная система «социального этикета», где ритуалы неукоснительно выполняются, а принципы соблюдаются. Соблюдаются без принуждения, без насилия, благодаря воздействию высоких стандартов нравственного поведения правящей элиты общества.

Дж. Костка и Антуан Л., авторы статьи «Model Citizenship: Behavioral Responses to China’s Emerging Social Credit Systems. Policy and Internet» [8], поддерживая основные положения позиции Сяо Шансяня, подробно останавливаются на оценке роли легистской философии в становлении системы социального кредитования в Китае.

Как известно, в соответствии с традицией легизма управление в государстве должно осуществляться на основах справедливости и честности. Как только гражданин нарушает закон, он неизбежно должен быть подвергнут наказанию в соответствии с принятой в государстве законодательной системой. Гражданина нельзя освободить от наказания даже в целях сохранения стабильности и обеспечения развития государства. Такие представители легистской школы, как Гуан Чжун, Ли Куэй, У Ци, Шан Ян и Шэнь Бухай, обосновывая подобные тезисы, полагали, что человек по своей природе зол и в своих поступках руководствуется исключительно соображениями выгоды и получения преимуществ для себя, стараясь при этом любой ценой избежать любых неприятностей и потерь. Поэтому в государстве необходимо наказывать тех, кто, потакая эгоистическим устремлениям, поддается разгулу страстей, не думая о благе государства, и поощрять тех, кто добросовестно и самозабвенно трудится во благо государства, во благо общества. Лишь четкая система поощрений и наказаний, основанная на стремлении к получению выгоды и страхе наказания, способна воспитывать «хороших» граждан, успешно реализуя на практике едва ли не лучший, по мнению создателей системы, метод управления людьми. Шан Ян, в частности, подчеркивал, что наказание является отнюдь не способом воздаяния за совершенные человеком преступления, а эффективным инструментом управления государством. В образцовом госу-дарстве,по его мнению, наказаний должно быть больше, чем наград, при этом малейший и незначительный проступок должен караться наиболее жестоким наказанием, а мудрым правителем является тот, кто устанавливает эффективную систему единых правил наказаний и наставлений.

Таким образом, можно прийти к заключению о том, что система социального кредитования, объединяющая правовые и морально-этические принципы регулирования поведения человека, представляет собой некий симбиоз легистской и конфуцианской философских традиций. С одной стороны, апеллируя к морально-этическим принципам бытия в социуме, формируя своеобразный социальный ритуал, поощряя общественно-полезные поступки и отрицательную реакцию членов общества на осуждаемые общественным мнением действия, она тем самым следует конфуцианской линии. С другой стороны, применяя жестокие ограничительные меры, используя в качестве инструмента воздействия «чёрные и красные списки», контролирующие поступки членов общества посредством определения их как «хороших» и «плохих» граждан, поощряя реализацию в качестве одного из основных механизмов работы принятой государством «Системы наказаний и поощрений», принципа «утрата доверия в одной области влечет утрату во всех остальных», система социального кредитования демонстрирует преемственность с легистскими установками.

Исследование в целом процесса развития современных технологий в Китае, на наш взгляд, также необходимо осуществлять с учетом традиционных для культуры Китая мировоззренческих представлений, китайского типа мышления, который в отличие от западной модели является не антропоцентрическим, а холистическим. Ни одна из трех господствующих школ китайской мысли не рассматривает человека в качестве центра мироздания и не акцентирует вн имание на автономии индивида. В классическом китайском мышлении типичным конструктом для понимания мира является «взаимосвязь Неба, Земли и Человека» ( 天地人 ), в которой человек должен существовать в единстве с миром, следовать небу и земле.

В даосском мировоззрении все элементы единого и целостного космоса находятся во взаимосвязи и гармонии, непрестанно изменяясь, трансформируясь. «Силы инь-ян и пять первоэлементов формируют все сущее (космическую триаду Небо — Земля —Человек, все вещи и существа)» [2, с. 32]. Даосизм учит человека уважению и благоговению перед законами космического порядка. Оно не противопоставляет человека миру, не определяет его способным к самостоятельному существованию, отдельно от космических сил.

Буддийское учение постулирует, что человек является лишь одной из форм живых существ и связан с другими формами существ посредством сансары и циклических перерождений. Одной из доктринальной основ наиболее философски ориентированной школы китайского буддизма Хуаянь является образ драгоценной сети бога Индры, описанный в «Гандавьюха сутре». В ней каждое звено отражает все остальные звенья и само отражается в каждом из них. «В этом образе последователи Хуаянь увидели метафору «дхармового мира» (дхармадхату; фа цзе), единого и целостного универсума... Этот наглядный пример иллюстрировал одно из четырех базовых положений Хуаянь: «Все в одном и одно во всем» — в каждом элементе весь мир и этот элемент в каждом другом элементе» [1, с. 163].

Каждый феномен, каждый элемент, каждая дхарма по своей природе бесконечны и всеобъемлющи: «Каждый цветок содержит в себе мудрость всех сутр Великой Колесницы». Весь эмпирический мир — система, целостность бесконечных и поэтому взаимосодержащих друг друга элементов — феноменов, «вещей» (ср. образ сети бога Индры). В каждой песчинке Ганга содержатся все бесчисленные миры, в которых столько же Гангов, сколько песчинок в одном Ганге; в одном волоске присутствует весь золотой лев (пример, на котором Фа цзан объяснял свое учение императрице). В качестве современного примера можно привести голограмму, каждый сколок которой содержит в себе информацию о целом; принцип голографичности становится одним из важнейших в процессе становления новой научной парадигмы, и ныне к нему проявляют все больший интерес многие специалисты в области методологических проблем науки и научного знания [1, с. 164].

Возможно, что доминирующий благодаря китайским философским школам неантропоцентрический взгляд на мир способствовал в какой-то мере ускоренному внедрению систем ИИ в китайском социуме, упустившем из виду важность экзистенциальных рисков, сопровождающих процесс применения ИИ в социальной практике. Система социального кредитования, пребывающая сегодня в стадии становления и разработки, является тому убедительным доказательством.

Однако китайское общество, опираясь на уже имеющийся опыт использования систем ИИ в различных областях общественной жизни, все больше осознает важность и необходимость тщательно продуманного и человекоориентированного подхода к внедрению и распространению подобных новаций в повседневной жизни. Только постепенно формируя консенсус в толковании фундаментальных принципов применения систем ИИ в различных сферах жизни общества и имея ясное, взвешенное, гуманистически ориентированное понимание уже проявившихся и назревающих проблем, можно по-настоящему добиться эффективности в применении систем ИИ в различных сферах жизнедеятельности общества, в целях экономического развития, поддержания общественного порядка и построения гармоничного общества.