Сравнительный анализ возможностей и ограничений внедрения технологий ИИ в период пандемии COVID 19 для национальных систем здравоохранения России, Швеции, США и Южной Кореи

Эпидемии всегда были в большей степени социальными, а не биологическими процессами, поскольку распространение инфекций опосредуется социальными взаимодействиями. Особенность текущей пандемии COVID-19 заключается в том, что это первая пандемия эпохи “искусственной социальности”: она развертывается в ситуации, характеризующейся “участием агентов ИИ в социальных взаимодействиях в качестве активных посредников или участников этих взаимодействий” [4:43]. Становление искусственной социальности обусловлено экспоненциальным ростом онлайн-технологий.

Теоретическая социология прошлого века многого достигла, исследуя тенденции и прогнозируя последствия развития науки и техники. Социальная аналитика первой четверти XXI в. сталкивается с необходимостью решения задачи управления путем развития искусственной социальности, осуществления научно-технической политики, при этом проблема регуляции со стороны национальных акторов требует тонкого и детального анализа, в том числе это касается и развития систем здравоохранения, на которых сфокусировано настоящее исследование.

Успех в борьбе с кризисами, вызванными эпидемиями, часто объясняется действиями центральных правительственных органов и должностных лиц, их способностью предвидеть возможное будущее и вести в нужном направлении государственные структуры и общество. Однако для разработки и реализации стратегий обычно требуется кооперация федеральной власти и управленцев на местах: стратегия развития должна быть доработана и воплощена в формальных и неформальных, вертикальных и горизонтальных, прямых и обратных взаимодействиях и процессах влияния.

Цель настоящей статьи – продемонстрировать общие и различные черты ограничений и возможностей, продиктованных развитием "искусственной социальности" для национальных систем здравоохранения в условиях борьбы с пандемией на примере четырех стран. При этом "искусственная социальность" рассматривается в качестве граничного условия каузальных процессов (boundary condition on causal processes ) [1,5] - в данном случае, взаимодействия агентов ИИ и человека в системах здравоохранения. Искусственная социальность не является самостоятельным звеном причинно-следственной цепочки, однако ее присутствие в качестве контекста меняет эти цепочки и их результаты.

Авторский коллектив исходит из предположения, что "искусственная социальность" не сводится ни к кумулятивному результату научно-технического развития, ни к роли подчинённой надстройки над современным способом производства, но играет более сложную амбивалентную роль. Подобно тому, как капитализм в условиях пандемии актуализирует способности к "созидательному разрушению" [2] (вызванный коронавирусом локдаун приводит к изменениям в структуре здравоохранения, в результате которых изменяется весь макроэкономический ландшафт системы, поэтому в конечном счёте всемирная эпидемия несёт благоприятные изменения для определённых отраслей и уничтожает другие отрасли), роль "искусственной социальности" также может быть двоякой.

Методология исследования.

В рамках сравнительного анализа перед авторами стояли следующие задачи: во-первых, выделить различные черты, характерные для четырех исследуемых стран, во-вторых, на основе анализа вторичных данных и проведенных интервью с участниками взаимодействия «ИИ – человек», выделить сходные черты внедрения агентов ИИ, а также возможностей \ ограничений в связи с их участием в системах здравоохранения четырех стран. Таким образом, в первую очередь, авторами были выделены идеальнотипические конструкции национального государства, отличающихся по форматам "входа" в состояние пандемии. Случаи России и США были объединены в рамках одного идеального типа - модели "локдауна", которая является типичной реакцией национальных государств на пандемию. В рамках этой модели основное средство регулирования социально-экономических взаимодействий - это строгая социальная изоляция собственного населения в сочетании с закрытием национальных границ.

Швеция и Южная Корея представляют собой "отклоняющиеся случаи" по отношению к этой модели, и для них ключевой является проблема доверия государству, как со стороны собственного населения, так и со стороны международных организаций и других стран.

Результаты исследования.

На основании выделенных идеальных типов в рамках исследования были созданы четыре модели, реконструирующие различные форматы "входа" в условия пандемии с определением функций и значения критериев отбора случаев для сравнительного анализа.

Швеция представляет модель "баланс интересов", при котором ответственность за регулирование социально-экономических взаимодействий распределяется между гражданами и государственными структурами. Он характеризуется менее строгой социальной изоляцией и основан на исторически сформировавшемся высоком уровне доверия между государством и населением. В случае Швеции доверие государству со стороны собственных граждан сохраняется в период пандемии (что и было одной из главных целей "мягких" мер изоляции), однако доверие со стороны других государств и международных организаций к подобной политике оказывается низким.

Южная Корея представляет модель "превентивный надзор", при котором основой для регуляции социально-экономических взаимодействий оказывается повсеместное тестирование и отслеживание контактов граждан, а социальная изоляция представляет дополнительную меру. Такая политика основана на опыте борьбы Южной Кореи с предшествующими эпидемиями и на применении современных технологий, в том числе - онлайн-приложений. Для Южной Кореи характерно высокое доверие как внутри государства (основанное на опыте борьбы с прошлыми пандемиями), так и со стороны других государств. Последнее основано на "прозрачности" процедур отслеживания контактов и тестирования и на постоянно обновляемой информации о распространении вируса.

Россия и США представляют собой варианты модели "локдауна". Для России и США проблема доверия также является актуальной, однако не как доверие политике своего государства (поскольку политика "локдауна" принята во многих странах мира), а как доверие а) современной политической системе в целом, б) современной медицине как науке и практике; в) центральной власти и/или местным властям, которые вводят те или иные варианты социальной изоляции в разные периоды времени. Недоверие здесь маркируется в рамках различных "теорий заговора", а также в рамках критики действий правительства как неэффективных, неразумных, безразличных по отношению к населению и пр. Для модели "локдауна" доверие в условиях пандемии соотносится с коллективными представлениями населения и индивидуальными убеждениями граждан, которые сформировались до пандемии.

В процессе исследования были выделены сходные черты для всех четырех стран. В медицине искусственная социальность проявляется во множестве аспектов исследований и практики. В настоящем анализе коллектив сосредоточился на практике "искусственной экспертизы". В медицинском смысле экспертиза - это область практической деятельности, связанная с коллегиальным принятием диагностического или лечебного решения, два основных условия которой - это коллегиальность и высокая квалификация. Применительно к взаимодействию с агентами ИИ, в первую очередь, нас интересовали вопросы трансформации профессии врача, области его компетенций и сферы ответственности. В проведенном сравнительном анализе коллектив сосредоточился на сходных чертах о представлениях касаемо возможностей и ограничений внедрения искусственного интеллекта в практику систем здравоохранения во всех четырех странах, на представлениях и ожиданиях самих пользователей, то есть врачей (непосредственных акторов систем здравоохранения). Авторский коллектив постарался систематизировать эти представления посредством изучения и обобщения данных, представленных в открытом доступе, а также с помощью исследования мнения врачей, сталкивающихся с технологиями ИИ.

В первую очередь, было обращено внимание на анализ характеристик и динамики обсуждения искусственного интеллекта в медицине в академической, англоязычной научной среде. Одним из вариантов такого анализа было обращение к анализу публикаций в базе данных Scopus и PubMed. В рамках исследования был зафиксирован отчетливый рост публикаций, начиная с начала 2000-х годов, однако примерно с 2017 года исследование показало резкий скачок публикаций. Однако количество публикаций подобной тематики и на сегодняшний день, остается достаточно скромным, например, в 2020 (это пик графика) было опубликовано всего около 300 публикаций. Анализ продемонстрировал, что наибольшее количество публикаций происходит в сфере медицины. Вслед за медициной повестку формируют компьютерные науки. В свою очередь, социальные науки входят в раздел «другое», который занимает всего 5.2% из всего количества публикаций за все время.

Вместе с тем, разработчики ИИ и потенциальные пользователи сталкиваются с многочисленными проблемами, которые ограничивают разработку, внедрение и устойчивый рост применения ИИ в области медицины и здравоохранения. Как показал анализ проблематики ИИ в системах здравоохранения четырех стран, его внедрение может быть осуществлено на трех уровнях: 1) обществ / национальных государств, 2) организаций и регулирующих их институтов, 3) повседневных взаимодействий. Так, социальная аналитика может оценивать потенциал и основные препятствия внедрения технологий ИИ в рамках взаимоотношений "человек-машина" для взаимодействий "врач-пациент" и "врач-пациент-организация".

Распространение технологий ИИ в медицинской практике во всех исследуемых странах меняет традиционный взгляд на отношения между врачом и пациентом как на субъект-объектные отношения. В эти отношения вмешивается новый авторитет -искусственный интеллект, который обусловливает возникновение новых форм взаимосвязей и взаимозависимостей "человек-алгоритм", "человек-машина", возникновение и развитие "искусственной социальности" и искусственной экспертизы.

Сравнительный анализ стратегий развития ИИ по странам показывает, что они не являются идентичными, и каждый национальный субъект фокусируется на различных аспектах политики в данной области. Тем не менее, во всех стратегиях общим местом выступает указание на особую роль технологий ИИ и машинного обучения для развития медицины и здравоохранения.

Вынося за скобки некоторые национальные особенности в интерпретациях, можно выделить общий мета-дискурс: искусственный интеллект начинает играть все более важную роль в развитии сектора здравоохранения, поскольку в настоящее время существует острая потребность в инновациях, которые помогают медицинским работникам принимать обоснованные решения для персонализированной медицины, национальные системы здравоохранения должны стать более эффективными, а медицинские работники - более продуктивными.

Основной точкой анализа внедрения ИИ в системы здравоохранения исследуемых стран послужило рассогласование между замыслом создателей ИИ и ожиданиями пользователей: врачей, пациентов, управленцев и др. На данном уровне анализа требовался детальный разбор того, как технологии ИИ встраиваются в повседневные миры больниц, поликлиник, бюрократических структур, как к ним адаптируются - и как они сами могут быть адаптированы к тем, кто их использует. Для этого, было проведено исследование (методом фокусированного интервью) среди врачей. В частности, рассматривалась самооценка врачей относительного своего знания искусственного интеллекта и его применения во врачебной практике. Во всех дисциплинах большинство врачей оценивали свое знание как "среднее". Интересно, что подавляющее большинство врачей при этом никогда не сталкивались с искусственным интеллектом в практике. Кроме этого выделим, что вне зависимости от специальности врачи, в подавляющем большинстве, склонны были согласиться с утверждением, что внедрение ИИ будет способствовать развитию специальности. Основным преимуществом внедрения ИИ в систему здравоохранения воспринимается сокращение времени, затрачиваемого на рутинные задачи. К основным недостаткам - уменьшение роли специалиста в диагностике заболеваний и общем процессе ведения пациентов, опасения по поводу передачи медицинских услуг крупным технологическим и информационным компаниям, а также опасения по поводу медицинской ответственности из-за ошибки алгоритма.

К основным преимуществам внедрения технологий искусственного интеллекта и развития "искусственной социальности" в рамках систем здравоохранения четырех исследуемых стран (по результатам сравнительного анализа) следует отнести область клинической поддержки. Так, к этому относятся такие действия как: обнаружение аномалий, сегментирование анатомических структур, классификация результатов, сортировка случаев с возможностью стратификации рисков, количественная оценка различных результатов обследований, прогнозирование результатов лечения, помощь в принятии решений (например, в выборе правильной стратегии реагирования на основе результатов, предсказанных ИИ). Кроме этого, в качестве преимуществ, необходимо подчеркнуть повышенную эффективность работы, к числу которых относятся: экономия времени за счет ускорения выполнения задач (например, за счет более быстрой оценки состояния пациента); повышение производительности отделения (например, за счет увеличения пропускной способности, за счет приоритезации случаев пациентов); повышение затратоэффективности за счет использования времени врачей для работы над более сложными, специальными и интеллектуальными задачами; автоматизация определенных медицинских задач (например, автоматическая классификация). Еще одним преимуществом является возможности улучшения заботы о пациенте. К этому преимуществу относятся: улучшение ухода за пациентами и результатов ухода (например, за счет персонализированного ухода); Повышение качества обслуживания и комфорта пациентов (например, за счет сокращения времени сбора данных); повышение доверия пациентов или (воспринимаемой) безопасности. Повышение качества работы, также рассматривается, как следствие внедрения технологии «искусственного интеллекта» и «искусственной социальности». Так, в частности, к этому преимуществу относятся: повышение точности работы (например, за счет уменьшения ошибок); повышение согласованности между участниками системы здравоохранения (например, уменьшение зависимости от наблюдателя). Помимо этого, внедрение «искусственного интеллекта» способствует повышению психологической поддержки. В этом случае, можно говорить о снижение когнитивной нагрузки (например, уменьшение информационной перегрузки за счет выделения областей интереса), а также о повышение уверенности врачей в своих решениях.

При этом у стран есть ряд сходных ограничений внедрения технологий «искусственного интеллекта» и «искусственной социальности». Так, в частности, в первую очередь следует обратить внимание на непропорциональные заявления (шумиха/хайп) вокруг внедрения ИИ в системы здравоохранения. К этим заявлениям относятся: заявления о том, что ИИ заменит врачей; преувеличенные аргументы в пользу возможностей ИИ (например, ИИ не способен диагностировать в одиночку); акцент на задержку выполнения обещаний ИИ (например, до сих пор мало примеров, когда ИИ внедрялся в клиническую практику); акцент на неготовности самих врачей к ИИ. Второе, что разработка искусственного интеллекта во всех странах отделена от работы врачей, отсюда: низкая степень вовлечения врачей в процесс разработки; плохое соответствие продукта рынку и отсутствие явных преимуществ для клинической практики (например, движимое «гонкой за инновациями» и ограниченное внимание к реальным клиническим проблемам как к “чрезмерно узким”); отсутствие совместимости с существующими системами (например, интеграция рабочего процесса, функциональная совместимость). Третье, анализ показал, что необходимо обратить внимание на ограниченную производительность ИИ. К этому фактору относятся: низкий уровень точности ИИ (например, слишком много ложных срабатываний или ложноотрицательных результатов); сбой производительности при развертывании в реальных условиях (по сравнению с условиями исследований); неустойчивость, присущая технологии искусственного интеллекта (например, отсутствие возможности обобщения). Четвертое - некачественный сбор или анализ данных. К этому негативному фактору относятся: использование неподходящих данных (качество) (например, использование данных пациентов с раком легких для быстрой разработки алгоритмов COVID-19, использование данных с предубеждениями и приводящих к предвзятому алгоритму); отсутствие достаточно больших данных (количество) с достаточным количеством вариаций для обучения и проверки алгоритмов ИИ; плохая практика защиты и обработки данных (например, неправильная анонимизация данных). И наконец, следует обратить внимание на различные барьеры в окружающей среде, к числу которых во всех странах относятся: барьеры у пациентов в контексте восприятия (например, отсутствие доверия, проблемы с подотчетностью, нежелание принимать ИИ); жесткие правовые нормы, регулирующие конфиденциальность и владение данными, замедляют развитие ИИ; финансовые затруднения (например, отсутствие жизнеспособных моделей финансирования или схем возмещения расходов); в системы здравоохранения трудно проникнуть (например, из-за тяжелой бюрократии и других институциональных барьеров).

Общие выводы.

В качестве основных выводов исследования, отдельно выделяя сходные и различные черты влияния искусственной социальности на противодействия пандемии COVID для четырех стран следует отнести следующее:

• 1)    В условиях пандемии возникает ключевая проблема - проблема доверия государству со стороны населения и со стороны других государств. Доверие является важнейшим условием эффективной борьбы с пандемией на национальном и на международном уровне. Уровень доверия к методам регулирования социальноэкономических взаимодействий, принятых государством, со стороны своего населения и со стороны других государств может различаться. Доверие своего населения обусловлено, в большей степени, исторически сложившейся динамикой взаимодействия населения и государства. Доверие со стороны других государств и международных организаций связано с тем, насколько "прозрачными" (понятными) являются процедуры регулирования. "Прозрачность" достигается, в значительной степени, за счет использования онлайн-технологий как источников информации (официальные сайты) и как способов отслеживания контактов и контроля за населением (онлайн-приложения).

• 2)    Использование онлайн-технологий во время пандемии характеризуется тремя обстоятельствами. Во-первых, оно опирается на повсеместное распространение онлайн-культуры, и те, кто не умеет пользоваться новыми технологиями или не имеет к ним доступа, оказываются в уязвимом положении. Во-вторых, характер использования онлайн-технологий определяется институциональным контекстом регуляции взаимодействий с населением, исторически сложившимся в рамках конкретного государства. При этом онлайн-технологии скорее развивают "сильные стороны" стран и их систем здравоохранения, нежели компенсируют их слабости. В-третьих, онлайн-технологии являются чрезвычайно востребованным и при этом противоречивым источником информации о пандемии, так как разнообразие информации (включая дез- и

• миз-информацию) позволяет подтвердить практически любую точку зрения на пандемию.

• 3)    В период пандемии актуализируется тенденция к развитию "постнормальной науки" [3] , что противостоит привычному пониманию науки как непререкаемого авторитета. Постнормальная наука предполагает, что приоритет "твердых" фактов отступает перед "мягкими" ценностями. Иными словами, авторитет науки оказывается важным для регистрации фактов и оценки вероятности развития событий, однако принятие решений происходит с опорой на ценности общества. В рамках настоящего анализа, модель "постнормальной науки" развивалась, прежде всего, в случае Швеции. Она обеспечивает высокий уровень доверия внутри государства, однако "побочным эффектом" становится недоверие со стороны других государств и международных организаций.

• 4)    Развитие технологий искусственного интеллекта в здравоохранении - это глобальная тенденция для стран с развитыми экономиками. В период пандемии технологии ИИ могут стать помощниками для медицинских работников, прежде всего, в постановке диагноза. К основным препятствиям внедрения ИИ следует отнести то, что разработка искусственного интеллекта отделена от работы врачей, что приводит к плохому соответствию продукта рынку и отсутствию явных преимуществ для клинической практики. Кроме того, следует обратить внимание на различные барьеры в окружающей среде, к числу которых относятся барьеры у пациентов в контексте восприятия ИИ, жесткие правовые нормы, регулирующие конфиденциальность и владение данными, а также институциональные барьеры по "входу" в систему для пациентов.