Всеобъемлющие вычисления: этические аспекты

Общество. Среда. Развитие № 1’2023

Термин «всеобъемлющие вычисления» обозначает повсеместное сетевое взаимодействие в повседневной жизни с использованием интеллектуальных объектов. Всеобъемлющие вычисления рассматриваются не как отдельная область технологий, а скорее как новое применение информационных и коммуникационных технологий, которые больше, чем когда-либо, интегрируются в повседневный мир. Это возможно за счет встраивания вычислительных устройств в повседневные объекты и оснащения их датчиками, которые позволяют им собирать данные без активного вмешательства или даже осведомленности пользователя. Всеобъемлющие вычисления стали реальностью в течение последних десятилетий благодаря продолжающейся миниатюризации электронных компонентов цифровых устройств, использованию систем позиционирования и развитию сетей беспроводной связи.

Вопрос о применении этического подхода к всеобъемлющим вычислениям выходит за рамки теоретических исследований, напрямую затрагивая и практиков [6, 12]. Одним из центральных принципов всеобъемлющих вычислений, несущих в себе важное этическое содержание, является «понимание и изменение поведения»

[2]. Он оказывает влияние на разработку технологий наблюдения и повышения конфиденциальности, дополненной реальности, а также на технологический патернализм [9; 13; 22].

Технологии наблюдения

Этика технологий наблюдения учитывает моральные аспекты того, каким образом используются результаты наблюдения [13]. Часто задаются следующие вопросы: когда и при каких обстоятельствах ведется наблюдение, кто имеет право вести наблюдение, каковы преимущества и в чем недостатки? Один из основных аргументов против наблюдения заключается в том, что оно представляет собой угрозу конфиденциальности, имеющей ценность для человека и общества [22]. Это, в свою очередь, вызывает ряд вопросов о конфиденциальности, о том, что это такое, в какой степени и почему это ценно.

Обсуждение автоматической идентификации началось с RFID-технологии (от англ. Radio Frequency Identification – радиочастотная идентификация) [16], которая, однако, менее эффективна, чем новые технологии распознавания лиц или отпечатков пальцев с устройств. Ожидается, что в мире повсеместной автоматической иден- тификации количество генерируемых и распространяемых персональных данных резко возрастет. Технология распознавания лиц является одним из основных направлений исследований цифровой этики. Ее применяют в различных областях, таких как поимка преступников, поиск пропавших без вести, биометрическое сканирование в медицине, реклама и покупки. Существуют опасения по поводу данной технологии, касающиеся, например, проблем с согласием при сборе биометрических данных, а также с их хранением. Вызывает вопросы и точность систем наблюдения среди некоторых расовых групп.

Конфиденциальность

В контексте всеобъемлющих вычислений конфиденциальность обычно интерпретируется как «конфиденциальность информации», которая представляет собой состояние, характеризующееся контролем сбора, хранения, обработки и распространения личных данных. Необходимо принимать во внимание также и «конфиденциальность решений», т. е. свободу принимать собственные решения без вмешательства других в отношении вопросов, рассматриваемых как личные. Существует явный конфликт между конфиденциальностью и широко распространенными компьютерными технологиями, которые имеют дело с поиском и хранением данных [4; 10].

С точки зрения этики вопрос конфиденциальность информации обычно обсуждается как угроза со стороны компьютерных инфраструктур, которые облегчают распространение и использование личных данных. Требование защиты частной жизни от неправомерного использования данных вошло во многие законы и международные соглашения, некоторые из которых сосредоточены на защитном аспекте, таком как «защита данных», другие подчеркивают индивидуальную автономию, например, «информационное самоопределение».

Изначально угрозы информационному самоопределению в основном воспринимались как исходящие от правительств. Позднее защита данных в эпоху Интернета обсуждалась в связи с шифрованием данных, и все больше внимания уделялось корпоративному сектору, например, в связи с использованием файлов cookie, сбором частными компаниями географических данных пользователей и информации о финансовом поведении людей [13]. Представляет интерес исследование [15], в котором были обнаружены значительные различия между европейскими гражда- нами в их отношении к конфиденциальности личных данных. Например, жители северных и южных европейских стран по-разному относятся к раскрытию информации и управлению персональными данными. Кроме того, молодые люди более ответственно, чем люди старшего возраста, относятся к управлению данными, а также более уверены в своей способности предотвратить возможное неправомерное использование данных.

Дополненная реальность

Общение посредством дополненной реальности представляет некоторые сложности, потому что многие естественные аспекты общения, например, с кем мы общаемся, кто следит за общением, становятся не совсем ясными [3]. Технология дополненной реальности, вероятно, все чаще будет использоваться в контексте, связанном с физической реальностью, например, в случае удаленной медицинской диагностики или хирургии. При этом существуют риски того, что коммуникативные акты будут более неоднозначны, чем в естественной среде, и что решения будут делегироваться технологиям таким образом, что это повлияет на автономию вовлеченных людей (как врача, так и пациента). С другой стороны, ожидается, что дополненная реальность повысит точность диагностики и доступность информации во время операций [8]. Подобные аргументы могут применяться и в других критических для безопасности областях.

Технологический патернализм

С точки зрения технологического патернализма исследователи задаются вопросом, как люди могут поддерживать контроль в средах, которые должны быть полностью автоматизированы [19]. В общем дискурсе цифровой этики технологический патернализм обсуждается, в основном, в двух областях: безопасность (биометрические системы идентификации личности) и электронное здоровье (например, активные имплантаты и другие методы удаленного мониторинга здоровья) [11, 14, 21]. Однако технологический патернализм является неотъемлемой составляющей и в широко распространенных системах, в частности, когда методы машинного обучения применяются для определения намерений пользователя [17]. Другой важный аспект технологического патернализма – это использование устройств слежения. С одной стороны, отслеживание может повысить безопасность отслеживаемых

Общество

лиц (например, пациентов, детей или сотрудников). С другой стороны, отслеживание представляет собой серьезную угрозу самоопределению отслеживаемого человека [7]. В связи с этим возникают вопросы: кому должно быть дано право отслеживать, кого отслеживать и с какой целью?

Общество. Среда. Развитие № 1’2023

Умные города

Умные города и связанные с ними этические проблемы являются темой многих исследований. Вызывает озабоченность развитие технологий, связанных с интеллектуальными зданиями [5]. Обещая огромные преимущества, интеллектуальные технологии управления зданиями создают новые серьезные опасности для пользователей. Отмечается, что умные дома, с одной стороны, могут принести значительное повышение комфортности, безопасности и эффективности существования, а с другой стороны, могут привести к так называемому «кошмару конфиденциальности» [1]. Адаптивная среда в ближайшем будущем может расширить возможности людей дома и на работе, однако приоритетом должны быть жители и сотрудники, а не только архитектурные и технологические возможности [20].

Предпринимаются попытки создать «архитектуру послушного умного города» для решения вопроса этики умного города [18]. Эта архитектура имеет пять уровней, учитывающих социальные и этические аспекты: 1) физический уровень; 2) сетевой уровень; 3) уровень аналитики данных; 4) уровень прозрачности; 5) бизнес-уровень. Использование фактора прозрачности, по мысли авторов, позволяет удовлетворить социологические и этические требования, облегчить социальное признание и повысить экономическую ценность умного города.

Заключение

Всеобъемлющие вычисления – это предоставление людям удобного доступа к информации и возможности действовать в соответствии с этой информацией в любое время и в любом месте. Основная цель всеобъемлющих вычислений – встроить вычисления в среду, которая позволяет людям пользоваться преимуществами повседневных объектов за счет обработки информации. В то же время всеобъемлющие вычисления приводят к накоплению огромных объемов данных о конкретном человеке, его поведении, финансах, здоровье. Эти массивы данных и спонтанное объединение «умных объектов» в сеть делают практически невозможным для пользователя отслеживание того, где хранятся его персональные данные и как они используются.

В качестве положительных последствий распространения всеобъемлющих вычислений можно выделить возможность использования информации и данных для прогнозирования и предупреждения антисоциального поведения, нарушающего безопасность и права человека, доступность разнообразной информации, способствующей более квалифицированному принятию решений, возможность оказания эффективной помощи людям со специфическими проблемами и потребностями. К отрицательным последствиям можно отнести возможность нарушения конфиденциальности информации, и как следствие – модификация паттернов поведения человека, в частности, основанного на взаимном доверии.

Конфиденциальность и доверие являются взаимосвязанными конструкциями: чем больше мы доверяем, тем больше информации о себе готовы раскрыть. Поэтому при рассмотрении вопроса о внедрении и использовании всеобъемлющих вычислений необходимо учитывать следующие принципы:

• 1.    Выбор: возможность для пользователя раскрывать или скрывать информацию.

• 2.    Контроль: возможность для пользователя управлять всеми данными в процессе обмена информацией, а также получать уведомления о хранящейся о нем информации.

• 3.    Прозрачность: возможность доступа заинтересованных сторон к информации о конкретном лице, а также право этого лица получать доступ к такой информации и изменять ее.

• 4.    Неясность: возможность прекращения обмена информацией или придания ему двусмысленности в зависимости от потребностей и желаний пользователя в любой момент времени.

• 5.    Предпочтения в отношении конфиденциальности и доверия: возможность для пользователя устанавливать предпочтения, которые могут быть динамическими, временными и безопасными.

• 6.    Контекст: возможность для пользователя знать свое местоположение, точное окружение, а также текущую ситуацию, в которой он находится.

Представляется очевидным, что при разработке и реализации сложных интегрированных систем, встроенных в социальную инфраструктуру таким об- разом, что их использование часто бывает незаметным, необходимо соблюдение этических принципов. Всеобъемлющие вычисления должны обеспечивать конфиденциальность (персональных данных, решений, местоположения), информированное согласие (например, при сборе биометрических данных), индивидуальную автономию (в частности, информационное самоопределение), безопасность (прежде всего в процессе функционирования раз- личных систем биометрической идентификации личности). Несомненно, что всеобъемлющие вычисления содержат в себе огромный потенциал для изменения жизни людей и общества в целом. Основная задача заключается в том, чтобы активно воздействовать на развитие всеобъемлющих вычислений в целях предотвращения возможных негативных последствий и максимального использования положительных эффектов.