Цифровые помощники: этические проблемы

Общество. Среда. Развитие № 2’2022

Многие компании и организации быстрыми темпами внедряют цифровых помощников для автоматизации коммуникации, обслуживания клиентов, рекомендаций по продуктам и услугам. По некоторым оценкам мировой рынок цифровых помощников вырастет с 16,8 млрд долларов в 2021 году до 43,8 млрд долларов к 2026 году [9]. По другим прогнозам, количество используемых цифровых помощников к 2023 году достигнет 8 млрд устройств по всему миру [7]. Цифровые помощники предлагают круглосуточное обслуживание и удовлетворяют потребности клиентов в ответах в режиме реального времени. Они позволяют компаниям и организациям сократить расходы, повысить лояльность к бренду и лучше обслуживать клиентов. Однако цифровые помощники создаются людьми с применением технологий искусственного интеллекта, и их использование имеет широкий спектр этических последствий. В статье анализируются этические принципы, содержащие ключевые этические соображения, необходимые для понимания разработчиками цифровых помощников и их пользователями.

Цифровые помощники – это интеллектуальные приложения, которые могут вы- полнять задачи или предоставлять услуги пользователю, реагируя на его заказы или запросы. Многие цифровые помощники могут понимать человеческую речь и реагировать на нее с помощью синтезированных голосов. Пользователи могут использовать голосовые команды, чтобы попросить своего цифрового помощника ответить на вопросы, управлять бытовой техникой или воспроизведением мультимедиа, выполнять другие важные действия, например, создавать списки дел и планировать встречи в календарях. В сфере интернета вещей цифровые помощники – популярный сервис для общения с пользователями на основе голосовых команд [16].

Этические проблемы, связанные с различными аспектами использования цифровых помощников, в последнее время находятся в центре внимания многих исследований [2; 3; 8; 11; 13; 17; 18]. В статье о глобальном ландшафте руководящих принципов этики искусственного интеллекта [10] авторы обнаружили пять этических принципов, которые считаются важными во всем мире: прозрачность, справедливость, непричинение вреда, ответственность и подотчетность, конфиденциальность. Эти принципы можно интерпретировать и в контексте цифровых помощников, акцентируя внимание на том, какие соображения должны учитывать разработчики и пользователи при разработке цифровых помощников и взаимодействии с ними [11].

Прозрачность. При работе с цифровыми помощниками прозрачность относится к информированию потребителей о том, с кем они общаются (то есть с цифровым помощником, а не с реальным человеком), и о том, как данные потребителей будут храниться, анализироваться и использоваться [14].

Компании и организации завоевывают доверие потребителей, будучи прозрачными и честными в общении. Если цифровой помощник выдает себя за человека, это может привести к плохому опыту и недоверию к компании или организации. Особенно вредным это может быть при взаимодействии с потребителями в таких деликатных сферах, как здравоохранение или финансы.

Кроме того, потребители также должны иметь возможность связаться с реальным человеком, запросить обратный звонок или отправить электронное письмо, если им неудобно взаимодействовать с цифровым помощником.

Справедливость. В случае с цифровыми помощниками справедливость относится прежде всего к приоритету интересов потребителя и предоставлению беспристрастных рекомендаций.

Разработчики должны регулярно тестировать цифровых помощников на соответствие показателям справедливости, публиковать результаты этих тестов для потребителей, а также предоставлять потребителям возможность оставлять отзывы о процессе общения с цифровыми помощниками. Чем лучше цифровой помощник адаптируется к интересам потребителей и дает справедливые рекомендации, тем более популярным он станет среди потребителей.

Непричинение вреда. Цифровые помощники часто являются первыми, с кем общаются потребители при поиске информации об определенном товаре или услуге, и, если их ответы не помогают, это приводит к разочарованию и оскорблениям со стороны потребителей.

Разработчикам необходимо проектировать процесс общения с учетом того, что цифровые помощники могут подвергнуться оскорблениям. Разговор должен строиться таким образом, чтобы потребители получали положительный ответ, а если возникнет такая необходимость, по запросу переводились на более полезный канал, например, общение с реальным человеком или электронную почту [15].

Еще одним важным аспектом является пол цифрового помощника. Во многих случаях цифровые помощники по умолчанию имеют женский голос или образ. Как показывают многочисленные исследования [1; 4–6; 12], это может способствовать укреплению гендерных стереотипов и формированию отношения потребителя к конкретной ситуации. Разработчики могут предоставить потребителям возможность выбора персонажа цифрового помощника и изменения языка, голоса, тона ответов, характерных для выбранного персонажа.

Ответственность и подотчетность. Это означает раскрытие потребителям информации о юридической ответственности и праве собственности на данные.

Возникает много споров о том, кто в конечном итоге несет ответственность – цифровые помощники на основе искусственного интеллекта или люди, которые их создали. Как правило, условия соглашения об оказании услуг, с которыми потребители должны согласиться перед использованием цифровых помощников, определяют ограничения, обязанности и ответственность в соответствии с нормативными актами.

Потребители должны иметь возможность выбора: поделиться своими данными или сохранить их в тайне. Если бизнес-модель цифрового помощника основывается на предоставлении бесплатных услуг и использовании потребительских данных для рекламы, то это также должно быть прозрачно для потребителя.

Конфиденциальность. Конфиденциальность означает, что ваша личная информация хранится в тайне и передается только с вашего согласия. Многие страны приняли законы и правила для защиты конфиденциальности персональных данных. Что касается цифровых помощников, конфиденциальность часто упоминается в связи со следующими вопросами:

– У кого имеется доступ к записям разговоров?

– Используются ли записи для профилирования потребителей?

– Передаются ли записи рекламодателям?

– Анонимизируются ли данные потребителей перед тем, как поделиться ими?

– Используются ли записи для совершенствования программных моделей искусственного интеллекта?

– Где хранятся записи?

– В течение какого времени хранятся записи?

– Может ли потребитель удалить записи?

Общество

– Зашифрован ли канал связи?

Разработчики должны быть прозрачными в отношении политики конфиденциальности и публиковать ее в открытом доступе, чтобы потребители могли быть проинформированы о том, как хранится и защищается их информация. Это также поможет укрепить доверие к цифровым помощникам, и потребители будут охотнее делиться информацией, если будут знать, что их будут обслуживать лучше.

Можно констатировать, что по мере того как цифровые помощники становятся частью нашей повседневной жизни, связанные с ними этические проблемы будут нарастать. Для общества в целом важно обсудить и согласовать этические принципы прозрачности, справедливости, непричинения вреда, ответственности и подотчетности, конфиденциальности для цифровых помощников.

Этические принципы обычно основаны на хорошо обоснованных стандартах правильного и неправильного, которые предписывают, что должно делать с точки зрения прав, обязанностей, пользы для общества, справедливости или конкретных добродетелей. Цифровые помощники необходимо разрабатывать с учетом этических стандартов общества. Эти стандарты должны распространяться и на разработчиков, которые должны гарантировать, что взаимодействие цифровых помощников с пользователями будет способствовать честности, воздержанию от мошенничества или причинения вреда и обеспечивать право на неприкосновенность частной жизни.

Общество. Среда. Развитие № 2’2022