Этические проблемы больших данных

Современный уровень развития информационных технологий позволяет правительствам государств и крупным компаниям постоянно накапливать большие объемы данных. Согласно исследованиям IDC (International Data Corporation) объем информации, хранимой во всем мире, удвоился за последние 2 года и составил 40 зеттабайт (4*1013 гигабайт) [1]. Человеческий мозг не в состоянии обработать настолько большие массивы информации, что способствовало экспоненциальному развитию идеи больших данных (Big Data).

Концепция больших данных относится к сбору и хранению больших объемов информации о пользователях или клиентах и их поведении для использования с целью предоставления, например, персонализированных услуг на основе прогнозов. Использование больших данных охватывает широкий спектр областей, которые включают анализ биомедицинских данных, стратегий правительства, онлайн-торговли, образования, и это лишь некоторые из них.

Любая технология в какой-то мере имеет как положительные, так и отрицательные черты. С одной стороны исследования Массачусетского технологического университета (MIT) показали, что компании, использующие методы анализа больших данных, смогли улучшить показатели прибыльности на в среднем 5–6% [2]. С другой стороны, эта молодая область компью- терных наук порождает ряд этических проблем. Данная работа посвящена рассмотрению этического аспекта применения концепции больших данных и выявлению возможных мер их решения.

Этика (от др.-греч этос, «нрав, обычай») – наука о морали и нравственности [3]. Формирование этики ответственности ученого и общества за применение научных достижений – это важнейшая особенность постнеклассической науки. Английский историк техники и философ Льюис Мамфорд назвал современный мир “веком автоматизации” или “второй эрой машин”. Мамфорд называет “первой эрой машин” времена древнего Египта, подчёркивая, как недалеко ушло общество в своём развитии [4]. Американский социолог Фрэнсис Фукуяма говорит об опасности эпохи потребления, лишённой морали и спровоцированной триумфом технологий [5]. По мнению С. Коупледа [6], этические проблемы больших данных необходимо выявлять и решать, так как они в конечном итоге могут перекрывать преимущества интеллектуальных систем.

Сбор, обработка и анализ клиентских данных в настоящее время стали способом зарабатывания денег, а в некоторых случаях фактором, способным изменить целую отрасль. Большая часть этих данных прямо или косвенно может считаться персональными данными и, следовательно, подлежит защите. Однако этого недостаточно, поскольку законы о защите персональных данных обычно не охватывают этические и моральные аспекты.

Показательной является ситуация с американской компанией Target. Её специалисты разработали алгоритм предложения персонализированных услуг с помощью анализа данных клиентов, включая их поведение в сети Интернет. В 2012 году отец учащейся средней школы пожаловался, что Target послал его дочери купоны на товары для беременных женщин. Компания признала ошибку, но вскоре выяснилось, что девочка действительно была беременна, а алгоритм больших данных лишь принял во внимание изменения в поведении девушки, которое было сходно с поведением беременных женщин. В данной ситуации не был нарушен ни один закон, однако общественность была возмущена подобным вторжением в частную жизнь.

Также примером использования персональных данных, противоречащего нормам морали может послужить работа спецслужб, в частности, деятельность ФБР. В 2016 году было обнаружено, что база ФБР включает 412 млн фотографий людей, среди которых большое количество иностранных граждан и лиц, которые никогда не нарушали законы. При этом ФБР намеренно скрывает информацию о том, как и в каких масштабах используются новые технологии (вопреки требованиям защиты конфиденциальных данных). Стоит отметить, что применение системы распознавания лиц было эффективным и помогло в поимке ряда преступников. Однако, имелось некоторое количество ложных срабатываний: из-за погрешности методов анализа больших данных система называла преступниками законопослушных граждан.

Говоря об этических проблемах в сфере распознавания лиц, необходимо упомянуть о проекте Anaface – сайт, который по фотографии определяет, насколько человек привлекателен. Спустя некоторое время после запуска проекта разработчики признались, что запустили свой проект, чтобы люди чаще обращались к пластическому хирургу.

На основе анализа рассмотренных выше примеров можно выделить ряд этических проблем и возможных способов их решения:

– Сбор данных и их использование. Обеспокоенность людей заключается в том, что произойдет с данными после того, как они были получены, и каковы будут границы их применения. Чтобы заслужить доверие клиентов, компаниям необходимо указывать все способы использования данных в пользовательском соглашении, не допуская двусмысленных формулировок.

– Передача данных третьим лицам. Конфиденциальные данные должны предоставляться другим компаниям или частным лицам без какого-либо указания на личность их владельца. Также необходимо уведомлять клиента о передаче его данных.

– Наблюдение. Использование средств видеоаналитики или анализа поведения заставляет пользователей чувствовать, что они находятся под наблюдением. Технология, которая, по их мнению, является навязчивой и, следовательно, ущемляет их независимость. Для решения данной проблемы следует предупреждать человека о применении алгоритма анализа данных. Например, в местах установки камер видеоаналитики. Также разработчикам необходимо тщательно тестировать свою систему во избежание ситуаций, подобных инциденту с компанией Target.

Решая этические проблемы на более ранней стадии, необходимо принимать меры, чтобы либо облегчить проблемы, либо устранить их. Организации должны внедрять моральные и этические кодексы, которые охватывают полный жизненный цикл работы с данными, включая получе- ние, подготовку, обработку, агрегацию, совместное использование, хранение, архивирование и уничтожение.

Этический аспект больших данных носит двойственный характер: с одной стороны, технологии (в том числе, большие данные) помогают во многих областях: медицина, финансы, образование и т.д. Через несколько лет, пациент будет при- глашаться на прием к врачу сразу при появлении симптомов. Но людям придётся жить в мире, где не будет места приватности и где их частная жизнь будет ограничена. В глобальном смысле проблема заключается в том, как люди воспользуются данными, которые получат. Потому что наука не только ищет истину, но и определяет условия ее применения.