Эпоха «Надзорного капитализма»: новые формы власти цифровых платформ и манипулирование пользователями

,

2018), в то время как про период «надзорного капитализма» заговорили совсем недавно (Гавриленко, 2023), ссылаясь на работу Ш. Зубофф (Зубофф, 2022). При бурном развитии цифровых платформ общество начинает жить в условиях «тотальной слежки», только субъектом контроля становится не столько власть, сколько технологические компании. Ш. Зубофф понимает «надзорный капитализм» как «новый экономический порядок, который претендует на человеческий опыт как на сырье, бесплатно доступное для скрытого коммерческого извлечения, прогнозирования и продажи» (Зубофф, 2022: 10).

Компания Google одной из первых обнаружила, что количество персональных данных пользователей, цифровых следов, которые агрегирует платформа, настолько огромно, что позволяет прекрасно зарабатывать на этих информационных излишках. Компания сосредоточила внимание на извлечении и анализе данных для того, чтобы потом преобразовывать их в прогнозные продукты. «Машинный интеллект перерабатывает поведенческий излишек в прогнозные продукты, предназначенные для предсказания наших чувств, мыслей и действий: прямо сейчас, чуть позже или в более отдаленном будущем … Компания продает прогнозы, которые только она и может изготовить из своих исторически рекордных частных запасов поведенческого излишка. Прогнозные продукты снижают риски для клиентов, советуя им, на что и когда ставить. Качество и конкурентоспособность такого продукта напрямую зависят от того, насколько он близок к точному знанию: чем надежнее прогноз, тем ниже риски для его покупателей и тем выше объем продаж. Google сумел стать гадалкой цифрового века, которая полным ходом заменяет интуицию наукой, чтобы за деньги погадать на наши судьбы, но не нам, а своим клиентам» (Зубофф, 2022: 129).

Современное медийное пространство ориентирует человека на жизнь «в состоянии потока», погруженность в какое-то дело, когда сложно замечать всё остальное. Технологические гиганты активно используют погруженность индивидов в потоковое состояние, чтобы завладеть их вниманием и получить хорошую прибыль. Цифровые платформы спроектированы так, чтобы пользователи испытывали состояние потока, теряли счет времени, оставляя всё больше цифровых следов, на которых технологические гиганты и зарабатывают. К. Монтаг в своем исследовании так описывает «бизнес-модель данных Кремниевой долины»: пользователь платит за доступ к приложению или онлайн-платформе, предоставляя свои персональные данные, на которых технологические компании зарабатывают, следовательно, нужны цифровые платформы, которые бы увеличивали зависимость пользователя от Интернета, время, проводимое им в Сети, и количество оставляемых цифровых следов (Монтаг, 2023). То есть модель предельно проста – время в Сети увеличивается, в том числе за счет фильтрации информации (пользователю подгружается именно та, которая вызывает его интерес), пользователь оставляет всё больше цифровых следов, что делает его «прозрачным» для платформы, лишая приватности, позволяя компании получать за счет него больше прибыли (Монтаг, 2023: 41). Функция «двойной галочки» может вполне рассматриваться как инструмент манипулирования пользователем для его удержания на платформе. Отравляя сообщение, мы нервничаем, не получая подтверждения о прочтении, постоянно проверяем статус сообщения, что выгодно цифровым платформам, так как пользователь всё время находится в Сети. Одновременно получатель сообщения тоже испытывает социальное давление – «надо ответить, человек же ждет».

Технологические гиганты формируют «пузыри фильтров», когда на платформе отображается только тот контент, который соответствует цифровым следам пользователя. Вследствие подобного отбора информации пользователь редко сталкивается с мнением, отличным от собственного, скорее, он сильнее «уверует» в правильность своей точки зрения, так как в подгружаемом платформой информационном контенте будет находить постоянные её подтверждения. Возникает феномен эхо-камеры, люди окружают себя тем, что соответствует их картине мира, формируется доверие определенным информационным каналам и игнорирование иных. Эхока-мера подразумевает более активную роль пользователя в формировании персонализированной ленты новостей, пузырь фильтров делает его пассивным – алгоритмы сами подтягивают информацию, а поведение в социальных медиа создает основу для пузыря фильтров и настраивания алгоритмов. Формирование персонализированной ленты новостей выгодно технологическим компаниям, так как это увеличивает время нахождения пользователя на платформе.

Пузыри фильтров могут быть опасны, если они имеют политический характер. Когда объединяются люди с экстремистскими взглядами, происходит радикализация контента, растет интенсивность и эмоциональность коммуникативных взаимодействий. Пользователю сложно скорректировать свою картину мира за счет другой информации, так как алгоритмы ее не подтягивают. Общение с единомышленниками приводит к социальной однородности, а в случае объединения пользователей с радикальными политическими или религиозными взглядами это чревато негативными последствиями. В период пандемии активно заговорили о проблеме инфодемии, означающей очень быстрое и неконтролируемое распространение в цифровых медиа необъективной или заведомо ложной информации о кризисных событиях, которая приводит к панике, оказывает негативное воздействие на психическое здоровье населения и ведет к падению доверия граждан к действиям власти по преодолению кризиса. С начала пандемии Интернет стал быстро заполняться фейками, вирусными роликами, а разная реакция пользователей на всё это способствовала росту поляризации в обществе. Возможность технологических платформ фильтрации информации и «подтягивания» определенного контента пользователю данную проблему резко обострила и усилила манипулятивное воздействие.

Сегодня при нарастающем информационном шуме взаимодействие граждан выстраивается в коммуникативной ситуации «постправды», когда эмоциональные оценки, стереотипы, политическая ангажированность преобладают над объективными фактами. Это создает почву для распространения псевдоновостей – такие фейки содержат мало правдивых фактов, искусно маскируются под материалы СМИ. В силу эмоциональной окрашенности недостоверная информация быстро распространяется, рациональная аргументация отходит на второй план, люди верят в то, во что хотят верить. Фейковые новости с политическим контентом хорошо удерживают пользователей на платформе, что выгодно цифровым технологическим компаниям. «Благодаря алгоритмам фейсбука особую популярность стали приобретать резонансные, порой даже разжигающие ненависть публикации. Эти сообщения мгновенно становятся популярными, потому что привлекают особое внимание пользователей и втягивают в обсуждение больше людей – как раз то, что нужно платформе… Чем эмоциональнее сообщение, тем больше вероятность, что люди будут делать импульсивные репосты. А это уже опасно» (Монтаг, 2023: 81).

«В совокупности “пузыри фильтров” и алгоритмическая дискриминация, распространяющаяся в результате их использования, приводят к ситуации, когда большие данные превращаются в инструмент фиксации вкусов и предпочтений пользователя в моделируемой (информационной) среде» (Маркеева, Гавриленко, 2021: 99). Возникает замкнутый круг, когда с помощью умных алгоритмов и «пузырей фильтров» происходит сужение или полное закрытие внешних информационных воздействий на пользователей, кроме одних и тех же каналов, создающих эффект эхока-меры, а другими инструментами платформа фиксирует поведение пользователей в рамках заданной программы, выдавая такое поведение за естественное, а не искусственно сконструированное алгоритмами и продавая «прогнозные продукты» заинтересованным стейкхолдерам.

Период пандемии с сопутствующими ему ограничениями на «живые» социальные контакты приучил индивидов к необходимости быть на связи или онлайн 24/7. Люди привыкли к цифровым каналам коммуникации, находя в них самые разные преимущества – от получения чувства безопасности и защиты от вирусных заболеваний в отсутствии офлайн-коммуникации до элементарной экономии сил и потакания собственной лени. Социальные отношения серьезно трансформировались в условиях доминирования цифровых информационно-коммуникативных технологий, что сказывается на реализации повседневных рутинных практик. Так, все большее распространение получает «фаббинг», процесс отвлечения на гаджеты во время живого общения, вызывающий раздражение и негативно влияющий на социальные отношения. Постоянная онлайн-коммуникация приводит к нарушению навыков обычного общения, особенно у подростков. Также возникают новые фобии, свойственные цифровой эпохе, например, номофобия, которая подразумевает страх остаться без телефона (с нарастающими симптомами – панические атаки, тревога, сердцебиение и др.), потерять его, лишиться связи, постоянное желание заряжать аккумулятор. Номофобия особенно свойственна так называемому цифровому поколению, которое ест, передвигается, работает, принимает ванну и т.п., не выпуская телефон из рук.

Ловушкой для пользователя цифровых платформ является такой психологический «крючок» для удержания внимания, как эксплуатирование «синдрома упущенной выгоды» (FoMo – Fear of missing out). Это боязнь что-то пропустить, не участвовать в чем-то, тревога от того, что другие получают некий приятный опыт, который нельзя с ними разделить (бесконечная проверка социальных сетей друзей и др.). Чтобы справиться с такой тревожностью индивид погружается в цифровое пространство ради процесса самоуспокоения (я ничего не пропустил, меня никто не игнорирует и т.п.). Если у человека не удовлетворена потребность в социальной принадлежности, сознание запускает FoMo как процесс психической компенсации. Различного рода пуш-уве-домления и сообщения, исчезающие через 24 часа, тоже способствуют закреплению зависимости пользователя от социальных сетей и развитию «синдрома упущенной выгоды». Такая погруженность в состояние цифрового потока не всегда безопасна, так как пользователь не выпускает из рук гаджет даже в ситуациях, требующих максимального сосредоточения, например, при управлении транспортным средством.

Как уже отмечалось выше, бизнес-модель технологических платформ основана на стимулировании пользователей увеличивать время нахождения на платформе и оставлять больше цифровых следов, которые «надзорные капиталисты» преобразуют в прогнозные продукты для получения собственной прибыли. Цифровые следы на сегодняшний день с достаточно высокой досто- верностью позволяют определить такие характеристики человека, как пол, возраст и даже личностные черты, а знание о социально-демографических и психических особенностях дает «кодовый ключ» для манипулирования сознанием и поведением пользователя. Так, компания Cambridge Analitica пыталась определить связь между паттернами в цифровых следах и данными анкет пользователей, а впоследствии была обвинена во влиянии на ход выборов в США и выход Великобритании из ЕС (Монтаг, 2023: 146). Понимание социально-демографического портрета позволяет точечно воздействовать на пользователя, избирательно предлагая тот или иной продукт, в том числе политический. Персонализированная реклама адаптируется к предпочтениям и особенностям личности пользователя, дифференцируясь для экстравертов и интровертов, например.

Цифровые следы создаются не только при наборе текста, но и когда лицо попадает в объектив камеры телефона (например, при разблокировке телефона). В последнее время появились исследования, доказывающие, что алгоритмы могут определить сексуальную ориентацию по лицу (точность: 81 % – мужчины, 71 % – женщины), причем искусственный интеллект выявляет сексуальную ориентацию на основе шаблонов («лесбиянки редко используют тени для век», «на лице гомосексуалиста четче видны очки» и др.) (Монтаг, 2023: 172). Достаточно сложно всерьез воспринимать аргументацию исследователей, которые, как, например, М. Косински, по фото «определяют» политическую ориентацию пользователя, а именно склонность к либеральным или консервативным взглядам, исходя из предположений, что люди с либеральными взглядами чаще прямо смотрят в камеру или что у них менее недовольное лицо и т.п. (Kosinski, 2021). Ученые до сих пор до конца не знают, чему и как именно учится искусственный интеллект, часто исходные данные для обучения нейросетей являются информационным мусором («мусор на входе дает мусор на выходе»).

Десять лет назад Европейский суд утвердил «право на забвение» для граждан Евросоюза1. Оно разрешает пользователям обращаться к поисковым системам с просьбами об удалении конкретной информации о себе из открытых источников. В России в 2020 г. также были внесены поправки в ФЗ «О персональных данных»2, предусматривающие реализацию такого права, но механизмы ее вызывают вопросы, кроме того, об этом праве пользователи слабо информированы. Более знающей по данному вопросу является молодежь, хотя именно она в меньшей степени опасается возможной передачи своих персональных данных третьим лицам и менее чувствительна к нарушению границ частной жизни. По данным ВЦИОМ 2020 г., «68 % опрошенных знают, что онлайн-сервисы собирают их личные данные. Условия использования интернет-ре-сурсов изучают 60 % россиян, 22 % совсем их не читают… Большинство граждан положительно оценивают возможное внесение изменений в закон о персональных данных. Инициативу дать гражданам право отзывать согласие на их использование по упрощенной процедуре и обязанность интернет-сервисов удалить личную информацию в течение трех дней поддерживает 62 % опрошенных. Увеличение штрафов для интернет-площадок за нарушения, допущенные при обработке персональных данных пользователей, одобряют 58 % респондентов»3.

Как пишет Ш. Зубофф, реакция технологических компаний на решение Европейского суда была довольно агрессивной. Так, руководство компании Google заявило, что людям «лучше доверять Google, чем государственным институтам, так как хранение данных в таких компаниях, как Google, лучше, чем хранение их государством, которое не имеет надлежащей процедуры получения этих данных, потому что мы, очевидно, заботимся о своей репутации» (Зубофф, 2022: 84).

В условиях развития цифровых информационно-коммуникативных технологий серьезными проблемами современного общества становятся: отсутствие этических стандартов извлечения и использования информации, контроля за «судьбой» предоставляемых персональных данных, нарушение неприкосновенности личной жизни. Она считается «основополагающим правом человека, ценным и гарантированным условием жизни в развитых странах. Однако по мере того как датчики, камеры, смартфоны и другие встроенные и портативные устройства производят все больше данных, защищать последние становится все труднее, ведь люди оставляют все больше цифровых следов (данных, которые они производят сами) и цифровых теней (информации, которую собирают о них другие). Такие архивы позволяют осуществлять дата-надзор (вид цифровой слежки при помощи сортировки и просеивания массивов данных с целями идентификации, мониторинга, отслеживания, регулирования, предсказания и рекомендаций) и геонадзор (отслеживание местоположения и перемещения людей, транспортных средств, товаров и услуг, мониторинг пространственных взаимодействий)» (Китчин, 2021: 75).

Интересно, что растет число людей, особенно в молодой возрастной когорте, которые не воспринимают нарушение личных границ и неприкосновенности частной жизни в качестве проблемы1.

Сегодня существуют самые разные цифровые технологии осуществления социального контроля – камеры, биометрия, GPS-датчики, дроны, Интернет вещей и др., отношение к которым у «объекта» контроля разное. Многочисленные исследования показывают, что большинство опрошенных не рассматривают, например, камеры как знак тотального контроля. Наоборот, развитая сеть видеонаблюдения в городском пространстве воспринимается ими как основа безопасности, обеспечивает спокойствие и уверенность жителям. Отношение же к предоставлению своих биометрических данных у россиян довольно сложное. Так, на основании опроса ВЦИОМ, проведенного в 2023 г., можно констатировать, что положительно относится к сдаче биометрии всего 27 % россиян2, 34 % опрошенных воспринимают это безразлично (прежде всего молодежь), а 32 % – негативно. В качестве преимуществ биометрической системы россияне называют безопасность, простоту, прозрачность, прогресс и порядок, негативные же стороны опрошенные видят во вторжении в частную жизнь, отмечают недоверие к инстанциям сбора данных, недостаточную информированность о данной системе и отсутствие необходимости в сдаче биометрии3.

Цифровые платформы сегодня, несомненно, стали новой инстанцией власти, средой для реализации системы электронного контроля и субъектом манипулятивного воздействия. Сопротивление пользователей власти интернет-платформ вряд ли можно считать массовым явлением, большинству проще и удобнее пользоваться цифровой средой, которая уже стала привычной, получая различные блага «в один клик» и не задумываясь о сохранности персональных данных или, тем более, о нарушении границ частной жизни. Если же говорить о формах сопротивления власти технологических гигантов, то все они сводятся к двум основным: 1) активизация деятельности по созданию принципиально иной технологической среды, борьба с алгоритмической фильтрацией информации, более широкое информирование о сути пользовательских соглашений, борьба за контроль над технологическими гигантами (движение за программы с открытым кодом, против вытеснения органического поиска информации в Интернете и т.д.); 2) осознанное снижение медиапотребления, распространение ограничительных практик в отношении интернет-ресурсов (цифровая гигиена, сознательное сокращение времени нахождения в Сети для уменьшения цифровых следов и т.д.). Чем больше мы погружаемся в электронную реальность, тем сложнее оказывать сопротивление власти платформ и тем вероятнее становится «принятие новых правил игры», когда ради удобства и простоты мы закрываем глаза на нарушение неприкосновенности личной жизни или манипулятивное воздействие алгоритмов. Полностью отказаться от взаимодействия с цифровыми устройствами вряд ли возможно, коммуникация всё больше реализуется в электронной форме, а отказ от социальных контактов и затворничество – это осознанный выбор единиц. Сегодня всё более громко звучат голоса тех, кто настаивает на регулировании деятельности платформ, прежде всего государственном, на необходимости создания альтернативных бизнес-моделей данных, не получающих сверхприбыль от использования пользовательских цифровых следов и продажи «прогнозных продуктов» коммерческим компаниям. Тотальная слежка «надзорных капиталистов», по мнению Ш. Зубофф, угрожает свободе граждан и реализации принципов демократии, как бы это высокопарно не звучало. «Надзорный капитализм – это форма, не знающая границ, которая игнорирует старые различия между рынком и обществом, рынком и миром, рынком и человеком. Это форма, стремящаяся к извлечению прибыли, при которой производство подчиняется извлечению, когда надзорные капиталисты в одностороннем порядке претендуют на контроль над человеческими, общественными и политическими территориями, выходящими далеко за пределы традиционной институциональной территории частной фирмы или рынка» (Зубофф, 2022: 663).

Таким образом, можно констатировать что эпоха «надзорного капитализма» сегодня находится в периоде своего расцвета: власть цифровых платформ над пользователями все более увеличивается, используя все новые формы манипулирования их сознанием. Вопросы цифровой безопасности для современных граждан постепенно становятся жизненно определяющими.