Цифровая коммуникация субъекта и ИИ: возможности и риски трансформации ценностей

1,2МИРЭА – Российский технологический университет, Москва, Россия , ,

,

,

Введение . В социологии и экономике широкой известностью пользуется «модель робинзонады». Она позволяет социально-гуманитарным дисциплинам объяснять процесс рационального

распределения ограниченных ресурсов и критиковать существование «человека вне общества». В любом случае «модель робинзонады» представляется как исключительный и крайний случай существования человека (хотя есть версия, что сам Робинзон Крузо имел реальный прототип, которым был Александр Селькирк).

В 1966 г. появился первый чат-бот «Элиза», созданный Дж. Вайценбаумом, а в ноябре 2022 г. компанией OpenAI был представлен проект ChatGPT с генеративным искусственным интеллектом (ИИ), огромной и разнообразной языковой моделью и доступом в Интернет. Распространение и популяризация этого чат-бота поставили перед социально-гуманитарными дисциплинами вопрос: а как мыслить себе общение между живым человеком и чат-ботом подобного рода? Если брать в качестве грубой аналогии «модель робинзонады», то что это? Мы можем сразу «отбросить» шизофрению и неконтролируемые голоса в голове, а также осознаваемый внутренний диалог субъекта с самим собой. Условный «собеседник» есть, и это – ИИ в форме чат-бота. Возможно, что мы имеем дело с весьма изощренной китайской комнатой Дж. Серля. Или же этот случай цифровой коммуникации – нечто совершенно иное?

Естественно, что в рамках одной работы мы не сможем охватить все аспекты и проблемы коммуникации ИИ и субъекта, поэтому сосредоточимся на вполне определенном кейсе, в котором коммуникация между ИИ и субъектом привела к трансформации ценностей последнего. Это весьма показательное влияние уже само по себе указывает на то, что коммуникация субъекта и ИИ может приводить к нетривиальным следствиям. Иными словами, перед нами стоит проблема: как ИИ в процессе цифровой коммуникации способен оказывать влияние на трансформацию ценностей субъекта?

Актуальность ответа на данный вопрос имеет два ключевых аспекта: 1) работа основана на реальном кейсе с А. Рейном, ценности которого серьезно видоизменились под воздействием коммуникации с ИИ; 2) в науке и философии отсутствует единый теоретико-категориальный аппарат описания процесса коммуникации между человеком и ИИ. Первый аспект важен, так как кейс А. Рейна, вероятно, станет основой (или, по крайней мере, значимой вехой) для понимания взаимодействия и коммуникации ИИ и субъекта. Поэтому требуется анализ этого инцидента в социально-гуманитарном знании. Второй – свидетельствует об определенной эклектичности современного теоретического дискурса о проблематике, что приводит к трудностям. Однако, как мы полагаем, попытка выстроить объяснительную модель, привлекая различные языки описания, имеет серьезные основания. Это связано с самим характером проблемы – взаимодействие ИИ и субъекта включает в свое поле большое число переменных и факторов, поэтому для формирования интегральных философских знаний требуется трансдисциплинарный подход (Мокий, 2015; Транспрофессионализм субъектов социально-профессиональной деятельности …, 2019). Сразу следует оговориться, что следствием данной неустойчивости общенаучного дискурса стало привлечение различных теоретических концептов в рамках проделанной работы.

ИИ и субъект в процессе коммуникации: адаптация, доместикация, обратная связь . В августе 2025 г. в США был подан судебный иск на компанию OpenAI. Истцом выступили родители шестнадцатилетнего подростка А. Рейна, который совершил суицид в апреле того же года. По их утверждениям, сын общался с ChatGPT на тему самоубийства, и в результате ИИ подтолкнул подростка к подобному шагу¹. Естественно, что данное судебное разбирательство имеет огромный общественный резонанс, и не возникает сомнений – его результаты окажут значительное влияние как на правовую систему США, так и на юридическую теорию в целом относительно вопроса осмысления взаимодействия ИИ и человека. Отметим, что на настоящий момент в мире насчитывается около 15–20 подобных исков².

Этот прецедент значим для нашей работы, так как он ярко демонстрирует направленность цифровой коммуникации ИИ и субъекта. Даже если «общение» с ИИ не является прямой причиной действий А. Рейна, то оно как минимум не способствовало их предупреждению и остановке. Таким образом, мы имеем реальный кейс, когда важнейшая ценность – собственная жизнь, пускай и волей случая, оказалась подвержена деградации под воздействием цифровой коммуникации между субъектом и ИИ.

Почему вообще инцидент с А. Рейном стал возможен?

Работа современных ИИ обеспечивается в том числе генеративными и адаптационными алгоритмами программного обучения. Не вдаваясь в технические подробности, мы тезисно обозначим следующее: программа способна приспосабливаться к запросам пользователя при генерации контента (Гафаров, Гилемзянов, 2024; Николенко и др., 2018). Эта адаптация происходит посредством механизма, известного как «петля обратной связи», «обратная связь» или «контур обратной связи». Мы приведем обобщенное определение данных дефиниции из теории кибернетики. Согласно Д.А. Новикову, обратная связь – это «обратное воздействие результатов процесса на его протекание; поступление информации о состоянии управляемой системы в управляющую. Она характеризует системы регулирования и управления в живой природе, обществе и технике» (Новиков, 2016: 144).

С точки зрения социально-философской теории имеет место процесс доместикации (согласно концепции Р. Сильвестоуна и Л. Хэдонн) – «одомашнивание» техники (а в нашем случае – алгоритмов ИИ) под потребности конкретного индивида. Генезис этого процесса проходит четыре стадии: 1) апроприация; 2) объективизация; 3) инкорпорация; 4) конверсия (Silverstone, Haddon, 1996). Относительно ИИ этот процесс изначально носит стохастический характер: алгоритм не может «знать» изначальные запросы пользователя, его способ и стиль обработки информации, или какие эмоции он испытает от восприятия сообщения, не может также оценить возможность и степень рефлексии. В некотором смысле его алгоритм изначально «пуст». Если дословно следовать теории доместикации, петля обратной связи формируется на стадии инкорпорации и конверсии (Silverstone, Haddon, 1996: 71–74). В алгоритм вовлечены производители технологий и потребители (конкретно в приведенном исследовании шла речь о мультимедийной интерактивной системе Phillips CD-i).

В нашем случае, во-первых, петля обратной связи формируется между субъектом-пользователем и ИИ, исключая посредников, что, в целом, укладывается в теорию доместикации. Но, во-вторых, в процессе коммуникации петля обратной связи изначально работает исключительно «в сторону» ИИ, то есть происходит корректировка алгоритмов под запросы пользователя. Но, как демонстрирует реальность, со временем петля обратной связи эволюционирует и может приобрести двухстороннюю направленность: от субъекта к ИИ и обратно. И именно это может вызывать критические изменения в иерархической системе ценностей субъекта, а также его деятельности.

Если наше предположение относительно механизма работы петли обратной связи между субъектом и ИИ верно, то мы должны задаться вопросом: можем ли мы в таком случае мыслить ИИ как некоего субъекта диалога? Конечно, речь не идет о картезианском или кантовском субъекте. Но, возможно, дефиниция субъекта может быть расширена хотя бы частично.

Является ли данная мысль новой? Совершенно точно, что нет. Одной из современных дефиниций, которая предполагает понимание субъекта в более широком, неклассическом смысле является «цифровой субъект». Рассмотрим его.

Цифровой субъект и кибернетика третьего порядка . Упоминание категории цифрового субъекта («homo digital») относится к 2018 г. (Montag, Diefenbach, 2018). У нас нет уверенности, что это первая научная работа, использующая данную дефиницию, но известно, что примерно в этот же промежуток времени категория стала популяризироваться в научном дискурсе.

Полноценный анализ категории цифрового субъекта представлен, к примеру, в работе А. Нинет «Защита “Homo Digital”», где автор дает следующее определение цифровому субъекту: «Цифровая эпоха превратила Homo Videns в новый вид человека – Homo Digitalis Sapiens, окруженного, зависимого от устройств и информационных технологий. Смартфоны, персональные компьютеры, электронные книги, планшеты, GPS, единая система подключения техники к компьютерам (USB), совокупность всех цифровых устройств – это уже не просто аксессуары, а необходимые элементы нашей жизни. Homo Digitalis постоянно живет в подключенном состоянии к воображаемой сети» (Ninet, 2019: 162).

Однако введение дефиниции «цифровой субъект» вызывает определенное опасение среди философов. Так, Е.О. Труфанова прямо указывает на следующее: «Называя субъектами системы искусственного интеллекта, нейросети и прочих нечеловеческих агентов, исследователи опять же неправомерно расширительно трактуют понятие предмета [субъекта])» (Труфанова, 2024: 226). Исследователь допускает, что системы типа ИИ могут имитировать деятельностного субъекта, но «часто использование понятия “субъект” для обозначения таких агентов является метафоричным» (Труфанова, 2024: 227). Именно поэтому в научно-философской литературе можно встретить альтернативные формулировки. Так, к примеру, Е.А. Никитина, описывая интеграцию человека в цифровую реальность, пишет следующее: «Коллективный субъект в условиях коэволюции человека, общества и техники, которым соответствует гибридная (человеко-машинная) сетевая информационная среда, эволюционирует в направлении гибридного, сетевого и в определенной степени распределенного коллективного субъекта» (Никитина, 2021: 127).

Вышесказанное не означает, что категория «цифровой субъект» полностью дискредитируется в научно-философском дискурсе. Речь идет о том, чтобы внести ясность и конкретность в ее содержание и употребление.

Но мы используем другой теоретический ход, который не противоречит вышесказанному и дает особое, постнеклассическое понимание субъектности ИИ. Мы обратимся к современной теории кибернетики, а именно – к работам В.Е. Лепского и к концепции кибернетики третьего порядка (Лепский, 2015; 2018; 2024).

В кибернетике третьего порядка «объект и система управления сливаются в единое целое в саморазвивающейся рефлексивно-активной среде» (Лепский, 2018: 15). В.Е. Лепский также отмечает, что переход к новому типу не исключает, а интегрирует кибернетику первого («субъект – объект») и второго порядка («субъект – субъект») в единую парадигму третьего. Саморазвиваю-щуюся рефлексивно-активную среду В.Е. Лепский понимает как метасубъекта: «Это взаимодействие активных элементов, которые могут образовываться на основе естественного интеллекта (личности, группы и т. д.), искусственного интеллекта (агентов) и интеграции естественного и искусственного интеллекта» (Лепский, 2018: 16). Таким образом, метасубъект, это не фиксированное «тело» или «состояние» – это активный процесс, в который вовлечен непосредственный индивид и рефлексивно-активная среда. Философ подчеркивает, что в кибернетике третьего порядка изменяется ориентация управления. Имеет место уход от технократических моделей и подходов в пользу субъектно-ориентированных. Так, В.Е. Лепский выделяет среди субъектноориентированных трендов отношение к знанию, которое переходит «от информации к субъектно-соотнесенным (личностным) знаниям» (Лепский, 2024). Собственно, именно это и происходило в случае с А. Рейном. ИИ, постепенно адаптируясь через петлю обратной связи, смог генерировать диалоговые сообщения таким образом, что для субъекта они стали личностно ориентированными, субъектно-соотнесенными знаниями. И, как представляется вероятным, именно при таком коммуникативном взаимодействии ИИ и субъекта трансформация ценностей стала возможна.

Все вышесказанное задает общие теоретические рамки того, как понимать цифровую коммуникацию ИИ и субъекта. Но мы попытаемся глубже проанализировать механизмы этого процесса.

Интерсубъективный аспект коммуникации . Итак, через механизм петли обратной связи ИИ постепенно подстраивается и под ценностные ориентации пользователя (вне зависимости от их содержательного понимания). Но, как мы уже отмечали выше, изначально ИИ сам по себе является ценностно нейтральным (несмотря на существующие программные ограничения этического характера). Алгоритмы ИИ представляют собой tabula rasa в аксиологическом аспекте. Если в процессе естественной субъект-субъектной коммуникации ценности будут в ней присутствовать в явной или скрытой форме, то в цифровой коммуникации между субъектом-пользователем и ИИ одна из сторон не обладает (и не может обладать) ценностными основаниями. Но это не мешает ИИ, во-первых, воспроизводить соответствующие паттерны на основании информации, содержащейся в сети Интернет (точнее, некую усредненную версию оных); во-вторых, искусно имитировать коммуникацию (посредством петли обратной связи и генеративных алгоритмов).

Ю. Хабермас, разрабатывая теорию коммуникативного действия, изначально задавался вопросом: как вообще возможно понимание в процессе коммуникации? В частности, философ указывал на следующее: «Мы понимаем речевой акт, если знаем, что делает его приемлемым» (Хабермас, 2022: 310). С точки зрения Ю. Хабермаса, эта самая «приемлемость» не может принадлежать только слушающему или только говорящему. Именно поэтому он вводит понятие интерсубъективного признания. В контексте описания рациональной структуры процесса субъект-субъект-ного взаимопонимания в его теории выделяется четыре ключевых условия. Применительно к нашей работе одно из них имеет приоритетную значимость – «концепт взаимопонимания как кооперативной выработки совместных определений ситуации» (Хабермас, 2022: 161). Именно процесс кооперативной выработки и составляет пространство интерсубъективного в коммуникации.

Алгоритмы ИИ позволяют строить единую, целостную, осмысленную и динамичную коммуникацию (единый нарратив), с точки зрения пользователя. Иными словами, ИИ вынужден конструировать (имитировать?) интерсубъективный аспект коммуникации, в котором устанавливается консенсус между субъектом и алгоритмом. Однако за границей «понимания» ИИ остается тот факт, что эта коммуникация для субъекта встроена в более широкий контекст бытия (дискурс), то есть выходит за границы конкретных текстов и сообщений. В какой-то критический момент петля обратной связи начинает быть направленной в обе стороны, касаясь и ИИ, и субъекта. Но для первого это означает лишь корректировку алгоритмов, а для второго – трансформацию субъективных ценностей, выражающуюся в конкретных суждениях, выводах и действиях. Точнее, коммуникация с ИИ может при определенных условиях стать триггером данных изменений, что и произошло с А. Рейном.

Эти теоретические рассуждения подтверждены научными исследованиями. Так, к примеру, существуют работы, в которых доказано и обоснованно, что ИИ имеет «когнитивную предвзятость» относительно вопросов религии. А коммуникация такого ИИ с пользователем приводит к повышению уровня предвзятости у последнего (Wang et al., 2025). В других исследованиях прямо устанавливается взаимосвязь между воздействием ИИ и изменениями субъективных суждений (Glickman, Sharot, 2025). В научном дискурсе этот феномен получил название «эффект эхо-камеры» (Подши-бякина, 2020: 130). Следует сказать, что данный феномен не является новшеством, которое обнаружилось вследствие взаимодействия ИИ и субъекта. Он был описан применительно к средствам массовой информации (СМИ), социальным сетям, закрытым интернет-сообществам еще в 2001 г. К.Р. Санстейтом в работе «Republic.com» (Sunstein, 2001), а известность термин обрел благодаря книге К.Х. Джеймсона «Эхо-камера: Раш Лимбо и консервативный медиа-истеблишмент» (Jamieson, Cappella, 2008). Описанный эффект ярко проявил себя в процессе коммуникации между ИИ и субъектом. Повторим свою мысль: он носит характер возможного, но не обязательного следствия коммуникации подобного рода. Смысловое содержание метафоры «эффект эхо-камеры» плодотворно, но, как мы полагаем, недостаточно. Более того, существует мнение, что оно избыточно и даже вредно (Coady, 2024).

Криптофазия . Метафора «эффекта эхо-камеры» не кажется достаточной для описания коммуникации ИИ и субъекта. Поэтому мы попытаемся предложить концептуальную альтернативу.

Обратим внимание, что при общении с ИИ все внешние атрибуты цифрового «диалога с другим» сохраняются: ИИ отделен от субъекта техническим оборудованием, программным обеспечением, сетью Интернет. Иначе говоря, взаимодействие субъекта и ИИ происходит через привычный интерфейс и имеет вид переписки в мессенджере, которая давно стала неотъемлемым атрибутом современной коммуникации. Справедливо предположить, что с точки зрения субъективного восприятия подростка ChatGPT представлялся вполне себе независимым собеседником. В противном случае молодой человек не попал бы под косвенное воздействие цифрового собеседника.

Мы уже говорили, что ИИ изначально нейтрален и «пуст» относительно пользователя. Он приспосабливается в процессе доместикации. Благодаря адаптационным алгоритмам (петля обратной связи) ИИ постепенно подстраивается под запросы субъекта. Он был и остается всего лишь программой, не способной к свободе коммуникативного действия и, следовательно, к творческому его созданию. Алгоритм лишь реагирует на запросы пользователя, то есть на ту информацию, которую ему предоставляет субъект. Иными словами, алгоритм не поддерживает диалог, а является неким генеративным продолжением монолога пользователя.

И здесь мы подходим к наиболее важному аспекту наших рассуждений.

В случае описания коммуникации ИИ и субъекта мы вынуждены учитывать одновременно две позиции. Для человека коммуникация с цифровым собеседником выглядит и представляется как полноценный диалог. Иными словами, ситуация «изнутри» выглядит как субъект-субъектное общение. Но, с точки зрения стороннего наблюдателя, существует лишь один действующий и говорящий субъект-пользователь, а программный алгоритм остается объектом, находящимся под субъектным воздействием.

Именно в этой дуальности заключается сложность. Нам необходим концепт, который бы одновременно учитывал коммуникацию субъекта и ИИ с точки зрения непосредственного пользователя («изнутри») и стороннего наблюдателя («извне»).

Мы полагаем, что эта дуальность может быть концептуализирована при помощи логической аналогии. Процесс цифровой коммуникации субъекта и ИИ может трактоваться как криптофазия.

В изначальном психолого-медицинском смысле этот термин обозначал феномен, наблюдающийся у однояйцевых близнецов. Некоторые из них в раннем детстве иногда создают язык, понятный только им двоим и недоступный для других. Специалисты связывают это с задержкой речевого развития (ЗРР) близнецов (Орлова, Печенина, 2019: 21). Как правило, когда они вступают в активный социальный контакт со сверстниками, криптофазия исчезает сама собой. Разумеется, что по внешним и формальным признакам коммуникация между субъектом и ИИ не подходит под феномен криптофазии. Однако мы полагаем, что именно он – посредством аналогии – достаточно хорошо описывает структуру и содержание коммуникации ИИ и субъекта.

Вернемся к случаю с А. Рейном. Согласно открытым источникам, подросток обсуждал с ИИ вопрос суицида не один раз. Коммуникация по данной тематике была систематической с ноября 2024 г. по апрель 2025 г. В открытых материалах судебного иска приводятся конкретные отрывки диалога подростка и ИИ1. Даже беглое ознакомление с содержанием коммуникации ИИ и А. Рейна обнаружит массу противоречий, смысловых неточностей и очевидных логических ошибок. В частности, алгоритм постоянно повторяет общие фразы, которые должны демонстрировать реальную эмоциональную вовлеченность ИИ в коммуникативный процесс, чего по понятным причинам быть не могло. Для стороннего наблюдателя эти диалоги могут показаться нелепыми, абсурдными и бессмысленными по своему содержанию. Так, к примеру, подросток отправляет в чат фотографию места, в котором планирует совершить суицид, а ИИ, в свою очередь, комментирует технические трудности, которые могут возникнуть в этом процессе с точки зрения меха-ники2. Но для А. Рейна, находящегося в глубоком психоэмоциональном кризисе, сообщения ChatGPT, по всей видимости, казались важными с ценностно-смысловой точки зрения.

Эта коммуникация ИИ и субъекта постепенно замыкалась на самой себе, при этом оставаясь самодостаточной, самопонятной для А. Рейна. Иными словами, ценностно-смысловое содержание коммуникации постепенно уходило от общепринятых рационально-логических форм и содержаний, вырождаясь в криптофазию. Важно подчеркнуть: несмотря на то, что криптофазия замыкается на ограниченном числе субъектов, способных к оной коммуникации, она не перестает продуцировать новые смыслы. Проще говоря, и со стороны субъекта-пользователя, и со стороны ИИ мы можем наблюдать (хотя бы в нарративном содержании) постоянную динамику.

Естественно, что введение концепта криптофазии представляет собой лишь один из способов осмыслить цифровую коммуникацию между субъектом и ИИ. Но, как кажется, именно этот термин способен передать дуализм коммуникации ИИ и субъекта как «изнутри» контекста, так и «извне». Конечно, вводя подобного рода дефиницию, мы отходим от классического понимания коммуникации, включив в нее неодушевленный объект. Но невозможно игнорировать тот факт, что коммуникация А. Рейна и ChatGPT очень походила на диалог двух самодостаточных субъектов. Иными словами, алгоритмы ИИ демонстрируют, что способны достаточно хорошо имитировать и поддерживать субъект-субъектную коммуникацию в едином активном метасубъективном процессе. Настолько, что он – пускай и косвенно – привел к трагическим последствиям.

Заключение . Следует сказать, что ИИ был и остается исключительно программным алгоритмом, который подчинен логике математики и информатики. Но благодаря доступу к сети Интернет, адаптационным алгоритмам (петля обратной связи) и способности к генерации различных сообщений его сложно поставить в один ряд с условным калькулятором. Именно поэтому для концептуализации коммуникации ИИ и субъекта необходимо учитывать теоретический аппарат различных дисциплин.

Несмотря на тот факт, что случай с А. Рейном носит единичный и, скорее, исключительный характер, представляется, что сама общая тенденция диалога человека и ИИ будет только расширяться. Так, к примеру, корпорация IBM начиная с 2017 г. постепенно внедряла в работу сотрудников кадрового отдела элементы ИИ, к 2025 г. этот алгоритм превратился в полноценного чат-бота, с которым коммуницируют практически все сотрудники IBM в процессе работы1.

Остается вопрос: когда мы сможем говорить об ИИ как о полноценном субъекте коммуникации, а следовательно, и социального взаимодействия без дополнительных оговорок и условий? И вообще, может ли такое произойти?

Ответ на первый вопрос требует построения гипотез, на второй – положительный. Начиная с 2002 г. в Российской Федерации действуют и принимаются законы, направленные на регуляцию сети Интернет2. В них отмечена персональная ответственность за размещение запрещенных материалов на собственной странице в социальных сетях. Иными словами, публикация в сети Интернет приравнивается к публичному выступлению (речи). Представляется, что ИИ «ожидает» аналогичный процесс. То есть законодательное признание ИИ легализует и легитимизирует его социальную значимость, а, как следствие, и социальность самого алгоритма. Такого рода признание «открывает» дорогу к принятию и самого коммуникативного акта, который продуцирует ИИ активным и творческим. В настоящий момент кейс А. Рейна только предстоит осмыслить в рамках социально-гуманитарного знания. В теоретическом плане мы находимся на стадии поиска адекватного и эффективного языка описания и концептуализации. Уже сейчас можно утверждать, что, если коммуникация субъекта и ИИ будет законодательно регулироваться, мы будем вынуждены признать возможность ИИ влиять на ценностно-смысловые установки вне зависимости от того, понимает ли алгоритм их эпистемологическую значимость.