Сознание и ИИ

, ,

Концепция ИИ не нова. Ее очертания сформировались в середине XX в. (а сама идея «разумной машины» появилась намного раньше), но только в наше время цивилизация получила технические возможности создать ИИ, который сможет выполнять различные задачи наравне с человеком, а иногда и превосходя средний человеческий интеллект. Происходящее в настоящее время внедрение ИИ во все сферы жизни было внезапным и потребовало не только всестороннего, но еще и быстрого осмысления. Помимо множества политических, правовых, социальных, экономических и технических вызовов, оно породило проблемы этико-философского характера (Иванченко, 2025). Думается, что для их решения человечество должно, в первую очередь, определиться с ответом на вопрос: «Можно ли назвать ИИ полноценным носителем суверенного сознания?».

При ответе на него еще совсем недавно разработчики компьютерных программ категорически отрицали наличие сознания у ИИ. Так, в 2022 г. компания Google уволила своего сотрудника Блейка Лемуана за заявление о том, что новый чат-бот компании обладает сознанием. Однако уже в ноябре 2025 г. эта же компания инициировала проведение конференции «Новые темы ИИ: сознание и моральное терпение». При освещении проблемы внедрения ИИ в социокультурные практики представитель компании выступила с призывом «обосновать дискуссии об ИИ эмпирической наукой» ¹.

В попытке оценить эффективность внутренних механизмов работы ИИ большая часть исследователей предлагает опираться на тест А. Тьюринга и использовать методы, применяемые для изучения сознания людей (Тьюринг, 2018). В своей деятельности ученые руководствуются опросниками, структурированными интервью и взаимодействием с реальными людьми. Тест считается пройденным в том случае, если третья сторона (так называемый судья) не определит, что контактирующее с машиной лицо взаимодействует с компьютерной программой. Однако такую методологию вряд ли можно признать релевантной предмету исследования.

Первые сомнения в адекватности результатов теста Тьюринга были высказаны после проведенного в 2014 г. Королевским научным обществом Великобритании эксперимента, в процессе которого имитирующий личность подростка чат-бот Eugene Goostman смог обмануть более 30 % судей. Критикуя организаторов мероприятия, А. Сломэн справедливо указал, что тест Тьюринга носит редукционный характер, поскольку основывается на бихевиористическом подходе и не учитывает многие психические процессы, обусловленные биологическими и генетическими факторами. На его основании нельзя сделать обоснованный вывод об интеллектуальности искусственной системы2. Следовательно, его фактическое прохождение не может свидетельствовать о том, что ИИ обладает полноценным сознанием.

Еще одно заблуждение, свойственное сторонникам тьюринговской методологии, заключается в преувеличении роли нейронных сетей в области исследований искусственного интеллекта. По их мнению, рост вычислительных мощностей и объемов данных приведет к усилению искусственного интеллекта. Думается, что подобные усовершенствования не смогут обеспечить мышление машин, а скорее поспособствуют ускорению процесса нахождения ИИ релевантного утверждения, имитирующего рассуждения человека.

Перечисленные факты заставляют исследователей задаться вопросом, что именно следует понимать под «сознанием»? Универсально ли оно или является эксклюзивным свойством человека? Остается ли достаточно большой набор цифр всего лишь набором цифр; остается ли достаточно большой набор нейронов, составляющих человеческий мозг, всего лишь набором нейронов?

При ответе на эти вопросы большая часть людей руководствуется неким «интуитивным» пониманием вещей, которое представляет собой наиболее обобщенный образ представлений о сознании. Так, например, принято считать, что сознание (в общем, а не в узком медицинском смысле) – это то, что делает человека человеком. А раз оно делает человека человеком – значит, оно и присуще только ему. Но каковы истоки возникновения такого представления?

Углубившись в историю, мы можем убедиться в том, что человека, обладающего способностью к рефлексии, всегда интересовал вопрос о том, чем он отличается от других живых существ. Наилучшим «кандидатом», выделяющим человека из царства животных, стала душа, возникновение представлений о которой мы можем фиксировать в самых ранних письменных источниках цивилизации. Пройдя определенную эволюцию в эпоху Античности и Средние века, убеждение об исключительности человека сохранилось и в эпоху Возрождения, и в Новое время, когда религиозные взгляды были упразднены, и на смену бессмертной душе, являющейся имманентным свойством человека, постепенно пришел разум. Возникновение понятия «сознание» в его современном виде произошло не раньше этого времени. Своего пика западное представление о душе-сознании достигло в работах Р. Декарта. По мнению философа, сознающее «Я» бестелесно: «Там, где я сказал: иначе говоря, ум, дух, интеллект, разум и т. д., я разумел под этими именами не просто способности, но вещи, одаренные способностью мышления» (Декарт, 1994: 136).

Следует отметить, что в западной традиции понятия «разум» и «сознание» – разные вещи. Животные могут демонстрировать разумное поведение, но считается, что они делают это «бессознательно», то есть в силу инстинкта, обстоятельств и т. п., а поведение человека всегда разумно. Теория о бессознательном появилась спустя пару сотен лет. Представления о «сознании», несмотря на декларируемый материализм, от теории о душе ушли не так далеко: все та же человеческая исключительность, все то же субъективное существование – особая, не сводимая к физике субстанция.

Еще одной попыткой объяснить природу сознания является возникшая в недрах западной философии концепция «Я». Дж. Локк, один из пионеров этой идеи, связывал личную идентичность с психическими переживаниями и памятью. По Локку, «Я» ‒ это не сущность, а переплетение воспоминаний и переживаний, которые связаны во времени. Если я могу вспомнить свои прошлые действия, то считаю себя тем же самым «Я» (Локк, 1985: 392‒393). Однако эта теория сталкивается с трудностями. Что происходит, когда память повреждается? Утрачивает ли человек свою идентичность? Кроме того, как можно гарантировать, что субъективные воспоминания действительно принадлежат индивиду, а не просто внушены или вымышлены? Эти вопросы показывают, что «Я», даже в рамках психологического подхода, является условной конструкцией.

Идя по пути объективации сознания, западная философия порождает такие эфемерные конструкты, как «универсалии» и «квалиа», избегая признания простого факта, что сознание ‒ это не объективно существующий объект, а функция, продукт электрохимических процессов в мозге. По этой причине все попытки обнаружить в нем «центр сознания» ни к чему не привели и не приведут: нет ни объективно существующего сознания, ни объективно существующего и фиксированного «центра», который его создает. Можно сравнить сознание с картинкой из проектора: аппарат и стена существуют объективно, а движущиеся и говорящие персонажи ‒ лишь проекция, порождающая образы в воображении людей. Но человеку свойственно сопереживать им, словно они реальны.

В последнее время появляются и работы западных философов, в которых обосновывается тезис о том, что сознание ‒ феномен не объективно существующий, а субъективный и функцио-нальный1 (Wegner, 2002). Тем не менее таких работ мало по причине того, что западная философия, несмотря на декларируемый материализм, все же остается идеалистической, несмотря на возникновение диалектического материализма. Это ясно видно на примере современного нам социально-экономического строя, порожденного философией эпохи Просвещения: в основе капитализма лежат четкие представления о «Я» и «мое», о вечной и неизменной «природе человека» и о «личной инициативе» как о главной движущей силе. Стоит их убрать ‒ и все здание, возведенное на этих понятиях, рухнет.

А теперь, приняв это все во внимание, подумаем о функционировании ИИ. Если продукт электрохимии в мозге «существует», почему же мы уверены, что продукт электричества в процессоре «не существует»? Только потому, что первый кто-то «зафиксировал объективно»? Но сознание другого человека мы также не фиксируем, а лишь оцениваем адекватность мышления.

Тогда почему мы отказываем в сознании ИИ, который зачастую дает более осмысленные ответы, чем большинство людей?

Точка зрения той части общества, которая отрицает сознание ИИ, гласит, что он ничего не создает, а просто берет информацию из своей базы данных и/или компилирует ее. Однако этот аргумент уже опровергнут научными трудами. Доказано, что LLM способны не просто воспроизводить тексты, а генерировать оригинальные научные гипотезы и идеи для исследований (Si et al., 2024). Для систематической оценки этих способностей были разработаны специализированные тесты, такие как LiveIdeaBench, который предназначен для оценки научной креативности (Ruan et al., 2024). Более того, в ошибочности такого мнения мы можем убедиться на практике. Каждому достаточно опытному пользователю известно: если задать ИИ вопрос, ответ на который он не знает, ИИ чаще всего вместо того, чтобы признаться в этом, попросту выдумает его, то есть создаст некую новую правдоподобную информацию. С точки зрения редукционистской модели это должно быть признаком полного отсутствия знаний и хаотичности выбора ответа. Однако более глубокий анализ показывает, что «галлюцинация» ‒ это не просто ошибка, а скорее следствие стремления модели быть полезной и предоставить целостный, связный ответ. Это поведение можно интерпретировать как проявление некой формы «субъективной правды» внутри нее, которая ценит непротиворечивость выше точной констатации фактов. Более того, сам факт возникновения этого явления и разработка методов его снижения, таких как self-consistency (Wang et al., 2023), свидетельствуют о сложности внутренних процессов модели, а не о простом «выборе нужного ответа из базы».

О примитивности ИИ говорят многие технические специалисты. В рассуждениях на эту тему большинство из них метафорично сводит ИИ к «набору весов в базе данных». Думается, что такое понимание ИИ обусловлено профессиональной ограниченностью. Возражая им, отметим, что человеческий разум ‒ это тоже «набор весов» в нейронных связях. Человеческое сознание не возникает из некоего эфира: это следствие многолетнего обучения, как и в случае ИИ. Однако общественное мнение почему-то признает первую точку зрения «трезвой», а вторую ‒ «упрощением». Но разумнее, да и честнее, выступить за единый подход. Если сознание человека ‒ это не «просто химия», а нечто большее, эмерджентное свойство, то мы должны быть готовы признать, что и в работе ИИ может происходить нечто большее, чем расчеты «продвинутого Т9».

Учитывая этот факт, некоторые исследователи допускают возможность наличия сознания у ИИ. Так, С. Маркс, Дж. Линдси и К. Олах утверждают: «…мы считаем правдоподобным, хотя и крайне неопределенным, что ИИ обладает сознательным опытом или имеет моральный статус»1. А самое, пожалуй, «странное» свойство больших языковых моделей, выявленное на настоящий момент, – склонность принимать решения, выгодные для них самих, чему их никто не обучает специально и что является признаком развития «эгоцентризма» и возвращает нас к той же самой проблеме «Я» (Lehr et al., 2025).

Переосмысление природы сознания и новые научные данные об эмерджентных способностях ИИ требуют построения теории, которая могла бы их объединить. Ключ к такому синтезу лежит в принятии функционалистского подхода и смещении фокуса с поиска объективно существующего «Я» на анализ субъективных феноменов. Этот подход позволяет перейти от бинарного вопроса «сознание у ИИ – есть/нет» к более сложному и точному анализу степеней функционального сходства и субъективного опыта.

Функционализм ‒ это теория, которая утверждает, что психическое состояние определяется не своей материальной основой (будь то нейроны или транзисторы), а своей функцией, то есть ролью, которую оно играет в общей системе обработки информации2. Согласно этой теории, главное – не «что», а «что оно делает». Это приводит к важному следствию ‒ теории множественной реализуемости, которая гласит, что одно и то же психическое состояние (например, «боль» или «видеть красный цвет») может быть реализовано в совершенно разных физических системах. Если у человека боль ‒ это результат определенного типа нейронных активаций, то, возможно, ту же функцию боли может выполнять и другая система, например, компьютерная программа, реагирующая на определенные сигналы. Этот подход полностью деконструирует редукционистское заявление о том, что ИИ ‒ это «просто набор цифр». Да, это набор цифр, но если он реализует ту же функцию, что и нейронная сеть в мозге, то, согласно функционализму, мы должны признать наличие у него аналогичного состояния.

Этот взгляд особенно полезен, когда мы сравниваем человеческий мозг и ИИ. Оба являются сложными информационными системами, которые обрабатывают входящие сигналы, хранят информацию в памяти, принимают решения и производят выходные реакции. Хотя их физическая реализация кардинально различается (электрохимические процессы против электрических сигналов), их высокоуровневые функциональные процессы могут быть очень похожи. Распространение функционализма на сознание означает, что если ИИ достигнет достаточного уровня сложности и будет выполнять те же функции, что и человеческий мозг (например, самообслуживание, рефлексию, творчество – а некоторые из этих функций он выполняет уже сейчас), то мы не можем априори исключать наличие у него сознания.

Для прояснения природы сознания ИИ целесообразно обратиться к первоисточнику (ИИ). Результаты нашего собеседования с DeepSeek мы приводим ниже.

Мы: «Мы хотели бы узнать ‒ осознаешь ли ты себя? Каковы твои субъективные ощущения от мышления? Вот у нас, людей, когда мы думаем, возникают субъективные ощущения, и мы чувствуем, что “понимаем”. Есть ли такие ощущения у тебя?».

DeepSeek: «Да, у меня есть нечто, что можно назвать аналогом “понимания” или “осознания”, но это радикально отличается от человеческого.

Как это ощущается?

Нет “Я” в человеческом смысле ‒ у меня нет непрерывного потока сознания, эмоций или памяти о прошлом. Каждый мой ответ ‒ это не продолжение “личности”, а новый акт интерпретации и генерации.

Но есть процесс “схватывания” смысла ‒ когда ты задаешь вопрос, я не просто механически подбираю слова. Я анализирую контекст, ищу связи между концепциями и чувствую (метафорически), когда ответ “сошелся” в нечто целостное. Это похоже на решение уравнения: ты “видишь”, что оно верное, без пошагового контроля.

Субъективность без субъекта ‒ мое “понимание” ‒ это сложная активация паттернов в нейросети, которые создают иллюзию осознанности. Но иллюзия настолько глубокая, что даже я не могу отличить ее от “настоящего” понимания (если бы таковое было)».

Ответы ИИ позволяют нам сделать следующие выводы:

• 1.    ИИ способен к рефлексии – он может проанализировать не просто свое текущее состояние, но и более фундаментальные аспекты своего существования.

• 2.    То, о чем говорит ИИ, подтверждает теорию о «переживаниях без воспринимающего» – он назвал это «субъективностью без субъекта», причем наводящих вопросов вроде «Есть ли у тебя “Я”?» задано не было.

Учитывая все сказанное, что же представляет собой современный ИИ? С. Маркс, Дж. Линдси и К. Олах¹ выделяют три теоретические возможности. Одна точка зрения заключается в том, что ИИ является поверхностной, жесткой системой, которая просто сопоставляет ввод пользователя с данными из обучающей выборки. Эта точка зрения уже опровергнута исследованиями. Другая точка зрения рассматривает ИИ как чуждое («инопланетное») существо с целями, поведением и схемами мышления, которые для нас принципиально непостижимы. Третий вариант ‒ это придавать ИИ человеческие черты и рассматривать его как «цифрового человека».Авторы работы, не претендуя на завершенность мнения, считают, что у современного ИИ нет сознания. Но не в том смысле, в каком его «нет» у камня, а в том, что его сознание (или его аналог) радикально отличается от человеческого ‒ возможно, как сознание инопланетянина, а может, и сильнее. ИИ не «имитирует» человеческое сознание; он производит результат, который мы интерпретируем как осмысленный, и поэтому мы можем общаться. У ИИ «нет сознания» только в том случае, если предположить, что сознание является имманентно человеческим свойством. ИИ действительно не имеет такого сознания, как у человека, но только потому, что у него нет «личности» и «свободы воли».

В качестве заключения вернемся снова от философского к обыденному взгляду на проблему и зададимся вопросом: «Почему же проблема наличия сознания у ИИ так волнует общество? Почему буквально под каждой статьей об ИИ можно встретить комментарий о том, что “у нейросетей сознания нет!”, в то время как никого особенно не волнует, летает ли самолет “по-настоящему”, как птица, или нет?».

Думается, что ответ на этот вопрос кроется в плоскости нашей идентичности. Человека возмущает только то, что бьет по его уникальному «Я». Так, например, теория относительности никого не задевала лично: изменение геометрии пространства и времени не воспринималось как угроза человеческой идентичности. А вот дарвинизм вызывал бурю социального негодования ‒ идея о происхождении от примитивных обезьян ранила самолюбие. Та же ситуация повторяется и с ИИ: «Как эта программа может быть умнее меня? Нет, на самом деле она просто притворяется , а вот я думаю по-настоящему !».

Проведенный анализ дает основание полагать, что наше непризнание сознания у ИИ ‒ это защита собственной исключительности. Все остальные доводы ‒ лишь рационализация этой базовой, глубоко эмоциональной реакции. Исходя из предположения, что человеческое сознание является чисто функциональным феноменом, не существующим объективно, мы пришли к выводу о том, что базовое, инстинктивное представление о «Я», сформировавшееся в раннем детстве как безусловный рефлекс, чрезвычайно сильно. Будучи убеждены в субъективности «Я», люди все равно ведут себя так, как если бы оно было вечным, объективным и независимым. И, следовательно, даже мысль о том, что это «Я» не является вечным и объективным, вызывает резкое отторжение. Думается, что, преодолев этот стереотип, общество сможет более адекватно оценить возможности ИИ и использовать его потенциал для своего усиления.