Искусственный интеллект и технократическое мышление

П редваряя остроактуальную статью моего коллеги профессора Алексея Чернышева, мне хотелось бы очень коротко остановиться на нескольких моментах заявленной темы.

Первое – это расширенное, максималистское, неумеренное использование самого понятия «искусственный интеллект» (далее – ИИ). Я думаю, это связано прежде всего с приходом в научную сферу неких суррогатов, клише из массового сознания. Называется это явление формальной рациональностью (о ней писал еще М. Вебер, отличая ее от рациональности материальной, которая является абсолютной самоценностью для ее носителей). Привнесение этого феномена в практику жизни ведет к далеко идущим последствиям. «Логическим следствием перехода к формальной рациональности становится, – пишет профессор В.П. Бабинцев, – имитация управления, в ходе которой реальные значения и смыслы замещаются и подменяются формальным воспроизведением операций и процедур, сопровождаемых их демонстрацией, декларацией и декорацией» [Бабинцев 2015: 13]. А в результате получается так, что у нас что ни очередной робот – то ИИ, что ни хорошенькая актриса – то звезда.

Так происходит в реальности, в которой бизнес массового производства диктует маркетинг, деньги и прежде всего, конечно, прибыль. Все это заставляет массмедиа штамповать и вбрасывать в сознание человека миллионы фейков и симулякров. С этой стороной нашей жизни бороться бессмысленно – она часть самой этой жизни. Но есть и другие, более масштабные следствия современного общества массового потребления. О них чуть подробнее и серьезнее.

Эти следствия связаны с конструкцией, которую условно можно назвать «искусственный интеллект – человек – среда». Еще совсем недавно механизмы управления сложными системами (в т.ч. самолетами) были заточены под психоантропологические особенности человека. Сейчас специалисты в этой области не без оснований утверждают, что развитие ИИ и техники в целом снизили роль человеческого фактора в возникновении катастроф. Но, утверждают эксперты, здесь появляется другая проблема. Если брать самолеты, то пилоты от управления аппаратом переходят к мониторингу многочисленных дисплеев и вмешательству при необходимости. Недавние авиационные катастрофы с американскими новейшими «боингами» высветили весь трагизм столкновения, «конфликта интересов» мощного бортового компьютера и человека. Раньше систему управления сложными системами строили под человека – авиационная эргономика служила верой и правдой много десятилетий. В настоящее время использование цифровых систем сделало человека-управленца сплошь и рядом прилагательным к ИИ. И здесь-то и возникли трагические нестыковки в системе «человек – искусственный интеллект».

Я думаю, что именно чисто технократический подход к решению проблем сопряжения человека и ИИ создает кризисные ситуации в их взаимоотношениях. Здесь мне хочется привести одну мысль известного философа и культуролога А. Пелипенко, который писал, что «неизбывный технократизм, порождающий убежденность в том, что для технологического прогресса не существует никаких препятствий, в том числе и ментально-культурных, ибо никаких более важных целей, чем бесконечное улучшение материальных условий существования, у человека быть не может» [Пелипенко 2012: 30]. Серьезные эксперты призывают: необходимо срочно разработать фундаментально новые методики и положения, учитывающие качественно иной уровень автоматизации и управления сложными системами, связанными с элементами ИИ.

В случаях с самолетами и иными механизмами, управляемыми элементами ИИ, возникает вероятность «конфликта интересов» между электронным и живым мозгом. Я не знаю, возможно ли в ближайшем будущем создать цифровые модели, разрешающие или минимизирующие эти конфликты. Поскольку ИИ есть все-таки порождение человеческого мозга, а его экзистенциальные составляющие уходят в глубь идеального, до конца не понятого, то, очевидно, здесь и кроются фундаментальные причины конфликта интересов ИИ и человека. Все-таки они взаимодействуют не в виртуально-игровом мире, а в условиях реальной среды, динамику изменения которой пока невозможно уложить в сухие алгоритмы программ. Интуиция профессионала в цифру не укладывается. И больных лечить надо, глядя, хотя бы изредка, ему в глаза, а не только на монитор компьютера. И, как говорили старые врачи, лечить надо больного, а не болезнь. В этом подходе заложен опыт, интуиция и нравственная сторона профессии.

Да, современный ИИ опережает наш мозг в скорости действия. Но пока в человеке есть нечто, что превосходит простой количественный перебор вариантов. Да и практика показывает, что сегодняшняя модель превращения пилотов в компьютерных операторов ведет к трагическим последствиям. Механика чисто технократических подходов здесь явно недостаточна для функционально успешного взаимодействия ИИ и человека. Установки технократического мышления рождаются в т.ч. и от универсализации тестового вида обучения (с его картинками, смайликами и мемами). В итоге такого обучения мы получаем исполнителей с клиповым, конвергентным (линейным) мышлением.

Все, что нельзя измерить посредством цифры, заключить в нее и, наконец, купить, – а это любовь, дружба, сострадание, способность продуцировать смыслы – является продуктом и достоянием культуры. Идеальное в человеке пока, к счастью, не поддается механическому цифровому клонированию.

Возможно ли ждать взрывных эвристических эффектов от использования ИИ? Очевидно, да: в тех сферах, которые человеческий мозг просто не успел просчитать, ИИ делает это быстрее. Возможны ли «сумасшедшие» находки у ИИ, которые определят повороты в эволюции человеческой цивилизации, или это будет контрэволюция? Трудно сказать, ведь в этом случае в ИИ нужно вводить и все человеческие ненормальности, включая психические. Но бесспорно то, что проблема идеального в условиях ИИ должна рассматриваться по-новому. Как? Время покажет. Я же хотел подчеркнуть, что пока чисто технократический подход к прогрессу уже создает трагические ситуации. И нельзя превращать в хлам логоцентрические основы нашей жизни, о которых так глубоко писал мой друг

Андрей Пелипенко. Уход от техно-бюрократических методик, основанных на механическом суммировании выводов отдельных исследований, и возвращение системного междисциплинарного анализа могут лечь в основу современного экспертного дискурса. Звучит витиевато, но совершенно искренне, поверьте.