Использование искусственных нейронных сетей в современном обществе

В настоящий момент исследования в области искусственного интеллекта являются одними из наиболее актуальных и перспективных в научной среде. При этом вопросы и проблемы по данной тематике рассматриваются различными научными направлениями: философией, математикой, техническими дисциплинами и многими другими. Растущий интерес к указанной теме обусловлен научным прорывом XX века в сфере компетенций нейрофизиологии и нейроанатомии, на основании чего были разработаны математические и аппаратно-технические модели искусственных нейронных сетей. Этот инструмент в значительной мере позволил сымитировать различные аспекты человеческого мышления. В результате современные компьютеры обзавелись множеством человекоподобных функций, которые обусловили значительный рост научнотехнологического прогресса и, по сути, запустили глобальную революцию всеобщей цифровизации. В связи с этим целью статьи является попытка систематизировать знания об имеющихся достижениях в сфере моделирования искусственных нейронных сетей и их недостатках при решении различного рода прикладных задач, что, в свою очередь, позволит специалистам разных научных направлений успешно использовать данный инструмент в своих работах и ориентироваться в его ограничениях. Научная новизна обзора вытекает из потребности регулярного мониторинга указанной тематики ввиду частых прорывов и успехов в этой области. В рамках работы представлены имеющиеся в настоящий момент архитектуры и топологии искусственных нейронных сетей, которые нашли широкое и эффективное применение в современной человеческой жизнедеятельности (сети прямого распространения, сверточные и рекуррентные нейронные сети). Разобраны основные недостатки моделей, выявленные по результатам сравнения с фактической работой человеческого мозга, характеризующей мыслительный процесс и интеллект, что также является весомым ограничением при создании полноценной человеко- подобной компьютерной интеллектуальной системы. Использовались общенаучные методы, такие как обобщение, анализ, систематизация и др.

Искусственный интеллект, искусственные нейронные сети, мышление, нейрофизиология, распознавание образов, классификация.

Вопросы и проблемы создания искусственного интеллекта (ИИ) различные ученые и исследователи пытались разрешить практически с момента появления науки как таковой. Первые предпосылки по уразумению человеческих мыслительных процессов были предприняты Аристотелем в его трудах по теории силлогизмов. Подобные исследования ведутся и по сей день. Процессы становления и развития ИИ разнообразны и разнонаправлены, охватывают различные научные аспекты. В качестве основных аспектов можно выделить те, которые в первую очередь связаны с философией, математикой и вычислительной техникой.

Несмотря на наличие большого количества научных работ по исследованию человеческого интеллекта и разума, до начала XX века весомых результатов относительно моделирования человекоподобных искусственных интеллектуальных систем добиться не удалось. Имеющиеся на тот момент методы и инструменты, применявшиеся в естественных науках, таких как астрономия, химия и физика, не приносили значимых результатов при изучении сути самого человека, т. е. не удавалось определить устойчивых закономерностей, присущих работе человеческого мозга, которые могли бы быть успешно использованы при создании вычислительной техники.

Научный прорыв обусловлен достижениями в нейрофизиологии и нейроанатомии. Взятый за основу моделирования структурной единицы потенциальной искусственной интеллектуальной системы естественный нейрон позволил добиться выдающихся результатов в разработке компьютерных интеллектуальных систем, которые в свою очередь стали убедительно имитировать некоторые из аспектов мыслительной человеческой деятельности. Актуальность исследования данной тематики в настоящий момент обусловлена значительным разви- тием вычислительной компьютерной техники и применением инструментов нейроинтеллекта для решения различного рода задач. При этом применение искусственных нейронных сетей (ИНС) показывает более точные и эффективные результаты по сравнению с методами и алгоритмами, применявшимися до этого [1].

Обозначенное выше определило цель представленной работы – систематизация знаний об имеющихся достижениях моделирования искусственных нейронных сетей и их недостатках, что в свою очередь позволит специалистам различных научных направлений успешно использовать данный инструмент в своих работах и ориентироваться в его ограничениях. Это обуславливает научную новизну исследования и его практическую значимость. Основными задачами работы являются:

– представление истории развития технологий нейроинтеллекта;

– систематизация знаний о наиболее распространенных и используемых в настоящий момент архитектурах искусственных нейронных сетей;

– определение имеющихся в настоящий момент ограничений при использовании данного инструмента (ИНС).

Искусственная нейронная сеть (ИНС) – математическая модель, а также ее аппаратная или программная реализация, построенная по некоторым из принципов функционирования биологических нейронных сетей из клеток живого организма [2]. Ее появление связывают с разработкой математической модели искусственного нейрона в 1943 году У. Маккалохом и У. Питтсом [ 3 ; 4]. После этого данный инструмент рассматривался как некая технология для обработки и анализа данных, как полноценная технология ИИ отмечена была немногими [5].

До 90-х гг. в сфере искусственного интеллекта господствовал другой подход, базиру- ющийся на экспертных системах, базы знаний которых имели древовидную структуру, а извлечение информации из них представляло собой алгоритм последовательных выборочных действий при решении интересующего нас вопроса.

Тем не менее даже в это время представители научного сообщества занимались развитием искусственных нейронных сетей и добились определенных успехов и результатов. В их числе можно назвать Ф. Розенблатта [ 6 ; 7 ], создавшего первый искусственный персептрон (математическая, а позже и компьютерная модель восприятия информации мозгом) и реализовавшего его в программно-аппаратном исполнении.

Серьезный прогресс в развитии искусственных нейронных сетей обозначен работами Я. ЛеКуна [ 8 ], который стал применять сверточные нейронные сети, успешно зарекомендовавшие себя в обработке изображений.

Значительный скачок в этом направлении ознаменован появлением сверточной нейросети AlexNet [ 9 ], посредством которой удалось добиться серьезных результатов в распознавании объектов на изображениях. Примерно в это же время (2009 год) для обучения нейронных сетей начали применять технологию GPU (graphics processing unit, графический процессор) [ 10 ], затем – использовать специальные тензорные вычислительные устройства от Google, нейро-морфные процессоры и др., т. е. нейросети из программной реализации стали требовать специальной аппаратной части, так как являются в настоящий момент довольно «тяжеловесными», занимая большие объемы компьютерной памяти.

В целом можно отметить, что всестороннее распространение и использование искусственных нейронных сетей оказалось возможным благодаря следующим причинам:

– развитие архитектур и топологий строящихся сетей;

– развитие и увеличение вычислительных мощностей в соответствии с законом Мура [ 11 ];

– значительное увеличение в сети Интернет различного рода данных;

– развитие функционала аппаратных вычислительных устройств.

По результатам анализа, проведенного Ф. ван Вееном, исследователем машинного обучения из Института Азимова (Бостон, Северная Америка), было отмечено, что архитектуры современных ИНС представляют «зоопарк»1, в котором приведено их огромнейшее разнообразие, и это только на момент 2016 года.

Наиболее распространенными в настоящий момент и зарекомендовавшими себя в широком использовании являются сети: Feed Forward (FF) – сети прямого распространения; Deep Convolutional Network (DCN) – сверточные нейронные сети; Recurrent Neural Network (RNN) – рекуррентные нейронные сети. Сети FF применяются для распознавания изображений, речи и т. д. DCN используются для выделения признаков исследуемого процесса или явления (классификация, детекция, сегментация), что, в свою очередь, обусловило прорыв в распознавании графических объектов [5; 12 ; 13 ].

Помимо перечисленного искусственные нейронные сети с развитием топологии стали использоваться для переноса признаков на другие объекты. Примером подобной программы служит приложение «Prisma App», позволяющее переносить один стиль изображения на любое другое. Продолжением этой технологии является генерация новых объектов на основе выделенных атрибутов, например генерация изображения несуществующих людей. Нейронные сети также могут обучать другие нейронные сети.

Широкое распространение получили нейронные сети типа Auto Encoder (AE, используется для кодирования изображений).

Современные нейронные сети успешно справляются с рядом различных специфических задач. Из наиболее сложных нейросетей выделяют капсульные нейронные сети [14], большой вклад в развитие которых внес Д. Хинтон. Также следует упомянуть спаечные нейронные сети. Их применение прежде всего связано с моделированием процессов и явлений, происходящих в головном мозге.

Довольно распространены и часто используются в настоящий момент рекуррентные нейронные сети (RNN). Их особенность состоит в том, что архитектура сетей обладает моделью некой «памяти», в связи с чем они используются при работе с последовательностями, когда есть потребность предсказания, например, следующего слова (при машинном переводе, распознавании текстов, моделировании голосовых помощников). Рекуррентные нейронные сети также называются тьюринг-полными, что указывает на возможность решения при их помощи практически любой вычислительной задачи. Для этого ей нужно только задать правильный алгоритм.

В настоящий момент технологии достигли такого уровня, при котором различные архитектуры искусственных нейронных сетей стали объединять в единую систему. Это нашло свое отражение в так называемой мультимодальности. Мультимодальные искусственные нейронные сети, к примеру, могут одновременно распознавать графические объекты на изображениях и описывать, что происходит с ними на рассматриваемом рисунке.

В заключение из последних разработок в области искусственных нейронных сетей следует выделить топологию MobileNet и TensorFlow Lite [5]. Их создание сопряжено с необходимостью применения технологий ИИ на устройствах, имеющих низкие вычислительные возможности. Так, подобные архитектуры, к примеру, нашли свое применение на устройствах Rassbery Pi, аппаратных платах, оснащенных видеокамерой и способных посредством нее детектировать обусловленные условиями задачи объекты, что, в свою очередь, стало успешно применяться в проектах умного дома. Появление подобных архитектур также обусловлено возможностью для пользователя сохранить конфи- денциальные данные на своих локальных устройствах, не передавая их для обработки на какой-либо сторонний сервер.

В целом следует отметить, что искусственные нейронные сети имеют значительные успехи в решении различного рода задач.

• 1.    Распознавание речи [ 13 ]

Оно может быть охарактеризовано последовательностью шагов:

• а)    звуковой сигнал преобразуется в признаки специального вида (числовые матрицы, которые в дальнейшем подвергаются процедурам обработки и анализа);

• б)    из признаков моделируются гипотезы, предлагающие варианты фонем для каждого окна в звуковом сигнале;

• в)    гипотезы о фонемах объединяются в гипотезы произнесенных слов; в их выборе участвует уже не только звук, но и языковые модели.

До появления глубоких нейронных сетей алгоритм распознавания выглядел чуть иначе:

• а)    звуковой сигнал превращается в MFCC-признаки²;

• б)    при помощи скрытых марковских моделей из признаков распознаются фонемы [ 15 ];

• в)    языковые модели представлены сглаженным распределением n -грамм (оценивают вероятность следующего слова по предыдущим) [ 16 ].

• 2.    Распознавание изображений

• 3.    Классические интеллектуальные игры по аналогии с шахматами и картами, их современные аналоги, представленные проектами киберспорта (StarCraft, Dota2 и др.)

С появлением глубоких искусственных нейронных сетей марковские модели были ими заменены, а на смену MFCC-признаков пришли более сырые и необработанные сигналы.

Здесь же рядом находятся обработка, анализ музыки и последующее ее порождение на их основе. Успехи в этом направлении менее значимые, но работы ведутся безостановочно [ 17 ].

Основоположниками данного направления принято считать научно-исследова- тельскую группу Я. ЛеКуна, применявшую нейронные сети для обработки изображений с 1980-х гг. Значительных успехов здесь удалось добиться при помощи сверточных нейронных сетей [8; 18]. После появления глубоких сверточных сетей прогресс в обработке графики стал еще более заметен. В 2009–2010 гг. при их помощи них удалось выиграть ряд соревнований по распознаванию символов [19] и видео с камер наблюдения [20; 21]. В это же время для реализации сверточных нейронных сетей стали использовать графические процессоры (GPU) [10], что также в значительной мере повлияло на их развитие.

В этом случае широкое применение получило обучение с подкреплением. По этим алгоритмам компанией DeepMind была разработана программа AlphaGo, которая в настоящий момент является лучшим игроком в китайскую игру го [ 22 ]. Серьезных успехов удалось добиться при решении игры в покер. Примерами успешной реализации являются программы Libratus [ 23 ] и DeepStack [ 24 ]. Примерами хорошей реализации алгоритмов машинного обучения (МО) с подкреплением стали проекты в роботике [ 25 ; 26 ]. Активно развивается направление автономного транспортного управления [ 27 ].

Наряду с обозначенными выше успехами есть области знаний, где нейронные сети широко используются и их применение позволило добиться значительных успехов, но тем не менее они все еще далеки от конечной цели, характеризующейся реализацией всех интеллектуальных функций человеческого мозга. Так, например, при обработке естественного языка в настоящий момент инструменты машинного обучения могут оперировать довольно простыми языковыми конструкциями [ 13 ].

При этом в случае сравнения искусственных нейронных сетей с человеческим мозгом можно выделить одно характерное различие. Для использования эффективных знаний на практике человеку обычно нужно значительно меньше исходных данных [28], чего не скажешь об алгоритмах МО. Есть мнение, что это обусловлено тем, что человек в отличие от компьютера в раннем детстве обзаводится пулом «базовых знаний» [29], которые включают в себя 2 основных компонента.

• 1.    Интуитивная физика

• 2.    Интуитивная психология

Человек в раннем возрасте начинает неплохо разбираться в физическом мире. Это похоже на симуляцию физической модели в какой-нибудь компьютерной игре [ 13 ]. Такая модель крайне условна, но способна к очень мощным обобщениям и переносу на новые визуальные входы. Исследовательская группа из Facebook AI Research ведет проекты в данном направлении, соответственно, задействуя в своих изысканиях искусственные нейронные сети [ 30 ], однако результаты пока далеки от того, на что способен человек.

Человек так же, как и в предыдущем случае, довольно рано начинает понимать, что такое «хорошо», а что такое «плохо». В его голове есть осознание морали и понимание того, что делают окружающие для достижения своих целей. Науке пока не ясно, как это в действительности работает, но, возможно, какие-то крупицы истины присутствуют в когнитивистской байесовской теории сознания [ 31 ].

Люди в сравнении с компьютером преуспевают в так называемом «переносе обучения». Это может быть охарактеризовано тем, что человеческая особь быстро строит модель нового изучаемого объекта и порождает в ней правильные абстракции из небольшого набора примеров. Данное направление машинного обучения носит название «обучения по одному примеру» (one-short learning), его истоки связаны с байесовским подходом. Определенных успехов удалось добиться в распознавании рукописных символов [32] и речевых сигналов [33], однако работы еще много и есть над чем основательно подумать. Если вспомнить игру го и алгоритм AlphaGo, победивший человека, возникает вопрос, смог бы он продемон- стрировать аналогичный успех, просто ознакомившись с правилами? А человек даже при поверхностном осмотре затронутой проблемы с самого начала делает самостоятельные и логичные выводы.

Еще одним камнем преткновения для современных систем искусственного интеллекта является определение причинности. Так, например, человек, глядя на изображение, выделяет на нем определенные объекты, выстраивает между ними логические связи, формирует историю того, что на нем запечатлено и т. д. Машина же ничего подобного не делает. Ее распознавание мало связано с логическими заключениями на основе увиденного [ 34 ].

В итоге люди гораздо эффективнее и лучше обучаются или умеют учиться. С раннего возраста человеческий процесс обучения начинается медленнее, чем у компьютеров, но затем он разгоняется и становится более гибким. Возможно, это указывает на появление у людей ограничений и априорных распределений [ 13 ]. В стезе искусственных нейронных сетей ведутся исследования, как подобное реализовать на практике (в системах компьютерного зрения можно использовать первые уровни анализа и обработки изображений – они могут оставаться общими для самых разных объектов), однако, как и было указано ранее, здесь еще много нерешенных вопросов и проблем.

Тем не менее некоторые ученые видят в искусственных нейросетях предпосылки к созданию сильного искусственного интеллекта. Один из них – Т. Миколов, создатель популярного метода распределенных представлений слов word2vec. В соответствии с его мнением, для того чтобы компьютерную программу можно было назвать обладающей интеллектом, ей необходимо [35]:

– уметь коммуницировать и получать из общения информацию об окружающем мире (общение с человеком должно происходить в едином канале);

– обучаться на основе мотивации и внешних стимулов (по аналогии обучения с подкреплением).

Т. Миколов отмечает, что подобная система также должна активно использовать долгосрочную память, храня в ней выученные паттерны и извлекая их оттуда по заданным ярлыкам. Но для современных нейросетей эта задача все еще требует решения.

Подводя итог, следует отметить, что имеющиеся в настоящий момент разработки в области искусственных нейронных сетей действительно имитируют многие аспекты деятельности человеческого разума и в целом данный инструмент будет активно использоваться в различных сферах человеческой жизнедеятельности, помимо тех, где он применяется сейчас. Тем не менее у искусственных нейронных сетей есть ряд недостатков, которые не позволяют им в полной мере реализовать идею создания полноценного человекоподобного искусственного интеллекта. Возможно, они будут устранены в рамках данного научного направления путем создания новых топологий и архитектур либо за счет появления и активного использования принципиально новых технологий. В заключение еще раз отметим необходимость постоянного наблюдения за указанной сферой исследований ввиду ее частых изменений, что обуславливает актуальность представленного обзора и его новизну на момент написания статьи.