Искусственные нейронные сети: история и методология

Первые шаги в области искусственных нейронных сетей сделали в 1943 г. В. Мак-Калох и В. Питс. Они показали, что при помощи пороговых нейронных элементов можно реализовать вычисление любых логических функций. В 1957-1962 гг. Ф. Розенблатт предложил и исследовал модель нейронной сети, которую назвал перспетроном. Результаты исследований он обобщил в книге «Принципы нейродинамики». В 1969 г. М.Минский и С.Пайперт опубликовали монографию «Перспетроны», ставшую фундаментальной работой для последующих разработок в области искусственных нейронных сетей. Содержащаяся в книге критика исследований в этой области считается причиной утраты интереса к искусственным нейронным сетям в академических статьях 1970-х годов.

В 80-е годы значительно расширяются исследования в области нейронных сетей. В 1982 г. Д. Хопфилд дал анализ устойчивости нейронных сетей с обратными связями и предложил использовать их для решения задач оптимизации. Т. Кохонен разработал и исследовал самоорганизующиеся нейронные сети. Ряд авторов (Rumelhart, Hinton, Wiliams) предложили алгоритм обратного распространения ошибки, который стал мощным средством для обучения многослойных нейронных сетей. В 1987 г. под эгидой общества IEEE (Institute of Electrical and Electronic Engineer’s) проводится первая международная конференция в области нейронных сетей.

Большой вклад в развитие теории нейронных сетей внесли российские учёные А.И. Галушкин и А.Н. Горбань [2].

Нейронные сети представляют собой упрощённую модель человеческого мозга. Мозг состоит из нейронов, которые являются индивидуальными процессорами. Нейроны соединяются друг с другом с помощью нервных окончаний двух типов: синапсов, через которые в ядро поступают сигналы, и аксонов, через которые нейрон передает сигнал далее.

Рис. 1. Схема строения нейрона

В очень упрощенном виде работу мозга можно представить так: внешний слой сети передает импульсы от сенсоров из внешней среды, средний слой (или кора головного мозга) обрабатывает импульсы, а «выходной» слой выдает результат (действие) обратно во внешнюю среду.

Информация передается между нейронами, а структура и вес нервных окончаний определяют поведение сети [6].

Рис.2. Схема однослойного персептрона

Однослойный персептрон представляет собой концептуальную модель, которая состоит из одного процессора. Каждое соединение от входа к ядру включает коэффициент, который показывает фактор веса wi который определяет влияние ячейки ui на другую ячейку. Положительные веса показывают усиление, а отрицательные запрещение. Совместно с входами в ячейку они определяют поведение сети.

Модель простого персептрона правильно реализует логическую функцию И (а также функции ИЛИ и НЕ). Однако однослойный персептрон не может смоделировать логическую функцию «исключающее ИЛИ» (XOR). Эта неспособность к моделированию функции XOR известна как проблема отделимости. Из-за нее М. Минский и С. Пайперт уничтожили результаты своих разработок в области связей. Проблема отделимости была легко решена путем добавления одного или нескольких слоев между входами и выходами нейронной сети (см. рис. 3). Это привело к созданию модели, известной как многослойные персептроны.

Рис. 3. Многослойный персептрон

В настоящее время исследования в области искусственных нейронных сетей ориентированы в основном на создание специализированных систем для решения конкретных задач. Разработано большое число нейросистем, применяемых в прогнозировании, управлении, диагностике в медицине и техники, распознавании образов и т.д. В глобальном масштабе задача состоит в создании искусственного разума, обладающего способностью к воспроизводству и эволюции.