Основы теории нейронных сетей

       

Упрощенная архитектура APT


На рис. 11.2 показана упрощенная конфигурация сети APT, представленная в виде пяти функциональных модулей. Она включает два слоя нейронов — так называемые "слой сравнения" и "слой распознавания". Приемник 1, Приемник 2 и Сброс обеспечивают управляющие функции, необходимые для обучения и классификации. Перед рассмотрением вопросов функционирования сети в целом необходимо рассмотреть отдельно назначения модулей; далее обсуждаются функции каждого из них.


Рис. 11.2. 

Слой сравнения. Слой сравнения получает двоичный входной вектор

и первоначально пропускает его неизмененным для формирования выходного вектора
. На более поздней фазе в распознающем слое вырабатывается двоичный вектор
, модифицирующий вектор
, как описано ниже.

Каждый нейрон в слое сравнения (см. рис. 11.3) получает три двоичных входа (0 или 1): (1) компонента

входного вектора
; (2) сигнал обратной связи
— взвешенная сумма выходов распознающего слоя; (3) вход от Приемника 1 (один и тот же сигнал подается на все нейроны этого слоя).


Рис. 11.3. 

Чтобы получить на выходе нейрона единичное значение, как минимум два из трех его входов должны равняться единице; в противном случае его выход будет нулевым. Таким образом, реализуется правило двух третей. Первоначально выходной сигнал

Приемника 1 установлен в единицу, обеспечивая один из входов, необходимых для возбуждения нейронов, а все компоненты вектора
установлены в 0; следовательно, в этот момент вектор
идентичен двоичному входному вектору
.

Слой распознавания.

Слой распознавания осуществляет классификацию входных векторов. Каждый нейрон в слое распознавания имеет соответствующий вектор весов

. Только один нейрон с весовым вектором, наиболее соответствующим входному вектору, возбуждается; все остальные заторможены.

Как показано на рис. 11.4, нейрон в распознающем слое имеет максимальную реакцию, если вектор

, являющийся выходом слоя сравнения, соответствует набору его весов; следовательно, веса представляют запомненный образ или экземпляр для категории входных векторов.




Такие веса являются действительными числами, а не двоичными величинами. Двоичная версия этого образа также запоминается в соответствующем наборе весов слоя сравнения (рис. 11.3); этот набор состоит из весов связей, соединяющих определенные нейроны слоя распознавания, по одному весу на каждый нейрон слоя сравнения.


Рис. 11.4. 

В процессе функционирования каждый нейрон слоя распознавания вычисляет свертку вектора собственных весов и входного вектора
. Нейрон, веса которого наиболее близки вектору
, будет иметь самый большой выход, тем самым выигрывая соревнование и одновременно затормаживая все остальные нейроны в слое. Как показано на рис. 11.5, нейроны внутри слоя распознавания взаимно соединены в латерально-тормозящую сеть. В простейшем случае (единственном, рассмотренном в данной работе) предусматривается, что только один нейрон в слое возбуждается в каждый момент времени (т. е. только нейрон с наивысшим уровнем активации будет иметь единичный выход; все остальные нейроны будут иметь нулевой выход). Эта конкуренция реализуется введением связей с отрицательными весами


с выхода каждого нейрона
на входы остальных нейронов. Таким образом, если нейрон имеет большой выход, он тормозит все остальные нейроны в слое. Кроме того, каждый нейрон имеет связь с положительным весом со своего выхода на свой вход. Если нейрон имеет единичный выходной уровень, эта обратная связь стремится усилить и поддержать его.

Приемник 2.
, выход Приемника 2, равен единице, если входной вектор
имеет хотя бы одну единичную компоненту. Более точно,
является логическим ИЛИ от компонента вектора
. Приемник 1. Как и сигнал
, выходной сигнал


Приемника 1 равен 1, если хотя бы одна компонента двоичного входного вектора


равна единице; однако, если хотя бы одна компонента вектора


равна единице,
устанавливается в нуль. Таблица, определяющая эти соотношения:

ИЛИ от компонента вектора XИЛИ от компонента вектора RG1
000
101
110
010


Сброс. Модуль сброса измеряет сходство между векторами
и
. Если они отличаются сильнее, чем требует параметр сходства, вырабатывается сигнал сброса возбужденного нейрона в слое распознавания.

В процессе функционирования модуль сброса вычисляет сходство как отношение количества единиц в векторе
к их количеству в векторе
. Если это отношение ниже значения параметра сходства, вырабатывается сигнал сброса.


Содержание раздела