Основы теории нейронных сетей



         

Обучение когнитрона - часть 3


Таким образом,

 INHIB=\sum_i c_i OUT_i.

где

\sum_i c_i=1
,
c_i
— возбуждающий вес
i
.

Процедура обучения.

Как объяснялось ранее, веса возбуждающих нейронов изменяются только тогда, когда нейрон возбужден сильнее, чем любой из узлов в области конкуренции. Если это так, изменение в процессе обучения любого из его весов может быть определено следующим образом:

 \delta a_i=q c_j u_j,

где

c_j
— тормозящий вес связи нейрона
j
в слое 1 с тормозящим нейроном
i
,
u_j
— выход нейрона
j
в слое 1,
a_i
— возбуждающий вес
i
,
q
— нормирующий коэффициент обучения.

Изменение тормозящих весов нейрона

i
в слое 2 пропорционально отношению взвешенной суммы возбуждающих входов к удвоенному тормозящему входу. Вычисления проводятся по формуле

 \delta b_i = \frac{q\sum_j a_j u_j}{2\cdot INHIB_i}.

Когда возбужденных нейронов в области конкуренции нет, для изменения весов используются другие выражения. Это необходимо, поскольку процесс обучения начинается с нулевыми значениями весов; поэтому первоначально нет возбужденных нейронов ни в одной области конкуренции, и обучение производиться не может. Во всех случаях, когда победителя в области конкуренции нейронов нет, изменение весов нейронов вычисляется следующим образом:

 \delta a_i=q' c_ju_j,\quad \delta b_i=q'INHIB,

где

q'
— положительный обучающий коэффициент, меньший, чем
q
.

Приведенная стратегия настройки гарантирует, что узлы с большой реакцией заставляют возбуждающие синапсы, которыми они управляют, увеличиваться сильнее, чем тормозящие синапсы. Верна и обратная зависимость: узлы, имеющие малую реакцию, вызывают малое возрастание возбуждающих синапсов, но большее возрастание тормозящих синапсов. Таким образом, если узел 1 в слое 1 имеет больший выход, синапс

a_1

возрастет больше, чем синапс

b_1
. И наоборот, узлы, имеющие малый выход, обеспечат малую величину для приращения
a_i
. Однако другие узлы в области связи будут возбуждаться, тем самым увеличивая сигнал INHIB и значения
b_i
.

В процессе обучения веса каждого узла в слое 2 настраиваются таким образом, что вместе они составляют шаблон, соответствующий образам, которые часто предъявляются в процессе обучения. При предъявлении сходного образа шаблон соответствует ему и узел вырабатывает большой выходной сигнал.




Содержание  Назад  Вперед