Основы теории нейронных сетей


         

На стадии инициализации сети весовые


На стадии инициализации сети весовые коэффициенты синапсов устанавливаются следующим образом:



Здесь
и
— индексы, соответственно, предсинаптического и постсинаптического нейронов;
,
-й и
-й элементы вектора
-го образца.

Алгоритм функционирования сети следующий (
— номер итерации):



  1. На входы сети подается неизвестный сигнал. Фактически его ввод осуществляется непосредственной установкой значений аксонов:



    поэтому обозначение на схеме сети входных синапсов в явном виде носит чисто условный характер. Ноль в скобке справа от
    означает нулевую итерацию в цикле работы сети.



  2. Рассчитывается новое состояние нейронов:



    и новые значения аксонов



    где
    — активационная функция в виде скачка.

  3. Проверка, изменились ли выходные значения аксонов за последнюю итерацию. Если да — переход к пункту 2, иначе (если выходы стабилизировались) — конец процедуры. При этом выходной вектор представляет собой образец, наилучшим образом сочетающийся с входными данными.


Как говорилось выше, иногда сеть не может провести распознавание и выдает на выходе несуществующий образ. Это связано с проблемой ограниченности возможностей сети. Для сети Хопфилда число запоминаемых образов
не должно превышать величины, примерно равной
. Кроме того, если два образа А и Б имеют значительное сходство, они, возможно, будут вызывать у сети перекрестные ассоциации, то есть предъявление на входы сети вектора А приведет к появлению на ее выходах вектора Б и наоборот.

Когда нет необходимости, чтобы сеть выдавала образец в явном виде и достаточно, скажем, получать номер образца, ассоциативную память успешно реализует сеть Хэмминга. Данная сеть характеризуется, по сравнению с сетью Хопфилда, более экономным использованием памяти и меньшим объемом вычислений, что становится очевидным из ее структуры (см. рис. 8.2).


Рис. 8.2. 

Сеть состоит из двух слоев. Первый и второй слои имеют по


нейронов, где
— число образцов. Нейроны первого слоя имеют по


синапсов, соединенных с входами сети (которые образуют фиктивный нулевой слой).


Содержание  Назад  Вперед