Основы теории нейронных сетей


         

Бинарные системы - часть 2


На стадии инициализации сети весовые коэффициенты синапсов устанавливаются следующим образом:

Здесь

и
— индексы, соответственно, предсинаптического и постсинаптического нейронов;
,
-й и
-й элементы вектора
-го образца.

Алгоритм функционирования сети следующий (

— номер итерации):

  1. На входы сети подается неизвестный сигнал. Фактически его ввод осуществляется непосредственной установкой значений аксонов:

    поэтому обозначение на схеме сети входных синапсов в явном виде носит чисто условный характер. Ноль в скобке справа от

    означает нулевую итерацию в цикле работы сети.

  2. Рассчитывается новое состояние нейронов:

    и новые значения аксонов

    где

    — активационная функция в виде скачка.

  3. Проверка, изменились ли выходные значения аксонов за последнюю итерацию. Если да — переход к пункту 2, иначе (если выходы стабилизировались) — конец процедуры. При этом выходной вектор представляет собой образец, наилучшим образом сочетающийся с входными данными.

Как говорилось выше, иногда сеть не может провести распознавание и выдает на выходе несуществующий образ. Это связано с проблемой ограниченности возможностей сети. Для сети Хопфилда число запоминаемых образов

не должно превышать величины, примерно равной
. Кроме того, если два образа А и Б имеют значительное сходство, они, возможно, будут вызывать у сети перекрестные ассоциации, то есть предъявление на входы сети вектора А приведет к появлению на ее выходах вектора Б и наоборот.

Когда нет необходимости, чтобы сеть выдавала образец в явном виде и достаточно, скажем, получать номер образца, ассоциативную память успешно реализует сеть Хэмминга. Данная сеть характеризуется, по сравнению с сетью Хопфилда, более экономным использованием памяти и меньшим объемом вычислений, что становится очевидным из ее структуры (см. рис. 8.2).


Рис. 8.2. 

Сеть состоит из двух слоев. Первый и второй слои имеют по

нейронов, где

— число образцов. Нейроны первого слоя имеют по

синапсов, соединенных с входами сети (которые образуют фиктивный нулевой слой).




Содержание  Назад  Вперед