Бинарные системы - часть 2

На стадии инициализации сети весовые коэффициенты синапсов устанавливаются следующим образом:

$w_{ij}=\left\{ \begin{aligned} \sum_{k=0}^{m-1}x_i^k x_j^k,\quad & \text{если } i\ne j,\\ 0,& \text{если } i=j. \end{aligned} \right.$

Здесь

$i$

$j$

— индексы, соответственно, предсинаптического и постсинаптического нейронов;

$x_i^k$

$x_j^k$

—

$i$

-й и

$j$

-й элементы вектора

$k$

-го образца.

Алгоритм функционирования сети следующий (

$p$

— номер итерации):

На входы сети подается неизвестный сигнал. Фактически его ввод осуществляется непосредственной установкой значений аксонов:

$y_i(0)=x_i,\quad i=0,\ldots,n-1,$

поэтому обозначение на схеме сети входных синапсов в явном виде носит чисто условный характер. Ноль в скобке справа от
$y_i$
означает нулевую итерацию в цикле работы сети.
Рассчитывается новое состояние нейронов:

$s_j(p+1)=\sum_{i=0}^{n-1}w_{ij} y_i(p),\quad j=0,\ldots, n-1$

и новые значения аксонов

$y_j(p+1)=f\lfloor s_j(p+1)\rfloor.$

где
$f$
— активационная функция в виде скачка.
Проверка, изменились ли выходные значения аксонов за последнюю итерацию. Если да — переход к пункту 2, иначе (если выходы стабилизировались) — конец процедуры. При этом выходной вектор представляет собой образец, наилучшим образом сочетающийся с входными данными.

Как говорилось выше, иногда сеть не может провести распознавание и выдает на выходе несуществующий образ. Это связано с проблемой ограниченности возможностей сети. Для сети Хопфилда число запоминаемых образов

$m$

не должно превышать величины, примерно равной

$0,15n$

. Кроме того, если два образа А и Б имеют значительное сходство, они, возможно, будут вызывать у сети перекрестные ассоциации, то есть предъявление на входы сети вектора А приведет к появлению на ее выходах вектора Б и наоборот.

Когда нет необходимости, чтобы сеть выдавала образец в явном виде и достаточно, скажем, получать номер образца, ассоциативную память успешно реализует сеть Хэмминга. Данная сеть характеризуется, по сравнению с сетью Хопфилда, более экономным использованием памяти и меньшим объемом вычислений, что становится очевидным из ее структуры (см. рис. 8.2).

Рис. 8.2.

Сеть состоит из двух слоев. Первый и второй слои имеют по

$m$

нейронов, где

$m$

— число образцов. Нейроны первого слоя имеют по

$n$

синапсов, соединенных с входами сети (которые образуют фиктивный нулевой слой).

Содержание Назад Вперед