Основы теории нейронных сетей



         

Обобщенные сети


Принцип машины Больцмана может быть перенесен на сети практически любой конфигурации, но без гарантированной устойчивости. Достаточно выбрать одно множество нейронов в качестве входов и другое множество в качестве выходов, затем придать входному множеству значения входного вектора и предоставить сети возможность релаксировать в соответствии с описанными выше правилами 1 и 2.

Процедура обучения для такой сети состоит из следующих шагов:

  1. Вычислить закрепленные вероятности:

    а) придать входным и выходным нейронам значения обучающего вектора;

    б) предоставить сети возможность искать равновесие;

    в) записать выходные значения для всех нейронов;

    г) повторить шаги от а до в для всех обучающих векторов;

    д) вычислить вероятность

    P_{ij}^+
    , т. е. по всему множеству обучающих векторов вычислить вероятность того, что значения обоих нейронов равны единице.

  2. Вычислить незакрепленные вероятности:

    а) предоставить сети возможность "свободного движения" без закрепления входов или выходов, начав со случайного состояния;

    б) повторить шаг 2а много раз, регистрируя значения всех нейронов;

    в) вычислить вероятность

    P_{ij}^-
    , т. е. вероятность того, что значения обоих нейронов равны единице.

  3. Скорректировать веса сети следующим образом:

     \delta w_{ij}=\eta (P_{ij}^+-P_{ij}^-),

    где

    \delta w_{ij}
    — изменение веса
    w_{ij}
    ,
    \eta
    — коэффициент скорости обучения.




Содержание  Назад  Вперед