Матрица Хебба с ортогонализацией образов
На предыдущей лекции было установлено, что ортогональность образов обучающей выборки является весьма благоприятным обстоятельством, так как в этом случае можно показать их устойчивое сохранение в памяти. При точной ортогональности достигается максимальная емкость памяти, равная
![](../../../../img/tex/b/a/4/ba41e6063f3159c8fa796e7ee291b9e2.png)
![](../../../../img/tex/b/a/4/ba41e6063f3159c8fa796e7ee291b9e2.png)
На этом свойстве ортогональных образов и основан один из наиболее часто используемых способов улучшения правила Хебба: перед запоминанием в нейронной сети исходные образы следует ортогонализовать. Процедура ортогонализации приводит к новому виду матрицы памяти:
![](../../../../img/tex/4/6/0/46011242901769fd12f09e68aece4055.png)
где
![](../../../../img/tex/6/3/8/638ae1e94b7e85a421311cd058b6de71.png)
![](../../../../img/tex/6/1/8/618a48ba286743cf6db5b9a0318c4d70.png)
![](../../../../img/tex/0/1/2/0125563f910b69c4e5e6f34cd464e06a.png)
Такая форма матрицы памяти обеспечивает воспроизведение любого набора из
![](../../../../img/tex/7/c/e/7ce82f5389662d1fff862cd1d8852c39.png)