Алгоритмы обучения
Большинство современных алгоритмов обучения выросло из концепций Д.О. Хэбба. Он предложил модель обучения без учителя, в которой синаптическая сила (вес) возрастает, если активированы оба нейрона, источник и приемник. Таким образом, часто используемые пути в сети усиливаются и феномены привычки и обучения через повторение получают объяснение.
В искусственной нейронной сети, использующей обучение по Хэббу, наращивание весов определяется произведением уровней возбуждения передающего и принимающего нейронов. Это можно записать как
![](../../../../img/tex/8/8/a/88a46f9fd293391cbc139d402a94ceaa.png)
где
![](../../../../img/tex/a/0/8/a08ba3dc71874c77b51028f10d8ec515.png)
![](../../../../img/tex/6/0/4/6048f1e10201f48f0650ed59edaedd21.png)
![](../../../../img/tex/e/5/c/e5c56b3f413c625963df2cd10182744f.png)
![](../../../../img/tex/0/8/b/08b571512c70f51c9ef66304ae56508e.png)
![](../../../../img/tex/6/0/4/6048f1e10201f48f0650ed59edaedd21.png)
![](../../../../img/tex/e/5/c/e5c56b3f413c625963df2cd10182744f.png)
![](../../../../img/tex/a/7/4/a74cb8ebd335ba16805a7ccdbfe2c2b6.png)
![](../../../../img/tex/b/0/7/b073ed756487b0aca7bdd1de344b281a.png)
![](../../../../img/tex/6/0/4/6048f1e10201f48f0650ed59edaedd21.png)
![](../../../../img/tex/e/5/c/e5c56b3f413c625963df2cd10182744f.png)
![](../../../../img/tex/f/8/8/f88d7b110161d928cfbebe1e9e80884a.png)
![](../../../../img/tex/e/5/c/e5c56b3f413c625963df2cd10182744f.png)
Сети, использующие обучение по Хэббу, конструктивно развивались, однако за последние 20 лет появились и разрабатывались более эффективные алгоритмы обучения. В частности, были развиты алгоритмы обучения с учителем, приводящие к сетям с более широким диапазоном характеристик обучающих входных образов и большими скоростями обучения, чем использующие простое обучение по Хэббу.