Нейрокомпьютерная техника. Теория и практика


Комбинирование обратного распространения с обучением Коши


Коррекция весов в комбинированном алгоритме, использующем обратное распространение и обучение Коши, состоит из двух компонент: (1) направленной компоненты, вычисляемой с использованием алгоритма обратного распространения, и (2) случайной компоненты, определяемой распределением Коши.

Эти компоненты вычисляются для каждого веса, и их сумма является величиной, на которую изменяется вес. Как и в алгоритме Коши, после вычисления изменения веса вычисляется целевая функция. Если имеет место улучшение, изменение сохраняется. В противном случае оно сохраняется с вероятностью, определяемой распределением Больцмана.

Коррекция веса вычисляется с использованием представленных ранее уравнений для каждого из алгоритмов:

                        wmn,k(n+1) = wmn,k(n) + ? [a?wmn,k(n) + (1 – a) ?n,k OUTm,j] + (1 – ?) xс,

где ? – коэффициент, управляющий относительными величинами Коши и обратного распространения в компонентах весового шага. Если ? приравнивается нулю, система становится полностью машиной Коши. Если ? приравнивается единице, система становится машиной обратного распространения.

Изменение лишь одного весового коэффициента между вычислениями весовой функции неэффективно. Оказалось, что лучше сразу изменять все веса целого слоя, хотя для некоторых задач может оказаться выгоднее иная стратегия.




Начало  Назад  Вперед



Книжный магазин