Метод сигнального обучения Хэбба


Как мы видели, выход NET простого искусственного нейрона является взвешенной суммой его входов. Это может быть выражено следующим образом:

где NETj – выход NET нейрона j;

OUTi – выход нейрона i;wij – вес связи нейрона i с нейроном j.

Можно показать, что в этом случае линейная многослойная сеть не является более мощной, чем однослойная сеть; рассматриваемые возможности сети могут быть улучшены только введением нелинейности в передаточную функцию нейрона. Говорят, что сеть, использующая сигмоидальную функцию активации и метод обучения Хэбба, обучается по сигнальному методу Хэбба. В этом случае уравнение Хэбба модифицируется следующим образом:

wij(t+1) = wij(t) + OUTi OUTj

где wij(t) – сила синапса от нейрона i к нейрону j в момент времени t;

OUTi – выходной уровень пресинаптического нейрона равный F(NETi);

OUTj – выходной уровень постсинаптического нейрона равный F(NET).

Содержание раздела