vault backup: 2026-05-14 17:44:59
This commit is contained in:
@@ -15,9 +15,14 @@ title: КР - Кохонен
|
||||
|
||||
## Алгоритм с формулами
|
||||
1) Инициализация весов случайными маленькими значениями
|
||||
2) Нормировка: $$\text{весов:}\ w_{ij}=\frac{w_{ij}}{\sqrt{\sum\limits_{l=1}^{n}w_{lj}^{2}}}$$ $$\text{входов: }x_{i}=\frac{x_{i}}{\sqrt{\sum\limits_{l=1}^{n}x_{l}^{2}}}$$
|
||||
3) Выбираем нейрона-победителя по одному из критериев:$$S_{j}=\sum\limits_{i=1}^{n}x_{i}w_{ij}=||x||*||w^{j}||*\cos \phi \to \max$$$$D_{j}=\sqrt{\sum\limits_{i=1}^{n}(x_{i}-w_{ij})^{2}} \to \min$$
|
||||
4) Корректировка веса только нейрона-победителя: $$w_{ij}(t+1)=w_{ij}(t)+\alpha(x_{i}-w_{ij}(t))$$
|
||||
2) Нормировка:
|
||||
$$\text{весов:}\ w_{ij}=\frac{w_{ij}}{\sqrt{\sum\limits_{l=1}^{n}w_{lj}^{2}}}$$
|
||||
$$\text{входов: }x_{i}=\frac{x_{i}}{\sqrt{\sum\limits_{l=1}^{n}x_{l}^{2}}}$$
|
||||
3) Выбираем нейрона-победителя по одному из критериев:
|
||||
$$S_{j}=\sum\limits_{i=1}^{n}x_{i}w_{ij}=||x||*||w^{j}||*\cos \phi \to \max$$
|
||||
$$D_{j}=\sqrt{\sum\limits_{i=1}^{n}(x_{i}-w_{ij})^{2}} \to \min$$
|
||||
4) Корректировка веса только нейрона-победителя:
|
||||
$$w_{ij}(t+1)=w_{ij}(t)+\alpha(x_{i}-w_{ij}(t))$$
|
||||
5) Алгоритм останавливается при стабилизации весов или достижении максимального числа эпох.
|
||||
|
||||
![[Drawing 2026-05-14 17.24.16.excalidraw]]
|
||||
|
||||
@@ -21,13 +21,17 @@ $$y_{l}=f(\sum\limits_{i=0}^{k}w_{li}^{(2)}f(\sum\limits_{j=0}^{n}w_{ij}^{(1)}x_
|
||||
|
||||
![[Drawing 2026-05-14 15.06.37.excalidraw|500]]
|
||||
$$y_{i}=\sum\limits_{j=1}^{N}w_{ij}x_{j}$$
|
||||
|
||||
## Алгоритм ОРО
|
||||
1. Прямой проход сети. Инициализация весов маленькими значениями
|
||||
2. На последнем слое $$\delta_{j}^{(N)}=(y_{j}-d_{j})y_{j}^{'};\ \ \Delta w_{ij}^{(N)}=-\eta \delta_{j}^{(N)}y_{i}^{(N-1)}$$
|
||||
3. При обратном распространении (n<N):
|
||||
$$\delta_{i}^{(n)}=y_{i}^{'(n)}\sum\limits_{j}\delta_{j}^{(n+1)}w_{ij}^{(n+1)};\ \ \Delta w_{ij}^{(n)}=-\eta \delta_{j}^{(n)}y_{i}^{(n-1)}$$
|
||||
4) Меняем веса: $w_{ij}^{(n)}(t+1)=w_{ij}^{(n)}(t)+\Delta w_{ij}^{(n)}(t)$
|
||||
5) Алгоритм останавливается, если кончились эпохи, или ошибка меняется меньше заданного порога $\epsilon$, иначе п. 2. $$E(w)=\frac{1}{2}\sum\limits_{j}(y_{j}-d_{j})^{2}$$
|
||||
2. На последнем слое:
|
||||
$$\delta_{j}^{(N)}=(y_{j}-d_{j})y_{j}^{'};\ \ \Delta w_{ij}^{(N)}=-\eta \delta_{j}^{(N)}y_{i}^{(N-1)}$$
|
||||
3. При обратном распространении (n<N):
|
||||
$$\delta_{i}^{(n)}=y_{i}^{'(n)}\sum\limits_{j}\delta_{j}^{(n+1)}w_{ij}^{(n+1)};\ \ \Delta w_{ij}^{(n)}=-\eta \delta_{j}^{(n)}y_{i}^{(n-1)}$$
|
||||
4. Меняем веса: $w_{ij}^{(n)}(t+1)=w_{ij}^{(n)}(t)+\Delta w_{ij}^{(n)}(t)$
|
||||
5. Алгоритм останавливается, если кончились эпохи, или ошибка меняется меньше заданного порога $\epsilon$, иначе п. 2.
|
||||
$$E(w)=\frac{1}{2}\sum\limits_{j}(y_{j}-d_{j})^{2}$$
|
||||
|
||||
## Задача прогнозирования
|
||||
По скользящему окну первые $k$ последовательных элементов, по которым предсказывается 1 следующий элемент.
|
||||
|
||||
@@ -46,6 +50,3 @@ $$\begin{align}
|
||||
$$y_{j}^{'}=\delta*(1-\delta)$$
|
||||
$$w_{11}(t+1)=w_{11}^{(N)}+\Delta w_{11}^{(N)}(t)$$
|
||||
$$\delta^{(N-1)}=y^{'}*(\delta^{(N)}_{1}*w_{11}^{(N)}+\delta_{2}^{(N)}*w_{12}^{(N)}+\dots+\delta_{5}^{(N)}*w_{15}^{(N)})$$
|
||||
|
||||
|
||||
$$$$
|
||||
Reference in New Issue
Block a user