Dmitry
53 lines
2.4 KiB
Markdown
53 lines
2.4 KiB
Markdown
---
|
|
status: seed
|
|
type: concept
|
|
tags: []
|
|
created: 2025-12-17
|
|
updated: 2026-05-14
|
|
aliases:
|
|
- КР - Персептрон
|
|
---
|
|
# КР - Персептрон
|
|
|
|
## Схема персептрона
|
|
![[Pasted image 20260514152232.png|400]]
|
|
$$u_{i}=f(\sum\limits_{j=0}^{n}w_{ij}^{(1)}x_{j}),\ i=\overline{1,k}$$
|
|
$$y_{l}=f(\sum\limits_{i=0}^{k}w_{li}^{(2)}u_{i}),\ l=\overline{1,m},\ i=\overline{1,k}$$
|
|
$$y_{l}=f(\sum\limits_{i=0}^{k}w_{li}^{(2)}f(\sum\limits_{j=0}^{n}w_{ij}^{(1)}x_{j}))$$
|
|
|
|
## Формальный нейрон - Персептрон
|
|
|
|
Нейрон состоит из трех типов элементов: **умножителей** (синапсов), **сумматора** и **нелинейного преобразователя**.
|
|
|
|
![[Drawing 2026-05-14 15.06.37.excalidraw|500]]
|
|
$$y_{i}=\sum\limits_{j=1}^{N}w_{ij}x_{j}$$
|
|
|
|
## Алгоритм ОРО
|
|
1. Прямой проход сети. Инициализация весов маленькими значениями
|
|
2. На последнем слое:
|
|
$$\delta_{j}^{(N)}=(y_{j}-d_{j})y_{j}^{'};\ \ \Delta w_{ij}^{(N)}=-\eta \delta_{j}^{(N)}y_{i}^{(N-1)}$$
|
|
3. При обратном распространении (n<N):
|
|
$$\delta_{i}^{(n)}=y_{i}^{'(n)}\sum\limits_{j}\delta_{j}^{(n+1)}w_{ij}^{(n+1)};\ \ \Delta w_{ij}^{(n)}=-\eta \delta_{j}^{(n)}y_{i}^{(n-1)}$$
|
|
4. Меняем веса: $w_{ij}^{(n)}(t+1)=w_{ij}^{(n)}(t)+\Delta w_{ij}^{(n)}(t)$
|
|
5. Алгоритм останавливается, если кончились эпохи, или ошибка меняется меньше заданного порога $\epsilon$, иначе п. 2.
|
|
$$E(w)=\frac{1}{2}\sum\limits_{j}(y_{j}-d_{j})^{2}$$
|
|
|
|
## Задача прогнозирования
|
|
По скользящему окну первые $k$ последовательных элементов, по которым предсказывается 1 следующий элемент.
|
|
|
|
$90\ 92\ 95\ 98\ 99\ 100$
|
|
Окно размера $3$
|
|
$$\begin{align}
|
|
90\ 92\ 95\ &\to 98 \\
|
|
92\ 95\ 98\ &\to 99 \\
|
|
95\ 98\ 99\ &\to 100
|
|
\end{align} - \text{обучающая выборка}$$
|
|
|
|
## Задача с нейроном
|
|
![[Drawing 2026-05-14 17.02.08.excalidraw]]
|
|
Рассчитать веса для одного нейрона.
|
|
|
|
$$y_{j}^{'}=\delta*(1-\delta)$$
|
|
$$w_{11}(t+1)=w_{11}^{(N)}+\Delta w_{11}^{(N)}(t)$$
|
|
$$\delta^{(N-1)}=y^{'}*(\delta^{(N)}_{1}*w_{11}^{(N)}+\delta_{2}^{(N)}*w_{12}^{(N)}+\dots+\delta_{5}^{(N)}*w_{15}^{(N)})$$
|