Dmitry
41 lines
2.0 KiB
Markdown
41 lines
2.0 KiB
Markdown
---
|
|
status: seed
|
|
type: concept
|
|
tags: []
|
|
created: 2025-12-17
|
|
updated: 2026-05-14
|
|
title: КР - Персептрон
|
|
---
|
|
|
|
# КР - Персептрон
|
|
|
|
## Схема персептрона
|
|
![[Pasted image 20260514152232.png|400]]
|
|
$$u_{i}=f(\sum\limits_{j=0}^{n}w_{ij}^{(1)}x_{j}),\ i=\overline{1,k}$$
|
|
$$y_{l}=f(\sum\limits_{i=0}^{k}w_{li}^{(2)}u_{i}),\ l=\overline{1,m},\ i=\overline{1,k}$$
|
|
$$y_{l}=f(\sum\limits_{i=0}^{k}w_{li}^{(2)}f(\sum\limits_{j=0}^{n}w_{ij}^{(1)}x_{j}))$$
|
|
|
|
## Формальный нейрон - Персептрон
|
|
|
|
Нейрон состоит из трех типов элементов: **умножителей** (синапсов), **сумматора** и **нелинейного преобразователя**.
|
|
|
|
![[Drawing 2026-05-14 15.06.37.excalidraw|500]]
|
|
$$y_{i}=\sum\limits_{j=1}^{N}w_{ij}x_{j}$$
|
|
## Алгоритм ОРО
|
|
1. Прямой проход сети. Инициализация весов маленькими значениями
|
|
2. На последнем слое $$\delta_{j}^{(N)}=(y_{j}-d_{j})y_{j}^{'};\ \ \Delta w_{ij}^{(N)}=-\eta \delta_{j}^{(N)}y_{i}^{(N-1)}$$
|
|
3. При обратном распространении (n<N):
|
|
$$\delta_{i}^{(n)}=y_{i}^{'(n)}\sum\limits_{j}\delta_{j}^{(n+1)}w_{ij}^{(n+1)};\ \ \Delta w_{ij}^{(n)}=-\eta \delta_{j}^{(n)}y_{i}^{(n-1)}$$
|
|
4) Меняем веса: $w_{ij}^{(n)}(t+1)=w_{ij}^{(n)}(t)+\Delta w_{ij}^{(n)}(t)$
|
|
5) Алгоритм останавливается, если кончились эпохи, или ошибка меняется меньше заданного порога $\epsilon$, иначе п. 2. $$E(w)=\frac{1}{2}\sum\limits_{j}(y_{j}-d_{j})^{2}$$
|
|
## Задача прогнозирования
|
|
По скользящему окну первые $k$ последовательных элементов, по которым предсказывается 1 следующий элемент.
|
|
> [!tip]
|
|
> $90\ 92\ 95\ 98\ 99\ 100$
|
|
> Окно размера $3$
|
|
> $$\begin{align}
|
|
> 90\ 92\ 95\ \to 98 \\
|
|
> 92\ 95\ 98\ \to 99 \\
|
|
> 95\ 98\ 99\ \to 100
|
|
> \end{align}$$
|