SecondBrain/99 System/Archive/КР - Персептрон.md

status, type, tags, created, updated, aliases

status	type	tags	created	updated	aliases
seed	concept		2025-12-17	2026-05-14	КР - Персептрон

КР - Персептрон

Схема персептрона

!Pasted image 20260514152232.png

u_{i}=f(\sum\limits_{j=0}^{n}w_{ij}^{(1)}x_{j}),\ i=\overline{1,k} y_{l}=f(\sum\limits_{i=0}^{k}w_{li}^{(2)}u_{i}),\ l=\overline{1,m},\ i=\overline{1,k} y_{l}=f(\sum\limits_{i=0}^{k}w_{li}^{(2)}f(\sum\limits_{j=0}^{n}w_{ij}^{(1)}x_{j}))

Формальный нейрон - Персептрон

Нейрон состоит из трех типов элементов: умножителей (синапсов), сумматора и нелинейного преобразователя.

!Drawing 2026-05-14 15.06.37.excalidraw

y_{i}=\sum\limits_{j=1}^{N}w_{ij}x_{j}

Алгоритм ОРО

1. Прямой проход сети. Инициализация весов маленькими значениями
2. На последнем слое: \delta_{j}^{(N)}=(y_{j}-d_{j})y_{j}^{'};\ \ \Delta w_{ij}^{(N)}=-\eta \delta_{j}^{(N)}y_{i}^{(N-1)}
3. При обратном распространении (n<N): \delta_{i}^{(n)}=y_{i}^{'(n)}\sum\limits_{j}\delta_{j}^{(n+1)}w_{ij}^{(n+1)};\ \ \Delta w_{ij}^{(n)}=-\eta \delta_{j}^{(n)}y_{i}^{(n-1)}
4. Меняем веса: w_{ij}^{(n)}(t+1)=w_{ij}^{(n)}(t)+\Delta w_{ij}^{(n)}(t)
5. Алгоритм останавливается, если кончились эпохи, или ошибка меняется меньше заданного порога \epsilon, иначе п. 2. E(w)=\frac{1}{2}\sum\limits_{j}(y_{j}-d_{j})^{2}

Задача прогнозирования

По скользящему окну первые k последовательных элементов, по которым предсказывается 1 следующий элемент.

90\ 92\ 95\ 98\ 99\ 100 Окно размера 3 $$\begin{align} 90\ 92\ 95\ &\to 98 \ 92\ 95\ 98\ &\to 99 \ 95\ 98\ 99\ &\to 100 \end{align} - \text{обучающая выборка}$$

Задача с нейроном

!Drawing 2026-05-14 17.02.08.excalidraw Рассчитать веса для одного нейрона.

y_{j}^{'}=\delta*(1-\delta) w_{11}(t+1)=w_{11}^{(N)}+\Delta w_{11}^{(N)}(t) \delta^{(N-1)}=y^{'}*(\delta^{(N)}_{1}*w_{11}^{(N)}+\delta_{2}^{(N)}*w_{12}^{(N)}+\dots+\delta_{5}^{(N)}*w_{15}^{(N)})