Dmitry
56 lines
4.9 KiB
Markdown
56 lines
4.9 KiB
Markdown
---
|
||
status: seed
|
||
type: concept
|
||
tags: []
|
||
created: 2025-12-17
|
||
updated: 2026-05-08
|
||
aliases:
|
||
- Сети Хопфилда и Хэмминга
|
||
---
|
||
# Сети Хопфилда и Хэмминга
|
||
|
||
- В сетях данного вида весовые коэффы синапсов рассчитываются только однажды перед началом функционирования *только однажды* перед началом функционированяи сети на основе ифнормации об обрабатываемых данных, и всё обучение сводится к этому расчету;
|
||
- Т.е. после первичного задания весов, веса не корректируются;
|
||
- Последующий ввод информации по объектам можно воспринимать как "обучение", но на деле, сеть просто запоминает образы;
|
||
- Сети Хопфилда и Хэмминга лучше всего организуют ассоциативную память;
|
||
- Задача: известен некоторый набор образцов (эталоном), которым мы хотим обучить сеть (изображения, звуки и т.д.);
|
||
- Сеть должна из необработанного сигнала, поданного на вход, выделить (вспомнить) соответствующий образец, если такой будет найден, или дать заключение, что такого образца нет;
|
||
- Если сигналы представляются как изображения, то в случае удачной идентификации, мы видим полностью совпадающий образ (Для Хопфилда), или номер в базе (Хемминг).
|
||
![[Pasted image 20260508103342.png|500]]
|
||
|
||
## Архитектура сети Хопфилда
|
||
|
||
Однослойная сеть с обратными связями
|
||
Инициализация сети == инициализация выходов
|
||
Выходы идут на входы всех нейронов, кроме его самого.
|
||
|
||
Получаем вес $w_{ij}$
|
||
При функционировании сети Хопфилда, мы получаем эталон, т.е. конкретное "изображение".
|
||
## Сеть Хемминга
|
||
Если нам не нужно получать изображение, а достаточно лишь номера эталона, то можно использовать более экономную сеть Хемминга
|
||
|
||
Идея: нахождение расстояния Хемминга (Манхеттенское) между входом и всеми образцами.
|
||
|
||
Сеть должна выбрать образец с минимальным расстоянием до неизвестного входного образа, тогда будет активирован только один выход сети, соответствующий номеру образца.
|
||
|
||
### Архитектура
|
||
Два слоя:
|
||
- 1 слой (работает один раз, запоминая)
|
||
- 2 слой
|
||
В каждом слое столько нейронов, сколько образцов необходимо запомнить.
|
||
Входной образ - вектор размерностью $n$.
|
||
|
||
![[Pasted image 20260508103431.png|420]]
|
||
|
||
Связаны обратными ингибиторными связами.
|
||
Где обратная связь нейрона с самим собой $=1$, остальные $=-\epsilon$
|
||
|
||
В сети Хэмминга −ε **(-эпсилон)** — это весовой коэффициент **тормозящих (ингибиторных) синапсов**, связывающих нейроны во втором слое между собой.
|
||
|
||
**Его основные характеристики и роль в сети:**
|
||
|
||
- **Расположение и архитектура:** Во втором слое сети Хэмминга каждый нейрон связан сам с собой петлей положительной обратной связи, вес которой равен +1. При этом со всеми _остальными_ нейронами своего слоя он соединен отрицательными обратными связями, вес которых равен −ε.
|
||
- **Допустимые значения:** Величина ε всегда берется как небольшое положительное число из диапазона $0<ε<\frac{1}{m}$, где $m$ — общее количество эталонных образцов, хранящихся в сети
|
||
### Функционирование
|
||
Инициализация - начальное назначение весов
|