Dmitry
60 lines
4.0 KiB
Markdown
60 lines
4.0 KiB
Markdown
---
|
||
status: stable
|
||
type: concept
|
||
tags:
|
||
- math
|
||
- ml
|
||
- mephi
|
||
- statistics
|
||
- factor-analysis
|
||
created: 2026-02-13
|
||
updated: 2026-05-07
|
||
aliases:
|
||
- ФА - Модель, Цель, Сущность
|
||
---
|
||
# ФА - Модель, Цель, Сущность
|
||
**Факторы** - гипотетические (латентные), непосредственно не измеряемые переменные, которые в той или иной мере связаны с измеряемыми характеристиками (исходными признаками). Основной идеей ФА выступает предположение, что структура связей между признаками может быть объяснена тем, что эти признаки зависят от **меньшего** количества другие, **общих** факторов.
|
||
Что позволяет снизить размерность признакового пространства от количества исходных признаков, до меньшего количества общих факторов.
|
||
|
||
**Цель:** найти такие факторы или такую матрицу $R_h$, чтобы минимизировать $D^2$.
|
||
|
||
## Линейная Модель ФА
|
||
|
||
Каждый исходный признак ($x_{j}$), который, является **центрированно-нормированным**, представляется в виде линейной комбинации:
|
||
|
||
- $m$ - общих факторов
|
||
- **одного** характерного фактора - $v_i$
|
||
|
||
Модель описывается уравнением: $x_ij = a_{i1}f_{1j}+a_{i2}f_{2j}+\dots+a_{im}f_mj+d_iv_{ij}$
|
||
|
||
$f_{rj}$ - значение $r$-го общего фактора для $j$-го объекта
|
||
|
||
$v_{ij}$ - значение $i$-го характерного фактора для $j$-го объекта
|
||
|
||
$x_{ij}$ - значение $i$-го исходного признака на $j$-ом объекте
|
||
|
||
**Центрировано-нормированные признаки**
|
||
|
||
- **Центрированность** означает, что мат.ожидание каждого признака равна нулю ($M(x_i) = 0$)
|
||
- **Нормированность** означает, что дисперсия каждого признака равна единице ($D(x_i) = 1$)
|
||
|
||
## Дисперсии
|
||
|
||
В отличии от Метода Главных Компонент (МГК), Факторный Анализ предполагает, что $m$ общими факторами _нельзя_ полностью объяснить вариацию исходных признаков. Дисперсия исходного признака $x_i$ раскладывается на две компоненты:
|
||
|
||
1. Общность - ($h_i^2$): доля дисперсии $i$-ого признака, объясняемая $m$ общими факторами: $h_i^2 = \sum_{r=1}^{m} a_{ir}^{2}$
|
||
2. Характерность - ($d_i^2$): вклад в дисперсию $i$-го признака, характерного фактора $v_i$ (который нельзя объяснить _общими_ факторами)
|
||
|
||
Тогда, для центрировано-нормированных признаков, дисперсия которых равна **единице** справедливо: $h_i^2 + d_i^2 = 1$
|
||
|
||
## Фундаментальная Теорема ФА
|
||
|
||
Выражение, позволяющее воспроизвести корреляционную матрицу исходных признаков $R$ через матрицу факторного отображения $A$ и матрицу характерностей $D^2$:
|
||
|
||
$R = AA^{T} + D^2$,
|
||
|
||
где $D^2$ - диагональная матрица с характерностями на главной диагонали.
|
||
|
||
## Связанные заметки
|
||
- [[Факторный анализ]]
|