SecondBrain/01 Library/03 Math/Статистика/Факторный анализ/ФА - модель, цель, сущность.md

status, type, tags, created, updated, title

status	type	tags	created	updated	title
stable	concept	math ml mephi statistics factor-analysis	2026-02-13	2026-05-07	ФА - Модель, Цель, Сущность

ФА - Модель, Цель, Сущность

Факторы  - гипотетические (латентные), непосредственно не измеряемые переменные, которые в той или иной мере связаны с измеряемыми характеристиками (исходными признаками). Основной идеей ФА выступает предположение, что структура связей между признаками может быть объяснена тем, что эти признаки зависят от меньшего  количества другие, общих факторов. Что позволяет снизить размерность признакового пространства от количества исходных признаков, до меньшего количества общих факторов.

Цель: найти такие факторы или такую матрицу R_h, чтобы минимизировать D^2.

Линейная Модель ФА

Каждый исходный признак (x_{j}), который, является центрированно-нормированным, представляется в виде линейной комбинации:

• m - общих факторов
• одного характерного фактора - v_i

Модель описывается уравнением: x_ij = a_{i1}f_{1j}+a_{i2}f_{2j}+\dots+a_{im}f_mj+d_iv_{ij}

f_{rj} - значение $r$-го общего фактора для $j$-го объекта

v_{ij} - значение $i$-го характерного фактора для $j$-го объекта

x_{ij} - значение $i$-го исходного признака на $j$-ом объекте

Центрировано-нормированные признаки

• Центрированность означает, что мат.ожидание каждого признака равна нулю (M(x_i) = 0)
• Нормированность означает, что дисперсия каждого признака равна единице (D(x_i) = 1) 

Дисперсии

В отличии от Метода Главных Компонент (МГК), Факторный Анализ предполагает, что m общими факторами нельзя полностью объяснить вариацию исходных признаков. Дисперсия исходного признака x_i раскладывается на две компоненты:

1. Общность - (h_i^2): доля дисперсии $i$-ого признака, объясняемая m общими факторами: h_i^2 = \sum_{r=1}^{m} a_{ir}^{2}
2. Характерность - (d_i^2): вклад в дисперсию $i$-го признака, характерного фактора v_i (который нельзя объяснить общими факторами)

Тогда, для центрировано-нормированных признаков, дисперсия которых равна единице справедливо: h_i^2 + d_i^2 = 1

Фундаментальная Теорема ФА

Выражение, позволяющее воспроизвести корреляционную матрицу исходных признаков R через матрицу факторного отображения A и матрицу характерностей D^2:

R = AA^{T} + D^2,

где D^2 - диагональная матрица с характерностями на главной диагонали.

Связанные заметки

• Факторный анализ