SecondBrain/90 Library/03 Math/Статистика/Дискриминантный анализ/Параметрический дискриминантный анализ в случае нормального закона распределения классов.md

status, type, tags, created, updated, title

status	type	tags	created	updated	title
seed	concept	math statistics discriminant-analysis ml-algorithms	2026-01-19	2026-05-07	Параметрический Дискриминантный Анализ В Случае Нормального Закона Распределения Классов

Параметрический Дискриминантный Анализ В Случае Нормального Закона Распределения Классов

Параметрический дискриминантный анализ (ПДА) - это метод классификации, основанный на предположении, что плотности распределение признаков в каждом из классов описываются определенным теоретическим законом распределения. В большинстве случаев, предполагается многомерное нормальное распределение.

Основное Предположение

Для каждого класса S_{k},\ k=\overline{1,m} вектор признаков X = (x_{1}, x_{2},\dots, x_{p})^{T} распределен нормально с вектором средних \mu_{k} и ковариационной матрицей \Sigma_{k}:

X \sim N(\mu_{k},\Sigma_{k})

Плотность распределения для $k$-го класса:$f_{k}(x)=\frac{1}{(2\pi)^{p/2}|\Sigma_{k}|^{1/2}}*\exp(-\frac{1}{2}(x-\mu_{k})^{T}\Sigma_{k}^{-1}(x-\mu_{k}))$

Принцип Классификации (Байесовское правило)

Объект с вектором признаков x относится к тому классу S_{k}, для которого апостериорная вероятность максимальна.

P(S_{k}|x) = \frac{q_{k}f_{k}(x)}{\sum_{i=1}^{m}q_{i}f_{i}(x)}

Где $q_{k}$​ — априорная вероятность класса S_{k}. Решающее правило: объект относится к классу k, если логарифм выражения q_{k​}f_{k}​(x) максимален. Это приводит к построению дискриминантных функций.