Dmitry
25 lines
2.3 KiB
Markdown
25 lines
2.3 KiB
Markdown
---
|
|
status: seed
|
|
type: concept
|
|
tags:
|
|
- math
|
|
- statistics
|
|
- discriminant-analysis
|
|
- ml-algorithms
|
|
created: 2026-01-19
|
|
updated: 2026-05-07
|
|
title: Параметрический Дискриминантный Анализ В Случае Нормального Закона Распределения Классов
|
|
---
|
|
|
|
# Параметрический Дискриминантный Анализ В Случае Нормального Закона Распределения Классов
|
|
Параметрический дискриминантный анализ (ПДА) - это метод классификации, основанный на предположении, что плотности распределение признаков в каждом из классов описываются определенным теоретическим законом распределения.
|
|
В большинстве случаев, предполагается **многомерное нормальное распределение**.
|
|
## Основное Предположение
|
|
Для каждого класса $S_{k},\ k=\overline{1,m}$ вектор признаков $X = (x_{1}, x_{2},\dots, x_{p})^{T}$ распределен нормально с вектором средних $\mu_{k}$ и ковариационной матрицей $\Sigma_{k}$:
|
|
$$X \sim N(\mu_{k},\Sigma_{k})$$
|
|
Плотность распределения для $k$-го класса:$$f_{k}(x)=\frac{1}{(2\pi)^{p/2}|\Sigma_{k}|^{1/2}}*\exp(-\frac{1}{2}(x-\mu_{k})^{T}\Sigma_{k}^{-1}(x-\mu_{k}))$$
|
|
## Принцип Классификации (Байесовское правило)
|
|
Объект с вектором признаков $x$ относится к тому классу $S_{k}$, для которого **апостериорная вероятность** максимальна.
|
|
$$P(S_{k}|x) = \frac{q_{k}f_{k}(x)}{\sum_{i=1}^{m}q_{i}f_{i}(x)}$$
|
|
Где $q_{k}$ — априорная вероятность класса $S_{k}$.
|
|
**<u>Решающее правило:</u>** объект относится к классу k, если логарифм выражения $q_{k}f_{k}(x)$ максимален. Это приводит к построению **дискриминантных функций**. |