backup: 2026-04-17 11:28
This commit is contained in:
Dmitry
@@ -0,0 +1,19 @@
|
||||
---
|
||||
status: stable
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
- ml
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: TS И DS Ряды
|
||||
---
|
||||
|
||||
# TS И DS Ряды
|
||||
|
||||
> **Тренд или основная тенденция (Т)** - плавно меняющаяся линейная или нелинейная компонента, описывающая чистое влияние долговременных факторов на динамику изучаемого процесса.
|
||||
|
||||
Нестационарные временные ряды, которые после выделения детерминированного тренда с помощью МНК (Метод Наименьших Квадратов) приводятся к стационарному ряду остатков, называются **стационарными относительно детерминированного тренда (TS - trend stationary time series)** или **TS-рядами.** Таким образом, ряд $X$ называется стационарным относительно детерминированного тренда (линейного, экспоненциального, полиномиального, …), если ряд $X_{t} - f(t,\beta)$ является стационарным.
|
||||
|
||||
Временные ряды, которые можно привести к стационарному виду с помощью операции "дифференцирования", т.е. путем взятия конечных разностей определенного порядка, называются **стационарными относительно взятия разностей** **(DS - difference stationary time series)** или интегрированными временными рядами **(integrated time series)**.
|
||||
+35
@@ -0,0 +1,35 @@
|
||||
---
|
||||
status: processing
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-02-13
|
||||
updated: 2026-02-27
|
||||
title: Автокорреляционная (ACF) И Частная Автокорреляционная (PACF) Функции
|
||||
---
|
||||
|
||||
# Автокорреляционная (ACF) И Частная Автокорреляционная (PACF) Функции
|
||||
|
||||
Пусть $x_{t}$ - стационарный ВР.
|
||||
Степень тесноты статистических связей между случайными величинами $x_{t}$ и $x_{t-k}$, отстающими друг от друга на лаг $k$, может быть измерена **парным коэффициентом корреляции**:
|
||||
$$\rho_{k}=\rho(k)=Corr(x_{t},x_{t-k})=\frac{Cov(x_{t},x_{t-k})}{\sqrt{D(x_{t})D(x_{t-k})}} = \frac{\phi(k)}{\phi(o)}$$
|
||||
т.к. для *стационарного* ряда: $D(x_{t})=D(x_{t-k})=\phi(o)$
|
||||
|
||||
**<u>Временной лаг $k$</u>** - величина сдвига между наблюдениями, используемый при расчете коэффициента $\rho_{k}$
|
||||
|
||||
**Величина $k$** определяет **порядок коэффициента автокорреляции**.
|
||||
|
||||
При анализе автокорреляции $\rho_{k}$ в зависимости от $k$ её называют **автокорреляционной функцией** (АКФ), т.к. речь идет об изучении корреляции уровней ряда друг с другом, то коэффициенты называются ***автокорреляцией***.
|
||||
|
||||
Оценкой коэффициента автокорреляции порядка $k$ является выборочный коэффициент автокорреляции порядка $k$:
|
||||
$$r_{k}=r(k) = r(x_{t},x_{t-k})=\frac{\overline{x_{t}x_{t-k}}-\overline{x_{t}}*\overline{x_{t-k}}}{\sqrt{D_{в}(x_{t})D_{в}(x_{t-k})}}$$
|
||||
Зависимость $r_{k}$ от $k (k = 1, \alpha,...)$ называют **выборочной** АКФ, а график этой зависимости - ***коррелограммой***.
|
||||
|
||||
Если при расчете показателей корреляции уровней ВР в зависимости от лага $k$ использовать частные коэффициенты корреляции, характеризующие "*очищенную*" взаимосвязь, то получим **ЧАКФ $\rho_{k}^{ч}$**
|
||||
|
||||
С помощью Частной Автокорреляционной Функции (ЧАКФ) измеряется корреляция между уровнями ряда $x_{t}$ и $x_{t-k}$, разделенными $k$ временными моментами, при исключении влияния на эту взаимосвязь всех промежуточных уровней ряда $x_{t-1},x_{t-2},\dots,x_{t-k+1}$, при этом, очевидно, что $\rho_{1}^{ч}=\rho_{1}$
|
||||
|
||||
ЧАКФ - зависимость частных коэффициентов автокорреляции от лага.
|
||||
ЧАКФ показывает автокорреляцию между $x_{t}$ и $x_{t-k}$, очищенную от влияния значений между ними.
|
||||
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
status: stable
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- ml
|
||||
- mephi
|
||||
updated: 2026-02-27
|
||||
title: Автокорреляционная Функция (АКФ)
|
||||
created: 2026-02-13
|
||||
---
|
||||
|
||||
# Автокорреляционная Функция (АКФ)
|
||||
Пусть $x_t$ - стационарный ВР. Степени тесноты статической связи между случайными величинами $x_t\ и\ x_{t-k}$, отстающими друг от друга на лаг $k$, измеряется парным коэффициентом корреляции.
|
||||
|
||||
***АКФ:*** $\rho_k = corr(x_t, x_{t-k}) = \frac{cov(x_t, x_{t-k})}{\sqrt{D(x_t)*D(x_{t-k}})} = ]D(x_t) =D(x_{t-k})=\phi(0)[_{\text{ввиду стационарности}}=\frac{\phi(k)}{\phi(0)},$
|
||||
где $x_{t-k}$ - сдвинутая переменная,
|
||||
|
||||
$\frac{cov(x_t, x_{t-k})}{\sqrt{D(x_t)*D(x_{t-k})}}$ - формула корреляции,
|
||||
|
||||
$k$ - величина временного лага.
|
||||
|
||||
Величина временного лага $k$ определяет порядок коэффициента автокорреляции.
|
||||
|
||||
$p$ - коэффициент для автокорреляции
|
||||
|
||||
$q$ - коэффициент для скользящего среднего
|
||||
|
||||
Оценка коэффициента автокорреляции порядка $k$ - выборочный коэффициент автокорреляции порядка $k$.
|
||||
|
||||
Выборочная АКФ (ВАКФ): $r_k = r(x_t, x_{t-k}) = \frac{\overline{x_t*x_{t-k}}-\overline{x_t*x_{t-k}}}{\sqrt{D(x_t)*D(x_{t-k})}}$. График ВАКФ называется **коррелограммой**.
|
||||
@@ -0,0 +1,58 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- mephi
|
||||
- math
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Авторегрессия AR
|
||||
---
|
||||
|
||||
# Авторегрессия AR
|
||||
## Авторегрессия Первого Порядка
|
||||
$AR(I)$ - процесс авторегрессии 1-го порядка (зависимость текущего значения ВР от предыдущего)
|
||||
$x_{t}=\mu+a_{i}x_{t-1}+\epsilon_{t},\quad |a|<1\ (\epsilon - \text{процесс белого шума})$
|
||||
$|a|<1$ - Необходимое условие стационарности $AR(I)$
|
||||
|
||||
Докажем, что $M=\frac{\mu}{1-a_{1}}$; $\quad \gamma_{0}=\frac{\sigma^{2}}{1-a_{1}^{2}}$; $\quad \gamma_{k}=a_{1}^{k}\frac{\sigma^{2}}{1-a_{1}^{2}}$
|
||||
Из того, что $\rho_{k}=a_{1}^{2}$ следует, что АКФ для $AR(I)$ экпоненциально (монотонно) убывает с ростом $k$ - при $a_{1}>0$, либо осциллирующе затухает (экспоненциально затухающие синусоидальные волны) при $a_{1}<0$
|
||||
|
||||
По определению АКФ(1) = ЧАКФ(1)
|
||||
|
||||
Для $k>1$ ЧАКФ процесса $AR(I)$ равна 0.
|
||||
|
||||
> [!note] Характеристическое свойство $AR(I)$
|
||||
> Только первое значение ВЧАКФ для $AR(I)$ выходит за пределы доверительной трубки
|
||||
|
||||
## Авторегрессия Второго Порядка
|
||||
$AR(II)$ - процесс авторегресии 2-го порядка.
|
||||
$x_{t}=a_{1}*x_{t-1}+a_{2}*x_{t-2}+\epsilon_{t}$
|
||||
|
||||
Условие стационарности: $|\lambda_{1}|<1,\ |\lambda_{\alpha}|<1$
|
||||
При выполнении условия стационарности АКФ процесса $AR(II)$ убывает экспоненциально, **когда корни действительны.**
|
||||
Не затухает с осцилляцией (изменяется по синусоиде с экспоненциально убывающей амплитудой), **если корни комплексные.**
|
||||
|
||||
ЧАКФ процесса $AR(II)$ равна 0, если $k>2$.
|
||||
|
||||
> [!note] Характеристическое свойство $AR(II)$$
|
||||
> Только первые два значения ВЧАКФ для $AR(II)$ выходят за пределы доверительной области
|
||||
|
||||
## Авторегрессия Порядка $p$
|
||||
$$x_{t} = \mu + a_{1}x_{t-1}+\dots+a_{p}x_{t-p}+\epsilon_{t}$$
|
||||
с использованием [[Лаговый оператор|лагового оператора]]:
|
||||
$$x_{t}=\mu+a_{1}Lx_{t}+\dots+a_{p}L^{p}x_{t}+\epsilon_{t}$$
|
||||
$$(1-a_{1}L-\dots-a_{p}L^{p})x_{t}=\mu+\epsilon_{t}$$
|
||||
Характ. уравнение 1: $1-a_{1}z-\dots-a_{p}z^{p}=0$
|
||||
Характ. уравнение 2: $\lambda^{p}-a_{1}\lambda^{p-1}-\dots-a_{p}\lambda^{0}=0$
|
||||
|
||||
### Условие Стационарности
|
||||
1) все корни Х.У. 1 по модулю $> 1$ $(|z_{j}|>1)$
|
||||
2) все корни Х.У. 2 по модулю $< 1$ $(|\lambda_{j}|<1)$
|
||||
|
||||
АКФ при **отсутствии кратных корней** соотв. Х.У. будет экспоненциально затухать;
|
||||
**если корни вещественные**, то просто затухает;
|
||||
**если комплексные**, то затухание с осцилляцией.
|
||||
|
||||
ЧАКФ теоретическое $= 0$ для всех значений $k>p$.
|
||||
Для ВЧАКФ только первые $p$ компонент выходят за Д.И.
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- mephi
|
||||
- math
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Белый Шум
|
||||
---
|
||||
|
||||
# Белый Шум
|
||||
|
||||
**<u>Одномерные модели ВР</u>** - те, в которых текущее значение данного ВР зависит только от его предыстории (и не зависит от других ВР).
|
||||
|
||||
**<u>Процесс белого шума</u>** - последовательность независимых и одинаково распределенных случайных величин с нулевыми $M\ и\ \sigma^{2}$:
|
||||
$\Sigma_{1},\Sigma_{2},\dots,\Sigma_{t-1}, \Sigma_{t}$
|
||||
|
||||
**<u>Белый шум</u>** - стационарный случайны процесс $\epsilon(t)$, для которого:
|
||||
$M(\epsilon_{t})=0$
|
||||
$D(\epsilon_{t})=\sigma^{2}>0$
|
||||
$\rho_{k}=\rho(k)=Corr(\epsilon_{t},\epsilon_{t-k})=0\ при\ k \neq 0$
|
||||
|
||||
Если процесс $\epsilon(t)$ Гауссовый, то это Гауссовый Белый Шум.
|
||||
Процесс "выбеливания" ВР - это исключение из него
|
||||
тренда, цикличности, сезонно и прочих компонент так, чтобы остаток не отличался от процесса белого шума.
|
||||
|
||||
Белый шум нужен для оценки качества построенной модели.
|
||||
Если удалось выделить белый шум из ВР, то моделирование проведено хорошо.
|
||||
|
||||
Значения АКФ и ЧАКФ полностью попадают в доверительный интервал.
|
||||
|
||||
@@ -0,0 +1,68 @@
|
||||
---
|
||||
status: stable
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- ml
|
||||
- mephi
|
||||
updated: 2026-02-27
|
||||
title: ВР - Основы
|
||||
created: 2026-02-13
|
||||
---
|
||||
|
||||
# ВР - Основы
|
||||
**Временной ряд (ВР)** - это последовательность измерений или наблюдений за каким-либо показателем, упорядоченная во времени. Он отражает эволюцию явления и позволяет выявлять закономерности (тренд, сезонность, цикличность), а также делать прогнозы.
|
||||
|
||||
**Стационарность временного ряда** - это свойство ряда, при котором его основные статистические характеристики (среднее значение, дисперсия, автокорреляция) не меняются со временем.
|
||||
|
||||
|
||||
|
||||
Стационарность Временного Ряда
|
||||
|
||||
## Компоненты ВР
|
||||
|
||||
**Тренд или основная тенденция (Т)** - плавно меняющаяся линейная или нелинейная компонента, описывающая чистое влияние долговременных факторов на динамику изучаемого процесса.
|
||||
|
||||
Факторы в отдельности могут оказать разнонаправленное воздействие, однако в совокупности их влияние определяет общее направление развития ВР.
|
||||
|
||||
**Сезонная компонента (S)** - отражает повторяемость экономических процессов в течении периода времени, **не превышающего года (год, квартал, месяц, неделя, сутки).**
|
||||
|
||||
Чаще всего причиной их возникновения считаются природно-климатические условия сезонов и ритмы человеческой активности.
|
||||
Пример: увеличение закупок в предпраздничный период, увеличение платежей в конце квартала.
|
||||
|
||||
|
||||
|
||||
**Циклическая компонента (C)** - отражает периодические колебания, выходящие за рамки одного года. Часто связан с изменением экономической активности.
|
||||
Примеры: Инвестиционные циклы (7 - 11 лет), циклы обновления оборотных средств (3 - 5 лет).
|
||||
|
||||
Если из ВР удалить все вышеперечисленные компоненты, то останется случайная или "нерегулярная" компонента.
|
||||
|
||||
**Случайная компонента (**$\epsilon$**)** - случайный шум, который _нерегулярно_ действует на ряд. Эта компонента отражает влияние неподдающихся учету и регистрации случайных факторов.
|
||||
|
||||
|
||||
|
||||
---
|
||||
|
||||
Отдельный уровень ВР может быть представлен в виде функции от основных компонент: $x_t = f(T_t, S_t, C_t) + \epsilon_t = f(t,\beta)$ - детерминированный тренд, т.е. неслучайная функция времени, заданная с точностью до неизвестных параметров $\beta$.
|
||||
|
||||
**Основная задача экономического анализа ВР**
|
||||
Выявление и придание количественного выражения каждой из компонент, чтобы использовать полученную интепретацию для прогнозирования будущих значений ряда или при построении модели взаимосвязи двух и более ВР.
|
||||
|
||||
**Аддитивная модель** - представление ВР в виде суммы составляющих его компонент. $x_t = T_t + S_t + C_t + \epsilon_t$
|
||||
|
||||
**Мультипликативная модель** - представление ВР в виде произведения составляющих его компонент. $x_t = T_t * S_t * C_t * \epsilon_t$
|
||||
|
||||
**Стационарность ВР**
|
||||
|
||||
Означает **неизменность** основных вероятностных характеристик во времени, т.е. сходство с поведением в прошлом (с помощью чего можем строить прогнозы).
|
||||
|
||||
---
|
||||
|
||||
Нестационарные временные ряды, которые после выделения детерминированного тренда с помощью МНК (Метод Наименьших Квадратов) приводятся к стационарному ряду остатков, называются **стационарными относительно детерминированного тренда (TS - trend stationary time series)** или **TS-рядами.** Таким образом, ряд $X$ называется стационарным относительно детерминированного тренда (линейного, экспоненциального, полиномиального, …), если ряд $X_{t} - f(t,\beta)$ является стационарным.
|
||||
|
||||
Временные ряды, которые можно привести к стационарному виду с помощью операции "дифференцирования", т.е. путем взятия конечных разностей определенного порядка, называются **стационарными относительно взятия разностей** **(DS - difference stationary time series)** или интегрированными временными рядами **(integrated time series)**.
|
||||
|
||||
Ссылки:
|
||||
|
||||
- [[Стационарность - ВР]]
|
||||
-
|
||||
@@ -0,0 +1,40 @@
|
||||
---
|
||||
status: stable
|
||||
type: moc
|
||||
tags:
|
||||
- math
|
||||
created: 2026-02-13
|
||||
updated: 2026-02-27
|
||||
title: Временные Ряды
|
||||
---
|
||||
|
||||
# Временные Ряды
|
||||
%% Begin Waypoint %%
|
||||
- [[Автокорреляционная (ACF) и частная автокорреляционная (PACF) функции]]
|
||||
- [[Автокорреляционная функция (АКФ)]]
|
||||
- [[Авторегрессия AR]]
|
||||
- [[Белый шум]]
|
||||
- [[ВР - основы]]
|
||||
- [[Лаговый оператор]]
|
||||
- [[Модели АРПСС. Методология Бокса-Дженкинса]]
|
||||
- [[Модели скользящего среднего]]
|
||||
- [[Моделирование временных рядов]]
|
||||
- [[Общая схема методологии Бокса-Дженкинса]]
|
||||
- [[Определение временного ряда, виды и особенности]]
|
||||
- [[Определение порядков АР и СС]]
|
||||
- [[Переход к стационарным разностям]]
|
||||
- [[Порядок интегрированности ряда]]
|
||||
- [[Проверка адекватности и выбор модели]]
|
||||
- [[Процедура Доладо — Дженкинса — Сосвилла — Ривера]]
|
||||
- [[Процесс ARIMA]]
|
||||
- [[Разложение Вольда]]
|
||||
- [[Скользящее среднее MA]]
|
||||
- [[Случайное блуждание]]
|
||||
- [[Смешанные модели (ARMA)]]
|
||||
- [[Стационарность - ВР]]
|
||||
- [[Стационарность. Строгая и слабая стационарность]]
|
||||
- [[Тесты на единичный корень и Дики-Фуллер]]
|
||||
- [[Частная автокорреляционная функция]]
|
||||
- [[TS и DS ряды]]
|
||||
|
||||
%% End Waypoint %%
|
||||
@@ -0,0 +1,21 @@
|
||||
---
|
||||
status: processing
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Лаговый Оператор
|
||||
---
|
||||
|
||||
# Лаговый Оператор
|
||||
$x_{t}$ - значение переменной $x$ в период $t$.
|
||||
Выборка: $x_{1},\dots,x_{T}$, $T$ наблюдений случайной переменной $x_{t}$.
|
||||
|
||||
**Первый лаг** переменной $x_{t}$ - значение этой переменной в предыдущий период времени $y_{t-1}$
|
||||
|
||||
**$k$-ый лаг** переменной $x_{t}$ - это $x_{t-k}$
|
||||
|
||||
**<u>Лаговый оператор</u>**:
|
||||
По определению: $L(x_{t})=x_{t-1}$
|
||||
+67
@@ -0,0 +1,67 @@
|
||||
---
|
||||
status: stable
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- ml
|
||||
- mephi
|
||||
updated: 2026-02-27
|
||||
title: Модели АРПСС. Методология Бокса-Дженкинса
|
||||
created: 2026-02-13
|
||||
---
|
||||
|
||||
# Модели АРПСС. Методология Бокса-Дженкинса
|
||||
## Модели АРПСС (ARIMA)
|
||||
|
||||
Модели Бокса-Дженкинса относятся к классу одномерных моделей, где текущее значение ряда зависит только от его собственной предыстории.
|
||||
|
||||
**Процесс АРПСС (**$p, d, q$**)** — это **интегрированный процесс авторегрессии со скользящим средним в остатках**.
|
||||
|
||||
- Если ряд является интегрированным $d$-го порядка, и его $d$-я разность описывается процессом ARMA($p, q$), то исходный процесс — ARIMA($p, d, q$).
|
||||
|
||||
### Базовые Компоненты Модели
|
||||
|
||||
1. **Авторегрессия (**$AR(p)$**):** Текущее значение ряда зависит от его **прошлых** $p$ **значений** ($x_{t-1}, \dots, x_{t-p}$).
|
||||
- **Условие стационарности AR:** Все корни характеристического уравнения должны лежать **вне** единичного круга по модулю ($|z_j|>1$).
|
||||
2. **Скользящее среднее (**$MA(q)$**):** Текущее значение ряда зависит от **текущего и прошлых** $q$ **случайных ошибок** ($\epsilon_t, \dots, \epsilon_{t-q}$).
|
||||
- **Условие стационарности MA:** Процесс $MA(q)$ стационарен при любых значениях параметров $\beta_i$.
|
||||
3. **Белый шум (**$\epsilon_t$**):** Случайный шум, который является остатками, не имеющими автокорреляции ($\rho_k = 0$ при $k \neq 0$) и имеющими постоянную дисперсию ($\sigma^2_{\epsilon} > 0$).
|
||||
|
||||
## III. Методология Бокса-Дженкинса (4 этапа)
|
||||
|
||||
Методология представляет собой процедуру подбора оптимальной модели $ARIMA(p, d, q)$.
|
||||
|
||||
### 1. Этап 1: Идентификация Модели (Определение $d, P, q$)
|
||||
|
||||
Цель — определить структуру модели.
|
||||
|
||||
- **Шаг 1. Определение** $d$ **(Порядка интегрированности):**
|
||||
- Сначала проверяется стационарность ряда (визуально или с помощью тестов, таких как **расширенный критерий Дики-Фуллера (ADF)** или **KPSS-тест**).
|
||||
- Если ряд нестационарен, берутся разности ($\Delta x_t$), и процесс повторяется до получения стационарного ряда. $d$ — это количество взятых разностей.
|
||||
- **Шаг 2. Определение порядков** $p$ **и** $q$**:**
|
||||
- Анализируются графики **автокорреляционной функции (АКФ)** и **частной автокорреляционной функции (ЧАКФ)** для стационарных разностей ряда.
|
||||
- Порядок **АР (**$p$**):** определяется по **обрыву** ЧАКФ (PACF). Обрыв — когда коэффициент незначимо отличается от нуля ($<\pm 1.96/\sqrt{T}$).
|
||||
- Порядок **СС (**$q$**):** определяется по **обрыву** АКФ (ACF).
|
||||
- Для смешанных моделей (АРСС) АКФ и ЧАКФ затухают (бесконечно убывающие).
|
||||
|
||||
### 2. Этап 2: Оценивание Модели
|
||||
|
||||
- Параметры выбранных моделей-кандидатов оцениваются (обычно с использованием точного или условного **метода максимального правдоподобия (ММП)**).
|
||||
|
||||
### 3. Этап 3: Проверка Адекватности Модели (Диагностика)
|
||||
|
||||
Проверка того, что остатки модели соответствуют белому шуму. Если модель неадекватна, возвращаются к Этапу 1 или 2.
|
||||
|
||||
- **Критерии проверки:**
|
||||
1. **Значимость коэффициентов**.
|
||||
2. **Анализ остатков:** Остатки должны быть нормально распределены, некоррелированы (проверяется с помощью АКФ/ЧАКФ остатков или **Q-статистик Бокса-Пирса/Бокса-Льюнга**) и иметь постоянную дисперсию (проверяется **тестом на ARCH-эффект**).
|
||||
- **Выбор лучшей модели:** Если несколько моделей адекватны, выбирается та, которой соответствует **минимальное значение информационных критериев**:
|
||||
- Критерий Акаике (AIC).
|
||||
- Критерий Шварца (BIC).
|
||||
- Критерий Хеннана-Куинна (HQ).
|
||||
|
||||
### 4. Этап 4: Прогнозирование
|
||||
|
||||
- Лучшая модель используется для прогнозирования будущих значений ($x_{T+h}$).
|
||||
- Наилучшим является прогноз, который минимизирует среднеквадратическую ошибку прогноза, что достигается использованием **условного математического ожидания** $E(x_{T+h} | x_T, x_{T-1}, \dots)$.
|
||||
- На практике также могут быть построены доверительные интервалы для прогноза, и может быть сформирован **обобщенный прогноз** (портфель моделей).
|
||||
@@ -0,0 +1,23 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- mephi
|
||||
- math
|
||||
created: 2026-01-18
|
||||
updated: 2026-02-27
|
||||
title: Модели Скользящего Среднего
|
||||
---
|
||||
|
||||
# Модели Скользящего Среднего
|
||||
Теорема Вольда: $x_{t}-\mu = \Sigma_{T=0}^{\infty}\ \psi_{T}\ \epsilon_{t-T}$, где $\psi_{T}$ - весовые коэффициенты, $\epsilon_{t-T}$ - белый шум.
|
||||
|
||||
- $\Sigma_{T=0}^{\infty}\ \psi_{T} < \infty$
|
||||
- Т.к. реализации <u>белого шума ненаблюдаемы</u>, то весовые коэффициенты определены с точностью до множителя, поэтому $\psi_{0}=0$
|
||||
|
||||
Процесс скользящего среднего порядка $q$ - стохастический процесс, в разложении *Вольда* которого присутствует только $q$ слагаемых, где $q$ - число параметров Скользящего Среднего.
|
||||
|
||||
1) $MA(1):x_{t}=[\psi_{0}=1]*\epsilon_{t}+\beta_{1}\epsilon_{t-1}$
|
||||
Характеристики: $\begin{matrix} M=0 && \gamma_{1}=\beta_{1}\sigma^{2} \\ \gamma_{0}=(1+\beta_{1}^{2})\sigma^{2} && \gamma_{2}=\gamma_{3} = \dots = 0 \end{matrix}$ $\ \ \gamma_{0}\ и\ \gamma_{1} \neq 0$
|
||||
$\rho_{1}=\frac{\beta_{1}}{1+\beta_{1}^{2}};\ \rho_{2}=\rho_{3}=\dots=0$ - значение автокорреляционной функции.
|
||||
2) $MA(2):x_{t}=\epsilon_{t}+\beta_{1}\epsilon_{t-1}+\beta_{2}\epsilon_{t-2}$
|
||||
@@ -0,0 +1,90 @@
|
||||
---
|
||||
status: stable
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- ml
|
||||
- mephi
|
||||
updated: 2026-02-27
|
||||
title: Моделирование Временных Рядов
|
||||
created: 2026-02-13
|
||||
---
|
||||
|
||||
# Моделирование Временных Рядов
|
||||
## Модели Авторегрессии
|
||||
|
||||
Одномерные случайные процессы:
|
||||
|
||||
### I. $AR(1)$ Процесс Авторегрессии 1-го Порядка
|
||||
|
||||
$x_t = \mu + \alpha_1 x_{t-1} + \epsilon_t$, где $|\alpha_1| < 1$ - **необходимое** условие стационарности.
|
||||
|
||||
$M = \frac{\mu}{1-\alpha_1}$
|
||||
|
||||
$\gamma_0 = \frac{\sigma^2}{1-\alpha_1^2}$, где $\rho_k = \alpha_1^k$
|
||||
|
||||
$\gamma_k = \alpha_1^k * \frac{\sigma^2}{1-\alpha_1^2}$
|
||||
|
||||
Значит, АКФ для $AR(1)$:
|
||||
|
||||
1. Экспоненциально убывает с ростом лага $k$ при $\alpha_1 > 0$
|
||||
2. Осцилирующе затухает при $\alpha_1 < 0$
|
||||
|
||||
По определению АКФ(1) = ЧАКФ(1). ЧАКФ процесса $AR(1)$ равна нулю при значениях $k>1$.
|
||||
|
||||
**Характеристическое свойство** $AR(1)$
|
||||
|
||||
Только первое значение ВЧАКФ для $AR(1)$ процесса выходит за пределы доверительной трубки
|
||||
|
||||
### II. $AR(2)$ Процесс Авторегреcсии 2-го Порядка
|
||||
|
||||
$$\large x_t = \mu + \alpha_1 x_{t-1} + \alpha_2 x_{t-2} + \epsilon_t$$
|
||||
|
||||
Характеристическое уравнение: $\lambda^2 - \alpha_1\lambda-\alpha_2 = 0$, где $|\alpha_1| < 1\ и\ |\alpha_2| < 1$ - **необходимые условия стационарности**.
|
||||
|
||||
При выполнении условий стационарности АКФ процесса $AR(2)$:
|
||||
|
||||
1. Экспоненциально убывает, если корни дейтвительны
|
||||
2. Осцилирующе затухает, если корни комплексные
|
||||
|
||||
ЧАКФ процесса AR(2) равна нулю, при $k>2$
|
||||
|
||||
**Характеристическое свойство** $AR(2)$
|
||||
|
||||
Только первые два значения ВЧАКФ для $AR(2)$ процесса выходят за пределы доверительной трубки.
|
||||
|
||||
Лаговый оператор (для $AR(3)$): $\begin{matrix} L(x_t) = x_{t-1} \\ L^2(x_t) = L(L(x_t)) = L(x_{t-1}) = x_{t-2} \end{matrix}$
|
||||
|
||||
### III. $AR(p)$ Процесс Авторегрессии $p$-го Порядка
|
||||
|
||||
$$x_t = \mu + \alpha_1 x_{t-1} + \dots + \alpha_p x_{t-p} + \epsilon_t = \mu + \alpha_1 L(x_t) + \dots + \alpha_p L^p (x_t) + \epsilon_t$$
|
||||
|
||||
$$x_t - \alpha_1 L(x_t) + \dots + \alpha_p L^p(x_t) = \mu + \epsilon_t$$
|
||||
|
||||
$$(1 - \alpha_1L + \dots + \alpha_p L^p) * x_t = \mu + \epsilon_t$$
|
||||
|
||||
Характеристическое уравнение: $\begin{matrix} 1 - \alpha_1 z + \dots + \alpha_p z^p = 0, \text{где}\ |z_j| > 1 \\ \lambda - \alpha_1 \lambda^{p-1} - \dots - \alpha_p \lambda^0 = 0, \text{где}\ |\lambda_j| < 1 \end{matrix}$
|
||||
|
||||
## Модели Скользящего Среднего (СС)
|
||||
|
||||
Скользящее среднее - Moving Average
|
||||
|
||||
Теорема Вольда: $x_t - \mu = \sum_{T=0}^{\infin} \psi_T \epsilon_{t-T}$, где $\psi_{T}$ - весовые коэффициенты, $\epsilon_{t-T}$ - белый шум.
|
||||
|
||||
- $\sum_{T=0}^{\infin} \psi_T < \infin$
|
||||
- Т.к. реалзации **белого шума ненаблюдаемы,** то весовые коэффиенты определены с точностью до множителя, поэтому $\psi_0 = 1$.
|
||||
|
||||
Процесс скользящего среднего порядка $q$ - стохастический процесс, в разложении **Вольда** которого присутствует только $q$ слагаемых, где $q$ - число параметров СС.
|
||||
|
||||
1. $MA(1): x_t = \epsilon_t + \beta_1 \epsilon_{t-1}$
|
||||
|
||||
Характеристики: $\begin{matrix} M = 0 & \gamma_1 = \beta_1 \sigma^2 \\ \\ \gamma_0 = (1+\beta_1^2) \sigma^2 & \gamma_2 = \gamma_3 = \dots = 0 \\ \\ \gamma_0\ и\ \gamma_1 \neq 0 & p_1 = \frac{\beta_1}{1+ \beta_1^2};\ p_2 = p_3 = \dots = 0 \end{matrix}$
|
||||
2. $MA(2): x_t = \epsilon_t + \beta_1 \epsilon_{t-1} + \beta_2 \epsilon_{t-2}$
|
||||
3. $MA(q): x_t = \epsilon_t + \beta+1 \epsilon_{t-1} + \beta_2 \epsilon_{t-2} + \dots + \beta_q \epsilon_{t-q} =$
|
||||
$= \epsilon_t + \beta_1 L^1(\epsilon_t) + \beta_2 L^2(\epsilon_t) + \dots + \beta_q L^q(\epsilon_t) = (1 + \beta_1 L^1(\epsilon_t) + \dots + \beta_q L^q(\epsilon_t))\epsilon_t$
|
||||
|
||||
Процесс стационарен при любых значениях $\beta_1, \dots, \beta_q$.
|
||||
|
||||
$1 + \beta_1 L^1(\epsilon_t) + \dots + \beta_q L^q(\epsilon_t)$ == 1 + лин.комбинация лаговых операторов
|
||||
|
||||
$\forall\ \text{процесс СС. стационарен при}\ \forall \beta \\ x\ \text{зависит только от белых шумов}$
|
||||
+22
@@ -0,0 +1,22 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Общая Схема Методологии Бокса-Дженкинса
|
||||
---
|
||||
|
||||
# Общая Схема Методологии Бокса-Дженкинса
|
||||
|
||||
Для ВР $x_{1},\dots,x_{T}$ необходимо подобрать $ARIMA(p,d,q)$ модель, которая описывает динамику этого временного ряда.
|
||||
|
||||
**<u>Этап 1</u>**: Идентификация
|
||||
**Шаг 1**: Определение порядка интегрированности ряда $d$ и переход к стационарным разностям
|
||||
**Шаг 2**: Определение порядков АР и СС: $p$ и $q$
|
||||
**<u>Этап 2</u>**: Оценивание модели
|
||||
**<u>Этап 3</u>**: Проверка адекватности модели. Выбор модели.
|
||||
**<u>Этап 4</u>**: Прогнозирование. Формирование обобщенного прогноза.
|
||||
|
||||
+63
@@ -0,0 +1,63 @@
|
||||
---
|
||||
status: processing
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Определение Временного Ряда, Виды И Особенности
|
||||
---
|
||||
|
||||
# Определение Временного Ряда, Виды И Особенности
|
||||
**<u>Временной ряд (ВР)</u>** - это последовательность измерений или наблюдений за каким-либо показателем, упорядоченная во времени. Он отражает эволюцию явления и позволяет выявлять закономерности (тренд, сезонность, цикличность), а также делать прогнозы.
|
||||
|
||||
## Отличия ВР От СВ
|
||||
**ВР** - реализация набора зависимых случайных величин с различными (меняющимся во времени) распределением.
|
||||
**СВ** (Случайная Выборка) - реализация набора независимых, одинаково распределенных случайных величин.
|
||||
|
||||
**Отдельные наблюдения** - уровни временного ряда ($x_{t}, t=\overline{1,n}$, $n$ - число уровней)
|
||||
Бывают **одномерные** (1 параметр) и **многомерные** ВР.
|
||||
|
||||
ВР бывают **детерминированными** (определены какой-то четкой функцией) и **случайными** (реализация последовательности случайных величин)
|
||||
|
||||
## Компоненты ВР
|
||||
|
||||
- **Тренд или основная тенденция (Т)** - плавно меняющаяся линейная или нелинейная компонента, описывающая чистое влияние долговременных факторов на динамику изучаемого процесса.
|
||||
Факторы в отдельности могут оказать разнонаправленное воздействие, однако в совокупности их влияние определяет общее направление развития ВР.
|
||||
|
||||
- **Сезонная компонента (S)** - отражает повторяемость экономических процессов в течении периода времени, **не превышающего года (год, квартал, месяц, неделя, сутки).**
|
||||
Чаще всего причиной их возникновения считаются природно-климатические условия сезонов и ритмы человеческой активности.
|
||||
Пример: увеличение закупок в предпраздничный период, увеличение платежей в конце квартала.
|
||||
|
||||
|
||||
|
||||
- **Циклическая компонента (C)** - отражает периодические колебания, выходящие за рамки одного года. Часто связан с изменением экономической активности.
|
||||
Примеры: Инвестиционные циклы (7 - 11 лет), циклы обновления оборотных средств (3 - 5 лет).
|
||||
|
||||
Если из ВР удалить все вышеперечисленные компоненты, то останется случайная или "нерегулярная" компонента.
|
||||
|
||||
- **Случайная компонента (**$\epsilon$**)** - случайный шум, который _нерегулярно_ действует на ряд. Эта компонента отражает влияние неподдающихся учету и регистрации случайных факторов.
|
||||
|
||||
|
||||
|
||||
---
|
||||
|
||||
Отдельный уровень ВР может быть представлен в виде функции от основных компонент: $x_t = f(T_t, S_t, C_t) + \epsilon_t = f(t,\beta)$ - детерминированный тренд, т.е. неслучайная функция времени, заданная с точностью до неизвестных параметров $\beta$.
|
||||
|
||||
**Основная задача экономического анализа ВР**
|
||||
Выявление и придание количественного выражения каждой из компонент, чтобы использовать полученную интерпретацию для прогнозирования будущих значений ряда или при построении модели взаимосвязи двух и более ВР.
|
||||
|
||||
**Аддитивная модель** - представление ВР в виде суммы составляющих его компонент. $x_t = T_t + S_t + C_t + \epsilon_t$
|
||||
|
||||
**Мультипликативная модель** - представление ВР в виде произведения составляющих его компонент. $x_t = T_t * S_t * C_t * \epsilon_t$
|
||||
|
||||
**Стационарность ВР**
|
||||
|
||||
Означает **неизменность** основных вероятностных характеристик во времени, т.е. сходство с поведением в прошлом (с помощью чего можем строить прогнозы).
|
||||
|
||||
---
|
||||
|
||||
Нестационарные временные ряды, которые после выделения детерминированного тренда с помощью МНК (Метод Наименьших Квадратов) приводятся к стационарному ряду остатков, называются **стационарными относительно детерминированного тренда (TS - trend stationary time series)** или **TS-рядами.** Таким образом, ряд $X$ называется стационарным относительно детерминированного тренда (линейного, экспоненциального, полиномиального, …), если ряд $X_{t} - f(t,\beta)$ является стационарным.
|
||||
|
||||
Временные ряды, которые можно привести к стационарному виду с помощью операции "дифференцирования", т.е. путем взятия конечных разностей определенного порядка, называются **стационарными относительно взятия разностей** **(DS - difference stationary time series)** или интегрированными временными рядами **(integrated time series)**.
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- mephi
|
||||
- math
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Определение Порядков АР И СС
|
||||
---
|
||||
|
||||
# Определение Порядков АР И СС
|
||||
Определение порядков AR и MA относится к этапу идентификации и выполняется после:
|
||||
- определения порядка $d$
|
||||
- перехода к стационарным разностям
|
||||
|
||||
Строятся и анализируются АКФ и ЧАКФ.
|
||||
По их виду делаются предварительные выводы о типе модели и порядках $p$ и $q$.
|
||||
|
||||
## Процесс $AR(p)$
|
||||
Если АКФ бесконечно убывает (только при $k \to \infty$ сходится к $0$), и ЧАКФ равна (или близка) нулю для лагов больших $p$, то порядок определятся по ЧАКФ.
|
||||
|
||||
## Процесс $MA(q)$
|
||||
Если АКФ равна (или близка) нулю для лагов больших $q$, и ЧАКФ бесконечно убывает, то порядок $q$ определяется по АКФ.
|
||||
|
||||
## Процесс $ARMA(p,q)$
|
||||
Если АКФ и ЧАКФ бесконечно убывают, то оценка $p$ по ЧАКФ, оценка $q$ по АКФ.
|
||||
|
||||
## Вывод
|
||||
1) АКФ и ЧАКФ не обязаны точно совпадать с теоремами, но должны быть похожи.
|
||||
2) Коррелограммы дают предварительную идентификацию, которая затем уточняется при оценивании и проверке адекватности.
|
||||
3) На практике рекомендуется использовать экономичные модели $p+q \leq 3$ (при отсутствии сезонности)
|
||||
@@ -0,0 +1,24 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- mephi
|
||||
- math
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Переход К Стационарным Разностям
|
||||
---
|
||||
|
||||
# Переход К Стационарным Разностям
|
||||
**Цель**: подобрать модель $ARIMA(p,d,q)$, адекватно описывающую динамику ВР.
|
||||
|
||||
## Определение Порядка Интегрированности $d$
|
||||
1) Приводим ряд к стационарному виду
|
||||
Если ряд нестационарен, то переходят к разностям:
|
||||
$\Delta x_{t}= x_{t}-x_{t-1},\ \Delta^{\alpha} x_{t}=\Delta x_{t}-\Delta x_{t-\alpha}$
|
||||
Порядок $d$-число разностей, необходимых для достижения стационарности.
|
||||
2) Ориентируясь по графику ВР
|
||||
- если график близок к прямой, то достаточно $d=1$
|
||||
- иначе, $d \geq 2$
|
||||
1) Определить количетсво единичных корней
|
||||
2) Анализ АКФ ряда первых, вторых и более высоких разностей и взятие в качестве $d$: $\min$ порядок, при котором АКФ быстро затухает.
|
||||
@@ -0,0 +1,19 @@
|
||||
---
|
||||
status: processing
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Порядок Интегрированности Ряда
|
||||
---
|
||||
|
||||
# Порядок Интегрированности Ряда
|
||||
Если процесс **стационарен**, то он называется процессом, интегрированным **нулевого порядка**: $I(0)$
|
||||
|
||||
Если процесс не стационарен, а его первые разности **стационарны**, то он называется процессом, **интегрированным 1-го порядка**: $I(1)$
|
||||
|
||||
Если $x_{t}$ не стационарен, его первые разности $\Delta x_{t}$ тоже не стационарны, но стационарны вторые разности \[$\Delta^{2} x_{t} = (\Delta x_{t} - \Delta x_{t-1})$\], то процесс называется **интегрированным 2-го порядка**: $I(2)$
|
||||
|
||||
И аналогично для $I(k)$
|
||||
@@ -0,0 +1,52 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags: []
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Проверка Адекватности И Выбор Модели
|
||||
---
|
||||
|
||||
# Проверка Адекватности И Выбор Модели
|
||||
## Проверка Адекватности
|
||||
Модель считается адекватной, если:
|
||||
1) Коэффициенты модели статистически значимы
|
||||
2) Остатки - белый шум
|
||||
- нулевое мат. ожидание и нет автокорреляции
|
||||
|
||||
### Анализ Остатков Модели
|
||||
1) Проверка отдельных коэффициентов автокорреляции
|
||||
$H_{0}: \rho_{k}=0$
|
||||
$H_{1}: \rho_{k} \neq 0$
|
||||
$\hat{\rho_{k}}\sim N(1,\frac{1}{T}); H_{0}$ при уровне значимости $5\%$, и если $|\hat{\rho_{k}}|<1.96/\sqrt{T}$ ***принимается***
|
||||
2) Тестирование отсутствия автокорреляции остатков
|
||||
- $Q$ статистика Бокса-Пирса
|
||||
$H_{0}: \rho_{1}=\dots=\rho_{k}=0$
|
||||
$H_{1}: \exists i:\rho_{i} \neq 0$
|
||||
$Q = T\sum\limits_{i=1}^{k}\hat{\rho_{i}}^{2}$;
|
||||
При истинности $H_{0}: Q|_{H_{0}}\sim \chi^{2}(K-p-q)$
|
||||
- Тест Льюинга-Бокса
|
||||
$H_{0}: \rho_{1}=\dots=\rho_{k}=0$
|
||||
$H_{1}: \exists i: \rho_{i} \neq 0$
|
||||
$\large Q=T(T+\alpha)\sum\limits_{i=1}^{k}\frac{\hat{\rho_{i}}^{2}}{T-i};$
|
||||
При истинности $H_{0}: Q|_{H_{0}} \sim \chi^{2}(K-p-q)$
|
||||
|
||||
## Выбор Модели
|
||||
Если адекватны несколько моделей, используют информационные критерии (выбор падает на min значение)
|
||||
1) **Шварца**
|
||||
$BIC = \ln(\hat{\sigma}^{2})+\frac{p+q}{T}*\ln{T}$, где:
|
||||
$\hat{\sigma}^{2}=\frac{\sum\limits e_{t}^{2}}{T}$ - оценка остаточной дисперсии
|
||||
$p,q$ - количество оцениваемых параметров АР и СС (если есть константа, то $p+q+1$)
|
||||
$T$ - длина ВР
|
||||
|
||||
Для других моделей: $BIC=\ln{\hat{\sigma}^{2}}+k/t \ln{T}$
|
||||
|
||||
1) Акаике
|
||||
$AIC = \ln{\hat{\sigma}^{2}}+2 \frac{p+q}{T},\ \sigma^{2}=\frac{\Sigma e_{t}^{2}}{T}$
|
||||
2) Хеннана-Куинна
|
||||
$HQ = \ln{\hat{\sigma}^{2}}+\frac{p+q}{T}\ln{(\ln{T})}$
|
||||
|
||||
## Прогнозирование
|
||||
![[Pasted image 20260122094429.png]]
|
||||
## Обобщенный Прогноз
|
||||
![[Pasted image 20260122094459.png]]
|
||||
+45
@@ -0,0 +1,45 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- mephi
|
||||
- math
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Процедура Доладо — Дженкинса — Сосвилла — Ривера
|
||||
---
|
||||
|
||||
# Процедура Доладо — Дженкинса — Сосвилла — Ривера
|
||||
При добавлении излишних регрессоров, мощность критерия снижается. Поэтому используют процедуру Доладо — Дженкинса — Сосвилла — Ривера (ДДСР) для определения состава регрессоров.
|
||||
|
||||
**<u>Шаг 1</u>**:
|
||||
Оценка модели с константой и линейным трендом
|
||||
$H_{0}: \gamma=0$
|
||||
$H_{1}:\gamma<0$
|
||||
|
||||
Если нулевая гипотеза отвергается, то ряд класса $TS$.
|
||||
Если нулевая гипотеза принимается, то прежде чем относить к $DS$, надо удостовериться, что тренд был правильно включен.
|
||||
|
||||
- Оценка модели без регрессора $y_{t-1}$.
|
||||
- Проверка значимости коэффициента при тренде.
|
||||
1) Если он значим, то тренд включен правильно -> ряд $DS$
|
||||
2) Иначе его зря включили, значит, надо оценивать модель с константой.
|
||||
|
||||
**<u>Шаг 2</u>**:
|
||||
Оценка модели с константой
|
||||
$H_{0}:\gamma=0$
|
||||
$H_{1}:\gamma<0$
|
||||
Если нулевая гипотеза отвергается, то ряд $TS$
|
||||
Иначе, нельзя сразу говорить, что ряд $DS$, необходимо проверить правильность включения константы:
|
||||
- Оценка модели без регрессора $y_{t-1}$
|
||||
- Проверка значимости константы с помощью $t$-статистики Стъюдента
|
||||
- Если константа значима, то она была включена верно, это $DS$
|
||||
- Иначе, то производится оценка модели без константы.
|
||||
|
||||
**<u>Шаг 3</u>**:
|
||||
Оценка модели без константы
|
||||
$H_{0}: \gamma=0$
|
||||
$H_{1}:\gamma<0$
|
||||
|
||||
Если нулевая гипотеза отвергается, то ряд $TS$ (процесс $AR$ с нулевым мат. ожиданием).
|
||||
Иначе, $DS$ (случайное блуждание без дрейфа)
|
||||
@@ -0,0 +1,19 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Процесс $ARIMA$
|
||||
---
|
||||
|
||||
# Процесс $ARIMA$
|
||||
Если процесс является интегрированным $k$-го порядка, и его разность $k$-го порядка описывается процессом $ARMA(p,q)$, то исходный процесс называется **интегрированным процессом авторегресии со скользящим средним в остатках** $ARIMA(p,k,q)$ или $ARIMA(p,d,q)$
|
||||
|
||||
Процесс содержит единичный корень, т.е. нестационарен.
|
||||
Рассмотрим первые разности процесса:
|
||||
$$x_{t}-x_{t-1}=0.9x_{t-1}-x_{t-1}+0.1x_{t-2}+\epsilon_{t}$$
|
||||
$$\Delta x_{t}=0.1*\Delta x_{t-1}+\epsilon_{t}$$
|
||||
Первые разности описываются стационарным процессом $AR(I)$ или $ARMA(I, 0)$, значит, исходный процесс описывается моделью $ARIMA(I,I,0)$
|
||||
@@ -0,0 +1,29 @@
|
||||
---
|
||||
status: processing
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
- ml
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Разложение Вольда
|
||||
---
|
||||
|
||||
# Разложение Вольда
|
||||
## Теорема Вольда
|
||||
$$x_{t}-\mu =\sum\limits_{\tau=0}^{\infty}\psi_{\tau}*\epsilon_{t-\tau}\qquad (\sum\limits_{\tau=0}^{\infty}\psi_{\tau}<\infty,\quad\psi_{0}=1)$$
|
||||
Где:
|
||||
$x_{t}$ - чисто недетерминированный стационарный в широком смысле случайный процесс;
|
||||
$\mu$ - мат.ожидание процесса;
|
||||
$\psi_{\tau}$ - весовые коэффициенты;
|
||||
$\epsilon_{t-\tau}$ - белый шум с конечным мат. ожиданием и дисперсией.
|
||||
|
||||
> $\psi_{0}=1$ т.к. реализации белого шума ненаблюдаемы, весовые коэффициенты определены с точностью до множителя.
|
||||
|
||||
Любой стационарный процесс может быть представлен в виде бесконечного ряда членов белого шума с коэффициентами, образующими абсолютно сходящийся числовой ряд.
|
||||
|
||||
Это означает, что стационарный $AR(I)$ процесс можно представить, как процесс $MA(\infty)$. Данное свойство называется **<u>обратимостью</u>**.
|
||||
|
||||
Таким образом, нет фундаментальной разницы между $AR$ и $MA$ представлением ВР.
|
||||
|
||||
@@ -0,0 +1,45 @@
|
||||
---
|
||||
status: stable
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Скользящее Среднее Порядка $q$
|
||||
---
|
||||
|
||||
# Скользящее Среднее Порядка $q$
|
||||
Стохастический процесс называется процессом скользящего среднего порядка $q$, если в [[Разложение Вольда|разложении Вольда]] присутствует только $q$ слагаемых.
|
||||
|
||||
**<u>Модель</u>**: берется взвешенная сумма каких-то $q$ белых шумов.
|
||||
|
||||
$MA(q): x_{t}=\epsilon_{t}+\beta_{1}*\epsilon_{t-1}+\beta_{2}*\epsilon_{t-2}+\dots+\beta_{q}*\epsilon_{t-q}$
|
||||
|
||||
Запись с использованием [[Смешанные модели (ARMA) и лаговый оператор|лагового оператора]]:
|
||||
$$MA(q): L^{0}\epsilon_{t}+\beta_{1}*L\epsilon_{t}+\beta_{2}*L^{2}\epsilon_{t}+\dots+\beta_{q}*\epsilon_{t-q}=$$
|
||||
$$= \underbrace{(L^0 +\beta_{1}L + \beta_{2}L^{2}+\dots+\beta_{q}L^{q})}_{\text{Операторный полином}}\epsilon_{t}=\beta_{q}(L)\epsilon_{t}$$
|
||||
## $MA(I)$ - Процесс СС 1-го Порядка
|
||||
$x_{t}=\epsilon_{t}+\beta_{1}\epsilon_{t-1}$
|
||||
|
||||
**<u>Статистические характеристики</u>**:
|
||||
$M=0$
|
||||
$\gamma_{0}=(1-\beta_{1}^{\alpha})\sigma^{2}$
|
||||
$\gamma_{1}=\beta_{1}*\sigma^{2}$
|
||||
$\gamma_{\alpha}=\gamma_{3}=\dots=0$
|
||||
$\rho_{1}=\frac{\beta_{1}}{1+\beta_{1}^{2}}; \quad \rho_{2}=\rho_{3}=\dots=0$
|
||||
|
||||
## $MA(q)$ - Процесс СС Порядка $q$
|
||||
$x_{t}=\epsilon_{t}+\beta_{1}\epsilon_{t-1}+\dots+\beta_{q}*\epsilon_{t-q}$
|
||||
|
||||
Фактически это сложение белых шумов, просто собраны модели разных порядков.
|
||||
|
||||
Процесс стационарен при любых значениях $\beta_{1},\dotsm\,\beta_{q}$
|
||||
|
||||
**<u>Свойства АКФ, ЧАКФ</u>**:
|
||||
|
||||
| | АКФ | ЧАКФ |
|
||||
| -------------------- | ------------------- | ------------------------------- |
|
||||
| $MA(1)$<br>$b_{1}>0$ | Зануление при $k>1$ | Осциллирующее затухание |
|
||||
| $MA(1)$<br>$b_{1}<0$ | Зануление при $k>1$ | Убывание по абсолютной величине |
|
||||
| $MA(q)$ | Зануление при $k>q$ | |
|
||||
@@ -0,0 +1,23 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Случайное Блуждание
|
||||
---
|
||||
|
||||
# Случайное Блуждание
|
||||
$$x_{t}=x_{t-1}+\epsilon_{t}$$
|
||||
$$(1-L)x_{t}=\epsilon_{t}$$
|
||||
|
||||
## Характеристическое Уравнение
|
||||
$$1-z=0$$$z=1$ - единичный корень, процесс нестационерен.
|
||||
|
||||
## Статистические Характеристики
|
||||
$$\matrix{M(x_{t})=x_{0}+t*\delta \\ D(x_{t})=t*\delta^{2}}$$
|
||||
|
||||
> Процесс случайного блуждания не стационарен, однако его первая разность является стационарным процессом.
|
||||
> $$x_{t}-x_{t-1}=\delta+\epsilon_{t}$$$$\Delta x_{t}=\delta+\epsilon_{t}$$
|
||||
@@ -0,0 +1,26 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Смешанные Модели (ARMA)
|
||||
---
|
||||
|
||||
# Смешанные Модели (ARMA)
|
||||
|
||||
$ARMA(p,q)$ - естественное обобщение подхода к моделированию: объединение модели авторегрессии и скользящего среднего.
|
||||
$$x_{t}=\delta+a_{1}x_{t-1}+\dots+a_{p}x_{t-p}+\epsilon_{t}+\beta_{1}\epsilon_{t-1}+\dots+\beta_{q}\epsilon_{t-q}$$
|
||||
Необходимым и достаточным условием стационарности процесса $x_{t}$ является условие принадлежности всех корней характеристического уравнения: $\lambda^{p}-a_{1}*\lambda^{p-1}-\dots-a_{p}=0$ единичному кругу на комплексной плоскости $|\lambda|<1$
|
||||
|
||||
Принцип выбора порядков $p$ и $q$:
|
||||
1) При выборе $p$ необходимо выбрать число значений ЧАКФ, вышедших за границы Д.И.
|
||||
2) При выборе $q$ необходимо смотреть на число значений АКФ, вышедших за границы Д.И.
|
||||
|
||||
Далее пошагово определяется порядок модели, исходя из статистической значимости составляющих:
|
||||
![[Pasted image 20260121171416.png]]
|
||||
|
||||
> Если $AR$ и $MA$ компоненты $ARMA$ модели имеют общие корни, то представление ряда можно упростить.
|
||||
> ![[Pasted image 20260121171547.png]]
|
||||
@@ -0,0 +1,29 @@
|
||||
---
|
||||
status: stable
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- ml
|
||||
- mephi
|
||||
updated: 2026-02-27
|
||||
title: Стационарность - ВР
|
||||
created: 2026-02-13
|
||||
---
|
||||
|
||||
# Стационарность - ВР
|
||||
**Стационарность** — свойство временного ряда, при котором его основные статистические характеристики **не меняются во времени**.
|
||||
|
||||
**Стационарность ВР**
|
||||
|
||||
Означает **неизменность** основных вероятностных характеристик во времени, т.е. сходство с поведением в прошлом (с помощью чего можем строить прогнозы).
|
||||
|
||||
Типы стационарности:
|
||||
|
||||
1. Сильная
|
||||
1. Предлагает постоянство законов
|
||||
2. Совместное распределение $m$ наблюдений $\large x_{t_1}, \dots, x_{t_m}$ не зависит от сдвига по времени, т.е. совпадает с $\large x_{t_1+k}, \dots, x_{t_m+k}$ $\forall m,k,l\ \text{где}\ l=\overline{1,m}$
|
||||
3. _Из сильной следует и слабая._
|
||||
2. Слабая
|
||||
|
||||
Предполагает постоянство первых и вторых моментов распределения (мат. ожиданий, дисперсий, ковариаций). Т.е $\forall t$ справедливо $\large \begin{cases} M(X_t) = \mu < \infty \\ D(X_t) = \gamma_0 \\ cov(x_t, x_{t-k}) = \gamma_k \end{cases}$
|
||||
но этот закон распределения не обязательно стационарен.
|
||||
+23
@@ -0,0 +1,23 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Стационарность. Строгая И Слабая Стационарность
|
||||
---
|
||||
|
||||
# Стационарность. Строгая И Слабая Стационарность
|
||||
## Стационарность. Строгая И Слабая Стационарность
|
||||
**<u>Стационарность</u>** - это свойство ряда, при котором его основные статистические характеристики (среднее значение, дисперсия, автокорреляция) не меняются со временем.
|
||||
![[Pasted image 20260121132321.png]]
|
||||
|
||||
**<u>Сильная стационарность</u>** - ВР называется **строго** стационарным, если совместное распределение $m$ наблюдений: $x_{t_{1}},\dots,x_{t_{m}}$ **не зависят от сдвига (лага)** для $\forall m,t,\dots,t_{m},k$ (стационарность в узком смысле)
|
||||
|
||||
**<u>Слабая стационарность</u>** - ВР называется **слабо** стационарным, если для всех $t$ $M(x_{t})=\mu < \infty$ (мат. ожидание постоянно)
|
||||
$D(x_{t})=\gamma_{0}=\phi_{0}, \quad \mu, \gamma_{0},\gamma_{k}$ - не зависят от $t$
|
||||
$cov(x_{t},x_{t-k})=\gamma_{k}=\phi_{k}, \forall t,k$
|
||||
|
||||
$\gamma$ - это автоковариация - мера того, насколько значение ВР связаны сами с собой через определенный лаг.
|
||||
+119
@@ -0,0 +1,119 @@
|
||||
---
|
||||
status: seed
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- mephi
|
||||
created: 2026-01-21
|
||||
updated: 2026-02-27
|
||||
title: Тесты На Единичный Корень
|
||||
---
|
||||
|
||||
# Тесты На Единичный Корень
|
||||
## Модели Единичного Корня
|
||||
Нестационарный случайный процесс $x_{t}$ называется **интегрированным порядка $d \geq 1$** ($I(d)$), если
|
||||
- ряд $x_{t}$ нестационарен (или стационарен относительно детерминированного тренда)
|
||||
- разности порядка $d: \Delta^{d}x_{t}$ стационарны
|
||||
- разности меньших порядков нестационарны
|
||||
|
||||
**Смысл**: $x_{t}$ является $I(d)$, если операция вычисления разностей порядка $d$ приводит нестац. случ. проц. $x_{t}$ к стац. ряду.
|
||||
Впервые при данном значении порядка разностей $d$.
|
||||
|
||||
## Процессы Единичного Корня
|
||||
Процессы $I(d)$ называют процессом единичного корня, потому что:
|
||||
- характеристическое уравнение модели содержит корень "$1$"
|
||||
- наличие ед. корня => стохастический тренд
|
||||
|
||||
## Модель $AR(1)$ С Трендом
|
||||
Р/м модель $x_{t}=\alpha_{0}+\beta t +\alpha_{1}x_{t-1}+\epsilon_{t}$
|
||||
1) Если $\alpha_{0} \neq 0,\ \beta=0$^
|
||||
- $|\alpha_{1}|<1$ => стац. ряд, тренда нет
|
||||
- $a_{1}=1$ => DS-ряд
|
||||
1) $\beta \neq 0,\ \alpha_{0} \neq 0$:
|
||||
- $|\alpha_{1}|<1$ => $TS$
|
||||
- $\alpha_{1}=1$ => $DS$
|
||||
|
||||
| TS | DS |
|
||||
| ------------------------------------ | ---------------------------------------------- |
|
||||
| Тренд детерминирован | Тренд стохастичен |
|
||||
| Убирается детерминированием | Убирается дифференцированием |
|
||||
| После вычитания тренда - стационарен | После вычитание тренда - все ещё нестационарен |
|
||||
| Нет единичного корня | есть единичный корень |
|
||||
Неверный способ удаления тренда приводит к проблемам:
|
||||
1) Детерминированный DS-ряд
|
||||
- искажение спектра
|
||||
- лишняя переодичность
|
||||
1) Разностирование $TS$-ряда
|
||||
- передифференцирование
|
||||
- сложности в оценивании модели
|
||||
|
||||
Таким образом TS и DS ряды визуально трудно различимы, поэтому обязательно применяются тесты на единичный корень, от которого зависит корректный выбор.
|
||||
|
||||
## Тест Д-Ф Без Константы
|
||||
**<u>Тест Дики-Фуллера</u>** - это методика, которая используется в прикладной статистике и эконометрике для анализа ВР для проверки на стационарность
|
||||
|
||||
Модель без константы: $x_{t}=\alpha x_{t-1} + \epsilon_{t}$
|
||||
$H_{0}: \alpha = 1$ - ряд нестационарный, содержит единичный корень, описывается процессом случайного блуждания.
|
||||
$H_{1}: |\alpha|<1$ - ряд стационарен, не содержит единичный корень, описывается стационарным авторегрессионным процессом 1-го порядка.
|
||||
|
||||
$$x_{t}-x_{t-1}=\alpha_{0}+\alpha_{1}*x_{t-1}-x_{t-1}+\phi t+\epsilon_{t} \implies $$$$\implies \Delta x_{t}=\alpha_{0}+(\alpha_{1}-1)*x_{t-1}+ \phi t + \epsilon_{t}$$
|
||||
Обозначим $(\alpha-1) =b$: $$\Delta x_{t}=b*x_{t-1}+\epsilon_{t}$$
|
||||
Новые гипотезы:
|
||||
$H_{0}: \alpha=1 \to b=0$: Если ряд содержит единичный корень, то коэффициент $b$ незначим
|
||||
$H_{1}: |\alpha| <1 \to b < 0$: Если ряд стационарен, то $b$ значимый и отрицательный
|
||||
|
||||
**Идея теста**: оценить уравнение обычным МНК и проверить значимость коэффициента $b$ при помощи $t$-статистики: $\hat{t}=\hat{b}/SE(\hat{b})$, где $SE(b)$ - стандартная ошибка.
|
||||
В данном случае, $t$-статистика имеет распределение Дики-Фуллера.
|
||||
Если рассчитанное значение статистики оказалось левее критического, то нулевая гипотеза отклоняется -> ряд стационарен.
|
||||
|
||||
## Тест Д-Ф С Константой
|
||||
Модель с константой: $x_{t}=\alpha_{0}+\alpha_{1}*x_{t-1}+\epsilon_{t}$
|
||||
|
||||
$H_{0}: \alpha_{1}=1$ - ряд НС., содержит единичный корень, описывается стац. авторегрессионным процессом случ. блуждания с дрейфом.
|
||||
$H_{1}: |\alpha_{1}|<1$ - ряд С., не содержит единичный корень, описывается стац. авторегрессионным процессом 1-го порядка.
|
||||
$$x_{t}-x_{t-1}=\alpha_{0}+\alpha_{1}*x_{t-1}-x_{t-1}+\epsilon_{t} \implies \Delta x_{t}=\alpha_{0}+(\alpha_{1}-1)*x_{t-1}+ \epsilon_{t}$$
|
||||
Обозначим $(\alpha-1) =b$: $$\Delta x_{t}=\alpha_{0}+b*x_{t-1}+\epsilon_{t}$$
|
||||
## Тест Д-Ф С Константой И Трендом
|
||||
Модель: $x_{t}=\alpha_{0}+\alpha_{1}*x_{t-1}+\phi t + \epsilon_{t}$
|
||||
$H_{0}: \alpha_{1}=1$ - ряд НС., содержит единичный корень, описывается стац. авторегрессионным процессом случ. блуждания с дрейфом.
|
||||
$H_{1}: |\alpha_{1}|<1$ - ряд С., не содержит единичный корень, описывается стац. авторегрессионным процессом 1-го порядка.
|
||||
|
||||
При $|\alpha_{1}|<1$ и $\phi \neq 0$ -> $x_{t}$ стац. относительно линейного тренда $(TS)$
|
||||
В этом случае, ряд $z_{t}=x_{t}-\phi t$ стационарен.
|
||||
|
||||
$$x_{t}-x_{t-1}=\alpha_{0}+\alpha_{1}*x_{t-1}-x_{t-1}+\phi t+\epsilon_{t} \implies $$$$\implies \Delta x_{t}=\alpha_{0}+(\alpha_{1}-1)*x_{t-1}+ \phi t + \epsilon_{t}$$
|
||||
Обозначим $(\alpha-1) =b$: $$\Delta x_{t}=\alpha_{0}+b*x_{t-1}+\phi t+\epsilon_{t}$$
|
||||
## Расширенный Тест Д-Ф
|
||||
Обобщение критерия Д-Ф для учета авторегрессии $p$-порядка составляет суть расширенного критерия Д-Ф ($ADF$-тест)
|
||||
|
||||
Общий случай без константы: $x_{t}=\alpha_{1}x_{t-1}+\dots+\alpha_{p}x_{t-p}+\epsilon_{t}$
|
||||
$H_{0}$: ряд является НС, содержит единичный корень
|
||||
$H_{1}$: ряд является стационарным процессом $AR(p)$
|
||||
|
||||
$$x_{t}-x_{t-1}=(\alpha_{1}x_{t-1}+\dots+\alpha_{p}x_{t-p}+\epsilon_{t})-x_{t-1} \implies$$
|
||||
$$\implies \Delta x_{t}=(\alpha_{1}-1) x_{t-1}+\alpha_{2}x_{t-2}+\dots+\alpha_{p}x_{t-p}+\epsilon_{t}$$
|
||||
**Оценка уравнения**:
|
||||
$$\Delta x_{t}=b*x_{t-1}+c_{1}*\Delta x_{t-1}+\dots+c_{p-1}*\Delta x_{t-p+1}+\epsilon_{t}$$
|
||||
$$(\Delta x_{t}= \gamma*x_{t-1}+\sum\limits_{t=1}^{p-1}\phi_{i} \Delta x_{t-1}+\epsilon_{t})$$
|
||||
Расчетное значение статистики: $\hat{t} = \frac{\hat{b}}{SE(\hat{b})}$
|
||||
*Модель с константой:*
|
||||
$$x_{t}=\alpha_{0}+\alpha_{1}x_{t-1}+\dots+\alpha_{p}x_{t-p}+\epsilon_{t} \implies$$
|
||||
$$\implies \Delta x_{t}=\alpha_{0}+bx_{t-1}+c_{1} \Delta x_{t-1}+\dots+c_{p-1} \Delta x_{t-p+1} +\epsilon_{t}$$
|
||||
$$(\Delta x_{t}=\mu+\gamma x_{t-1}+\sum\limits_{t=1}^{p-1}\phi_{i} \Delta x_{t-1}+\epsilon_{t})$$
|
||||
*Модель с константной с трендом:*
|
||||
$$x_{t}=\alpha_{0}\alpha_{1} x_{t-1} + \dots + \alpha_{p} x_{t-p}+\phi t + \epsilon_{t} \implies$$
|
||||
$$\implies \Delta x_{t}=\alpha_{0}+b x_{t-1}+c_{1} \Delta x_{t-1} + \dots + c_{p-1} \Delta x_{t-p+1}+ \phi t + \epsilon_{t}$$
|
||||
$$(\Delta x_{t}=\mu+\beta t + \gamma x_{t-1} + \sum\limits_{t=1}^{p-1}\phi_{i} \Delta x_{t-1} +\epsilon_{t})$$
|
||||
|
||||
В данном случае, $t$-статистика имеет распределение Дики-Фуллера.
|
||||
Если рассчитанное значение статистики оказалось левее критического, то нулевая гипотеза отклоняется -> ряд стационарен.
|
||||
|
||||
Критическое значение расширенного критерия Д-Ф. совпадают с критическим значением обычного критерия Д-Ф., роль дополнительной авторегрессионной компоненты сводится к тому, чтобы исключить автокорреляцию остатков, при которой тест не работает.
|
||||
|
||||
Ограничения:
|
||||
1) Не включать лишние регрессоры (мощность снижается)
|
||||
2) Чувствительность к выбору числа лагов
|
||||
3) Не применять при негомоскедастичности остатков
|
||||
4) Ложное принятие при наличии структурных сдвигов
|
||||
5) Некорректно использовать при наличии нескольких единичных корней
|
||||
|
||||
@@ -0,0 +1,18 @@
|
||||
---
|
||||
status: stable
|
||||
type: concept
|
||||
tags:
|
||||
- math
|
||||
- ml
|
||||
- mephi
|
||||
updated: 2026-02-27
|
||||
title: Частная Автокорреляционная Функция
|
||||
created: 2026-02-13
|
||||
---
|
||||
|
||||
# Частная Автокорреляционная Функция
|
||||
Если при расчете показателей корреляции уровней ВР в зависимости от лага $k$, использовать частные коэффициенты корреляции, характеризующие "очищенную взаимосвязь", то получится **ЧАКФ** $\rho_k^ч$.
|
||||
|
||||
С помощью ЧАКФ измеряется корреляция между уровнями ряда $x_t\ и\ x_{t-k}$, разделенными $k$ временными моментами, при исключении влияния на эту взаимосвязь всех промежуточных уровней ряда $x_{t-1},\dots,x_{t-k-1}$
|
||||
|
||||
Заметим, что $\rho_1^ч = \rho_1$ (т.е. ЧАКФ первого порядка равна АКФ первого порядка)
|
||||
Reference in New Issue
Block a user