深色模式
第三章 线性模型族：AR、MA、ARMA
本章是模型部分的地基：AR、MA、ARMA 三族的定义、平稳域与可逆域、ACF/PACF 的理论特征，以及把三者统一起来的 Green 函数表示。
3.1 移动平均模型 MA(q)
yₜ = μ + εₜ + θ₁εₜ₋₁ + … + θ_qεₜ₋q， εₜ ~ WN(0, σ²)
平稳性：MA(q) 是有限个白噪声的线性组合，永远是平稳的（只要 θ 有限）。这一点与 AR 截然不同。
打个比方：MA 就是往水里扔石头。今天的水面高度（yₜ）＝ 今天扔的那块石头激起的水花（εₜ）＋ 前几块石头还没散尽的波纹（θ₁εₜ₋₁、θ₂εₜ₋₂ …）。
三个结论一眼就能看出来：
- q 阶 = 一块石头最多影响 q 期，之后水面彻底平静。所以 ACF 在 k > q 后严格为零——两块石头的波纹隔得太远，完全不重叠。
- 永远平稳：石头只扔了有限块，波纹总会散完，不会越积越高。这就是为什么 MA 部分不影响平稳性。
- θ 是"波纹残留的比例"：θ 越大，这块石头的余波越持久。
可逆性：若特征多项式
1 + θ₁z + … + θ_qz^q = 0
的所有根都在单位圆外，则 MA(q) 可逆——可以等价地写成 AR(∞) 形式。可逆性的实际意义是：给定观测数据，能够唯一地反推出 εₜ 的历史。不可逆的 MA 模型无法用于预测。
自协方差：
γ₀ = σ²(1 + θ₁² + … + θ_q²)
γₖ = σ²(θₖ + θₖ₊₁θ₁ + … + θ_qθ_q₋ₖ)， 1 ≤ k ≤ q
γₖ = 0， k > q
ACF：在 k > q 后截尾（严格为零）。这是 MA 最鲜明的特征。
PACF：拖尾（指数衰减或振荡衰减）。
3.2 自回归模型 AR(p)
yₜ = c + φ₁yₜ₋₁ + … + φ_pyₜ₋p + εₜ
打个比方：AR 就是回声，或者说是惯性。今天的值主要是"昨天的值打个折"，再叠一点新扰动；φ 就是这个折扣率。
三种情况一眼分明：
- |φ| < 1：每次回声都比上一次弱（0.9 → 0.81 → 0.73 …），最终消失——平稳。
- φ = 1：回声不打折，原封不动往下传——随机游走，方差越积越大。
- |φ| > 1：回声一次比一次响，最后炸掉——爆炸，现实里不会长期存在。
AR(2) 出现"衰减振荡"，是因为二阶系统有两个回声源在互相叠加，像钟摆左右摆着、越摆越小，最后停下。
平稳条件：特征方程
1 − φ₁z − … − φ_pz^p = 0
的所有根都在单位圆外。
低阶情形可以写成更直观的形式：
- AR(1)：|φ₁| < 1
- AR(2)：φ₁ + φ₂ < 1，φ₂ − φ₁ < 1，|φ₂| < 1（这三个不等式围成三角形平稳域）
均值：
E(y) = c / (1 − φ₁ − … − φ_p)
注意分母是 1 减去全部自回归系数之和。当 Σφᵢ 接近 1 时，均值会被放大得很大——这也是"接近单位根"的另一种表现。
ACF：拖尾。AR(1) 为 ρₖ = φ₁ᵏ 的指数衰减；AR(2) 在判别式为正时指数衰减，为负时呈衰减振荡。
PACF：p 阶后截尾。
3.3 ARMA(p, q)
yₜ = c + Σᵢ₌₁ᵖ φᵢyₜ₋ᵢ + εₜ + Σⱼ₌₁^q θⱼεₜ₋ⱼ
打个比方：ARMA 就是被推的秋千。秋千自己有固有频率，你松手后它还会按自己的节奏晃一阵（AR 部分）；而推你的那只手也不是瞬间离开，掌心还留着一点余力（MA 部分）。两种效应叠在一起，就是 ARMA。
这条比喻正好解释了下面那条分工：秋千会不会越晃越大，只看它自己的固有频率——AR 决定平稳性；能不能从晃动轨迹反推出每一把推力——MA 决定可逆性。两件事互不干涉。
★ 一条必须记住的分工：
- 平稳性只由 AR 部分决定（MA 部分不影响平稳性，因为它是有限个白噪声的组合）；
- 可逆性只由 MA 部分决定（AR 部分不影响可逆性）。
ACF 与 PACF 都拖尾，这是 ARMA 的识别特征，也是它难以定阶的原因。
★ 参数冗余问题。 ARMA(1,1) 中若 φ ≈ −θ，则 (1 − φB)yₜ = (1 + θB)εₜ 两边的多项式近似相等，可以约掉，模型实际退化为白噪声。此时系数估计值会很大、标准误更大、两者高度负相关。这是"参数不可识别"的典型表现，处理办法是降阶。
3.4 Green 函数与 MA(∞) 表示
任何平稳可逆的 ARMA 模型都可以写成无穷阶移动平均形式：
yₜ = μ + Σⱼ₌₀^∞ ψⱼεₜ₋ⱼ， ψ₀ = 1
系数 ψⱼ 称为 Green 函数（也叫脉冲响应函数），它表示"第 t−j 期的一个单位冲击对第 t 期的影响"。它由 ARMA 算子之比展开得到：
打个比方：ψⱼ 就是涟漪在第 j 期还剩多高。往水里扔一块石头（一次单位冲击），水花当时最高（ψ₀ = 1），之后一期比一期低。整条 ψ₀, ψ₁, ψ₂, … 就是这次冲击的"余波曲线"。
曲线一画出来，很多事就直观了：衰减得快 = 记性差，冲击很快过去；衰减得慢 = 冲击会拖很久；完全不衰减（ψⱼ 恒为 1）= 随机游走，一次冲击永久改变水平。第八章的预测误差方差，本质就是把这条曲线上的值平方求和——余波越长，预测越没底。
ψ(B) = θ(B)/φ(B)
以 ARMA(1,1) 为例，yₜ = φyₜ₋₁ + εₜ + θεₜ₋₁：
ψ₀ = 1
ψ₁ = φ + θ
ψⱼ = φ^(j−1)(φ + θ)， j ≥ 2
Green 函数的三个用途：
- 算自协方差：γₖ = σ² Σⱼ₌₀^∞ ψⱼψⱼ₊ₖ
- 算预测误差方差（第八章）
- 判断冲击的持续性：ψⱼ 衰减越快，记忆越短
3.5 平稳域与可逆域
| 概念 | 由谁决定 | 条件 | 违反的后果 |
|---|---|---|---|
| 平稳域 | AR 部分 | AR 特征根在单位圆外 | 序列非平稳，方差随时间增长，无法用 ARMA 描述 |
| 可逆域 | MA 部分 | MA 特征根在单位圆外 | 无法由数据反推 εₜ，预测不可行，且同一 ACF 对应多个 MA 模型 |
边界情况：根恰好落在单位圆上（模 = 1）即为单位根，既不平稳也不可逆。
打个比方：这两个"域"管的是两件完全不同的事，别混在一起记。
- 平稳域管"会不会失控"：序列自己会不会越走越散。根跑进圆内 = 回声越来越大 = 爆炸。
- 可逆域管"能不能倒推"：能不能从看到的结果反推出当初的冲击。MA 不可逆，意味着好几组不同的 ε 能生成完全相同的 y，你分不清到底是哪一组——就像听到一段和声，却判断不出是三个人唱的，还是两个人唱出来的效果。
一句话：一个管"未来稳不稳"，一个管"过去能不能还原"。 前者决定能不能建模，后者决定能不能预测。
★ 数值实现上的陷阱。 软件求根是浮点运算，"根在单位圆外"的判断需要一个阈值。实践中常见 MA 根 = 1.0000002 这种"差一点点"的情况——数学上它在圆外，统计上它等同于不可逆，此时模型的预测会极不稳定。合理的做法是设一个宽松边界（如要求最小根 ≥ 1.0001），把临界情况当作不可逆处理，并在结果中记录被剔除的原因。
打个比方：这就像门框量出来"刚好能过"——数学上宽了 0.0002 毫米，人走过去照样卡住。判据不能只看"在不在圆外"，要看"离边界还有多远"。所以实践里要设一个宽松门槛，把这种"擦边过"的模型直接当不可逆剔掉，而不是让它混进候选集。
3.6 Yule-Walker 方程
对 AR(p)，两边同乘 yₜ₋ₖ 取期望并除以 γ₀，得到
ρₖ = φ₁ρₖ₋₁ + φ₂ρₖ₋₂ + … + φ_pρₖ₋p， k ≥ 1
取 k = 1, 2, …, p，得到 p 个方程的线性方程组：
P φ = ρ
其中 P 是 ρ 组成的 Toeplitz 矩阵。解出 φ 即得矩估计。
打个比方：这是根据听到的音色反推调音台旋钮。你听到的最终声音（ρ₁, ρ₂, … 这些自相关）是几个旋钮（φ₁, φ₂, …）组合出来的结果；Yule-Walker 就是那组"把听到什么翻译成旋钮拧在几档"的方程。因为旋钮和音色之间是线性关系，能直接解方程，不用一档一档试。
也正因为它只是个线性方程组，算起来极快——这正是它至今还被拿来当迭代初值的原因。
三个用途：
- 矩估计：用样本 ρ̂ 代入解 φ̂。
- 算 PACF：k 阶方程组的最后一个解就是 φₖₖ。
- 判断平稳性：若解出的 φ 使特征根落在单位圆外，则非平稳。
3.7 ACF/PACF 理论特征总表
| 模型 | ACF | PACF |
|---|---|---|
| 白噪声 | 全部为零 | 全部为零 |
| AR(p) | 拖尾（指数/振荡衰减） | p 阶截尾 |
| MA(q) | q 阶截尾 | 拖尾 |
| ARMA(p,q) | 拖尾 | 拖尾 |
图 3-1 ACF 与 PACF 的四种典型形态（浅蓝带为 ±1.96/√n 的 95% 置信带）
★ 这张图只能用于初步判断，不能用来定阶。 原因有三：样本 ACF 本身有抽样误差，"截尾"在图上很少干净利落；混合模型（ARMA）两者都拖尾，无法区分阶数；季节性和结构变化会污染 ACF 的形状。正确的用法是：用这张图给出初始候选，再用信息准则或样本外误差做最终选择。
打个比方：ACF/PACF 图就是指纹。指纹能认出"这是 AR 还是 MA"（型号对得上），却认不出"具体是第几号"（阶数）。指纹匹配只能缩小嫌疑人范围，最终定案还得靠信息准则和样本外检验这些"证据"。
顺带一句怎么记这张表：ACF 看"总关系"，PACF 看"直接关系"。MA 是有限块石头的余波，隔够远就彻底无关，所以总关系会断（ACF 截尾）；AR 是回声接力，隔多远都能间接传过去，所以总关系断不了（ACF 拖尾）。把这一条想通，表就不用背了。
要点
- MA 永远平稳，可逆性由 MA 根决定；AR 平稳性由 AR 根决定。
- AR(p) 的 PACF 在 p 阶截尾，MA(q) 的 ACF 在 q 阶截尾，ARMA 两者都拖尾。
- Green 函数 ψ(B) = θ(B)/φ(B)，是算方差、算预测、看冲击持续性的统一工具。
- Yule-Walker 方程既用于矩估计，也用于算 PACF。
- 根接近单位圆时，数学上成立但统计上不可用，需要设阈值剔除。
自测 3 问
Q1：AR(p)、MA(q)、ARMA 的 ACF 和 PACF 各有什么特征？
点开看答案
- AR(p)：PACF 在 p 阶截尾，ACF 拖尾；
- MA(q)：ACF 在 q 阶截尾，PACF 拖尾；
- ARMA：ACF、PACF 都拖尾。
Q2：MA 模型一定平稳吗？AR 和 MA 的平稳性、可逆性分别由什么决定？
点开看答案
MA 永远平稳（有限个白噪声的加权和）；MA 的可逆性由 MA 根决定。
AR 的平稳性由 AR 根决定。根接近单位圆时，数学上成立但统计上不可用，需要设阈值剔除。
Q3：Green 函数 ψ(B) 是什么？它有什么用？
点开看答案
ψ(B) = θ(B)/φ(B)，把 ARMA 写成 MA(∞) 形式：Xₜ = Σψⱼεₜ₋ⱼ。
它是统一工具：算方差、算预测误差、看一个冲击能持续多久，都靠这组 ψ 权重。