理論的基盤

Woldの表現定理

平易に言うと: AR/MAのような単純な線形式で複雑な現実の時系列を近似してよい理由を保証する定理。実務のモデリングというより、後続の手法の妥当性を支える理論的な柱。

前提知識

ARIMAなど線形モデルがなぜ妥当かを理解したい場面。[[lag-operator-box-jenkins]]や[[arima]]の理論的な出発点として参照される。

なぜ複雑な現実の時系列データをAR(自己回帰)モデルやMA(移動平均)モデルといった線形数式で近似してよいのか。その数理的根拠を与えるのがWoldの表現定理である。

決定論的トレンドを除去した任意の弱定常過程Xtは、平均0・分散有限の確率変数が作る広義のヒルベルト空間L^2上のベクトルとみなせる。時刻t-1までの過去の全データが張る閉部分空間をM(t-1)とするとき、今日のデータXtを過去の情報空間へ写像する操作は直交射影によって定義される。

\hat{X}_t = P_{\mathcal{M}_{t-1}} X_t

ある点から平面への最短距離が垂直に下ろした線であるのと同様、予測誤差の分散を最小にする線形予測値は、過去の空間へ垂直に射影したベクトルとなる。

この射影操作を過去に向かって再帰的に繰り返すと、任意の弱定常過程は、過去のイノベーションの無限和(純非決定論的成分)と、過去の情報から誤差なく予測できる成分(決定論的成分Vt)の和へと一意に分解できる。

X_t = \sum_{j=0}^{\infty} \psi_j \epsilon_{t-j} + V_t \quad \left(\psi_0 = 1,\ \sum_{j=0}^{\infty} \psi_j^2 < \infty\right)

無限個のパラメータψj(動学ウェイト、MA係数)は、j期前に発生したショックが当期のXtにどれだけ残存しているかを示す感度(インパルス応答)を意味する。ウェイトの二乗和が有限に収束する二乗可和条件が、過去の記憶が適切に減衰していく挙動を担保し、定常性の必要十分条件となる。

この定理により、いかなる複雑な定常データも本質的には過去の独立なショックの線形積算(MA(∞)過程)として代数的に還元できることが保証される。