統計検定1級の統計応用理工学の時系列解析の内容はARMAモデル以降は急激に難易度が上がり、数値計算などの比重が高くなり、人力で作業を行う統計検定1級の試験形式と相性が悪くなりそうだと気づき、理工学対策としては数理面の押し出しが強いARMAモデルまでの内容を、しっかりと対策することがベストだという結論になりました。
本記事ではARMAモデルまでの内容を社会科学受験での支持が厚い『経済・ファイナンスデータの計量時系列分析』を軸に学習していきます。
上のXの投稿では多めの内容を提示していますが、実際の理工学の問題を見ていると、そもそも時系列分析自体が大問としての出題頻度が低いことと、あまり深めすぎると社会科学の内容へシフトしてしまうことから、学習効率を考えて、時系列分析の基礎概念→ARMA過程(の推定の手前まで)を『経済・ファイナンスデータの計量時系列分析』を用いて学習していきます。
本記事を学習することによって、理工学分野の出題4大分野である「実験計画法と分散分析」、「生存時間解析」、「確率過程」、「時系列解析」の1つの分野の頻出部分を学習したことになります。
時系列分析の基礎概念
時系列分析の基礎
確率過程の考え方を時系列分析に適用したものを時系列モデルといいます。
原系列に対数変換を行うと対数系列になります。また開催系列のことを差分系列とも言います。


実際は半正定値性になります。正定値の場合は、データが完全に互いに独立(あるいは冗長性がないフルランクの状態)である場合に限られます。

ちなみに主小行列式と首小行列式は異なる概念です。首小行列式(首座小行列式のこと)は主小行列式の一部です。3次行列だと首小行列式は「左上隅から順にサイズを大きくして得られる小行列式」のため全部で3つですが、主小行列式では対角成分を含むように「同じ行、列の番号」を選んで作られる小行列式のため組み合わせが7個(2^3-1)存在します。1を引く理由は、行も列も選ばないと行列が作れないためです。底が2なのは「どの行、どの列を選ぶか」を決めるためです。受験数学の部分集合の総数の考えと同じです。
首座小行列式と主小行列式の復習
以下は統計検定1級で必要になる可能性がある線形代数の内容です。

ヘッセ行列を用いた極値判定のルールは、極値をとるための十分条件を調べるためのルールです。その行列が正定値かなどか負定値か不定値で極大値、極小値、極値ではないを判断できます。そのため首座小行列式を用います。

関数の局所的な最小値と広域の最小値の判定でも違いがあります。

しかしかといって主小行列式≧0だからと言って極小値が必ず存在するとも言えませんので注意が必要です。

定常性
定常性により時点全体をkだけ過去にずらしても期待値は変わりません。記号の内容よりも定常性の意味を考えれば自明な結論です。意味的には今日と過去の関係(ラグが+k)と今日と未来の関係(ラグがーk)は、どちらも今日とk日の差があるため定常性が成り立つならば同じことを言っています。
kは時間差を表します。時差という表現よりも時間差という言葉のようが良いようです。

ホワイトノイズ

ホワイトノイズとiid系列の関係性について正規過程を導入します。そのためには多変量正規分布の内容が必要になりますので、ここで分散共分散行列が特殊な場合(対角行列の場合)についての有名な定理を紹介します。

それでは上述の内容を用いて、弱定常過程とホワイトノイズとiid系列の違いについてまとめます。

自己相関の検定
ここではボックス・ポアソン統計量とそれを改良したリュング・ボックス統計量が登場します。
これはアクチュアリー数学のテキストにも記載があります。
ただし途中のバートレットの公式は既知として使って良いと思われます。

ARMA過程
ARMAモデルは以後複雑なモデルの基盤となるモデルです。
ARMA過程の性質

MA過程
MA過程はホワイトノイズを拡張した過程でホワイトノイズの線形和として表現されます。

AR過程
ユール・ウォーカー方程式は弱定常性が満たされないと使えません。

周期とはラグkがどれくらい進んだら同じ形に戻ってくるか?から考えています。受験数学の数学の周期とは少し違うので要注意です。
ARMA過程

ARMA過程の定常性と反転可能性
AR過程は定常であるとは限らず、MA過程は常に定常ですが任意のMA過程において同一の期待値と自己相関構造をもつ異なるMA過程が複数存在する問題があります。そのため自己相関のモデル化という観点からはどのモデルを選択すればよいか定かではありません。MAモデルを選択する別の基準について反転可能性という概念があります。
AR過程の定常性

MA過程の反転可能性

幾何級数的にという表現は離散値を強調したい場合に用い、指数関数的という表現は減衰のイメージを強調したい時に使い分けるようです。
ARMA過程の定常・反転可能性

この最後の結論がアクチュアリー数学に出てくるARMA(1,1)の分散公式なのですね!
以上で統計検定1級の理工学分野での時系列解析としての学習を終了します。
