統計検定１級の統計数理対策として、久保川先生の白本と青本を勉強してきました。
しかし近年の統計検定１級では初見色が強い問題傾向が見られます。そのため合格者の方々から支持がある黒木先生の『数理統計学』をしっかりと学んでいきたいと思います。
尤度方程式による解法とその問題点
最尤推定量だけを示したいならば冗長な証明になっています。
例9.1：正規母集団からのパラメータの最尤推定
超典型なので今回は省略します。
例9.2：一様分布からの無作為標本をとったときのθの最尤推定
ただしこの修正した推定量も有効推定量にはなりません。それは推定したいパラメータθそのものによってデータの存在する範囲が制限されており、境界線上で尤度関数を微分することができないため、正則条件を満たしていないことになるためです。
例9.3：尤度方程式の解を吟味する問題
尤度方程式の解が必ず最大値を与えるのは、有効推定量を持つ場合です。一般的に有効推定量は持つかは不明なのでその都度最大性を吟味する必要があるのです。
テキストでは標本平均が負の時に最尤推定量が存在しないことのみに言及していました。場合分けの観点から標本平均をそれ以外の場合に広げて考察しています。
尤度方程式の解が最尤推定量である十分条件は，対数尤度関数が θ に関して上に凸となる関数であることであり，対数尤度関数の二次導関数が存在するときには，それが任意の θ に対して負値をとっていることです。
例9.4：尤度方程式を解けない場合
超幾何分布のときは尤度関数の比を考えていきます。
最尤推定量の漸近正規性
十分統計量
基本的概念
まず次のことをおさらいします。途中で出てくるからです。
例9.5：ベルヌーイ分布
ラオ・ブラックウェルの定理
何らかの良い推定量を選択することを考える際に、平均二乗誤差の立場から考えるのがラオ・ブラックウェルの定理です。
この証明において不偏性の条件はなくても不等式自体は証明できます。
例9.6：推定量の改訂
言葉が非常に数学的で難解ですが、直感的な言葉に翻訳すると、言っていることは「Tを使って『期待値がゼロになるような意味のある関数（仕掛け）』を作ろうとしても、絶対に作れない（すべてゼロに潰されてしまう）」ということです。
例9.7：完備十分統計量の例
例9.8：レーマン・シェフェの定理の使い方
モーメント推定量
また、実数値関数gが以下のような条件を満たすときにデルタ法を考えることができます。
例9.9：モーメント推定量と最尤推定量が一致しない場合
例9.10：モーメント推定料が適切でない場合
演習問題
問題9.1：ラプラス変換の一意性の利用
ラプラス変換の一意性を用いると完備性の証明部分は一瞬で終わります。おすすめ参考書は下記です。
問題9.2：冪級数の一意性
問題9.3：多項分布とデルタ法
問題9.4：ラプラス分布と最尤推定量
