統計における各種推定量まとめ(不偏性、有効性、一致性、十分性)


各種推定量まとめ

統計検定やアクチュアリー試験等でよく出題される、統計分野の基本的な推定量についてまとめます。

不偏推定量

推定すべき未知パラメータ $\theta$ について、$E(T) = \theta$が成立するとき、$T$を$\theta$の不偏推定量と呼ぶ。

有効推定量

$\theta$の不偏推定量のうち、分散が最小のものを有効推定量、または最小分散不偏推定量と呼ぶ。
有効推定量は、以下に示すクラメール・ラオの不等式において等号が成立する。

V(T) \geq \frac{1}{-nE\left( \frac{\partial ^2 \log f}{\partial \theta ^2} \right)}

上の式において分母からnをとったものをフィッシャー情報量という。

I_N (\theta) = -E\left( \frac{\partial ^2 \log f}{\partial \theta ^2} \right)

一致推定量

以下の式を満たす推定量$\hat{\theta}_n $を一致推定量と呼ぶ。

\lim _{n \to \infty} P \left( \vert \hat{\theta}_n - \theta \vert > \varepsilon \right) = 0

一致性は以下のチェビシェフの不等式により確認されることが多い。

P(\vert X -\mu \vert \geq k \sigma) \leq \frac{1}{k^2}

十分推定量

確率密度関数が以下のように分解できるとき、$T$を十分推定量という。

\prod _{i=1} ^n f(x_i) = g(T(\boldsymbol{x});\theta)h(\boldsymbol{x}) 

参考

アクチュアリー試験 合格へのストラテジー 数学