平均2乗誤差の分解について

質問

こんにちは。
平均2乗誤差（E(\hat{\theta}-\theta)）が，誤差分散とバイアスの2乗に分解できると聞いたのですが，どういう意味でしょうか？
よろしくお願いします。

回答No.2

kagu_march · ベストアンサー

その部分が消える理由は以下の計算からです。
見辛いですが、ご勘弁下さい。

E((\hat{\theta}-E(\hat{\theta}))(E(\hat{\theta}-\theta)))
の一番外側のEの括弧の中を全て展開しますと、以下のようになります。なお、表記がややこしいので、
\hat{\theta}=H\theta
\thetaはそのまま
のようにして書いています。*は「掛ける」という事です。

=E[H\thetaE(H\theta)-\theta*H\theta-E(H\theta)*E(H\theta)+\theta*E(H\theta)]
=E(H\theta)*E(H\theta)-\theta*E(H\theta)-E(H\theta)*E(H\theta)+\theta*E(H\theta)
=0
だからです。なお、E(\theta)=\thetaになりますし、E[E(H\theta)]=E(H\theta)になります。前者は、\thetaがtrue valueという事で、非確率変数であるから、後者は、E(H\theta)が非確率変数である事から従います。

お礼

ありがとうございます。納得しました。

回答No.1

kagu_march

\thetaの推定量\hat{\theta}は、次のように定義されます。
MSE(\hat{\theta}):=E[(\hat{\theta}-\theta)^2]

誤差分散と、バイアスの二乗に分解できるというのは、
MSE=E[(\hat{\theta}-\theta)^2]
=E[(\hat{\theta}-E(\hat{\theta}))^2](分散)+
E[(E(\hat{\theta})-\theta)^2](バイアス)
のように分解できる事を言います。

とりあえず分解の詳細だけ書きましたが、具体的な疑問点(証明等)を
書いて頂ければ、と思います。

お礼

ありがとうございます。
式を展開したときに出てくる
E((\hat{\theta}-E(\hat{\theta}))(E(\hat{\theta}-\theta)))
の部分がなぜ消えるのかよくわからないのですが・・・
よろしくお願いします。