最少二乗推定量の共分散Cov(αハット,βハット)の計算について

このQ&Aのポイント
  • 最少二乗推定量の共分散Cov(αハット,βハット)の計算式を解説します。
  • 計算式の(ii),(iii),(vi),(vii)の導出過程を詳しく説明します。
  • 最少二乗推定量の共分散Cov(αハット,βハット)についての詳細な解説です。
回答を見る
  • ベストアンサー

最少二乗推定量の共分散Cov(αハット,βハット)

最少二乗推定量の共分散Cov(αハット,βハット)の計算について教えてください。 ☆ci=(xi-xバー)/[i=1,n]Σ(xi-xバー)^2 ☆xバー=1/n*[i=1,n]Σxi ☆E(αハット)=α ☆E(βハット)=β ☆誤差項εiの分散はσ^2 とするとき・・・・・ Cov(αハット,βハット) =Cov(α+[i=1,n]Σ(1/n-ci*xバー)*εi,β+[i=1,n]Σci*εi)・・・(i) =Cov([i=1,n]Σ(1/n-ci*xバー)*εi,[i=1,n]Σci*εi)・・・(ii) =E(([i=1,n]Σ(1/n-ci*xバー)*εi)*([i=1,n]Σci*εi))・・・(iii) =E([i=1,n]Σ(1/n-ci*xバー)*ci*εi^2)・・・(iv) =[i=1,n]Σ(1/n-ci*xバー)*ci*E(εi^2)・・・(v) =σ^2*[i=1,n]Σ(1/n-ci*xバー)*ci・・・(vi) =(-xバー*σ^2)/[i=1,n]Σ(xi-xバー)^2・・・(vii) こうやって計算するみたいんですが、 計算式の(ii),(iii),(vi),(vii)がどうしてそうなるのかわかりません。 どなたか、わかりやすく教えてください!!!

  • 8lu3
  • お礼率16% (1/6)

質問者が選んだベストアンサー

  • ベストアンサー
  • ramayana
  • ベストアンサー率75% (215/285)
回答No.1

(ii)について (i)から(ii)への変形は、αやβといった定数が差し引かれているだけです。2つの確率変数の共分散は、それぞれの確率変数から定数を差し引いても不変なので、このような変形が可能です。 (iii)について 2つの確率変数X、Yの共分散Cov(X, Y)は、   Cov(X, Y)=E((X-E(X))(Y-E(Y))) で定義されます。   X= [i=1,n]Σ(1/n-ci*xバー)*εi   Y=[i=1,n]Σci*εi とすれば、E(X)=E(Y)=0なので、上の定義式に当てはめて(iii)が得られます。なお、質問にはっきり書いてありませんが、E(εi)=0を仮定しているはずです。 (iv)を飛ばして(v)について (iii)のシグマの中を項別に掛け算して    E(([i=1,n]Σ(1/n-ci*xバー)*εi)*([i=1,n]Σci*εi))    =E( [i=1,n;j=1,n]Σ(1/n-ci*xバー)*εi*cj*εj)    =E( [i=1,n;j=1,n]Σ(1/n-ci*xバー)* cj *εi *εj)    = [i=1,n;j=1,n]Σ(1/n-ci*xバー)* cj * E(εi *εj) となります。なお、最後の変形は、Eの中の足し算や定数倍がEの外に出せることを使っています。 また、これも質問にはっきり書いてありませんが、E(εi *εj)=0を仮定しているはずです。したがって、上の式は、j=iのときだけの和になって、   =[i=1,n]Σ(1/n-ci*xバー)*ci*E(εi^2) となります。 (vi)について E(εi)=0ですから、   E(εi^2)=「εiの分散」= σ^2 です。 (vii)について (vi)のciに、ci=(xi-xバー)/[i=1,n]Σ(xi-xバー)^2を代入します。

関連するQ&A

  • 【緊急です】期待値、分散について

    【緊急です】期待値、分散について 今日の統計学の試験勉強をしていたら以下の質問がわからなくなり、困っています。 平均E(x)=5、E(x^2)=30のとき分散Var(x)=??となる。さらにE(y)=1,E(xy)=-1ならば、共分散Cov(x,y)=-6である。n-3のとき平均u、分散σ^2=1の正規母集団から無作為抽出された標本(x1,x2,x3)について、Σi=1 n(xi―標本平均値xバー)^2の期待値E(Σ(xi―標本平均値xバー)=???である。またE(Σ(xi-u)^2=???となる。 以上3点の問題がわかりません。噛み砕いて説明していただけると幸いです。

  • 不偏分散、ガンマ分布、そして不偏推定量

    X1..Xnは独立で標準分布、期待値μ、分散σ^2。不偏分散s^2=1/(n-1) Σ(Xi - X')^2, X'=1/n ΣXi, で iは1からnまでです。X'はガンマ分布Γ(α、λ)に従い、α=(n-1)/2, λ=(n-1)/(2*σ~2)です。 (a) ガンマ分布を利用して、s^2がσ^2の不偏推定量であることと、その分散を求めよ。 (b) T(k)=k*s^2、kは定数 を考えます。その際に、T(k)の偏り と 分散をσ^2の推定量で表せ。そして、T(k)の 誤差の平方は(MSE)を最小値にするkを求めよ。 と言う問題があります。 最初にs^2=1/(n-1) Σ(Xi^2 - n X'^2)と表し、E(X')=σ^2と言う準備はできたのですが、それ以降さっぱりここ3,4日間考えてますがわかりません。回答は自分で導きたいと思ってますので、アドバイスをいただけないでしょうか?

  • 最小二乗法/共分散

    Y_i =α+βX_i + ε_i ・・・母集団回帰関数 Y(ハット)_i=a+bX_i ・・・標本回帰関数 bをβの推定値、εを攪乱項とする。 このとき、cov(b,ε(バー))=0となることを証明せよという問題です (※ただしε(バー)=Σ(i=1~n)(ε_i/n) とする)。 この問題の解き方を教えていただけないでしょうか。 加えて、ε(バー)というのはE(ε)と同じことなのでしょうか(古典的モデルだとE(ε)=0と仮定されるようなので)

  • 不偏推定量:平均二乗誤差

    不偏推定量に対して、平均二乗誤差を求める問題で 計算に困っています。 データX1,X2,...,Xnがとある分布から独立に得られています。 ここでパラメータλに対する 不偏推定量 T1=(1/n)Σ(i=1~n)Xiにおいて平均二乗誤差を求める。 平均二乗誤差 =E((T1-λ)^2) =E(((1/n)ΣXi -λ)^2) =E((1/n)^2*(ΣXi-nλ))^2) =(1/n)^2* E((Σ(Xi-λ))^2) ここまではいいのですが E((Σ(Xi-λ))^2)をうまく処理できません。 授業では E((Σ(Xi-λ))^2)=Σ(E((Xi-λ)^2)と処理していたようなのですが、 どうしてもこの式が同値であることに納得いきません。 E((Σ(Xi-λ))^2) = E(Σ(Xi-λ)) * E(Σ(Xi-λ)) = Σ(E(Xi-λ)) * Σ(E(Xi-λ)) = (Σ(E(Xi-λ)))^2 なら 納得いくのですが…これではこの先計算できないなぁと困っている次第です。 もしよろしければ アドバイスをください。よろしくお願いします

  • 共分散について

    確率変数X1,X2,X3,X4があり、独立でないとき V(X1+X2+X3+X4)=V(X1)+V(X2)+V(X3)+V(X4)+2COV(X1,X2)+         2COV(X1,X3)+2COV(X1,X4)+2COV(X2,X3) +2COV(X2,X4)+2COV(X3,X4) で よろしいでしょうか??共分散の扱いがわかりません。一般に 確率変数Xi(i=1,2、・・・・n)のとき V(X1+X2+X3+・・・・+Xn)=どうなるのでしょうか??

  • 統計解析の問題(分散など)

    X1~Xnを母平均μと母分散σ^2の同一母集団から無作為に抽出されるn個の確率変数とする。 標本平均{Xn}(アッパーバーを表記できないので代わりに)と分散推定量Un^2をそれぞれ {Xn}=(1/n)*Σ(Xi)[i=1~n] Un^2=(1/(n-1))*Σ(Xi-{Xn})^2 とする。 このときXi(i=1~n)の確率密度関数が f(x;μ)=(1/μ)*exp(-x/μ)(x>0) 0(x≦0) のとき、V[{Xn}]を求めよ。(ただし、母分散σ^2はμで表すこと) また、{Xn}が母平均μの有効推定量であることを示せ。 という問題について、この場合、E[Xi](期待値)=μ、E[Xi^2]=σ^2+μ^2ということは分かったのですが、 σ^2をμで表す過程で躓いています。 MXi(t)=∫e^tx*(1/μ)*exp(-x/μ)dx(積分範囲-∞~0)+∫e^tx*0dx(積分範囲0~∞) を計算するところで止まっています。 ∫e^tx*(1/μ)*exp(-x/μ)dx(積分範囲-∞~0)をうまいこと計算するにはどうしたらいいでしょうか?

  • 最小二乗法の分散の求め方

    http://oshiete1.goo.ne.jp/qa3077638.htmlに関連しての質問です。 例えば、y=Xβ+εに関して最小二乗解を求めると b = [ nΣ(xi yi) - (Σxi) (Σyi)]/[ nΣ(xi^2) - (Σxi)^2 ] となります。ここから分散を求めるためにはどうすればよいのでしょうか?教科書を引っ張ってみると求め方の行列の式しか書いていなくいまいちピンときません(確かに計算すれば正しい結果を得られるようですが)。具体的にこの式だけを使って分散を求めるということはできないのですか?

  • 統計学 - 最小二乗推定量の不偏性の証明について

    初めて質問させていただきます。 統計学を勉強しているのですが、標記の証明について、どうしても理解できないところがあります。 添付ファイルのE[β^]の計算のところで、第2項の分子がなぜΣ(Xi - Xバー)E[ui]になるのかわかりません。 赤枠で囲まれたβ^の定義に基づいて期待値をとるなら、第2項の分子はΣ(Xi - Xバー)E[ui]ではなく、E[Σ(Xi - Xバー)ui]、若しくは和と期待値を交換してΣE[(Xi - Xバー)ui]となると思いますが、ΣE[(Xi - Xバー)ui] = Σ(Xi - Xバー)E[ui]のような式変形が可能なのはなぜでしょうか。 なお、テキスト全文へのリンクはこちらになります(添付の箇所は15ページ目です)。各変数の定義など確認いただければと思います。 https://www.fbc.keio.ac.jp/~tyabu/econometrics/econome1_3.pdf どうぞ宜しくお願い致します。

  • 分散の求め方について

    基本的なことで申し訳ありませんが、本当に困っています。 分散v=Σ(xi-x)2/n-1 を用いた計算の仕方を教えてください。 特にxiの意味が分からずに困っています。 例題)トウモロコシの穂長 5インチが4つ、6インチが21つ、7インチが24つ、8インチが8つ。 観察数n=57、平均値x=6,63 これ以降の分散の仕方を教えてください。

  • 標本平均の分散

    X1,X2,...,Xnは N(μ,1)に従います。 分散は既知で、帰無仮説H0,対立仮説H1 を H0: μ=0 H1: μ=1 とする。 このとき、期待値μの推定量として X' = Σ<1 n> a(i) * Xi ただし、Σ<1 n> a(i) =1 を考える。 ※ ここでは a(i)は数列 a(1),a(2)....,a(n) の第i項とする。 有意水準αとしたとき 棄却域を求めよ。という問題です。 自分の対応↓ X'の平均は言うまでも無く μ。 次にX'の分散を考えたのですが、求められません。 自分で計算したら V(X')= E((X'-μ)^2) = ... = n*Σ(a(i))^2 となり、a(i)が残ってしまいます。  この計算は合っているのでしょうか? アドバイスお願いします。