• 締切済み
  • 困ってます

重み付けを用いた場合の回帰係数の分散の求め方

x に関する 0 次式 y = a0 について、正規分布を仮定できる場合、複数の観察値から、真の値 μ の推定値として、最小二乗法で平均値、その平均値に基づいて、分散を求めるときは、観察値と μ との誤差に Weight をかけても結果は変わりません。 次に x に関する一次式 y = a0 + a1x において、複数の観察値 (xi , yi) から、最小二乗法を用いて、a0、a1 の推定値を求めることができます。 伺いたいのは、この場合の a0、a1 は、平均値そのもので、この場合、a0、a1 の分散をどう求めるのか、また推定を行なうとき、誤差 yi - (a0 + a1xi) の二乗に Weight をかけた場合の分散をどう求めるか、の二点です。 これをきちんと解説した成書でも結構ですので、教えてください。

共感・応援の気持ちを伝えよう!

  • 回答数2
  • 閲覧数593
  • ありがとう数0

みんなの回答

  • 回答No.2
noname#21649
noname#21649

> の分散をどう求めるか。 「分散」が存在するためには.前提条件として.「母集団が正規分布を示すこと」が必要です。したがって.正規分布に「 Weight をかけた」状態では.分散が存在しません。2山分布・3山分布等の分布の場合に中央の大きな山だけを残して左右の小さな山を除去するのが「Weightをかけた」状態です。数学的に解を求めるのには難があると当時解釈しました。 棄却検定を行って数値を除くか.残差二乗によって重みをかけて実質的に除くか.の議論がある とまでは調べていますが.その後どうなっているかはわかりません。 >ちんとした解説のある成書を教えてい 最近の本を知らないので回答不能。お騒がせしました。

共感・感謝の気持ちを伝えよう!

  • 回答No.1
noname#21649
noname#21649

>Weight をかけた のWeightの定義は? 通常の正規分布の最小に情報の場合には. データ数が区間Aで10個あるから.区間Aの中央値Bに重み10をかける という使う方をします。 10個なんて少ない数ではなくて1000個ぐらいになってしまった場合に通常の最小に情報計算ソフトでは数が大きすぎて計算できませんから。 正規分ぷ以外の分布の場合には.正規分布に分布を合わせるために重みを使う(異常値の削除)場合があります。 小泉.最小二乗法のなんとか...,Up応用選書・東京大学しゅっゅぱんかい。

共感・感謝の気持ちを伝えよう!

質問者からの補足

Sum(εi^2) を求め、0 次であれば、これを最小にする a0 は簡単に求まり、Sum((εi^a0)^2) から、分散は出ます。同様に一次であれば、a0、a1 は求まりますが、ここから、a0、a1 の分散をどう求めるか。 また、この際、Sum(wi*εi^2) と、Weight (wi) を用いたときどうなるか。 をお聞きしたいのです。n 数によらず、一般的には示せる筈なので。また、xi そのものを Weight として計算すると、VST 法に一致しますね。そういった意味です。 この場にテキスト形式のみで説明を求めるのには無茶があるので、きちんとした解説のある成書を教えていただければ、結構です。

関連するQ&A

  • BASIC言語  分散の出し方

    BASIC言語の問題が分からないので、教えてください。 分散がうまく出せません(+o+) 下に問題と自分の回答を張り付けたので、お願いしますm(__)m <演習問題2> 最小二乗法(直線のあてはめ)を用いて回帰式と相関係数を算出する。 作成手順:   1. READ~DATA 文によるデータの配列変数への読み込み   2. Xi の和、Yi の和、Xi の平均値 (Xav) 、Yi の平均値 (Yav) の算出   3. (Xi -Xav)^2 の和、(Yi -Yav)^2 の和、(Xi -Xav)(Yi -Yav) の和の算出   4. y=a*x+bのa, b, r(相関係数) の算出 テストデータと計算結果  データ数:4    X Y    Xの平均 2.5    1 5    Yの平均 8     傾き a=1.6    2 8    Xの分散 1.25   切片 b=4    3 9    Yの分散 3.5   相関係数 r=0.956    4 10    共分散  2 下が自分の回答です。 5 READ n > DIM A(2,N) > 10 FOR i=1 TO 2 > 15 LET S=0 > 20 FOR j=1 TO n > 30 READ A(i,j) > 40 LET s=s+a(i,j) > 50 NEXT j > 60 LET h=s/n > 70 IF i=1 THEN > PRINT h,bunsan > ELSEIF i=2 THEN > PRINT h,bunsan > END if > 75 NEXT i > 80 DATA 4 > 90 DATA 1,2,3,4 > DATA 5,8,9,10 > END

  • 東工大 物理問題 教えて 最小二乗法

    y=ax xを変えながら測定を行い、N組の測定値xi,yiを得た 最小二乗法を用いてaの最確値を表す式を求めよ x、yの各測定における測定誤差は等しいとする

  • 最小二乗法のn次曲線について

    最小二乗法のn次曲線について Pn(x)=anx^n+an-1x^(n-1)+……+a1x+a0 の時、最小二乗誤差E2は、 E2=Σ(i=1,m)(yi-Pn(xi))^2 =Σ(i=1,m)yi^2-2Σ(i=1,m)Pn(xi)yi+Σ(i=1,m)(Pn(xi))^2 =Σ(i=1,m)yi^2-2Σ(i=1,m)(Σ(j=0,n)ajxi^j)yi+Σ(i=1,m)(Σ(j=0,n)ajxi^j)^2 ここまではわかるんですが、次の式になる理由が分りません。 E2=Σ(i=1,m)yi^2-2Σ(j=0,n)aj(Σ(i=1,m)yixi^j)+Σ(j=0,n)ajΣ(k=0,n)ajak(Σ(i=1,m)xi^(j+k)) 一番後ろの項Σ(j=0,n)ajΣ(k=0,n)ajak(Σ(i=1,m)xi^(j+k))はどうやったらでてくるんでしょうか? なんでいきなりkがでてくるんでしょうか? jとiの組を2乗してるんだからkというのがでてくるのは変だとおもうんですが、どういう考え方なんでしょうか?

  • 最小二乗法について

    最小二乗法では二乗和の誤差 Σ[i=1~n]{Yi-(α+βXi )}^2 (iは添え字です) を最小化するα,βを推定することを考えますが、 これは単純にα,βで偏微分してそれを0とおいて 連立方程式を解くだけでよいのですか? といいますのも、2変数関数の極値を求める場合、 Hessianを計算して判別しますよね? ただ一階偏導関数が0になるからといって、 そこで極値をとるとは限らない気がしたので… それとも最小二乗法の場合は必ずとるようになっているのでしょうか? 手元の本には、 「この二乗和は非負値なので、αとβで偏微分したものを0とするα,βが上式を最小にする値である」 とあるのですが、一般に非負値だとこの ようなことが言えるのでしょうか?

  • 最小二乗法において・・・ bの分散って何でしょう?

    最小二乗法の過程で疑問が出来ました。 重回帰モデルが y=Xβ+ε で与えられるとき、最小二乗法を施すと βの期待値bが求まり、bの分散も求めることが出来るようですが、 bの分散という意味が、いまいちピンと来ません。 未知係数の分散?どういうことなんでしょう? 具体的に教えていただけないでしょうか? ちなみに分散は小さいほうが良いようなのですが、この意味も教えていただけると助かります。 よろしくお願いします。

  • 推定値の期待値と分散

    推定値の期待値と分散 単回帰モデルy=β1xi+ε ε~N(0、σ2)で最小2乗法によりβ1の推定値が(Σxiyi)/Σ(xiの2乗)となったのですが、この時のβ1の推定値の期待値と分散を出す問題が出されたのですがどのようにして解けばいいかわかりますか?

  • 最小二乗法とデータのばらつきを除去

    実験データに最小二乗法を適用して近似関数(y=ax+b)を求めたいです。 しかし,実験データにはばらついた値があり,得られた近似関数も それらの値によって,おおきくずれてしまいます。 そこで,何らかの方法でばらついた値を排除していき, 信頼できる近似関数を求めたいと思います。 聞いたところ,正規分布か何らかの方法で, 信頼区間(95%)以外のデータを除去すれば良いと のことですが,具体的な方法が分かりません。 実験データyi,xiと最小二乗法でy(=a*xi+b)から どのような処理をすればよいのか教えてください。 よろしくお願いします。

  • 最小二乗法の過程で分散共分散行列が・・・・

    最小二乗法の過程で分散共分散行列が目にしました。 重回帰モデルが y=Xβ+ε で与えられるとき、最小二乗法を施すと βの期待値bが (XT・X)-1・XT・yで表せるのですが、 (ただし、XTは行列Xの転置行列、-1は逆行列を表します。) 大事なのがここからで、 この (XT・X)-1  というものが、有名な形らしく、分散共分散行列と呼ばれるらしいのです。 どうして、この行列が分散を表す行列になるのかが、いまいちつかめないのです。ご存知の方がいらっしゃいましたらぜひ教えてください。 助けてください!!よろしくお願いします!!

  • 最小二乗法について

    最小二乗法について 最小二乗誤差E2は、 E2=Σ(i=1,m)yi^2-2Σ(j=0,n)aj(Σ(i=1,m)yixi^j)+Σ(j=0,n)ajΣ(k=0,n)ajak(Σ(i=1,m)xi^(j+k)) とする時、 ∂E2/∂aj=-2Σ(i=1,m)yixi^j+2Σ(k=0,n)akΣ(i=1,m)xi^(j+k) ですが。 一番後ろの項Σ(j=0,n)ajΣ(k=0,n)ajak(Σ(i=1,m)xi^(j+k))の偏微分が2Σ(k=0,n)akΣ(i=1,m)xi^(j+k)になる理由が分りません。 分りやすい説明をお願いします。

  • スキャンした画像から円の方程式を求めたい

    円(の一部)をスキャンしたものからレタッチソフトなどで円周上の点の座標(Xi,Yi)を求め、 そこから円の中心(a,b)や半径rを求めたいのですが、 当然のことながらスキャン時等に誤差が生じるため3点に限らず多くの点の座標から 最小二乗法などで求めるようにしたいと思っています。 しかしながらΣ{(Xi-a)^2+(Yi-b)^2-r^2}^2が最小になるように式の導出を行おうとすると、 ab,ar,br等の交差項が現れ私の計算力では求めることができません。 うまく行う方法、または代わりの方法はないものでしょうか。