• 締切済み

原点を通る重回帰式の偏回帰係数

はじめまして。 目的変数に対し、3つの説明変数を持つ資料があり、原点を通る重回帰式をたてたいところです。Excelなど、計算機の機能によって答えはわかっているのですが、式を作る計算過程を説明する資料を作らなければならなくなりました。 Y = aX+ bW + cZ Y: 目的変数 X:説明変数1 W:説明変数2 Z:説明変数3 a,b,c : 偏回帰係数 について、残差平方和 {Σ(Yi - ( aXi + bWi + cZi ))}^2を最小にするa,b,cを求めたいのです。残差平方和に対し、a,b,cで偏微分するといいのだ・・・などという理論は概ねわかりますが、私の数学力では、実際に計算過程を書き表すことができません。 説明変数が2つで、原点を通らない重回帰式の偏回帰係数の計算方法については、たとえば、以下のURLに書き表した例があります。 http://aoki2.si.gunma-u.ac.jp/lecture/Regression/mreg/mreg1.html このような書き表しの例で、説明変数が3つで、原点を通る重回帰式の偏回帰係数の計算方法をご紹介、またはご提示いただけないでしょうか。 どうかよろしくお願いいたします。

みんなの回答

noname#227064
noname#227064
回答No.2

> お恥ずかしい話ですが、最後の「連立方程式を解く」ことができないのです。 恥ずかしいことではありません。 手計算で解こうとすると結構大変ですからね。 > Σ(Xi*Yi) = a*Σ(Xi*Xi) + b*Σ(Xi*Wi) + c*Σ(Xi*Zi) > Σ(Wi*Yi) = a*Σ(Wi*Xi) + b*Σ(Wi*Wi) + c*Σ(Wi*Zi) > Σ(Zi*Yi) = a*Σ(Zi*Xi) + b*Σ(Zi*Wi) + c*Σ(Zi*Zi) を手計算で解くなら、掃き出し法を用いるのが一番簡単ではないでしょうか。

参考URL:
http://ja.wikipedia.org/wiki/%E3%82%AC%E3%82%A6%E3%82%B9%E3%81%AE%E6%B6%88%E5%8E%BB%E6%B3%95
回答No.1

こんにちは。 Q = Σ(Yi - (a*Xi + b*Wi + c*Zi))^2 Qを偏微分して、0とおく。 dQ/da = - 2*ΣXi*(Yi - (a*Xi + b*Wi + c*Zi))=0 dQ/db = - 2*ΣWi*(Yi - (a*Xi + b*Wi + c*Zi))=0 dQ/dc = - 2*ΣZi*(Yi - (a*Xi + b*Wi + c*Zi))=0 展開してまとめる。 Σ(Xi*Yi) = a*Σ(Xi*Xi) + b*Σ(Xi*Wi) + c*Σ(Xi*Zi) Σ(Wi*Yi) = a*Σ(Wi*Xi) + b*Σ(Wi*Wi) + c*Σ(Wi*Zi) Σ(Zi*Yi) = a*Σ(Zi*Xi) + b*Σ(Zi*Wi) + c*Σ(Zi*Zi) 連立方程式を解いてa,b,cを求める。 ​http://aoki2.si.gunma-u.ac.jp/lecture/Regression/mreg/mreg1.html と見比べてください。切片をなくして、目的変数と各説明変数の平均値を0とおいたものと同じです。

mondo_zzz
質問者

お礼

回答ありがとうございます。 お恥ずかしい話ですが、最後の「連立方程式を解く」ことができないのです。 3行目の式から、 c={Σ(Zi*Yi) - a*Σ(Zi*Xi) - b*Σ(Zi*Wi)}/ Σ(Zi*Zi) として、1行目、2行目の式に代入するところまではできますが、その後、展開して、a,bを求めようとすると、破綻してしまうのです。 できますれば、 a= ○○ , b=○○ , c=○○ と解を書き表すまでの部分をご示唆いただけないでしょうか。 なにとぞよろしくお願いいたします。

関連するQ&A

  • 回帰係数のt検定について

    回帰係数の検定では回帰定数を0とした帰無仮説とするということを、とあるテキストに書いてあり、その場合のt検定の式が下記のようになるらしいですが t=(求めた回帰定数)/√{(残差平方和)/(n-2) /(説明変数の偏差平方和)} このような式に至る過程を詳細に知りたいです。 どなたか詳しい方は教えて頂けませんでしょうか?一番気になる点は自由度が(n-2)になる点です。何卒宜しくお願い致します。

  • 原点を通る重回帰式について

    重回帰式Y=α+βX1+・・・・という線形回帰を使っているのですが 定数項が大きく+、-に振れたりしてこまっています。 サンプル数が少ないからぶれるのは仕方ないのですが どうすれば計算上α(定数項)をゼロにすることができるんですか。 教えてください。 ちなみに、変数は4変数、一次で、各係数は今後サンプルを増やせば +になるという条件でお願いいたします。

  • 残差*従属変数の総和、最小二乗法(重回帰)にて

    最小二乗法(重回帰)にて、 個別残差=個別予測値ー個別従属変数であり、 Σ(個別残差×個別従属変数)=0…(1) になるのです。 (回帰の平方和+残差の平方和)=全体の平方和 という定義(?)を疑問に思い、 解いていくと、上記(1)にたどり着きました。 なんとなくなりそうな気もするんですが、 どなたかすっきりと理由を教えては頂けないでしょうか。

  • 重回帰式の応用

    重回帰分析の結果と回帰式の使い方、応用の方法について質問です。相関係数0.85、決定係数0.72と出たのですが、全部で7つの説明変数のうち6つは有意ではありませんでした。多重共通性の問題に該当する説明変数を省き、再度分析したのですが結果として有意と判断されるのは1つの要因のみでした。そこで、その1つの要因に対して単純回帰分析を行うと相関係数0.72、決定係数0.51と重回帰分析よりも数値が低下してしまいました。この場合有意性の問題を無視し、はじめの重回帰式を用いて被説明変数を求めること(有意ではない説明変数を多く使うことで、被説明変数の誤差を少なくすること)に何かしらの問題はありますでしょうか? 素人のため質問内容がわかりにくかったら申し訳ありません。よろしくお願いします。

  • 高次の重回帰式について

    多変量解析を行なっているのですが教科書などを見ても見つからなかったので教えてください. 現在,3変数x1,x2,x3の重回帰式を作ろうとしています. 多変量解析は初めてなのでとりあえず,教科書に載っている方法を真似てみました. まず各変数と目的変数yについての単回帰式は,最小二乗法によって係数a~lを求めて y(x1) = a*x1^3+b*x1^2+c*x1+d y(x2) = e*x2^3+f*x2^2+g*x2+h y(x3) = i*x3^3+j*x3^2+k*x3+l という式が,実際の値とよく一致していることがわかりました. そこで重回帰式として y(x1,x2,x3) = a*x1^3+b*x2^3+c*x3^3+d*x1^2+e*x2^2+f*x3^2+g*x1+h*x2+i*x3+j というモデルを作ったのですが,実際の値と一致しません. 本やインターネットに載っている重回帰式はほとんどが y(x1,x2,x3) = a*x1+b*x2+c*x3+d といった,変数が1次の式ばかりで,私が作ったような重回帰式は載っていたとしても「高次回帰式である.」のようにさらっと書かれているだけでした. そのため何が悪いのか,どうすれば良いのか全くわからなくて困ってます.どなたか教えてください!お願いします.

  • エクセルで標準化偏回帰係数を求めたい

    いつもお世話になっております。 有る事象を説明するために大昔聞いたことが有る重回帰分析による複数の要因の影響の大小比較(項目の寄与率の数値化)をやってみようとNETで調べまくり、エクセルのアドインのインストールから初めて、どうやら私は「標準偏回帰係数を求めたい」というところまで分かったのですがエクセルの回帰分析の結果では当該項目が表示されていません。 言葉の定義をアレコレ調べたところ、エクセルでは何故かこの項目は算出されない、とのショックな事態。 但し、下記の式で計算できるとのことなのですが、この式の項目がエクセルの回帰分析結果のどの項目に該当するか分からず調べてみても同じページの堂々巡り状態。 標準偏回帰係数=偏回帰係数×説明変数の標準偏差÷目的変数の標準偏差 どなたか各項目が、エクセルの回帰分析結果に表示されているどの項目に該当するのか教えていただたく。 調べれば調べるほど意味不明となりつつあり、 >標準偏回帰係数は重回帰式における各変数の重要性を表す指標であり、標準化偏回帰係数どうしの大小を比較できます。 という表記が有るのですが、標準偏回帰係数と標準化偏回帰係数は意味が違うのでしょうか? このレベルですのでご了承の上よろしくお願い致します。 またもっと簡単に求める方法があればぜひお願いします。 <エクセルの分析結果で表示される項目> <回帰統計> 重相関  重決定 R2 補正 R2 標準誤差 3  観測数 <分散分析表>     自由度 変動 分散 観測された分散比 有意 F 回帰 3 残差 43 合計 46 係数  標準誤差 t P-値 下限 95% 上限 95% 下限 95.0% 上限 95.0%

  • いくつかの重回帰式の関係

    ある1つの重回帰式の出力(目標変数)がもう1つの重回帰式とどのような関係にあるかを求める事は可能でしょうか? この場合は、1つ目の式の出力を説明変数として行うことになるのでしょうか? また、複数の重回帰式の関係がどのようにあるかの検討方法などが他にありましたらご指導お願いします。

  • 基準化したデータより得られた回帰式に新たな説明変数を代入する際の取り扱いについて

    基準化したデータより得られた回帰式に新たな説明変数の数値を代入し、従属変数の数値を計算(予測)する際、その代入される説明変数も基準化されている必要があると思いますが、その基準化の方法はどのように行えばよいのでしょうか? 例えば、サンプル数10、従属変数1、説明変数4というデータセットがあり、全変数を基準化し回帰係数を求めたとします。 得られた回帰式を用い新しいデータの説明変数の数値を代入することにより説明変数の値を予測したいと思います。 この際、この新たなデータも基準化される必要があると思うのですが、基準化する際には回帰係数を求めるために用いた10個のサンプルより計算された各説明変数の平均及び標準偏差を用いて、基準化を行うのでしょうか? 具体的には10個のサンプルから計算された説明変数a,b,c,dの平均がそれぞれ2,4,6,8、及び標準偏差が10,20,30,40であったとします。 新たなデータの説明変数a,b,c,dの値が3,6,9,12であった場合は、それぞれ(3-2)/10, (6-4)/20, (9-6)/30, (12-8)/40の値を計算し、その数値を回帰式に代入するのでしょうか? 長くなってしまい申し訳ありませんが、どなたか詳しい方がいましたら是非教えていただきたくお願いします。

  • 2つの重回帰分析結果の標準偏回帰係数の有意差

    2つのデータ集合(目的変数Y、説明変数X1,X2)について重回帰分析をそれぞれ行い、2つの回帰式を得ます。その結果求められたX1の標準偏回帰係数が、2つの回帰式間で変化したこと調べるには、検定が必要でしょうか?また、必要な場合、どのような検定を行えばよいでしょうか? 色々調べてみたのですが、わからず困っています。教えていただけると本当に助かります。どうぞよろしくお願い申し上げます。

  • 重回帰式の比較・検討について

    現在、大学の研究で重回帰分析から出した複数の式の比較を行うこととなったのですが、比較の方法が思いつきません。 目標変数は同じで、説明変数の異なる重回帰式を比較するにはどうすればいいですか?比較方法にはどのようなものがあるか教えてください。 あと、その比較のあと、その2つの式の関係から1つの重回帰式を導き出すのですが、それはどのようにすれば可能になるのでしょうか? ご指導お願いします。