- ベストアンサー
重回帰理論
- みんなの回答 （1）
- 専門家の回答
質問者が選んだベストアンサー
どなたもお答えになっていないようなので、平面近似に関する特定の本を知っているわけではありませんが、suggestion だけさせていただきます。 平面だけなのであれば簡単な最小二乗法が使えます。最小二乗法については誤差解析まで含めた詳しい本があります。東京大学出版、UP応用数学選書「最小二乗法による実験データ解析」。一般の曲面近似も含めた本は入門書としては数値計算関係の概説書などがあります。Amazonで検索しても多数ありますが、大学生協(理工系)なら入門書から専門書までそろっているでしょう。中身を見てご自身にあっているものを探すのがよいと思います。 さて簡単な平面近似ですが、平面の方程式を ax+by+cz = r とします。ベクトル(a,b,c)は法線ベクトルで、rはそれと位置ベクトルの内積ですから、rは原点から平面までの距離を定数倍したものです。a^2+b^2+c^2=1 であれば r は距離そのものです。従って、データ点と平面との間の距離を残差Δiとしてその二乗和を最小にすればよいわけです。 χ² = Σ(Δi/σi)^2 Δi = r - ( a xi + b yi + c zi ) (xi,yi,zi)はデータ点、σi はΔiの標準偏差で、通常は測定誤差を取りますが、各点の測定誤差が与えられていなければ初期値としてσi=1とし、結果の残差から標本標準偏差を求めても良いでしょう。 ところで空間のベクトルの自由度は３で、大きさと二つの角度、または座標系の３成分です。今、a^2+b^2+c^2=1を考慮すると、自由度は２になります。しかし、これを直接χ²に使うと非線形になるので面倒です。そこで、a,b,cのどれかを固定します。簡単には(a,b,1)等とします。もしデータから平面がz軸に平行に近いならばaまたはbを1におきます。こうすればa^2+b^2+c^2=1は満たしませんが、自由度2の結果が得られます。それにともない、r の結果は実際の平面と原点の距離の√(a^2+b^2+1)倍になるので、残差の標本標準偏差も同じ定数倍になっています。結果を扱うときにそれに注意すれば、最も簡単な最小二乗近似ができます。 途中式は∂χ²/∂p=0 (pは各パラメータr,a,b) から、 rΣ(1/σi^2) - aΣ(xi/σi^2) - bΣ(yi/σi^2) - Σ(zi/σi^2) = 0 rΣ(xi/σi^2) - aΣ(xi/σi)^2 - bΣ(xiyi/σi^2) - Σ(xizi/σi^2) = 0 rΣ(yi/σi^2) - aΣ(xiyi/σi^2) - bΣ(yi/σi)^2 - Σ(yizi/σ^2) = 0 これから r,a,bが求められます。 σi=1 とおいたならば、結果から残差の標本分散は、 <σ^2> = χ²/(N-3)/(a^2+b^2+1) と求まります。Nはデータ点の個数で、N-3の3はパラメータの数です。 誤差解析については最小二乗法の書物を参照してください。
関連するQ&A
- 最小二乗平面
ある複数の空間座標(x1,y1,z1)～(xn,yn,zn)(nは3以上)から、平面近似式である最小二乗平面の方程式を求める関数を作ろうと考えています。 平面方程式はz=ax+by+c(a,b,cが定数)であらわされ、引数を座標と座標個数n、戻り値をa,b,cにします。 ここ(http://oshiete1.goo.ne.jp/qa2802443.html)を参考に 最小二乗平面の連立方程式を解くコードを書いたのですが、 どうも答えが合いません。どなたかご教授願えないでしょうか？ 開発環境はC++Builder2007です。 ↓の数式をコードにしましたが、コードが間違っているのか、 数式自体がダメなのかさっぱりわかりません。 //与えられるn個の3次元座標(xi,yi,zi)から平面方程式を求める //平面方程式:z = ax + by + c //最小二乗平面を求める連立方程式は下記のようになる。 // aΣxi^2 + bΣxiyi + cΣxi = Σxizi // aΣxiyi + bΣyi^2 + cΣyi = Σyizi // aΣxi + bΣyi + cn = Σzi //これを行列で解く // |Σxi^2 Σxiyi Σxi | |a| = |Σxizi| // |Σxiyi Σyi^2 Σyi | |b| = |Σyizi| // |Σxi Σyi n | |c| = |Σzi | //ここで // |Σxi^2 Σxiyi Σxi | // A = |Σxiyi Σyi^2 Σyi | // |Σxi Σyi n | // // |Σxizi| // B = |Σyizi| // |Σzi | // // |a| // C = |b| // |c| // //とすると // // C = B・A^-1 // //で求めることができる
- 締切済み
- C・C++・C#
- ＸＹＺ平面の近似式についてご教示ください
すみませんがお助けください。 任意の３次元座標（Ｘｉ，Ｙｉ，Ｚｉ）がｎ個あるとします。 Ｘｉ＞０，Ｙｉ＞０，Ｚｉは正負混合です。 上記ｎ個の座標から近似平面式Ｚ＝ａＸ＋ｂＹ＋ｃを構成する乗数ａ，ｂ，ｃを求めたいのですが下記理由により最小二乗法は使えません。 最小二乗法の場合は Ｄ＝Σ(Ｚｉ－ａＸｉ－ｂＹｉ－ｃ）＾2が最小になるａ，ｂ，ｃを求めることになりますが、今回求めたいａ，ｂ，ｃは、 各座標のｄｉ＝(Ｚｉ－ａＸｉ－ｂＹｉ－ｃ）、すなわちｎ個のｄｉについて『ｄｉの最大値－ｄｉの最小値』が最も小さくなる場合のａ，ｂ，ｃです。 なお『ｄｉの最大値－ｄｉの最小値』についての補足ですが ｄｉの最大値＝５，ｄｉの最小値＝２の場合 『ｄｉの最大値－ｄｉの最小値』は５－２＝３となり、 ｄｉの最大値＝５，ｄｉの最小値＝－２の場合 『ｄｉの最大値－ｄｉの最小値』は５－(－２)＝７となります お手数かけて恐縮ですが宜しくお願い申し上げます。
- 締切済み
- 数学・算数
- 【-1≦相関係数ｒ≦+１】の証明について
【-1≦相関係数ｒ≦+１】の証明を シュヴァルツの不等式を使わずに行なったのですが ☆の部分について、教えて頂きたいと思っております。 よろしくお願いいたします。 xiとyiについて zi=(xi-xbar)/Sx（・・・・・・xbar：xの平均値、Sx：標準偏差） wi=(yi-ybar)/Sy（・・・・・・ybar：yの平均値、Sy：標準偏差） とするとき r=(1/n)Σziwiであるので 【証明】 (1/n)Σ(zi±wi)^2=(1/n)Σ(zi^2±2ziwi＋wi^2）(・・・^2＝二乗） =(1/n)Σzi^2±(1/n)Σ2ziwi＋(1/n)Σwi^2 ☆=1±2r+1☆ =2(1±r） 左辺は二乗なので常にプラスである。 1±r≧0よって -1≦ｒ≦+１ と言うところまで色々あって分かったような気がします。 そこで質問なのですが ☆のところで （1/n)Σzi^2と(1/n)Σwi^2が １に変化するのはナゼですか。 ziとwiの分散については標準化した値であることから 両方とも「１」であるのは分かるのですが （1/n)Σzi^2と(1/n)Σwi^2が分散の式とどうしてイコールなのか わかりません。 よろしくお願いいたします。
- ベストアンサー
- 数学・算数
- 最小二乗法の分散の求め方
http://oshiete1.goo.ne.jp/qa3077638.htmlに関連しての質問です。 例えば、ｙ＝Ｘβ+εに関して最小二乗解を求めると b = [ nΣ(xi yi) - (Σxi) (Σyi)]/[ nΣ(xi^2) - (Σxi)^2 ] となります。ここから分散を求めるためにはどうすればよいのでしょうか？教科書を引っ張ってみると求め方の行列の式しか書いていなくいまいちピンときません（確かに計算すれば正しい結果を得られるようですが）。具体的にこの式だけを使って分散を求めるということはできないのですか？
- 締切済み
- 数学・算数
- 最小二乗法とデータのばらつきを除去
実験データに最小二乗法を適用して近似関数(y=ax+b)を求めたいです。 しかし，実験データにはばらついた値があり，得られた近似関数も それらの値によって，おおきくずれてしまいます。 そこで，何らかの方法でばらついた値を排除していき， 信頼できる近似関数を求めたいと思います。 聞いたところ，正規分布か何らかの方法で， 信頼区間(95%)以外のデータを除去すれば良いと のことですが，具体的な方法が分かりません。 実験データyi，xiと最小二乗法でy(=a*xi+b)から どのような処理をすればよいのか教えてください。 よろしくお願いします。
- ベストアンサー
- 数学・算数
- 最小二乗法のn次曲線について
最小二乗法のn次曲線について Pn(x)=anx^n+an-1x^(n-1)+……+a1x+a0 の時、最小二乗誤差E2は、 E2=Σ(i=1,m)(yi-Pn(xi))^2 =Σ(i=1,m)yi^2-2Σ(i=1,m)Pn(xi)yi+Σ(i=1,m)(Pn(xi))^2 =Σ(i=1,m)yi^2-2Σ(i=1,m)(Σ(j=0,n)ajxi^j)yi+Σ(i=1,m)(Σ(j=0,n)ajxi^j)^2 ここまではわかるんですが、次の式になる理由が分りません。 E2=Σ(i=1,m)yi^2-2Σ(j=0,n)aj(Σ(i=1,m)yixi^j)+Σ(j=0,n)ajΣ(k=0,n)ajak(Σ(i=1,m)xi^(j+k)) 一番後ろの項Σ(j=0,n)ajΣ(k=0,n)ajak(Σ(i=1,m)xi^(j+k))はどうやったらでてくるんでしょうか？ なんでいきなりkがでてくるんでしょうか？ jとiの組を２乗してるんだからkというのがでてくるのは変だとおもうんですが、どういう考え方なんでしょうか？
- ベストアンサー
- 数学・算数
- 重み付けを用いた場合の回帰係数の分散の求め方
x に関する 0 次式 y = a0 について、正規分布を仮定できる場合、複数の観察値から、真の値 μ の推定値として、最小二乗法で平均値、その平均値に基づいて、分散を求めるときは、観察値と μ との誤差に Weight をかけても結果は変わりません。 次に x に関する一次式 y = a0 + a1x において、複数の観察値 (xi , yi) から、最小二乗法を用いて、a0、a1 の推定値を求めることができます。 伺いたいのは、この場合の a0、a1 は、平均値そのもので、この場合、a0、a1 の分散をどう求めるのか、また推定を行なうとき、誤差 yi - (a0 + a1xi) の二乗に Weight をかけた場合の分散をどう求めるか、の二点です。 これをきちんと解説した成書でも結構ですので、教えてください。
- 締切済み
- 数学・算数
- 偏微分したいんですが・・・
最小二乗法のレポートをしていて偏微分の計算でうまくいきません m J（ｘ）＝Σ (Zi-hix)^2 i=1 Zmiが測定点、xiが変量点、真値ｙi=hixです ただし hm=[am1 am2 ・・・amn] x=[x1 x2 ・・・xn]t ∂J/∂ｘ１＝０、・・・・、∂J/∂xn＝０ よりｘ１、・・・・ｘnを求めるのですがm,nの値がわかっていれば分解してとくことはできると思うのですがm,nをつかってどう表せばいいかわかりません。 数日前に最小二乗法のレポートというタイトルで「その他の理系の学問」というところに書き込ませてもらいましたが問題だけ書いたということもあり返事がきませんでした・・・。あらためてここで質問させてください。
- ベストアンサー
- 数学・算数
- 計量経済の問題
計量経済の問題です 解いてほしいのではなくどの程度の問題かを知りたいです。 大学院の入試問題です。 どの山本拓さんのテキストのレベルよりかなり上でしょうか Ｉ 単純回帰モデル Yi=Bo＋ＢiＸi＋Ｕi （i=１・・・n）・・・・（a） を考える。ただし撹乱項Ｕi は互いに独立であり、すべてのiについて Ｅ（Ui｜Ｘi）＝０， Ｖａｒ（Uｉ｜Ｘｉ）＝σ2乗 が成立するものと仮定する。このとき、次の問題に答えよ。 Ｉ－Ａ １． Ｂ１の最小２乗推定量Ｂハット１の分散を求めよ・ ２．Ｂハット１を標準化した、 Ｂハット１－Ｅ（Ｂハット１）/√Ｖａｒ（Ｂ１）〔VarからＢ1までがルートにはいっています。〕 はどのような分布に従うものか。理由とともに答えなさい。また条件が必要であればその条件についても言及しなさい。 Ｉ―Ｂ i=n+1のときも(a)式の関係および撹乱項に関する仮定が成り立つものとする。Ｘn+1が与えられるとき、（Ｘi,Yi）（i＝１．・・・ｎ）のデータによって求めた（a）式の Ｂi（i＝0,1）の最小２乗推定量Ｂハットiを用いてＹn+1の予測を行いたい。 ３ Ｙn+１の予測量Ｙハットn+1=E(Yn+1｜Ｘn+1,Xn,・・・X１.Yn・・・Ｙ１)を求めなさい ４．Ｙハットn＋１の平均二乗誤差を求めなさい。また、平均２乗誤差がもっとも小さくなるのは、Ｘn+1がどのような値のときであるか。 II 線形回帰モデル Yi=Bo+Bixi+B2Zi+Ui を考える。ただし、撹乱項Ｕｉは互いに独立であり、すべてのiについて Ｅ(Ui｜xi,zi)=0 Var(Ui｜Xi,Zi)=σ2乗が成り立つものと仮定する。このとき次の問題を答えなさい。 （１） Ｂ１＝２Ｂ２という制約をつけて、この線形回帰モデルの最小２乗推定を行いたい。損失関係の制約最小化から、Ｂ１、Ｂ２の最小２乗推定量Ｂハット１、Ｂハット２を導出しなさい。 （２） 帰無仮説をＢ１＝２Ｂ２、対立仮説をＢ１≠２Ｂ２として仮説検定を行う。検定等軽量を構成し、帰無仮説の元でそれがどのような分布に従うかを答えなさ
- ベストアンサー
- 経済学・経営学
お礼
詳しいご説明、有難う御座います。平面上の直線近似の係数a,bが、統計の入門書に陽の形で書かれていますが、空間上の平面近似を記述した書物が身近に見つからなかったので、お伺いしました。お勧めの書物を読ませて戴きます。