- ベストアンサー
最小二乗法は、なぜ「二乗」なのでしょうか?
- みんなの回答 (6)
- 専門家の回答
みんなが選んだベストアンサー
残差の4乗で比較すると、4乗で効いてくるために残差の大きいものにひきずられてしまいます。 例えば測定値がほぼ理論曲線通りで1点だけ異常値が出て残差が大きくなってしまったような場合、測定値から理論曲線を求めることを考えると、残差の2乗を使うよりも残差の4乗を使う方が異常値にひきずられて本来の理論曲線から外れてしまいます。6乗ではなお顕著ですね。 残差の絶対値を使えばよいのですが、前の方のご指摘のように計算が大変なので、2乗を使っているのだと思います。
その他の回答 (5)
- eatern27
- ベストアンサー率55% (635/1135)
http://ja.wikipedia.org/wiki/%E3%82%AC%E3%82%A6%E3%82%B9%EF%BC%9D%E3%83%9E%E3%83%AB%E3%82%B3%E3%83%95%E3%81%AE%E5%AE%9A%E7%90%86 という事が背景にはあるんだ、という事を知りたいのでしょうかね。 要するに、いくつかの仮定の元では、最小2乗法による推定値が「もっともよい」推定値となるという事です。
誤差が最小になるように近似するわけですよね。 でも、 >残差をそのまま足し合わせると >正負が打ち消しあってしまう ため、誤差の二乗和で評価するんですね。 二乗和が最小になるなら、4乗和も6乗和も最小になりますね。 誤差の二乗和が最小になるようにする、っていうだけの話で、 この段階では統計は関係ないと思います。
- incd
- ベストアンサー率44% (41/92)
ずばり計算しやすいからでしょう。 その他、そうして得られた推計値が良い性質を持つというのもあると思います。 二乗でなくて、たとえば絶対値を取るという推計値もあります(ただし、計算は困難)。 なぜ分散の定義は平均からの乖離の二乗の期待値なのか? というのとその疑問は本質的に同じことです。ばらつき具合を表す1つの方法が二乗することだということです。 ちなみに「距離」も「分散」もすべて「二乗」から派生しているものなので、根本的な答えとはいえないように思います。 >>個人的には、統計の正規分布と 何か関わりがあるのかと思っているのですが・・・。 もっと突き詰めていけばそうかもしれません。そこまで深い話はちょっと分かりません。
- ymmasayan
- ベストアンサー率30% (2593/8599)
ピタゴラスの定理 うーん? 一応、誤差の分散の推定値は残差の平方和 という所から来ています。↓ かなり理論的ですよ。
- sanfran_
- ベストアンサー率75% (6/8)
回帰式をグラフに描いて眺めれば分かるように 距離、仮にcとすると、そのx成分(a)とy成分(b)とは、 ピタゴラスの定理により a^2 + b^2 = c^2 と、表されるね。 そこから、最小2乗法は来ています。
関連するQ&A
- べき乗則を最小二乗法で求める
卒業研究で計測した分布をべき乗則 y = ax^k に類似させるべく最小二乗法を計算しようと思ってるのですが 自力で計算した結果 k = {loga×Σ(logy) - Σ(logy × logx)} / Σ(logx)^2 a = Σ(yx^k)/Σ{x^(2k)} で行き詰まって係数の計算までに至りません 最小二乗法で調べてみても簡単な一次式の例しか出ず参考になりません どなたか適切な計算方法について説明お願いします
- ベストアンサー
- 数学・算数
- 重み付き最小二乗法について
過去の質問やネット検索をしても解決出来ず質問しました。 統計学も初心者であるのですが、一応最小二乗法は理解しています。 重み付け最小二乗法は誤差の大きな部分の影響を補うための方法で あるという程度の理解度です。 具体的にはどういったときに、どのような方法で使うのでしょうか。 また、参考サイトや参考書があれば教えていただきたいです。 よろしくお願いします。
- 締切済み
- 数学・算数
- C/C++での最小二乗法について
いつもお世話になっております。 初めての質問で不備があるかと思われますがよろしくお願いします。 現在Excelのソルバー機能で、測定した値とは別に 計算式f(x)で求めた推定値との残差二乗和((測定値-推定値)^2の和)から 計算式f(x)の変数a,bを算出しています。(変数a,bの初期値は適当な値を設定) このソルバーでの最小二乗法の計算をc/c++にて実装するにはどのようにすれば良いのでしょうか。 (ソルバー機能では目的値を残差二乗和、変化対象を変数a,bとし、準ニュートン法より最小値を求めています。) 御教授よろしくお願いします。
- ベストアンサー
- C・C++・C#
- 回帰分析 最小二乗法の直線
質問ですが 最小二乗法の直線はどうして残差dの二乗和が最小になる直線なのですか? 信頼区間がナントカ・・・みたいな? 数学には詳しくないので簡単に教えてください。
- ベストアンサー
- 数学・算数
- 最小2乗法→回帰分析→?
本には、「あるデータについて最小2乗法を行った後、回帰モデルの標準的仮定を置くと、最小2乗推定量は望ましい統計的性質を持ちます。しかし、実際の分析では、誤差項の正規性が付け加えられた「正規回帰モデルの標準的仮定」が仮定されることがほとんどである。」と書いてあるのですが、この正規性の条件はなぜ必要なのですか。 アバウトな質問になってしまいましたが、よろしくお願いします。
- ベストアンサー
- 経済学・経営学
- 多変数の最小二乗法
Y=AX+Bという形で(Y,X)の組から係数A,Bを推定する方法が最小二乗法かと思います。(そのような整理が妥当であるか、意味があるか、についてはデータの分布形状や変動係数などで別途検証する必要がありますがここでは不問として) さて、その次ですが、YY=AX+BY+CZという関数で表示しようと考えたとします。(YY,X,Y,Z)というデータ系列があり、係数(A,B,C)を求めるというような解析です。(前述のようにそれが妥当かどうかは不問として。)係数A,B,Cを最小二乗法のようにできるだけ妥当に求める方法を教えていただきたいのですが。 1)たとえば、YY=AX+CCとして最小二乗法でAを求めたあと、残差CCについてCC=BY+CZとおいて再度最小二乗法でBを求めるというような手法を何度も行うとか? これだと解く順番に依存するようなので全部の順番でやって平均値を取るとか? 下手な考え休むに似たりのようですが。 2)カルマンフィルタ、ニューラルネットワークの手法で解析するということもあるでしょうか。その場合、YY=AX+BY+CZという枠組みではなくなりますが、それでもよいと言えばよいです。 このような問題を解く方法について解説されている本とか分野の名称(数理統計学とか?)などを教えて頂けると探索する手がかりとなります。今は手がかりすらはっきりしていないのです。 最小二乗法についてはその程度だったら専門分野ではなく、各分野で個別に解説されているようで込み入った問題になったときにどこを捜索したらよいかわからないもので質問しました。よろしくお願いします。
- 締切済み
- 数学・算数
- 最小二乗法について
いつもお世話になっております. 最小二乗法に関する質問です. 下記のサイトで最小二乗法についてなんとなくではありますが理解できました. http://szksrv.isc.chubu.ac.jp/lms/lms1.html そこで,質問なのですが, データが3次元以上の場合にも最小二乗法の考え方を使うことはできるのでしょうか? 3次の場合にならなんとなくイメージが付きますが・・・・ データの次数が4次,5次・・・になった場合にでも最小二乗法を使うことはできるのでしょうか? 数学にお詳しい方,教えて下さい. ヒントや参考サイトでも構いませんので,宜しくお願い致します.
- 締切済み
- 数学・算数
- 最小二乗法 ニュートン法
ニュートン法で最小二乗法を使うとき、x+Δxを近似解として、テイラー展開して f(x+Δx)=f(x)+f’(x)Δx この式から新しい近似解を得ると思います。 この時のfは何の関数なのでしょうか? 残差の二乗和でいいのでしょうか? わかる方お願いします。
- ベストアンサー
- 数学・算数