二乗和最小化の問題で最小でない⊿pを解く方法について
- 質問は、誤差の二乗和を最小化する問題で、繰り返し計算によって⊿pを求める方法についてです。
- テイラー展開を用いて１次近似した式を⊿pで微分し、式をゼロとする⊿pを求めます。
- しかし、繰り返し計算を行っても、⊿p=0となった場合に、最小値にならないことがあります。このような現象は１次近似によるものでしょうか？
- ベストアンサー
誤差の二乗和を最小化する問題で⊿p=0で最小でない
反復計算によって、Σ(I(x+p+⊿p, y) - T(x, y))^2を最小化するという問題についてです。 テイラー展開をして１次近似した式を⊿pで微分した式をゼロとする⊿pを算出し、 pをp+⊿pと置いて、再度計算を繰り返しています。 ここで、IとTは画像のように離散化された値で、Σは画像中の局所領域を指します。 繰り返しにより⊿p=0となった時に、Σ(I(x+p+⊿p, y) - T(x, y))^2の値が、 必ずでは無いですが最小とならないことがあります。 例えば最小となるのはpが-0.02～-0.05ずれた位置となっています。 プログラムで解いていますが、計算誤差と見なすにはあまりに大きい気がします。 １次近似した式を用いることで、このようなことは起こるのでしょうか？ 数学的な部分が追いきれずに、質問させていただくことにしました。
- otootooto
- お礼率46% (37/79)
- 数学・算数
- 回答数1
- ありがとう数1
- みんなの回答 （1）
- 専門家の回答
質問者が選んだベストアンサー
＞１次近似した式を用いることで、このようなことは起こるのでしょうか？ ２次，３次で展開して，打ち切り誤差評価するべきでしょう。 なぜしないか不思議です。 ＞反復計算によって ということは，コンピュータで計算している，ということですね。 では，なぜ，その前にテイラー展開をしているのかも不思議です。 何か理論的問題の解明でしょうか？ 単に，誤差の二乗和を最小化する問題を解決するだけなら，元の式に繰り返し代入していけば良いはずです。 出来ない理由があるのでしょうか？ 計算時間の問題？
関連するQ&A
- 最小二乗法ってなんですか
件名の通り最小二乗法ってなんですか? 自分なりに調べてみましたが、イマイチ分かりません。 皆さんからすれば、初歩的な事かもしれませんが、ご教授下さい。 例えば、5つのサンプルの長さを測定して、 1 2.5 2 5.7 3 3.8 4 9.3 5 8.6 を得たとします。 これをエクセルで散布図にして線形近似曲線を引くと、 y＝1.58x＋1.24と近似式が出ますが、何を意味しているのですか? (具体的に言うと、上記の近似式の値が大きいほどばらつきが大きいってこと?)
- ベストアンサー
- 数学・算数
- 最小２乗法とエクセル
質問したいのですが、（x，ｙ）＝（0.1，0.306），（0.3，0.807），（0.5，1.177），（0，0）の値を利用して、最小２乗法を使ってエクセルでグラフを書きました。このとき、自分で計算した値と、エクセルで作成したグラフで近似線を描き、その直線の式を出したものとでは値が異なりました。なぜでしょうか？
- ベストアンサー
- 数学・算数
- 最小二乗法について困ってます。
Σa_i*y^p*x^q*1^r, p+q+r=3 とおいて、a_iを最小二乗になるように変化させるたいですが、、、 （３次の多項式で近似） よろしくお願いします。
- 締切済み
- 数学・算数
- 最小二乗法 ニュートン法
ニュートン法で最小二乗法を使うとき、x+Δxを近似解として、テイラー展開して f(x+Δx)=f(x)+f’(x)Δx この式から新しい近似解を得ると思います。 この時のfは何の関数なのでしょうか？ 残差の二乗和でいいのでしょうか？ わかる方お願いします。
- ベストアンサー
- 数学・算数
- 円の最小二乗法の公式
いくつかのデータから最小二乗法で近似曲線を求めたいのですが、よくわかりません。そのデータ集の近似曲線は円になります。 最小二乗法を調べ、１次、２次関数についてはわかりました。ある点の座標を（x1,y1）, (x2,y2）…、近似曲線上の座標を(x1,y’1)，(x2,y’2)… とした時、 (y’1-y1)^2 + (y’2-y2)^2 … が最小となるような係数a,b などを偏微分 → 連立方程式で求めるという方法でした。 円についても、同様の方法で r^2 = (x-a)^2 + (y-b)^2 のような近似曲線の式が求められるのでしょうか？１次関数などのように、y’1-y1を求めようとすると、±√ が出てきてしまい、ややこしくなる気がしますが、これを解くしかないのでしょうか？もしくは別の解法があるのでしょうか？詳しく教えていただけたらと思います。よろしくお願いします。
- ベストアンサー
- 数学・算数
- 2次関数の最大・最小の応用問題がわかりません。
次数x,yが、x^2+y^2=4を満たすとき、2x+yのとりうる値の最大値最小値を求めよ。 全く分かりません。ヒントと言うところに、2x+y=tとおきこれを条件式とみなす。y=t-2xとしてx^2+y^2=4に代入すると書いてありました。 よろしくお願いします。
- ベストアンサー
- 数学・算数
- 重みつき最小二乗法の誤差
まず、条件を書かせていただきます。 ln(DZ)=ax+B a=-1/T x:条件(x=1、x=5) Z:xを決めると決まる値。（例：x=1ならZ=20、x=5ならZ=68） B:定数 D：条件xの時に行なった測定の測定値 (x=1のときに行なった測定値をD1、x=5のときに行なった測定値をD5) ln(DZ)=yとすれば、y=ax+Bとなります。 一回の測定すると、x=1とx=5に対するD1とD5を測定できます。 一回の測定操作をηとします。 上記の条件で、下記に示す2種類の方法でTの平均値とTの誤差を求めます。 (1) ηを行なうことにより、aとTを求めることができます。 ηを10回行なうことにより、10個のTを求めるます。 10個のTからTの平均値とTの誤差を求めます。 (2) ηを10回行なうことにより、10個のD1と10個のD5を求めるます。 10個のD1と10個のD5を使い、重みつき最小二乗法によって Tの平均値とTの誤差を求めます。 どちらの方法でも平均値と誤差は出ますが、 どちらの方がより正確にTの平均値と誤差を求めることができるのでしょうか。 根拠を示した上で教えてください。 じっくり考えてみましたが、よくわかりません。 文章がおかしいために 、たぶん質問の内容自体が理解できない可能性が高いので分からないことがあれば教えてください。 もし、参考になるホームページや本などがあればご紹介ください。 よろしくお願いいたします。
- ベストアンサー
- 科学
- 誤差と最小二乗法
単振り子の振れの大きさを小さくし、 振り子の長さLと周期Tを5通りほど計測しました。 そこでT=2π√(L/g)⇔g=4π^2L/T^2から 重力加速度を5通り求めました。 結果、どれも相対誤差0.3％以内で、 どれもマイナスの誤差になりました。 次にT=2π√(L/g)⇔T=(2π/√g)*√Lとし、 √Lをx軸に、Tをy軸にとり、(2π/√g)を傾きとするグラフを描きました。 ここで、最小二乗法よりグラフの傾きを求め、 そこから重力加速度gを求めたところ、 相対誤差が3％になり、さらにそれはプラスの誤差でした。 そこで質問です。 最小二乗法を用いるのは今回が初めてなんですが、 このように測定値を単体で考えたときと、 測定値をまとめて最小二乗法で考えたときとで、 こんなにも誤差が変わるのはよくあることですか？ それとも計算に誤りがあるのでしょうか。 よろしくお願いします。
- 締切済み
- 物理学
お礼
ありがとうございます。