最小二乗法 ニュートン法

質問

ニュートン法を使うとき
f(x＋Δx) ＝ f(x)＋f'(x）Δx＋・・・テイラー展開すると思います。
このとき、xは近似解ｘ（n）のことで、x+Δxは新しい近似解ｘ(n+1)のことでいいのでしょうか？

後、図1の操作と上記のテイラー展開をつかって新しいx(n+1)を求める方法が結びつきません。
わかる方お願いいたします。

回答No.1

alice_44 · ベストアンサー

その通りです。
f(x＋Δx) = f(x) + f'(x)Δx + O(Δx^2) において、
x[n+1] = x + Δx, x[n] = x と置けば、
f(x[n+1]) = f(x[n]) + f'(x[n])(x[n+1]-x[n]) + O(Δx^2) から
x[n+1] = x[n] + {f(x[n+1]) - f(x[n]) - O(Δx^2)} / f'(x[n])
と変形できます。

f(x[n+1]) が十分小さく、x[n] が既に解にある程度近いと考えれば、
f(x[n+1]) ≒ 0, Δx ≒ 0 と近似したことになるので、
x[n+1] ≒ x[n] + {0 - f(x[n]) - 0} / f'(x[n]) です。
これが、ニュートン法の漸化式です。

お礼

テイラー展開を変形したら、直線式の形になるということですね。
お二人ともありがとうございました。

回答No.3

alice_44

同じことですよ。
A No.2 の式 (2) は、
一次のテイラー近似 (1) を変形したものだから。

回答No.2

spring135

>ニュートン法を使うとき
f(x＋Δx) ＝ f(x)＋f'(x）Δx＋・・・テイラー展開すると思います。

思いません。単なる微分です。

曲線y=f(x)の点P(x1,f(x1))における接線は

y=f(x1)+(x-x1)f'(x1)　　　　(1)

f(x)=0の解はy=f(x)がx軸と交差する点を求めることであり、その代役として接線がx軸と交差する点

を求めます。つまり(1)においてy=0とすると

x2=x1-f(x1)/f'(x1) (2)

なる点が得られ絵をかいてみるとわかるようにx2はx1より解に近づいていることがわかります。

点(x2,f(x2))においても同様の操作を繰り返し、さらに解に近づくことだできます。

点P(x1,f(x1))を適正にとると通常は数回から数１０回ぐらいで収束し、数値解を得ることができます。

ニュートン法においては初期値としてのx1のとり方がひとつのポイントになります。

＞後、図1の操作と上記のテイラー展開をつかって新しいx(n+1)を求める方法が結びつきません。
わかる方お願いいたします。

要するに式(2)に還元されます。

x(n+1)=x(n)-f(xn)/'f(xn)

n=1から初めて繰り返し計算をして解に接近していくことを意味します。