• 締切済み

関数に行う最小二乗法

ベクトルではなく任意の関数g(x)を p個の正規直交関数g1(x),g2(x),・・・, gp(x) で最適近似したときの近似誤差をEp(x)としたき ∫Ep(x)^2 はどのように表せるのですか?

みんなの回答

  • arrysthmia
  • ベストアンサー率38% (442/1154)
回答No.2

そこは、自明でしょう。 p が大きくなって、増えた分の k について、 c_k = 0 とすることもできるのだから、 p が増えて最小誤差が増えることは、ありえない。 狭義に減少であることを示すには、 有限個の g_k では基底にならないことを使うかな?

sennkeiota
質問者

お礼

そうですね!c_k = 0 とすることもできるのだから、 p が増えて最小誤差が増えることは、ありえない。 確かにそれだけでも言えますね! アドバイスありがとうございます!

  • arrysthmia
  • ベストアンサー率38% (442/1154)
回答No.1

係数 c_k を置いて、 Ep(x) = g(x) - Σ[k=1…p] c_k g_k(x) としたのでしょう? Ep(x)^2 の括弧を展開して、誤差二乗和 ∫ Ep(x)^2 dx を c_k の多項式で表す ことは、できなくはありませんが、あまり計算の役には立ちません。 ∫{ g(x) - Σ[k=1…p] c_k g_k(x) }^2 dx という式形のまま 各 c_k で偏微分して、最小二乗法の作業を進めるほうが、得策です。 計算を進める前に、積分が収束する状況設定ができているかどうか確認 しましょう。 積分区間が有界だとか、g(x) や 各 g_k(x) が二乗可積分だとか…

sennkeiota
質問者

お礼

ご回答ありがとうございます。すいません。 p個の正規直交関数g1(x),g2(x),・・・, gp(x) は有限個でした。 ちなみに、pが大きくなると誤差二乗和 ∫ Ep(x)^2 dx は小さくなることを証明するのは簡単ですか?

関連するQ&A

  • 正規直交系と証明

    {e1,e2,…,ep}をVの正規直交系とする。任意のベクトルx∈Vについて、Σ[i=1,p]<x,ei>^2=||x||^2が成り立つのはxがe1,e2,…epの1次結合であるときに限ることを示せ。 この問題がどうしても解けず、困っています。 どなたか分かる方、教えてください!お願いします。

  • 関数に対するシュミットの直交化

    a=(1,0,1)のようなベクトル系のシュミットの直交化はできるんですが 関数に対するシュミットの直交化ってどのようにやるんですか? 基底[1,x,x^2]からシュミットの直交化を用いて正規直交基底を作りたいです。

  • どんな関数が最小2乗法に適する?

    一般論をお聞きしたいのですが、どんな関数に従うか(理論的に)わからないデータがあったとします。 その場合にどんな関数を用いて最小2乗法を行うのが良いのかお尋ねしたいのです。 非常に狭い範囲においては一次関数に従うでしょうから、1次関数にするでしょうし、 少し範囲を広げるとグラフの曲がっているのが見えてくるでしょうから2次関数にするでしょう。 そうやって欲張って(笑)いくと、3次関数,4次関数,…としていくことになるのでしょうが、 他に方法はないのでしょうか。 例えば2次関数に√xの項を加えるとか、3次関数に1/xの項を加えるような方法は有効なのでしょうか。 グラフを見た感じy=ax^n (ただし0<n<1)のような関数なのですが データの対数をとって一次関数にしてもあまり良い近似にならなかったようで、 EXCELの逆行列機能を用いて2次関数,3次関数,…としていったのですが、 わずかであっても極大・極小ができては困ります。 かといって数学力がないので複雑な関数で置いても解けないと困るのです。 こんな事態なのですがアドバイスいただけないでしょうか。

  • 線形数学 最小2乗解の求め方

    ベクトルu1,u2をu1=(0,1,1),u2=(1,1,0)とする。またベクトルbをb=(1,0,1)とする。 という問題で、正規直交基底q1=1/√2(0,1,1),q2=1/√6(2,1,-1)を求めました。 その次の問題で、 「ベクトルq1,q2を列ベクトルとしてもつ行列をWとする。行列Wの列空間上の点で、bに最も近い点pを求めよ。また、連立一次方程式 Wx=b の最小2乗解x'を求めよ。」 というものでして、ネットや教科書を見て調べたのですが答えが導き出せません。 pとx’の導きだし方を教えていただけませんか。よろしくお願いします。

  • 最小二乗法について困ってます。

    Σa_i*y^p*x^q*1^r, p+q+r=3 とおいて、a_iを最小二乗になるように変化させるたいですが、、、 (3次の多項式で近似) よろしくお願いします。

  • 最小二乗法 ニュートン法

    ニュートン法で最小二乗法を使うとき、x+Δxを近似解として、テイラー展開して f(x+Δx)=f(x)+f’(x)Δx この式から新しい近似解を得ると思います。 この時のfは何の関数なのでしょうか? 残差の二乗和でいいのでしょうか? わかる方お願いします。

  • 誤差の二乗和を最小化する問題で⊿p=0で最小でない

    反復計算によって、Σ(I(x+p+⊿p, y) - T(x, y))^2を最小化するという問題についてです。 テイラー展開をして1次近似した式を⊿pで微分した式をゼロとする⊿pを算出し、 pをp+⊿pと置いて、再度計算を繰り返しています。 ここで、IとTは画像のように離散化された値で、Σは画像中の局所領域を指します。 繰り返しにより⊿p=0となった時に、Σ(I(x+p+⊿p, y) - T(x, y))^2の値が、 必ずでは無いですが最小とならないことがあります。 例えば最小となるのはpが-0.02~-0.05ずれた位置となっています。 プログラムで解いていますが、計算誤差と見なすにはあまりに大きい気がします。 1次近似した式を用いることで、このようなことは起こるのでしょうか? 数学的な部分が追いきれずに、質問させていただくことにしました。

  • 多変数関数の多項式近似(再投稿)

    3個のパラメータP1、P2、P3と変数Xで決まる未知関数Fのデータセットが約2000データセットあります。 この未知関数を何次かの多項式で近似を行いたいのですが、どのように考えればよいでしょうか。 データセットの値は誤差があり、この誤差を平滑化できるような、多項式のなるべく少ない次数が求められます。1個のパラメータや変数だけに着目すると変動の振る舞いは単調です。 より詳細情報として、p1は10~50位で連続的、P2は5000~20000位で等間隔の離散値、P3は1~20の整数値、Xは5000~20000位の連続値、関数値は0~5000位の連続値。 使用方法のイメージは、ある事象のとき、P1、P2、が決まり、P3とXに対応する近似関数値を求めたいのです。 なおこの関数はマーケットのオプション価値を表すものでブラックショールズ式が通常使われるのですが、この式より導出される理論値と実際の市場データには誤差があり、これを評価したいのが目的です。 p1,P2,P3を固定してXに関する関数に対してなら、多項式近似を行う方法はわかりますが、P1、P2、P3のすべてに対して共通な、もっとも良い近似を行う方法ということにもなります。

  • 円の最小二乗法の公式

    いくつかのデータから最小二乗法で近似曲線を求めたいのですが、よくわかりません。そのデータ集の近似曲線は円になります。 最小二乗法を調べ、1次、2次関数についてはわかりました。ある点の座標を(x1,y1), (x2,y2)…、近似曲線上の座標を(x1,y’1),(x2,y’2)… とした時、 (y’1-y1)^2 + (y’2-y2)^2 … が最小となるような係数a,b などを偏微分 → 連立方程式で求めるという方法でした。 円についても、同様の方法で r^2 = (x-a)^2 + (y-b)^2 のような近似曲線の式が求められるのでしょうか?1次関数などのように、y’1-y1を求めようとすると、±√ が出てきてしまい、ややこしくなる気がしますが、これを解くしかないのでしょうか?もしくは別の解法があるのでしょうか?詳しく教えていただけたらと思います。よろしくお願いします。

  • 誤差と最小二乗法

    単振り子の振れの大きさを小さくし、 振り子の長さLと周期Tを5通りほど計測しました。 そこでT=2π√(L/g)⇔g=4π^2L/T^2から 重力加速度を5通り求めました。 結果、どれも相対誤差0.3%以内で、 どれもマイナスの誤差になりました。 次にT=2π√(L/g)⇔T=(2π/√g)*√Lとし、 √Lをx軸に、Tをy軸にとり、(2π/√g)を傾きとするグラフを描きました。 ここで、最小二乗法よりグラフの傾きを求め、 そこから重力加速度gを求めたところ、 相対誤差が3%になり、さらにそれはプラスの誤差でした。 そこで質問です。 最小二乗法を用いるのは今回が初めてなんですが、 このように測定値を単体で考えたときと、 測定値をまとめて最小二乗法で考えたときとで、 こんなにも誤差が変わるのはよくあることですか? それとも計算に誤りがあるのでしょうか。 よろしくお願いします。