- ベストアンサー
最小自乗法の勾配を推定する式
- みんなの回答 （1）
- 専門家の回答
質問者が選んだベストアンサー
Σ(εi)^2=Σ(yi-a*xi)^2 これをaで微分：Σ(-2)xi(yi-a*xi)=2aΣ(xi)^2-2Σxiyi よって、求めるa={Σ(xiyi)}/{Σ(xi)^2}
関連するQ&A
- 最小二乗法において
y=ax^2+bx=c とおいたとき、最小自乗法から a,b,cの値を求めるには?という問題で、 S=Σ(yi-(axi^2 + bxi + c))^2 とおき、 ∂S/∂a=-2Σxi^2(yi-(axi^2 + bxi + c)) ∂S/∂b=-2Σxi(yi-(axi^2 + bxi + c)) ∂S/∂c=-2Σ(yi-(axi^2 + bxi + c)) となり、 aΣxi^4 + bΣxi^3 + cΣxi^2 = Σxi^2yi aΣxi^3 + bΣxi^2 + cΣxi = Σxiyi aΣxi^2 + bΣxi + cΣ = Σyi というとこまでは出来たのですが、ここから先と誤差の求め方がわかりません。 初心者なので出来ればわかりやすく教えて下さい。
- ベストアンサー
- 物理学
- 最小自乗法、誤差伝授法を用いた問題
解けないので困っています。 問題：ある量の測定をN回行った。各測定値mi(i＝1,2,...N)は誤差σiを持つ。 最小自乗法と誤差伝授の考え方を用いて最良の推定値mとその誤差σmを求めなさい。 さらに、σiがすべてほぼ同じ大きさσであるとしてよいときには、 m＝Σmi/N、σm＝σ/√N となることを証明せよ。 よろしくお願いします。
- ベストアンサー
- 物理学
- 指数関数のまま最小自乗法を適応し、推定量を求める
y=ae^bxにおいて 指数関数のまま、最小自乗法を適応して係数の推定量 a" b" を求めよ。 ただし、それぞれ初期値を13.52、1.544とし、ニュートン法を用いて求めよ。 がわかりません。 解説をお願いします。
- 締切済み
- 数学・算数
- 最小自乗法の公式の覚え方
原価計算で出てくる最小自乗法の公式がなかなか覚えられません。 語呂合わせ等含め、覚えやすい覚え方がありましたら、教えてください。 ※参考 最小自乗法の公式 X=営業量、Y=原価、n=サンプル数であるとき、 求める変動費をa、固定費をbと置くと、 ΣY=aΣX+nb ΣXY=aΣX^2+bΣX が成り立つ。
- ベストアンサー
- 簿記
- 統計学: 尤度推定量、最小二乗法
統計学なのですが、悩んでいるところは 微分の極値問題 なので 微分ができる方にも アドバイスをお願いしたいです。 さて、問題ですが L = - Σ（i=1->n)(Yi - θ*Xi)^2/(2*σ^2) - (n/2)ln(2*π*σ^2) を最大化するθ,σ^2を求め、 そのθとσ^2がLを最大化していることを示せ。という問題です。 ただし X1,X2,...,Xn と Y1,Y2,...,Yn は定数扱い。 また θ>= 0 , n は自然数,σ^2 > 0 です。 もとは 統計学の問題で 線形回帰モデル Yi = θ*Xi + εi ,εi は 正規分布 N(0,σ^2) に従う。 を考えたとき θとσ^2の最尤推定量を求め、その推定量が尤度を最大化していることを証明せよ。 という問題で (対数)尤度L を計算すると L = - Σ（i=1->n)(Yi - θ*Xi)^2/(2*σ^2) - (n/2)ln(2*π*σ^2) となり、 あとは極値問題を解くだけというところから 分からなりました。 この先、私が考えたのは ∂L/∂(σ^2) =0 かつ ∂L/∂θ =0 を満たす θ,σ^2 を求めること(grad(L)を導出) 前者は σ^2 = Σ(Yi-θ*Xi)^2 /n 後者は Σ(Yi-θ* Xi)*Xi = 0 という 形に変形できたのですが、 後者の式をこれ以上 くずせませんでした。 ここでアドバイスがほしいのです。 統計、もしくは解析ができる方、アドバイスをいただけないでしょうか。 文が長くなってしまいましたが、よろしくお願いします。
- ベストアンサー
- 数学・算数
- 共役勾配法の解法について
Ax = b の形の式を共役勾配法で解く方法は，インターネットでいくつか見つけることができました． しかしながら，Ax = b の解が１つでない場合などに， ||Ax-b||^2+α||Cx||^2 （ノルムは２ノルム）を最小にする問題を，共役勾配法によって解く方法がわかりません． 最小自乗法に関する知識が必要なのかと思うのですが，どうにもならないのが現状です． どなたかご存知ありませんでしょうか？
- ベストアンサー
- 数学・算数
- 最小二乗法について
最小二乗法では二乗和の誤差 Σ[i=1～n]{Yi-(α+βXi )}^2 （iは添え字です） を最小化するα,βを推定することを考えますが、 これは単純にα,βで偏微分してそれを0とおいて 連立方程式を解くだけでよいのですか？ といいますのも、2変数関数の極値を求める場合、 Hessianを計算して判別しますよね？ ただ一階偏導関数が0になるからといって、 そこで極値をとるとは限らない気がしたので… それとも最小二乗法の場合は必ずとるようになっているのでしょうか？ 手元の本には、 「この二乗和は非負値なので、αとβで偏微分したものを0とするα,βが上式を最小にする値である」 とあるのですが、一般に非負値だとこの ようなことが言えるのでしょうか？
- ベストアンサー
- 数学・算数
