べき乗則を最小二乗法で求める

質問

卒業研究で計測した分布をべき乗則

y = ax^k

に類似させるべく最小二乗法を計算しようと思ってるのですが
自力で計算した結果

k = {loga×Σ(logy) - Σ(logy × logx)} / Σ(logx)^2
a = Σ(yx^k)/Σ{x^(2k)}

で行き詰まって係数の計算までに至りません
最小二乗法で調べてみても簡単な一次式の例しか出ず参考になりません

どなたか適切な計算方法について説明お願いします

回答No.1

pascal3141 · ベストアンサー

y = ax^kの両辺の対数をとって、lny=lna+klnx。
Y=lny,A=lna,X=lnxと置くとY=A+kXとなって、一次式の形になります。
各データから、Y(i)=lny(i),X(i)=lnx(i)を使って求めれば普通の最小二乗法でできます。

お礼

なるほど、そう考えると単純ですね

私は対数は取ったのですが
S = Σ(logy-loga-klogx)^2
のように変換せずそのまま最小二乗法をやってましたorz

参考にします、ありがとうございます。

回答No.3

arrysthmia

No.2 と比べれば判るように、貴方の式は、

k = { (log a)×Σ(log y) - Σ(log y × log x) } / Σ(log x)^2 が、
(∂/∂k) Σ{ (log y) - log(a x^k) }^2 = 0 を変形したもので、
log y の二乗誤差を最小にする a, k を求める式の一部、

a = Σ(y x^k) / Σ{ x^(2k) } が、
(∂/∂a) Σ( y - a x^k )^2 = 0 を変形したもので、
y の二乗誤差を最小にする a, k を求める式の一部、

になっています。どちらか一方に統一すれば、それなりの解が得られます。
どちらに統一すべきかは、応用上の都合で決まるので、
数学というより、その卒業研究の内容に従って考えるべきでしょう。

y の二乗誤差のほうを最小化することに決めた場合、
a, k の連立方程式は、非線形方程式になりますから、
反復法などを使って、近似解を求めるしかありません。

そちらが希望なら、ニュートン法などについて調べてみるとよいでしょう。
参考： http://akita-nct.jp/yamamoto/lecture/2007/5E_comp_app/nonlinear_equation/nonlinear_eq_html/node8.html#SECTION00082000000000000000

回答No.2

sanori

こんばんは。

Ｎｏ．１様のご回答のように、
ｙ　＝　ａｘ^k
から
lnｙ　＝　ｋlnｘ　＋　lnａ　　（自然対数）
あるいは、
logｙ　＝　ｋlogｘ　＋　logａ　　（常用対数）
としてから、
logｙ　と　logｘ　との関係を最小二乗法として考える方法が一つ。

この方法は、両対数グラフを作ったときの、直線と各点とを近づけたい場合に用います。

もう一つは、対数目盛りでないグラフ（曲線になります）において、
各点と曲線とを近づけるという目的で行う方法です。
誤差をεと置けば、
ｙ　＋　ε　＝　ａｘ^k
ε　＝　ａｘ^k　－　ｙ
ε^2　＝　（ａｘ^k　－　ｙ）^2
　＝　ａ^2・ｘ^2k　－　２ａｙｘ^k　＋　ｙ^2

データに番号をつければ、
εn^2　＝　ａ^2・ｘn^2k　－　２ａｙnｘn^k　＋　ｙn^2

よって、２乗誤差の合計Ｓは、
Ｓ　＝　Σεn^2
　＝　Σａ^2・ｘn^(2k)　－　２Σａｙnｘn^k　＋　Σｙn^2
　＝　ａ^2・Σｘn^(2k)　－　２ａ・Σｙnｘn^k　＋　Σｙn^2

ここで、
ｘn、ｙn　はデータなので、既知の定数です。
逆に、ａとｋは不明ですから、変数として考えることができます。

Ｓを最小にするには、Ｓがａやｋに関して極値を取るようにすればよいのですから、
それは、Ｓをａやｋで偏微分したときにゼロになるようにすればよいということです。

Ｓ　＝　ａ^2・Σｘn^(2k)　－　２ａ・Σ（ｙn・ｘn^k）　＋　Σｙn^2
でしたから、

∂Ｓ／∂ａ　＝　２ａ・Σｘn^(2k)　－　２・Σ（ｙn・ｘn^k）
　＝　２（ａ・Σｘn^(2k)　－　Σｙn・ｘn^k）

∂Ｓ／∂ｋ　＝　ａ^2・Σ（２lnｘn・ｘn^(2k)）　－　２ａ・Σ（ｙn・lnｘn・ｘn^k）
　＝　２ａ（ａ・Σ（lnｘn・ｘn^(2k)）　－　Σ（ｙn・lnｘn・ｘn^k））

これらがゼロになればよいので、
ａ・Σｘn^(2k)　－　Σ（ｙn・ｘn^k）　＝　０
ａ・Σ（lnｘn・ｘn^(2k)）　－　Σ（ｙn・lnｘn・ｘn^k）　＝　０

という連立方程式で、ａとｋが決まります。

この先は、計算していません。

以上、ご参考になりましたら幸いです。