重回帰理論

質問

３次元空間のｎ個の点、（xi,yi,zi）i=1～n, の最小二乗近似平面を決定する理論を、大学１年生レベルで読みこなせる日本語の書物を教えて下さい。簡単に、プログラミングしたいので懇切丁寧に書かれたものが希望です。

回答No.1

jaspachate · ベストアンサー

どなたもお答えになっていないようなので、平面近似に関する特定の本を知っているわけではありませんが、suggestion だけさせていただきます。

平面だけなのであれば簡単な最小二乗法が使えます。最小二乗法については誤差解析まで含めた詳しい本があります。東京大学出版、UP応用数学選書「最小二乗法による実験データ解析」。一般の曲面近似も含めた本は入門書としては数値計算関係の概説書などがあります。Amazonで検索しても多数ありますが、大学生協(理工系)なら入門書から専門書までそろっているでしょう。中身を見てご自身にあっているものを探すのがよいと思います。

さて簡単な平面近似ですが、平面の方程式を
ax+by+cz = r
とします。ベクトル(a,b,c)は法線ベクトルで、rはそれと位置ベクトルの内積ですから、rは原点から平面までの距離を定数倍したものです。a^2+b^2+c^2=1 であれば r は距離そのものです。従って、データ点と平面との間の距離を残差Δiとしてその二乗和を最小にすればよいわけです。
χ² = Σ(Δi/σi)^2
Δi = r - ( a xi + b yi + c zi )
(xi,yi,zi)はデータ点、σi はΔiの標準偏差で、通常は測定誤差を取りますが、各点の測定誤差が与えられていなければ初期値としてσi=1とし、結果の残差から標本標準偏差を求めても良いでしょう。
ところで空間のベクトルの自由度は３で、大きさと二つの角度、または座標系の３成分です。今、a^2+b^2+c^2=1を考慮すると、自由度は２になります。しかし、これを直接χ²に使うと非線形になるので面倒です。そこで、a,b,cのどれかを固定します。簡単には(a,b,1)等とします。もしデータから平面がz軸に平行に近いならばaまたはbを1におきます。こうすればa^2+b^2+c^2=1は満たしませんが、自由度2の結果が得られます。それにともない、r の結果は実際の平面と原点の距離の√(a^2+b^2+1)倍になるので、残差の標本標準偏差も同じ定数倍になっています。結果を扱うときにそれに注意すれば、最も簡単な最小二乗近似ができます。
途中式は∂χ²/∂p=0 (pは各パラメータr,a,b) から、
rΣ(1/σi^2) - aΣ(xi/σi^2) - bΣ(yi/σi^2) - Σ(zi/σi^2) = 0
rΣ(xi/σi^2) - aΣ(xi/σi)^2 - bΣ(xiyi/σi^2) - Σ(xizi/σi^2) = 0
rΣ(yi/σi^2) - aΣ(xiyi/σi^2) - bΣ(yi/σi)^2 - Σ(yizi/σ^2) = 0
これから r,a,bが求められます。
σi=1 とおいたならば、結果から残差の標本分散は、
<σ^2> = χ²/(N-3)/(a^2+b^2+1)
と求まります。Nはデータ点の個数で、N-3の3はパラメータの数です。
誤差解析については最小二乗法の書物を参照してください。

お礼

詳しいご説明、有難う御座います。平面上の直線近似の係数a,bが、統計の入門書に陽の形で書かれていますが、空間上の平面近似を記述した書物が身近に見つからなかったので、お伺いしました。お勧めの書物を読ませて戴きます。