回帰直線を求める問題

質問

通常の（EXCELの図や関数などで求まる）回帰直線　y = ax + b　について考えよ，という問題です。

１．

相関が０であるデータ分布に対しては，直線の回帰係数つまり，傾きaは，0/0となり不定（求まらない）である。
これは，正しいか？間違いなら，数値を述べよ。

例えば，単位円上にx軸から45度ずつ，８点を取る。以下のデータである。

x　　　　　　y
1　　　　　　0
1/√2　　1/√2　
0　　　　　　　1
-1/√2　　1/√2
-1　　　　　　0
-1/√2　　-1/√2
0　　　　　　-1
1/√2　　-1/√2

　これに回帰直線を当てはめるのは不自然だが，回帰係数の性質を学ぶために，やってみよう。
　すると，相関０なのに，傾き０の直線，ｙ＝０が出てしまう（添付図参考）。これは何かの間違いか？そんな例も考えてみよう。

統計ソフトを利用して考えても良い。

２．

最小二乗法で，回帰直線を求めるとき，直線のｘ方向にもｙ方向にも最小二乗となる。
これは，正しいか？間違いなら，正しく述べよ。あくまで，通常の最小二乗法である。

なお，工業統計では，

１正しい。傾き０　となることはない。
２正しい。つまり，ｘ，ｙどちらから見ても最小二乗となる。

となるが，ここでは一般的に考えてみよう。

工業統計の参考として，このOKにも回答があるので，参考にして良い。
http://okwave.jp/qa/q6733154.html

回答No.1

takurinta · ベストアンサー

1. Yを目的変数、Xを説明変数とする回帰分析で、Yの予測値と実測値の差についての最小2乗推定をするのであるならば、傾きa=0となります。

2. 世間で最も使われているものを通常の最小二乗法と呼ぶのであれば、それは、目的変数の実測値と説明変数から推定された予測値との差についての最小二乗法なので、Y方向について最小二乗となります。X方向については最小二乗にはなりません。極端な場合が1. の円形の例で、Xを目的変数とする回帰分析にすると、X方向についての最小二乗になりますが、そのとき回帰直線
X = cY + d
はY軸方向の直線、つまり、c=0の直線になります。

お礼

ありがとうございます。

全く，そのとおりだと思います。

思います，どころか，それが通常のいわゆる，Ordinary Least Square: OLS　です。

質問の一番下に挙げたサイト
http://okwave.jp/qa/q6733154.html
で，さかんに回答されているsanoriさんという方，自己紹介を見ると，理系だと書いてあり，工業統計をやっているらしいが，通常の定義と，どう違うものを使っているのだろうか，と思ってしまう。

sanoriさんの誤解を指摘したら，私のほうが間違っている，と繰り返し反論されている。

takurintaさん，全く正解で，ベストアンサーにしたいけど，今すると，締め切りになってしまうので，もう少し待ちます，他にも誤解してる人がいるかも。。

すみません。

補足

＞他にも誤解してる人がいるかも。。

と書いたのは，ちょっと間違いで，実際に，工業統計では，そう使われているかも，という気がする。

もしそうなら，参考サイト，文献が知りたい。