F検定とt検定で結果が違うとき

質問

3変数のデータについて回帰分析を行い、係数aとbをそれぞれ求めるのですが、テキストでは、その係数の検定を行うに際して、t検定とF検定を行うと書かれています。

ここまではいいのですが、その後ろに、t検定でaとbそれぞれについて、a=0, b=0という帰無仮説について検定することと、F検定でa=0, b=0の両方を検定することは意味が異なるので、t検定で棄却されなくても、F検定で棄却されることがあると書かれています。

もし異なる結果が出た場合、どのように考える（どちらの結果を優先する）のでしょうか？
また、t検定だけで終わらせた場合、やはり検定が不十分だとされるのでしょうか？

分野は計量経済学です。

お知恵をいただければ幸いです。

回答No.1

井口 豊（@Iguchi_Y） · ベストアンサー

＞t検定でaとbそれぞれについて、a=0, b=0という帰無仮説について検定することと、F検定でa=0, b=0の両方を検定することは意味が異なる

ちょっと説明（検定方法）が分かりにくいのですが・・・

パラーメタひとつづつ，例えば　a 　に対する検定なら，ｔ でも F でも，結果は同じです。

具体例が不明ですが，もしかすると，

a = 0, b = 0 を個別に検定する場合，
と，
両方まとめて式（モデル）の適合性を検定する場合，を言ってるのかもしれません。

添付図に上記HPでのy = ax + b の回帰分析結果を示しました。
（HP7章下のほう，表６から引用）
全体的には，この直線は適合してることが

Fの確率，0.017559412

から分かります。

しかし，パラメータを見ると，
切片は，確率，0.074439654
で有意と言えず，
傾きは，0.017559412
で有意と言えます。

このような場合，

モデル全体の適合度を見るなら，適合してる，と言えますが，

例えば，切片が０かどうか，つまり，原点を通るかどうか，は，原点を通る（０と有意差がないから）

傾きが０かどうか，は，ゼロとは言えない，となります。

つまり，
＞どちらの結果を優先する
かの問題ではなく，何に注目してるか，という問題になります。

お礼

つまり，
＞どちらの結果を優先する
かの問題ではなく，何に注目してるか，という問題になります

なるほど・・・。
例までつけていただきありがとうございました。

回答No.3

noname#227064

ANo.2で不正確な表現があったので補足します。

> {(a b)W^(-1)(a b)'/2}/{Y'(I-X(X'X)^(-1)X')Y/(n - p)}
> は第一自由度が2で第二自由度がYの行数-βの行数のF分布に従います。
> 棄却域は原点を長軸と短軸の交点とする楕円となります。
>
> これと異なり、a, bについてそれぞれt検定を行った場合の棄却域は矩形となります。

hat(σ) = √{Y'(I-X(X'X)^(-1)X')Y/(n - p)}
とします。
軸をa/hat(σ), b/hat(σ)として棄却域を描いたときに、楕円或いは矩形の外部が棄却域にあたります。

お礼

ありがとうございました。行列をしっかり勉強します。

回答No.2

noname#227064

行列を使って説明します。
Iは単位行列、'は転置行列、^(-1)は逆行列を意味します。
Xをn×pのデザイン行列として、
Y = Xβ+ε, ε~N(0, (σ^2)I)
というモデルで回帰分析により係数βの推定します。
このとき、推定量hat(β)は平均ベクトルがβ、分散共分散行列が(σ^2)(X'X)^(-1)の多変量正規分布に従います。

注目している係数の推定量をa,b、分散共分散行列の注目している係数に対応する部分を(σ^2)Wとすると、
(a b)W^(-1)(a b)'/σ^2
は帰無仮説の下では自由度2のカイ二乗分布に従いますので、
{(a b)W^(-1)(a b)'/2}/{Y'(I-X(X'X)^(-1)X')Y/(n - p)}
は第一自由度が2で第二自由度がYの行数-βの行数のF分布に従います。
棄却域は原点を長軸と短軸の交点とする楕円となります。

これと異なり、a, bについてそれぞれt検定を行った場合の棄却域は矩形となります。

従って、楕円と矩形の重なっていないところで検定結果が異なることがあります。

> もし異なる結果が出た場合、どのように考える（どちらの結果を優先する）のでしょうか？
> また、t検定だけで終わらせた場合、やはり検定が不十分だとされるのでしょうか？

の答えはNo.1さんが

> ＞どちらの結果を優先する
> かの問題ではなく，何に注目してるか，という問題になります。

と書かれている通りです。
別々に検定する必要があるかないかで決めたらいかがでしょうか。