• 締切済み

回帰係数の有意性の検定

線形回帰式 y=b0+Σ[i=1~p]bi・xi y:被説明変数 xi:説明変数 bi:係数 があり、N組のデータからbiの最尤推定量 bi~ を求めるとします。 この bi~ の有意性を検定する場合、bi~ が最尤推定量の漸近正規性から、以下の正規分布に従っているとみなします。 N(bi★,σ^2) (bi★は真のパラメータ、分散σ^2は未知) 次に以下の仮説検定を行います。 帰無仮説 H0:bi★=0 対立仮説 H1:bi★≠0 ここでは bi~ の分散が未知なので、bi~ の標本分散 s^2 を用いて 以下のt統計量により検定を行います。 t=bi~/(s/√N) ~ 自由度N-1のt分布 以上のような解説を聞いたのですが 最尤推定量 bi~ はN個のデータから1回推定を行っただけなので 標本は1個しかありませんよね? だったら、標本分散s^2って計算できない気がするのですが… 私の理解のどこがおかしいでしょうか?

みんなの回答

回答No.1

N(bi★,σ^2) (bi★は真のパラメータ、分散σ^2は未知) という事は、各bi~(i=0,...,p)が平均は異なるが、分散は等しい正規分布に従うという事になりますね。 これは、一般には正しくありません。 y=b0+Σ[i=1~p]bi・xi+ei (eiは攪乱項)なる線形回帰モデルがあり、 攪乱項eiの分布が正規分布N(0,σ^2)であると仮定し、その仮定の下に最尤推定量を求めるのではないでしょうか? 表記の簡単化のために、求めるパラメータをベクトルにまとめ、 b=(b0,...,bp)' とすると、最尤推定量の漸近的正規性から、b~は以下の分布に漸近的に従います。 b~~N(b★、E(I(b★))^(-1) ) 但し、E(I(b★))は対数尤度関数のHessian行列にマイナスを付けたもの。 各bi~は、E(I(b★))^(-1)のi番目の対角成分を分散として持ちます。

harohi
質問者

お礼

ご回答ありがとうございました!

関連するQ&A

  • 社会統計について質問です。

    友人に社会統計学について、質問を受けました。 私は心理学科なので、心理統計しか分からず、困っています。 どなたか助けてください。 以下のような問題です。 体重に関して正規分布N(μ,σ二乗)に従う母集団から、無作為抽出によって以下の16の標本を得た。 62,50,60,48,62,59,36,64,64,62,87,63,75,27,65,76 (1)標本平均、不偏標本分散、不偏標本標準偏差を求めよ。 (2)母平均の最尤推定値(最尤推定量の実現値)を求めよ。 (3)母分散は既知とする。このとき標本平均の標本分布はどのような分布に従うか。「確立変数~確率分布」という形式で答えよ。 (4)母分散は未知であるとする。このとき、母平均の95%信頼区間を求めよ。 (5)母平均は未知であるとする。帰無仮説をHo:μ=52としたとき、適切な検定統計量を求め、5%水準両側検定、1%水準両側検定、5%水準右片側検定、1% 水準右片側検定をそれぞれ実施せよ。 (7)さらに、体重に関して正規分布する別の母集団から、無作為抽出して以下の16の標本を得た。2つの母集団の母分散は未知であるが、母分散は同じであると仮定して良い。「2つの母平均は等しい」を帰無仮説として、母平均の差に関する5%水準両側検定を実施せよ。(ヒント:t0.025(30)=2.042) 65,60,57,76,79,72,57,75,54,75,42,77,38,48,71,78 よろしくお願いします。

  • 正規母集団で母分散未知の場合の母平均を検定する

    正規母集団で母分散未知の場合の母平均を検定するのに、t分布を使って次のようにしようと思いますがそれでよろしいでしょうか? 1. ある物体(非常にたくさんある)のパーツA、Bのそれぞれの長さの比が4対1であるように思われた。 2. そこで、この長さの比の平均値μ0(ゼロは添え字)=4と仮定し、さらにこの比が正規分布していると仮定する。 3. n=20の標本をとる。 4. 標本平均を「ラージXバー(以下、単にX_と略記)」、不偏分散をs^2、(sは標準偏差)とするとき次の確率変数Tは自由度n-1のt分布に従う。T=(X_-μ0)/(s/√n) 5. 帰無仮説H0=4、 対立仮説H1≠4 6. 有意水準を5%とします。 7. 両側検定とします。 8. 棄却域は2.093以上、または-2.093以下。 9. 20の標本からX_、s を求めて、Tを計算します。 10. もしT=1.8 ならば、帰無仮説は受容されます・・・等々。 このような進め方でよろしいでしょうか、よろしくお願いいたします。

  • t検定におけるt値の求め方について

    母平均の検定(1群を母平均と同じか検定)でt検定を行う際に、 T=(標本平均-母平均)÷(標本標準偏差)*√(n-1) と教科書にありました。ただ、次のサイト https://bellcurve.jp/statistics/course/9405.html を見ると、同じT値でも、 T=(標本平均-母平均)÷(不偏分散の標準偏差)*√(n) と書いてありました。不偏分散を求めるときに、n-1とするのは知っており、結局同じ式にはなっているのかと思いました。 以下質問ですが、 ①上の式はt検定なので√(n-1)は自由度を反映しているのだと思うのですが、自由度が違えば、下の式の不偏分散の求め方も、n-1で割るのではなく、n-2になったりするのでしょうか? ②以下のサイトに、nが大きければ、標本分散S²を母分散とみなしてz検定を行い、nが小さければ不偏分散を母分散とみなしてt検定をするとあります。 https://www.geisya.or.jp/~mwm48961/linear_algebra/t_test2.htm これは正しいですか?更に別の教科書には、nの数によって標本分散と不偏分散を使い分けるが、両方とも検定統計量Tを求めるとありました。それで、nが大きければTをZ分布表と比較すると書いてありました。 t検定は、サンプルが少ない時に使う確率密度のt分布表を使っていて、そもそもサンプルが小さい時点でt値を求めているから、比較先はt分布表だと思うのですが、、、。 解説のホームページによってかなりバラバラでどれが正しいのかわかりません。どうなっているのでしょうか。

  • 検定の質問です

    問題がどうしても解けないのでお願いいたします。 母分散と母平均が両方未知で正規母集団から大きさ51の標本を無作為抽出し、不偏分散Vを計算しました。 帰無仮説:母分散がvを有意水準0.05%で検定するときの棄却域をどうか教えてください。 カイ2条分布を用いて解けるとは思うのですが、どのように区間推定したら良いのかわからないのでよろしくお願いいたします。

  • ピアソンの相関係数の有意検定について

    ピアソンの相関係数 r を求めて、有意検定をするところを勉強していますが、t検定のとき 標本数nと相関係数rから求めますが、 自由度についてよく判りません。 危険率0.05で、棄却域を求めるときの自由度ですが。 (n-1)で検定をするのか、(n-2)なのか判りません。 いろんなサイトで調べると(n-2)のt分布に従うとあり。 私の本では、(n-1)で棄却域が求められています。 共分散の考えから、(n-2)なのでしょうか。 教えてください。

  • 分散の検定

    昨年末のアクチュアリー試験での問題です。 分散の片側検定において,真の分散が帰無仮説において仮定された分散の3倍になったとき,帰無仮説が確率95%以上で棄却されるようにするには標本数が[ ]個あればよい.ただし,平均は未知とし,有意水準は0.05とする. という問題です。分布に何の仮定もないし、標本数の大きさを問うのだから正規分布近似も適当だとは思えません。とするとχ^2-testではできないように思います。こういう問題の場合、どのように解くものなのでしょうか?

  • 分散既知の仮説検定

    正規分布N(μ,σ^2)の母分散はすでにわかっていて(σ^2=9) 標本平均X~を用いて仮説 H0,μ=100 H1,μ=110 このような検定を有意水準α=0.05でするとき 第2種の誤りβも0.05未満にしたい  標本数nはどれぐらい必要なのかという問題です あらかじめnとX~がわかれば (X~-μ)/√(σ^2/n)という変換でt検定を行えばよいというのはわかるんですが nを求めるとはどういう手順をふんでいけばいいんでしょうか?

  • 不偏分散の分布は?

    不偏分散の分布について混乱していますので、ご助言頂けましたら幸甚です。 例えば母集団の分布を正規分布N(μ,σ^2)とした際、 標本平均x(=1/nΣxi)を区間推定する場合、正規分布の再帰性より、標本平均の分布はN(μ,(σ/√n)^2)となることから、μの区間推定が可能と理解しています。 また、若干やり様は異なりますが、標本分散s^2=1/nΣ(x-xi)^2に対し、ns^2/σ^2がΧ2分布に従うことから、σの導出が可能と理解しています。 ここで、上記と同様に、不偏分散(=1/n-1Σ(x-xi)^2)についての分布とは、どのような分布になるのでしょうか? おそらくΧ2分布になると推察しますが、証明できてません。 また、不偏分散の導出方法は、 E[S^2]、即ちS^2の平均と理解していますが、 S^2を確率変数とした際の分布がΧ2分布なのであれば、 このΧ2分布の平均が、不偏分散になってもよさそうですが、 Χ2分布の平均=n ですので、不偏分散とは不一致です。 上記のとおり、整理がついておりませんので、教えて頂けましたら助かります。 特に上記のとおり混乱しておりますので、現在はむしろ、「不偏分散については、点推定でのみ用いるのか?」と考えております。

  • 最尤推定

    ビタビを用いた最尤推定では、 n個の標本が、平均μ ,分散σ^2 の正規分布に 従う場合を想定しています。 しかし、n個の標本は有限の観測ですので、 たまたま出現値が偏っている場合があるように 思います。 要するに、n個の標本の平均がμ でなかったり, 分散がσ^2でない場合です。 聞きたいのは、ビタビを用いた最尤推定は n個の標本に着目した時、最適ではないと考えて良いのでしょうか?

  • 社会統計について質問です。

    大学生です。社会学部の友人に統計学の課題について、助けを求められたのですが、これが私にもさっぱり分かりません。どなたか私達を助けて下さい。以下のような課題です。 母平均μ、母分散σ二乗を持つ正規分布でない母集団から、標本数900のデータを得たところ、標本平均は92、不偏標本分散は100であった。この場合、大標本であると見なして良い。ただし、母分散は未知である。 (1)仮説検定に用いる統計量は何か。また、その統計量は近似的にどのような分布に従うか。 (2)母平均の99%信頼区間を求めよ。 (3)帰無仮説をHo:μ=90としたとき、適切な検定統計量を求め、5%水準両側検定、1%水準両側検定、5%水準右片側検定、1%水準右片側検定をそれぞれ実施せよ。 よろしくお願いします。