• 締切済み

最尤推定

ビタビを用いた最尤推定では、 n個の標本が、平均μ ,分散σ^2 の正規分布に 従う場合を想定しています。 しかし、n個の標本は有限の観測ですので、 たまたま出現値が偏っている場合があるように 思います。 要するに、n個の標本の平均がμ でなかったり, 分散がσ^2でない場合です。 聞きたいのは、ビタビを用いた最尤推定は n個の標本に着目した時、最適ではないと考えて良いのでしょうか?

noname#64223
noname#64223

みんなの回答

  • rabbit_cat
  • ベストアンサー率40% (829/2062)
回答No.1

>n個の標本に着目した時、最適ではないと考えて良いのでしょうか? 「最適」という言葉をどういう意味で使っていますか? もちろん仰るとおり n個の標本は有限の観測ですので、たまたま出現値が偏っている場合 はありえます。 けれども、観測者は、n個の標本が「たまたま出現値が偏っている」のかどうか知る手段がありません。「偏っている」ってことがわかれば偏っている時用の推定方法があるんでしょうか、偏っているか偏っていないかわからない場合には「偏ってない」として最尤推定をするしかないです。 つまり「偏っている」という情報が与えられているならば、もっと最適な方法があるわけですが、「偏っているのか偏っていないのかわからない」場合には通常の再尤推定が(尤度最大という意味で)最適な推定法です。

noname#64223
質問者

補足

>「最適」という言葉をどういう意味で使っていますか? これが難しいところで、ビタビ復号という意味では、 誤り率が最低という意味です。 >再尤推定が(尤度最大という意味で)最適な推定法です。 まさにこの言い方が微妙なところで、 再尤推定が(尤度最大という意味で)最適な推定法ですが、 誤り率を最低にする方法でしょうか?ということです。 偏っているという情報がわからないにせよ、 有限のサンプリングなら、偏っている可能性が高いことも 事実です。 尤度と誤り率の関係が線形でないなら、 再尤推定が誤り率を最低にする方法でないのでは? という疑問です。

関連するQ&A

  • 統計学、最尤推定について

    統計学、最尤推定について こんにちは。早速ですが、質問させてください。 ある分布、ここでは例としてワイブル分布W(m,η)のパラメータについて考えます。 ここに、mはワイブルパラメータ、ηは尺度パラメータです。 ワイブル分布に従うデータx1,...,xnからパラメータを最尤推定します。 このとき、例えば、m=2が真の値だとして、その値を既知としたもとで最尤推定 された\hat{η}(m)と、その値を未知としたもとで最尤推定された\hat{m}の共分散を 求めたいがどうすれば良いかと言うのが質問です。 分かりづらいシチュエーションですが、ある証明の中で個の共分散を使いたいのです。 よろしくお願いいたします。

  • 最尤推定量の期待値

    以下に挙げました問題は、最尤推定量の期待値を求めて、不偏性が成り立たないことを示すことが趣旨だと思うのですが、最尤推定量3/{2*(X_1^2 , X_2^2 ,X_3^2)}まで出した後、分母に確率変数が入っているために期待値の出し方が分からなくなってしまいました。どなたかお知恵を貸して頂けませんでしょうか。 問題 母数¥theta(>0)を含んだ密度関数f(x)=√(¥theta / ¥pi)*exp(-¥theta*x^2) (下手な書き方ですみません。一応平均が0、分散が(1/2)*¥thetaの正規分布ということになると思います。) に於いて、無作為標本X_1,X_2,X_3が与えられた時の¥thetaの最尤推定量をTとする。この時Tの期待値を求めよ。

  • 有限母集団の中心極限定理

    訳あって確率統計の勉強をしておりますが、中心極限定理について質問があります。 「母集団の平均をm、分散をvとすると、そこから抽出したn個の標本の平均の分布は、平均m、分散v/nという分布になり、標本数をn→無限大とすると、分布は母集団の分布によらず正規分布に近づく。」 とありますが、母集団が有限個(N個)の集合ならどうなるでしょうか。 その場合、標本数をnがNに等しくなった時点で平均はm、分散0、つまり標本から母集団の平均が完全に推定(決定)することになります。 ●有限母集団の場合も中心極限定理は成り立つのか? ●成り立つならn→Nで分散が0になるという点はどう表現されるのか? このあたりを教えてください。

  • 最尤推定量について

    ラプラス分布の最尤推定量は標本中央値らしいのですが 導けません。導き方を教えてください。 密度関数を f(x)={exp(-|x-θ|)}/2 とします。よろしくお願いいたします。

  • 最尤推定量の問題

    現在、統計の勉強をしているのですが、 最尤推定量というものが、いまいち理解できません。 確立変数Xが f(x|μ,θ)=1/2θ * exp(-|x-μ|/θ)の密度分布を持つ。 今、2m+1個のサンプルx1<x2...<x2m+1 を得たとして、 μ=0のときの、μの最尤推定量。 また、その最尤推定量の漸近分散の2つを求める 問題なのですが、どのようにして解けばいいのかがわかりません。 関数にμ=0を代入して微分すればよいのでしょうか。 また、漸近分散は普通の分散と違うのでしょうか。 よろしくお願いします。

  • 最尤法について

    現在、独学で最尤法について勉強しています。その中で、少し疑問に思った事があり質問させていただきました。 最尤法について調べると、 ・最尤法は、尤度と呼ばれる量を最大化する事で、確率分布のパラメータを推測する方法。 ・尤度関数が最大となるパラメータ値を求める。 などの記述があり、母集団が正規分布に従うとき標本の値から正規分布のパラメータを推測する例題などがありました。 概念としては理解できているつもりなのですが、何故最尤法が必要となってくるのかがピンときません。 というのも、例えば正規分布のパラメータを知りたいのならば、最尤法を用いなくても「平均値」「分散」という統計量を標本値から求めてしまえば良いのではないでしょうか。他の分布についても、ほとんどの分布は統計量からパラメータを求める事が出来るのではないのでしょうか。 そういった疑問を踏まえて、次の二点について悩んでいます。 ・最尤法によって求められるパラメータ値は統計量から直接求められるパラメータ値と同じものになるのか?(使用する標本は同じもの) ・もし同じものならば、最尤法を利用すべき状況とは一体何なのか。 (自分としては、統計量から求められるパラメータがどれぐらい正しいのかをcheckするぐらいしか利用価値が無いのではないかと思っています。) まだまだ勉強し始めて日も浅いので、もしかすると的外れな疑問なのかもしれませんが、お答えいただけると助かります。

  • 最尤推定量の問題がわかりません。

    次の問題がよくわかりません。どうやって解いたらよいのか途方に暮れています。 X1,X2.....,Xn は n個 のコインを投げて 表=1 裏=0 とするinddicator variableであるとする。 Y はXi /n の合計で、P(表)の最尤推定量(MLE)であり、確率変数であるとする。   (Y = (Σ1=<i=<n Xi)/n ) この平均をθとし、P(表)のわからない値であるとし、 MLEはバイアスがかかっていないとする。   (E[Y] = θであるなら、θの推定量Yはバイアスがかかっていない.   E[Y] = (Σ1=<i=<n E[Xi])/n = nθ/n = θ) この条件で、 a) 表、裏、表 とでたらY の値はどうなるか b) Yの分散は(nとθの関数として)何とあらわせるか? 次に上の条件のもとに、投げたコインの最初の結果以外は無視しするものとして、 たとえば表立った場合 Y’=1,そうでなければ Y’=0とした場合、 c) 表表裏とでた場合、Yはどうあらわせるか?表裏表は?裏表表は? d) この確率変数 Y’の平均と分散は(nとθの関数として)何とあらわせるか? e) θの推定量として、Y’はバイアスはかかっているか?   また、それは最尤推定量であるか?   Y,またはY’はベルヌーイの確率変数の確率を推定するのに適しているか?   なぜ? 大変困っています。よろしくお願いします。

  • 最尤推定法の式変形

    確率密度関数が多変量正規分布の場合に、最尤推定を用いて平均・分散を推定する式の導出で躓いています。 具体的には、以下のアドレスに公開されているPDFの4ページ、偏微分の部分がどのように計算しているのか理解できていません。 http://www.geocities.co.jp/technopolis/5893/4-2.pdf どのようにしてこのような式変形が行われているのか、どなたか教えていただけますか? よろしくお願い致します。

  • 最尤推定量

    ベルヌーイ試行のときに、r回目の試行で初めて成功する確率は幾何分布で与えられる。成功したら次の回に移る実験をn回行った結果、実験iではri回目(i=1,2,...,n)の試行で初めて成功というデータが得られた。このデータを用いて幾何分布のパラメタ最尤推定量をもとめよ。 ベルヌーイ試行とはナンですか? そしてこの問題は何を意味しているのか? 最後に求最尤推定量とはどうすれば求められるのか? 私にはこの問題がさっぱりわかりませんでした。どなたかわかりやすく教えてください。お願いします。

  • 回帰係数の有意性の検定

    線形回帰式 y=b0+Σ[i=1~p]bi・xi y:被説明変数 xi:説明変数 bi:係数 があり、N組のデータからbiの最尤推定量 bi~ を求めるとします。 この bi~ の有意性を検定する場合、bi~ が最尤推定量の漸近正規性から、以下の正規分布に従っているとみなします。 N(bi★,σ^2) (bi★は真のパラメータ、分散σ^2は未知) 次に以下の仮説検定を行います。 帰無仮説 H0:bi★=0 対立仮説 H1:bi★≠0 ここでは bi~ の分散が未知なので、bi~ の標本分散 s^2 を用いて 以下のt統計量により検定を行います。 t=bi~/(s/√N) ~ 自由度N-1のt分布 以上のような解説を聞いたのですが 最尤推定量 bi~ はN個のデータから1回推定を行っただけなので 標本は1個しかありませんよね? だったら、標本分散s^2って計算できない気がするのですが… 私の理解のどこがおかしいでしょうか?