• 締切済み

EMアルゴリズムの参考図書

EM(Expectation Maximization)アルゴリズムに ついて詳細に記述した書籍をご存知の方,教えて ください. 数理統計の書籍を調べても,最尤推定の説明で 終わっていて,EMアルゴリズムに関しては,ほとんど 載ってません.音声信号処理に関する書籍に若干, 説明がありますが,HMM(隠れマルコフモデル)に 特化した説明が多く,よく理解できないのです. 宜しくお願い致します.

みんなの回答

noname#211914
noname#211914
回答No.1

専門外で的外れかもしれませんが、以下の参考URLは参考になりますでしょうか? 「Microsoft PowerPoint プレゼンテーション」 ◎http://www.taga-shuppan.co.jp/new/tg_new0002_c.htm (EMアルゴリズムと不完全データの諸問題) ご参考まで。

参考URL:
http://stat.eco.toyo.ac.jp/~michiko/em/emohp(0)/

関連するQ&A

  • 最尤法で回帰直線の傾きと切片を求めるには?

    今回、業務で初めて回帰直線を扱うことになりました。 大昔に最小二乗法で回帰直線を描くプログラムを書いたのですが、今回はお客様より最尤法を適用できませんか?と言われています。 インターネットで調べてみたのですが、中々思うような情報を得ることが出来ません。 最尤法で回帰直線の傾きと切片を求める方法又は、プログラムが説明されているwebサイトや書籍はありませんでしょうか? ちなみに、最尤法自身もあまり理解できていませんので、こちらの参考文献も教えていただけるとうれしいです。 統計については、初心者ですので、的外れであればご指摘ください。

  • 文系の統計学

     当方文系ですが、文理融合の専攻に進学することになりました。「数理統計学」が必修となっているのですが、初めて取り組むことになります。シラバスには「微積分と線形代数をよく復習してから受講すること」と記載されていますが、どちらも全く経験ありません。現在、公文式に行って、やっと因数分解ができるようになりました。(公文式は質問ができない雰囲気なので、近々やめる予定です。) そこでご質問ですが、1.このような段階から、どのように「微積分と線形代数」を経て、数理統計学へ学習を進めていけばよいのか。2.予備校や学習塾で学ぶとしたら、どこがよいか。以上の2点について、ぜひ教えていただきたいです。どうぞよろしくお願いします。因みに数理統計学の内容は、以下のとおりです。 ●基礎礎統計(集合基礎論、確率、確率変数、確率密度関数、種々の確率分布、中心極限定理、母集団と標本、点推定、区間推定、推定法、有意水準、第一・二種の誤り、片側・両側検定、正規分布の平均・分散の検定、連続変数の相関(散布図、今日分散、相関係数、検定、離散変数の相関(クロス集計、関連性係数、検定) ●重回帰分析(単回帰分析、目的関数の定式化(最小自乗法、最尤法など)パラメーターの推定と検定、回帰診断、説明変数の選択、構造変数) ●その他(クロス表の多変量解析、様々な多変量解析)

  • 3次元混合正規分布のパラメータ推定

    3次元混合正規分布のパラメータ推定 標本(X,Y,Z,値)が大量にあり、これを3次元の混合正規分布で近似しようとしています。 現在、平均や分散などのパラメータの算出をEMアルゴリズムを用いて行おうと考えています。 いろいろ調べて勉強してみましたが、標本をどのように使えばいいか理解することができません。 この標本はどのような形で式につかえばよいでしょうか? そもそもEMアルゴリズムを用いてこの問題を解くことができるのでしょうか? また、この標本をもとにパラメータを決定する代替方法があれば、教えていただけると助かります。 説明不足な点があるかもしれませんが、よろしくお願いします。

  • 回帰係数の有意性の検定

    線形回帰式 y=b0+Σ[i=1~p]bi・xi y:被説明変数 xi:説明変数 bi:係数 があり、N組のデータからbiの最尤推定量 bi~ を求めるとします。 この bi~ の有意性を検定する場合、bi~ が最尤推定量の漸近正規性から、以下の正規分布に従っているとみなします。 N(bi★,σ^2) (bi★は真のパラメータ、分散σ^2は未知) 次に以下の仮説検定を行います。 帰無仮説 H0:bi★=0 対立仮説 H1:bi★≠0 ここでは bi~ の分散が未知なので、bi~ の標本分散 s^2 を用いて 以下のt統計量により検定を行います。 t=bi~/(s/√N) ~ 自由度N-1のt分布 以上のような解説を聞いたのですが 最尤推定量 bi~ はN個のデータから1回推定を行っただけなので 標本は1個しかありませんよね? だったら、標本分散s^2って計算できない気がするのですが… 私の理解のどこがおかしいでしょうか?

  • アルゴリズムの参考書

    情報関係は初心者なんですが、 アルゴリズム関連の参考書(Que,Stack等用いた)をさがしています。 できれば文系向きの、初心者レベルにも理解できる良書がいいです。 どなたか御存じの方、よろしければ御推薦お願いします。

  • 分布形の決定と確率密度関数の算出

    こんにちは。 統計について質問させていただきます。 10,000個のデータ(平均値5.4E-05、標準偏差2.5E-04)を ヒストグラムに変換したところ、その分布形が対数正規分布とみなせそうです。 そこで、ks検定で分布形の推定を行っているのですが、ヒストグラムに対応しそうな 確率密度関数(pdf)と累積分布関数(cdf)の算出が分からず困っております。 ここ何日か、書籍やネットなどで調べてみたものの、何度やってもうまくいきません・・・。 ヒストグラムのデータ区間が小さすぎるのが問題ではないかと考えておりますが。 恥ずかしながら、統計学に関してはあまり学んだことがありませんので、 言葉足らで分かりにくいかと思いますが、 どなたか詳しい方、説明して頂けませんでしょうか。 少しでも分かりやすいように、画像を添付しておきます。 よろしくお願いいたします。

  • 確率の計算と独立性について

    最近,統計の勉強をしていて,混乱してわけがわからなくなっているので, 確認の意味も含め質問させてください. 1. いま,確率変数Xiをデータx={x1,x2,...,xn}の各xiの実現値とする. 扱う問題は,以下のリンク先です。 http://opencv.jp/opencv/document/opencvref_ml_em.html 最尤推定された導出過程は上記には書いていませんが、πの最尤値を求める過程において    Σ[1/p(Xi)]    from i=1 to n は、    Σ[1/p(Xi)] = n   ・・・ @ となるというように授業で配られたスライドの資料に記載されていたのですが,なぜ@のようになるのでしょうか? たとえば,n=2で,p(X1)=1/2,p(X2)=1/2としたら,  Σ[1/p(Xi)]={1/p(X1)} + {1/p(X2)}        = 2 + 2        = 4 となりますが,@では,いま,n=2なのでΣ[1/p(Xi)]=2であり,4≠2となり @のようになるとはいえないのではないかと混乱しています。おそらく@は,  Σ[1/p(Xi)]=(Σ1)/(Σp(Xi))= n と変形しているのだと思いますが,自分の例から@のように変形できる訳が分かりません。 もしかしたら,自分の例がおかしいのかもしれませんが・・・。 2. 統計学でよく,「データはi.i.dである」という仮定をおいて解析が行われています。 データが独立で同じ確率分布に従うときをi.i.d と呼ぶと記憶しているのですが, 「独立である」という項目は,なぜ条件として必要なのでしょうか? 独立というと,私は,P(x1,x2)=P(x1)*P(x2) とできるということしか知らないので, データの独立性がないと計算が大変になるだろうという風にしかみれないのですが, データをばらばらに取り出す(独立?)場合と一度にまとめて取り出す(独立でない?)場合が解析に何の影響を及ぼすのでしょうか? 式は覚えていてもそれ自体が何の意味をもつのかがまったく分かっていないので、意味合いを教えていただきたいです。 回答よろしくお願いします。

  • 参考図書

    文章力を身につけるための参考図書を教えてください

  • 参考図書について

    通信ケーブルの工事やそれに伴うラックのマウント、パッチパネル、光とメタル、IP電話と直通電話などに関する良い参考書があれば教えて頂きたいのですが、宜しくお願いします。 つまり、配線工事の際に必要となる知識を補えるような本があればご紹介ください。

  • 参考図書を教えてください

    最近C++を始めたいのですが 何から始めていいのか分かりません とりあえず初心者の入門書等を読んでみたいと 思うのですが参考になる書物がありましたら 教えてください それとC++を始める前にまずCから 始めた方が良いのでしょうか? よろしくお願いします