- ベストアンサー
単純マフコフ情報源のエントロピー
- みんなの回答 （1）
- 専門家の回答
質問者が選んだベストアンサー
- ベストアンサー
まず、 「単純マフコフ」→「単純マルコフ」ですね？ 単純マルコフの定義は、 http://www.akita-pu.ac.jp/system/elect/comp1/kusakari/japanese/teaching/InfoTheo/2006/note/4p.pdf にあるように、 P(Xt|Xt-1) つまり、「直前の生成された記号よって、次記号の発生確率が変化 する情報源」です。 エントロピーはＰの関数ですので、 H(Xt) = H(Xt|Xt-1) となります。 従って、単純マルコフの定義から来るものです。 ちなみに、 エントロピーの定義は、 http://ja.wikipedia.org/wiki/%E6%83%85%E5%A0%B1%E9%87%8F にあります。
関連するQ&A
- 情報エントロピーと最大エントロピー法
情報エントロピーというものがあるらしいのですが、なんでしょうか。熱力学などででてくるエントロピーは知っていますが、情報エントロピーはイメージできません。 長期的に時間変化する量（天文学や地質学などの観測データ）の数学的解析法である最大エントロピー法(MEM)を理解する上で必要な概念なのですが、分かりません。 そもそもこの概念がどの分野に属するのかすら分かりません。 誰かご存じの方よろしくお願いします。
- ベストアンサー
- 科学
- 情報量？エントロピー？
大学の講義で、「情報量」と「エントロピー」について習いました。でもいまいち２つの違いが分かりません(>_<) 式も似てますし…。 おバカな私でも分かる様に誰か説明してください（ToT)
- 締切済み
- その他（学問・教育）
- 情報におけるエントロピーに付随して情報における温度のようなものは・・・
情報をエントロピーの概念を用いて考える場合、熱量や温度に相当するものはどういうものでしょうか。たとえばQ=STの式に即してご教示いただければとおもいます。
- ベストアンサー
- 物理学
- 情報量、条件付きエントロピーについて
情報量、条件付きエントロピーについて質問があります。 事象A:サイコロを振って出た目 事象B(b1,b2) b1:サイコロの目は3の倍数 b2:サイコロの目は3の倍数以外 サイコロは普通のサイコロです。(1から6全て確率1/6) この時、サイコロの目が事前に3の倍数だと分かっている時の、AのエントロピーH(A|b1)を求めよという問題がわかりません。 どうか教えて下さい。
- 締切済み
- 数学・算数
- 条件付きエントロピー
確率変数X,Yが与えられたときの条件付きエントロピーの計算方法がまったくわからないため、質問をさせていただきます。 サイコロの出目を確率変数Xとし、Y=X^2 mod 3 としたときの 条件付きエントロピーH(X|Y)はどのようにして求めればよいのでしょうか？ 参考となるウェブサイト等のURLでも構いません。 よろしくお願いします。
- ベストアンサー
- 数学・算数
- 相転移エントロピーに式について
定圧下において、相転移によるエントロピー変化を表す式を求めなさい。という問題が出されて、考えてもこの条件だけで答えが求められないと思ったのですが、このようなことを聞かれた場合、どのような解答をすればよいのでしょうか？
- 締切済み
- 物理学
お礼
回答ありがとうございます。