- 締切済み
情報理論の問題でわからない問題があります
情報理論の問題でわからない問題があるのでご回答願います 問題文 『Ｕ，Ｖ，Ｗの３種の文字列が次々と発生するマルコフ情報源で、ある文字が発生した次の時刻には同じ文字が1/2の確率で、別の二文字のいずれかがそれぞれ1/4の確率で発生する情報源を考える たとえばＵが発生した次の時刻には、Ｕが1/2の確率で、Ｖ，Ｗがそれぞれ1/4確率で発生する。 この情報源の一文字当たりのエントロピーはいくらか。なお発生する過程は定常過程とする。』
- Harrisoner
- お礼率33% (1/3)
- 数学・算数
- 回答数1
- ありがとう数1
- みんなの回答 （1）
- 専門家の回答
みんなの回答
- alice_44
- ベストアンサー率44% (2109/4759)
「エントロピー」の定義を確認しているだけのように見えますが、 どの辺が疑問でしたか？ U,V,W を出力後の各状態について、次の字のエントロピーは h = (1/2)(-log[2](1/2)) + (1/4)(-log[2](1/4)) + (1/4)(-log[2](1/4)) = 1/2 + 1/2 + 1/2 = 3/2。 U,V,W の各出現確率を u,v,w と置くと、u + v + w = 1。 求めるエントロピーは、H = uh + vh + wh = h = 3/2。 U,V,W の初期出現確率が判ると u,v,w も求められるが、 いづれにしろ答えは H = h なので、その必要もない。
関連するQ&A
- 情報理論 マルコフ情報源
今回情報理論の講義でマルコフ情報源について行いました 問題の解き方がわからずに困っておりどなたか知恵をお貸しください https://gyazo.com/ab47bd44577134acd9d62d095fe1061d (2)の問題を考えてみたのですが2回目にAにいる確率と考えて1/4と考えたのですがこの考え方でよろしいのでしょうか？これについてもご意見のほどよろしくお願いします。
- 締切済み
- 情報工学
- エントロピーを求める問題です。
エントロピーを求める問題です。 A、Bからなる情報源があり、2つの文字の結合確率は次のとおりである。 P（A,A）＝0.7、P（A,B）＝0.1、P（B,A）＝0.1、P（B,B）＝0.1 この情報源を単純マルコフ情報源とするとき、この情報源のエントロピーを求めよ。 答えは、0.63なのですが、どうしても導出できません。もし。解かる方がいたら教えてください。
- 締切済み
- 数学・算数
- 正規マルコフ情報源のエントロピーについて
次の行列であらわされる正規マルコフ情報源のエントロピーを計算せよ、という課題を出されました (すでに回収も終わっているのでカンニングにはなりません、念のため) P=| 0.2 0 0.8 | | 0.4 0.6 0 | | 0 0.3 0.7 | まず定常確率を求めたのですが求まった定常確率が間違っていたようなのです。 以下に求める際に用いた式を載せますので間違っている点があればご教授ください。 また、その後のエントロピーの計算に関しても経過と答えを載せてほしいです。 P(0)=0.2P(0)+0.8P(2) P(1)=0.6P(1)+0.4P(0) P(2)=0.7P(2)+0.3P(1) P(0)+P(1)+P(2)=1 この式を解くと各値が1/3となりました。 最後に私はこの辺をあまり理解できていないため質問文にも至らないところが多々あると思います。 そのようなことがあれば補足欄で説明したいと思います。
- ベストアンサー
- 数学・算数
- マルコフ情報源のエントロピーレートの導出方法について教えて下さい。
マルコフ情報源のエントロピーレートの導出方法について教えて下さい。 大学の過去問です。 解答が無いので自力で解かなければならないのですが、行き詰まってしまいました。 もし助けて頂ければ助かります。 状態A,B,Cを行き来する定常的マルコフ情報源のエントロピーレートを求める問題です。 状態遷移確立がそれぞれ P(A|A)=0.4 P(B|B)=0.5 P(C|C)=0.8 P(A|B)=0.25 P(B|A)=0.3 P(C|B)=0.25 P(A|C)=0.1 P(B|C)=0.1 P(C|A)=0.3 で与えられています。 自分の考える解き方の大筋としては (1) 定常分布の式を立てる (2) (1)よりそれぞれの定常確率を求める (3) 系のエントロピーを求める (4) (2)、(3)とマルコフ情報源のエントロピーレート導出の 公式により解を求める という感じです。 (1)において P(A)=P(A)*0.4+P(B)*0.25+P(C)*0.1 P(B)=P(A)*0.3+P(B)*0.5+P(C)*0.1 P(C)=P(A)*0.3+P(B)*0.25+P(C)*0.8 P(A)+P(B)+P(C)=1 の連立方程式を立て、解こうと試みたのですが。 解を得る事が出来ません。 http://www.usamimi.info/~geko/arch_acade/elf001_simult/index.html のプログラムでの演算も試してみましたがやはり解を得られませんでした。 自分の計算式に何か間違いがあるのでしょうか？ また自分の解法自体にも問題がありましたらご指摘をお願い致します。 今回、情報理論を初めて勉強しているもので、もしかして全く見当違いの質問かも しれませんが、宜しくお願い致します。
- 締切済み
- 数学・算数
- マルコフ連鎖の問題
マルコフ連鎖に関する問題が分からなく困っています。 状態空間 S={1,2,3} で推移確率行列 ｜1/4 1/2 1/4｜ Ｐ＝｜2/5 1/5 2/5｜ ｜1/3 1/3 1/3｜ をもつ定常なマルコフ連鎖{Xn}に対して次の問いに答えよ。 (1)確率P( X2=2,X3=1 | X0=3,X1=2 )を求めよ (2)確率P( X2=1 | X0=1 )を求めよ。 (3)lim【n→∞】P( Xn=2 | X=1 )を求めよ。 (1)のみ解答の目処が立っています。 まず(2)がよく分からないので、苦し紛れに状態遷移図を書いて考えてみたところ、(1/4)*(1/4)+(1/2)*(2/5)+(1/4)*(1/3)となるかなと考えてみたのですがどうでしょうか？ (3)についてはどう解いていったらいいのか分かりません。 よろしくお願いします。
- 締切済み
- 数学・算数
- ゲーム理論の問題なのですが、わからなくて困っています。どなたかお詳しい
ゲーム理論の問題なのですが、わからなくて困っています。どなたかお詳しい方、過程も含めて解答を教えてください。 問題 N={A、B,C}とするとき、次の3人ゲームの最小コアと仁を求めよ。 v(N)=3, v(AB)=v(AC)=v(BC)=1, v(A)=v(B)=v(C)=0 よろしくお願いします。
- 締切済み
- 数学・算数
