シャノンのエントロピーの問題について

質問

以下のシャノンのエントロピーについての問題を解いてみたのですが、合っているか確認してもらえないでしょうか？よろしくお願いします。

１．６階建てで各階に１号室から４号室まで１４室があるマンションに住んでいる友人を訪ねるものとする。以下の設問に答えよ。

問１　友人の住んでいる階が分かった時に得られる情報量は何ビットか。
問２　部屋番号が分かった時に得られる情報量は何ビットか。
問３　５階の１０号室というように、階と部屋番号の両方が分かったときに得られる情報量は何ビットか。

問1
－(1/6)log[2]＝log6

問2
-(1/4)log[2]=log4

問3
-(1/24)log[2]=log24

回答No.2

ojisan7

こんにちは。

質問内容が不明確な、同じような質問を何回も繰り返していますが、結局、質問者さんは何が分からないのですか？私の回答はしっかり読んで、頭の中に入っていますか？すっかり、回答してあげる意欲をなくしてしまいましたが、気になったので一言だけアドバイスします。

質問者さんが欲しいのは、情報量といっても、平均情報量（エントロピー）ですよね。だったら、質問者さんの解答は、何を書いているのかさっぱり分かりません。問１～問３の全問について、その回答は全くダメ。答えは合っているだろうが、そんなことはどうでもいいことです。また、底の２は、当たり前だから、いちいち書く必要もないでしょう。

問１
何を書いているのかさっぱり分かりません。その回答はダメ。
6*(-1)*(1/6)log(1/6)だから、log6となるのです。

問２　部屋番号が分かった時に得られる情報量は何ビットか。
これは、どういうことでしょうか。何度も言いますが、階が分かっていることの条件下で考えるのであれば、条件付きエントロピーですよ。それは、別の掲示板で回答したように２bitです。そうではなく、部屋番号だけが、分かった時に得られるエントロピーであるならば、簡単ですよね。

問３
何を書いているのかさっぱり分かりませんが、答えは合っているでしょう。どこが変かはご自分で分かりますね。

以上、ご参考までに

補足

回答ありがとうございました。他の回答者さんからの投稿で理解できました。－(1/6)log[2]＝log6ではなく、－(1/6)log[2](1/6)＝log6の書き間違えでした。質問は理解できるまでしています。回答が嫌でしたら、無理して回答して下さらなくても結構です。独学でやっているので、何度も聞かないと理解できません。それに複数回投稿しているのは、回答者さんによって内容が違い混乱してしまっているからでもあります。

回答No.1

taka0114

右辺の答えはどれもあってますよ。
左辺が気になりますが・・・？[2]はlogの底でしょうが
中身が書かれていません。

n個の中から選ばれる確率が同様である一つが確定したときに
得られる情報量T[bit]は
底を2とする対数を用いて
T = log(n)[bit]
と覚えて大丈夫だと思います。

そもそも情報量の定義は確率から出されますが、
今回のようにどこにいる可能性もある場合なら割り切っていいかと。

wikipediaの「情報量」を参考にしてみてはいかがでしょうか？

参考URL：

http://ja.wikipedia.org/wiki/%E6%83%85%E5%A0%B1%E9%87%8F