• ベストアンサー

平均情報量を求める問題ですが。。。。

大学で情報処理の授業を取っているのですが、数学苦手なので全く解き方が分かりません。ご存知の方ぜひ助けていただきたいです。 ありがとうございます 問題です: a:8.1% b:2.3% c:4.6% d:3.5% e:12.6% f:2.6% g:2.0% h:4.4% i:7.9% j:0.5% k:0.5% i:4.0% m:3.2% n:6.1% o:7.2% p:2.4% q:0.7% r:5.7% s:6.0% t:8.5% u:2.9% v:1.2% w:1.0% x:0.9% y:1.0% z:0.2% アルファベットの出現の確率の平均情報量を求めよ

みんなが選んだベストアンサー

  • ベストアンサー
  • f272
  • ベストアンサー率46% (8003/17107)
回答No.1

大学で情報処理の授業で「情報量」「平均情報量」をどのように定義していたのか?それをちゃんと言えるのならば、後はその定義に従って計算するだけです。まあ、計算自体も筆算でやるなら大変ですが、例えばMSエクセルを使えば簡単ですね。 ということで「平均情報量」とは何か、を補足に書いてみてください。

tengfei
質問者

お礼

f272さん、ありがとうございます 平均情報量、つまりエントロピーを求めることだと思います。 私はこういう風に考えているのですが、正しいかどうかは全く自信がありません。 8.1%*{-log(2/26)} + 2.3%*{-log(2/26)} + 4.6%*{-log(2/26)} + 3.5%*{-log(2/26)} + 12.6%*{-log(2/26)} + 2.6%*{-log(2/26)} + 2.0%*{-log(2/26)} + 4.4%*{-log(2/26)} + 7.9%*{-log(2/26)} + 0.5%*{-log(2/26)} + 0.5%*{-log(2/26)} + 4.0%*{-log(2/26)} + 3.2%*{-log (2/26)} + 6.1%*{-log(2/26)} + 7.2%*{-log(2/26)} + 2.4%*{-log(2/26)} + 0.7%*{-log(2/26)} + 5.7%*{-log(2/26)} + 6.0%*{-log(2/26)} + 8.5%*{-log(2/26)} + 2.9%*{-log (2/26)} + 1.2%*{-log(2/26)} + 1.0%*{-log(2/26)} + 0.9%*{-log(2/26)} + 1.0%*{-log(2/26)} + 0.2%*{-log(2/26)} =エントロピー

その他の回答 (1)

  • f272
  • ベストアンサー率46% (8003/17107)
回答No.2

もし 8.1%*{-log(2/26)} + 2.3%*{-log(2/26)} + ... + 0.2%*{-log(2/26)} =エントロピー だとしたら{-log(2/26)}の部分は同じなのだから、それをまとめて (8.1% + 2.3% + ... + 0.2%)*{-log(2/26)} =エントロピー と書けるはずだけど、()の中身は計算したらわかる通り、1に等しいわけです。(実は計算しなくても確率を全部足せば1になることは当然ですね。) すると {-log(2/26)} =エントロピー となってしまうわけだけど、本当にこれで正しいと思いますか? 事象Aの起こる確率がPのとき、その情報量は-logPであり、平均情報量とはその期待値であってΣ(P*(-logP))のことです。ただしlogの底は普通は2にしますし、Σはすべての場合を加えるという意味です。計算すると4.244くらいになるのでやってみてください。

関連するQ&A

  • JavaScriptの配列について

    var old_array = Array('a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j', 'k', 'l', 'm', 'n', 'o', 'p', 'q', 'r', 's', 't', 'u', 'v', 'w', 'x', 'y', 'z', '1', '2', '3', '4', '5', '6', '7', '8', '9', 'A', 'B', 'C', 'D', 'E', 'F', 'G', 'H', 'I', 'J', 'K', 'L', 'M', 'N', 'O', 'P', 'Q', 'R', 'S', 'T', 'U', 'V', 'W', 'X', 'Y', 'Z', '<', '#', '/', '>', '%', '.', '*', '0', '!', '?', ':', '=', '|'); var new_array = Array('b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j', 'k', 'l', 'm', 'n', 'o', 'p', 'q', 'r', 's', 't', 'u', 'v', 'w', 'x', 'y', 'z', '1', '2', '3', '4', '5', '6', '7', '8', '9', 'A', 'B', 'C', 'D', 'E', 'F', 'G', 'H', 'I', 'J', 'K', 'L', 'M', 'N', 'O', 'P', 'Q', 'R', 'S', 'T', 'U', 'V', 'W', 'X', 'Y', 'Z', '<', '#', '/', '>', '%', '.', '*', '0', '!', '?', ':', '=', '|'); のような配列があり、 abcと入力するとbcd DEFと入力するとEFG 012と入力すると!23 というようなものを作りたいのですがどうすればいいでしょうか。

  • 統計の問題で

    統計の問題で (1) Xの分布が(170,25)であるとき、P(170 < X < 180)を求めよ。ただし、標準正規分布をする確率変数Zに対し、P(Z≦1)=0.841 , P(Z<2)=0.977 とする。 (2) X,Y,Zは互いに独立で、平均0、分布1である。 U=X+2Z , W=Y+2Zとする。 UとWの相関係数を求めよ。 という問題が解けません。 解き方を教えてください。お願いします。

  • 確率の問題

    こんにちは、確率の問題で分からないものがあります。以下の問題です。よろしくお願いいたします。 一様分布に従う乱数を用いて、以下の手続きQによってある分布に従う乱数を得ることができる。ここで、λは正の定数である。手続きQによって得られるKの値がtとなる確率P(K=t)を求めよ 手続きQ 開区間(0,1)上の一様分布に従う乱数列ui(i≧1)を順次発生させzi(i≧1)を順に以下のように計算し、初めてzn<exp(-λ)を満たすnに対してK=n-1とする z1=u1 z2=z1u2 z3=z2u3 ・ ・ ・ zn=zn-1un ・ ・ というものです。例えばz3ならz3=u1u2u3のように書き表わせるのだなとは思ったのですが、そこからどうやって答えを導き出せばいいのかわかりません。よろしくお願いいたします。

  • 確率の問題です

    確率変数X,Yはそれぞれ平均1の指数分布に従い、互いに独立であるとする。 (1)次の確率を求めよ。 (i) P(X≦1かつY≦1) (ii) P(X<1またはY<1) (iii)P(Y≦3X) (2)確率変数U、Wを U=X、 W=Y/Xとおくとき、Wの確率密度関数を求めよ。 ※平均1/aの指数分布の確率密度関数は、f(x)=a(e^-ax) (x>0) 、0 (x<0)

  • 情報理論について

    大学2年生です。 図書館で借りた情報理論の本を読んでいて、数学的な記述の部分でわからないところがありましたので、教えていただけたらと思います。 以下、分からない部分の文章です。 ***** 情報源アルファベットを A = {a_1, a_2, a_3, …, a_M} で表し、時点 i の情報源の出力を X_i  (i = 0, 1, 2, …) で表す。 X_iは情報源アルファベットの元のいずれかであるが、どれであるかは確率的に定まるので確率変数である。 まず、時点(n-1)までの情報源系列 X_0 X_1 X_2 … X_(n-1) について考える。この情報源系列の統計的性質は、X_0, X_1, …, X_(n-1)の結合確率分布 P( x_0, x_1, …, x_(n-1) ) = [X_0 = x_0, X_1 = x_1, …, X_(n-1) = x_(n-1)となる確率] が与えられれば、完全に定まる。ここに、 x_0, x_1, …, x_(n-1) は情報源アルファベットAの任意の元を表している。 ***** この文章においての x_0, x_1, …, x_(n-1) というものが、どういう立場のものなのかがいまいち分かりません。 ・・・と言いますか、文章にあるように定義については分かりますが、なぜ必要となるのかが納得できないといった方が的確かもしれません。 どういうことかといいますと、 時点 i の情報源の出力を X_i としたのにかかわらず、次いで、時点 i における任意の情報源アルファベットの元を x_i と表すことにしてますが、「これらは言い方が異なるだけで、結局は同じものを示しているのでは?」、「なぜ同じものを違う記号で二度も違う記号であらわしているのか?」と分からないのです。おそらく私の認識が間違っているためにこのような疑問があると思うので、どうか教えていただければと思います。 もう少しで納得できるような気がします。 どなたか私が、 「こうしなければ確かに駄目だよね」 と、納得できるような解説をお願いします。 回答お待ちしております。

  • 変換テーブルを使った、文字列置換[JavaScript]

    以下のような、変換テーブルがあるとします。 var ascii = [' ', '!', '"', '#', '$', '%', '&', "'", '(', ')', '*', '+', ',', '-', '.', '/', '0', '1', '2', '3', '4', '5', '6', '7', '8', '9', ':', ';', '<', '=', '>', '?', '@', 'A', 'B', 'C', 'D', 'E', 'F','G', 'H', 'I', 'J', 'K', 'L', 'M', 'N', 'O', 'P', 'Q', 'R', 'S', 'T', 'U', 'V', 'W', 'X', 'Y', 'Z', '[', '\\', ']', '^', '_', '`', 'a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j', 'k', 'l', 'm', 'n', 'o', 'p', 'q', 'r', 's', 't', 'u', 'v', 'w', 'x', 'y', 'z', '{', '|', '}', '~']; var htmlChar = [' ', '!', '"', '#', '$', '%', '&', ''', '(', ')', '*', '+', ',', '-', '.', '/', '0', '1', '2', '3', '4', '5', '6', '7', '8', '9', ':', ';', '<', '=', '>', '?', '@', 'A', 'B', 'C', 'D', 'E', 'F', 'G', 'H', 'I', 'J', 'K', 'L', 'M', 'N', 'O', 'P', 'Q', 'R', 'S', 'T', 'U', 'V', 'W', 'X', 'Y', 'Z', '[', '\', ']', '^', '_', '`', 'a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j', 'k', 'l', 'm', 'n', 'o', 'p', 'q', 'r', 's', 't', 'u', 'v', 'w', 'x', 'y', 'z', '{', '|', '}', '~']; ブラウザの「ソースを見る」で、ソースを見るとHTMLのフォームのテキスト入力フィールドのvalueに特殊文字コード「'」と表示されているとします。 例;ブラウザの「ソースを見る」で、ソースを見た場合: <input type="text" value="'" /> これを変換テーブルを使って、ブラウザの「ソースを見る」で、ソースを見たときに、特殊文字(' なら '(シングルクォート)に表示させたいのですが、可能でしょうか? 変更後の例;ブラウザの「ソースを見る」で、ソースを見た場合: <input type="text" value="'" />

  • JavaScriptの文字のエンコードについて

    フォームの入力欄で、「'」(シングルクォート)を入力してサブミットすると、ブラウザ(Firefox3.5)で見ると「'」と表示されていますが、ブラウザのソースを見るとvalueの¥ところには、「'」と表示されています。 これは、PHPでエンコードされているせいなのですが、 PHPでエンコードされた「'」を、JavaScriptを使って、ブラウザからソースを見たときに「'」と表示できるでしょうか? ソースは、こんな感じで書いたのですが、動作しませんでした........。 function chChar(){ var keyValue = document.getElementById("delete_key").value; var ascii = new Array(' ', '!', '"', '#', '$', '%', '&', "'", '(', ')', '*', '+', ',', '-', '.', '/', '0', '1', '2', '3', '4', '5', '6', '7', '8', '9', ':', ';', '<', '=', '>', '?', '@', 'A', 'B', 'C', 'D', 'E', 'F','G', 'H', 'I', 'J', 'K', 'L', 'M', 'N', 'O', 'P', 'Q', 'R', 'S', 'T', 'U', 'V', 'W', 'X', 'Y', 'Z', '[', '\', ']', '^', '_', '`', 'a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j', 'k', 'l', 'm', 'n', 'o', 'p', 'q', 'r', 's', 't', 'u', 'v', 'w', 'x', 'y', 'z', '{', '|', '}', '~'); var htmlChar = new Array(' ', '!', '"', '#', '$', '%', '&', ''', '(', ')', '*', '+', ',', '-', '.', '/', '0', '1', '2', '3', '4', '5', '6', '7', '8', '9', ':', ';', '<', '=', '>', '?', '@', 'A', 'B', 'C', 'D', 'E', 'F', 'G', 'H', 'I', 'J', 'K', 'L', 'M', 'N', 'O', 'P', 'Q', 'R', 'S', 'T', 'U', 'V', 'W', 'X', 'Y', 'Z', '[', '\', ']', '^', '_', '`', 'a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j', 'k', 'l', 'm', 'n', 'o', 'p', 'q', 'r', 's', 't', 'u', 'v', 'w', 'x', 'y', 'z', '{', '|', '}', '~'); var re = new RegExp(htmlChar); if(keyValue.match(re)){ for(i=0; i<ascii.length; i++){ keyValue = keyValue.replace(htmlChar[i], ascii[i]); } } return keyValue; }

  • 統計学の問題

    統計学の問題です。どなたか回答を教えてください。 よろしくお願い致します。 Q3. 確率変数Xは平均510、標準偏差370の正規分布に従うとする。つぎの確率,あるいは確率点を求めなさい。 (1) P(X>860)= (2) P(450<X<1150)= (3) P(X>k)=0.025となるkを求めなさい。 k= Q4. Q3の正規分布を母集団として,そこから抽出したn=25個の無作為抽出標本の標本平均をMとおく。標本平均Mの分布について答えなさい。 (1) P(M<570)= (2) P( 350<M<710)= (3) P(M<k)=0.05となるkを求めなさい。 k= Q5. 表が出る確率が(U2/700)である(いかさま)コインをについて以下では答えなさい。 (1) このコインをU1回投げたとき,表が出る回数をXとおく。確率変数Xの分布に関して,その平均と分散を答えなさい。 (2) 同じコインを今度は200回投げたときに表が出る回数をYとする。 a.このとき平均E(Y)よりも,10回以上表が多く出る確率を求めなさい。 P{Y≧E(Y)+10}= b.P(Y<k)=0.025となるkを求めなさい。 k= よろしくお願い致します。

  • 至急!数学の基本問題、助けてください!

    数学のお得意な方ご協力お願いします! 一問目〉 P,Q,Rは正の整数である。P×Q×R=12 P-Q=2 のとき、Rはいくらか? 二問目》 4つの整数 WXYZについて、W+X+Y+Z=30 W=3X Y=4Z が成り立つ。 このときのWの値を求めよ。 既卒者数人がかりでも解けなかったので、ぜひぜひ数学の得意な方に教えていただきたいです。

  • 平均の加法性とは

    こちらで分散の加法性について教えていただきました。 http://okwave.jp/qa/q6476579.html ある本に、次のようにありました。 平均の加法性とは、n個の標本(例えば、n個の「観測値の集まり」)A1、A2、…、Anがあり、Ai {i=1, 2, …, n} の平均がμiである場合、それらの標本の要素を全部足し合わせて標本B=ΣAiを作ると、nが十分大きいとき、Aiがどのような分布を示す標本であるかに関わらず、Bの平均はΣμiで近似されるという性質である。 (1)上記の説明は正しいでしょうか。 (2)上記の性質は、普通は、「平均の加法性」と「平均の加法定理」のどちらで呼ばれるのでしょうか。 当方、高校で微分、積分を勉強したくらいで、数学は全くの素人です。確率、統計は全く勉強したことがありません。 よろしくお願いいたします。