条件付きエントロピー

質問

確率変数X,Yが与えられたときの条件付きエントロピーの計算方法がまったくわからないため、質問をさせていただきます。

サイコロの出目を確率変数Xとし、Y=X^2 mod 3 としたときの 条件付きエントロピーH(X|Y)はどのようにして求めればよいのでしょうか？
参考となるウェブサイト等のURLでも構いません。
よろしくお願いします。

回答No.1

f272 · ベストアンサー

http://izumi-math.jp/sanae/report/joho/joho.htm
の中ほどにある「3_2　条件付きエントロピー」を見ると計算方法がわかる。

__________x=1____x=2____x=3_____x=4____x=5____x=6______P(yi)
y=0_____0_______0________1/6_____0_______0______1/6______1/3
y=1_____1/6___1/6______0_______1/6___1/6_____0________2/3
P(xi)____1/6___1/6_____1/6____1/6___1/6_____1/6_____1

こんな表を作っておけば計算も楽ですね。