情報理論の問題でわからない問題があります

質問

情報理論の問題でわからない問題があるのでご回答願います

問題文

『Ｕ，Ｖ，Ｗの３種の文字列が次々と発生するマルコフ情報源で、ある文字が発生した次の時刻には同じ文字が1/2の確率で、別の二文字のいずれかがそれぞれ1/4の確率で発生する情報源を考える

たとえばＵが発生した次の時刻には、Ｕが1/2の確率で、Ｖ，Ｗがそれぞれ1/4確率で発生する。

この情報源の一文字当たりのエントロピーはいくらか。なお発生する過程は定常過程とする。』

回答No.1

alice_44

「エントロピー」の定義を確認しているだけのように見えますが、
どの辺が疑問でしたか？

U,V,W を出力後の各状態について、次の字のエントロピーは
h = (1/2)(-log[2](1/2)) + (1/4)(-log[2](1/4)) + (1/4)(-log[2](1/4))
= 1/2 + 1/2 + 1/2
= 3/2。
U,V,W の各出現確率を u,v,w と置くと、u + v + w = 1。
求めるエントロピーは、H = uh + vh + wh = h = 3/2。

U,V,W の初期出現確率が判ると u,v,w も求められるが、
いづれにしろ答えは H = h なので、その必要もない。