• 締切済み

情報理論について質問です

マルコフ情報源や、相互情報量、条件付き確率などを勉強するのにお勧めの本やサイトを紹介していただきたいです。問題と解答および解説があるものが望ましいです

みんなの回答

  • KSnake
  • ベストアンサー率83% (5/6)
回答No.1

情報理論を本格的に勉強するなら、本を買いましょう。 私が使っていた教科書でお勧めなのがこれ。 宮川 洋 著　 情報理論 (電子通信大学講座 第 39巻) コロナ社 日本語ではこれがバイブルかと思います。 数学的に厳密に、かつ網羅的に書かれており入門には良い。 章末に練習問題もありますがやや少なめで解答、解説はありません。 でも昔の本は解答や解説は無いのが普通でした。 自力で唸ってみるのもいいかと思います。

全文を見る
すると、全ての回答が全文表示されます。
  1. カテゴリ
  2. 学問・教育
  3. 数学・算数

関連するQ&A

  • 情報理論　マルコフ情報源

    今回情報理論の講義でマルコフ情報源について行いました 問題の解き方がわからずに困っておりどなたか知恵をお貸しください https://gyazo.com/ab47bd44577134acd9d62d095fe1061d (2)の問題を考えてみたのですが2回目にAにいる確率と考えて1/4と考えたのですがこの考え方でよろしいのでしょうか？これについてもご意見のほどよろしくお願いします。

  • 情報理論の問題でわからない問題があります

    情報理論の問題でわからない問題があるのでご回答願います 問題文 『Ｕ，Ｖ，Ｗの３種の文字列が次々と発生するマルコフ情報源で、ある文字が発生した次の時刻には同じ文字が1/2の確率で、別の二文字のいずれかがそれぞれ1/4の確率で発生する情報源を考える たとえばＵが発生した次の時刻には、Ｕが1/2の確率で、Ｖ，Ｗがそれぞれ1/4確率で発生する。 この情報源の一文字当たりのエントロピーはいくらか。なお発生する過程は定常過程とする。』

  • 大学の情報理論の課題でわからないところがあります。

    大学の情報理論の課題でわからないところがあります。 誰か解説をお願いします。 (問題1） ｛0,1｝の二元符号の通信路で、ビット誤り率0.25 の通信路がある。 ｛0.1｝のシンボル生起確率がそれぞれ ｐ, １－ｐ の時、 (a)通信路行列を書け (b)相互情報量を式で書け (c)通信路容量を求めよ (問題2) 0101 を生成多項式 G(x) = x^3＋x+1 の CRC符号 により符号化し、送信符号のビット列を書け 教科書や配布された資料に載ってる解説や公式を見ても どう当てはめていけばよいかわからず困っています。 よろしくお願いします。

  • マルコフ連鎖の質問です

    至急解答をお願いいたします！！！ マルコフ連鎖に関する問題です 下のマルコフ連鎖について １、定常分布 ２、既約になるための必要十分条件 ３、ｐ１＝ｐ２＝１／２、ｑ１＝０、ｑ２＝１のとき(1)、(3)の再帰性を調べよ という3問がわからず困ってます。 ＜マルコフ連鎖＞ ｒ：(1)から(1)に戻る確率 （ｒ＝１－ｐ１－ｑ１） ｐ１：(1)から(2)へ移る確率 ｐ２：(2)から(3)へ移る確率 ｑ１：(1)から(3)へ移る確率 ｑ２：(3)から(2) １－ｐ２：(2)から(1) １ーｑ２：(3)から(1) 説明がわかりにくくて申し訳ありません。 かなり困っているので、よろしくお願い致します。

  • マルコフ情報源について

    大学２年生です。 マルコフ情報源についてなのですが、「一般化されたマルコフ情報源」というものが分かりません。 ネットでこの言葉を調べてみたところ、ほとんどの出所が今読んでいる本なので、もしかしたら一般的な用語ではないかもしれませんが、ネットにその記述がありますので、それを参考に一緒に考えていただければと思います。 よろしければ、解説のほうをお願いいたします。 回答お待ちしております。

  • 相互情報量について

    1,2,3,4が等確率で現れる確率変数をA， それが偶数か奇数である確率変数をBとします． 相互情報量I(A|B)を求めましょう． という問題です． これを求めていく際に必要となるP(A∧B)が分かりません． それ以前に，相互情報量が何なのかもよく分かっていないと思います． どうかご教授お願いいたします．

  • 通信理論における相互情報量とは？

    通信路符号化の勉強をしているんです。その中で相互情報量というものが出てきました。検索してみたところ相互情報量とは「Ｂ（受信側）が実質的に持っているＡ（送信側）の情報」ということらしいのです。その言いたいことはなんとなく分かったのですがそれがなぜ下の式で表せるのかが分かりません。もし分かる人がいれば教えてください。 I(A;B) = H(A) - H(A|B)

  • 情報理論の問題

    入力Xと独立かつ記憶のない誤り源Eとの積Y=XEが出力となる２元通信路を考える。 このときの相互情報量I(X;Y)と通信路容量を求めなさいという問題です。 ただし、2元誤り源P_E(1)=p、入力Xの０および１の発生確率はP_X(0)=p1，P_X(1)=p2としp1+p2=1とします。 通信路行列までしか求められていない状況です。 よろしくお願いします。

  • 情報理論の・・・

    板が異なっていたらすいません。 情報理論についての問題です。 記号0と1を発生する情報源がある。 記号0と1の発生確率は、それぞれ0.75および0.25である。 この情報源をある通信路に接続して送信する場合、記号0と1の伝送時間は それぞれ0.01秒と0.04秒である。この通信路を通して 毎秒あたり平均どれほどの情報量が伝送されるか。 １秒単位に変換して…どうにかして答えを導くと思うのですが、 プロセスが分かりません。 教えてください。よろしくお願いします。

  • 確率過程に関する参考書・問題集

    こんにちは。確率過程を独学で勉強してるものです。今使ってる参考書は、”確率過程の基礎”という本でR・デュレット著、シュプリンガーからの出版です。大変気に入っていてはいるのですが、練習問題に取りくもうと思っても、解答がなく困ってます。独学なため、何かしら問題集（回答付）のようなものがあればと思ってます。要求としては、マルチンゲール、マルコフ、ブラウン運動がその中に入ってれば幸いです。もし、ご存知の方がいましたら、教えてください。

注目のQ&A

カテゴリ

専門家に質問してみよう

職業から探して質問する

あなたにピッタリな商品が見つかる！ OKWAVEセレクト

質問する