• 締切済み

マルコフ連鎖の問題

マルコフ連鎖に関する問題が分からなく困っています。 状態空間 S={1,2,3} で推移確率行列      |1/4 1/2 1/4| P=|2/5 1/5 2/5|   |1/3 1/3 1/3| をもつ定常なマルコフ連鎖{Xn}に対して次の問いに答えよ。 (1)確率P( X2=2,X3=1 | X0=3,X1=2 )を求めよ (2)確率P( X2=1 | X0=1 )を求めよ。 (3)lim【n→∞】P( Xn=2 | X=1 )を求めよ。 (1)のみ解答の目処が立っています。 まず(2)がよく分からないので、苦し紛れに状態遷移図を書いて考えてみたところ、(1/4)*(1/4)+(1/2)*(2/5)+(1/4)*(1/3)となるかなと考えてみたのですがどうでしょうか? (3)についてはどう解いていったらいいのか分かりません。 よろしくお願いします。

みんなの回答

  • fef
  • ベストアンサー率64% (16/25)
回答No.1

Markov連鎖における遷移行列の使い方を復習しましょう. 時刻 n で状態 i をもつ確率を q_i(n) と書くことにして, 第 i 列が q_i(n) である行ベクトル q(n) を構成します. Markov連鎖の場合,遷移行列とよばれる行列 P を用いて, q(n + 1) = q(n) P と書けるのでしたね. 問題の(2)では,時刻 0 において確率 1 で状態 1 となっています. つまり, q(0) = [1 0 0] です. よって,時刻 2 において各状態にある確率は q(2) = q(1) P = (q(0) P) P = [83/240 37/120 83/240] と計算できます. 結局,今回,時刻 n において各状態にある確率は q(n) = q(0) P^n となるようです. この主張を数学的帰納法によって証明し,(3)で使います.

関連するQ&A

  • マルコフ連鎖について

    状態空間S={0,1,2,3}上のマルコフ連鎖の推移確率行列P=(0 1/2 0 1/2) (0 2/3 1/3 0) (0 0 0 1 ) (0 0 1/2 1/2)で与えられている (1)状態の再帰性と一時性について調べよ (2)状態の周期について調べよ この問題がわかる方いらっしゃいますか?

  • マルコフ連鎖の質問です

    至急解答をお願いいたします!!! マルコフ連鎖に関する問題です 下のマルコフ連鎖について 1、定常分布 2、既約になるための必要十分条件 3、p1=p2=1/2、q1=0、q2=1のとき(1)、(3)の再帰性を調べよ という3問がわからず困ってます。 <マルコフ連鎖> r:(1)から(1)に戻る確率 (r=1-p1-q1) p1:(1)から(2)へ移る確率 p2:(2)から(3)へ移る確率 q1:(1)から(3)へ移る確率 q2:(3)から(2) 1-p2:(2)から(1) 1ーq2:(3)から(1) 説明がわかりにくくて申し訳ありません。 かなり困っているので、よろしくお願い致します。

  • マルコフ連鎖(確率過程)に関する問題です!

    マルコフ連鎖に関する質問です。 下のマルコフ連鎖について 1、定常分布 2、既約になるための必要十分条件 3、p1=p2=1/2、q1=0、q2=1のとき(1)、(3)の再帰性を調べよ という3問がわからず困ってます。 <マルコフ連鎖> r:(1)から(1)に戻る確率 (r=1-p1-q1) p1:(1)から(2)へ移る確率 p2:(2)から(3)へ移る確率 q1:(1)から(3)へ移る確率 q2:(3)から(2) 1-p2:(2)から(1) 1ーq2:(3)から(1) 説明がわかりにくくて申し訳ありません。 かなり困っているので、よろしくお願い致します

  • 定常なマルコフ連鎖の意味

    定常なマルコフ連鎖の意味 定常なマルコフ連鎖とは定常分布を持つ、非周期的・再帰的・既約なマルコフ連鎖という意味でしょうか? つまり、初期状態に依存しない極限があると判断しても良いのでしょうか?

  • マルコフ連鎖

    参考書にこのような例がありました: コインを投げ続けた時、2回連続して裏が出るまでに必要とした(ランダムな)回数をNとする。ここでNの期待値をもとめるために、続けて裏の出た回数を状態空間0,1,2とするマルコフ連鎖を導入しよう。簡単のために「表」をH,「裏」をTと表記する。Tがでると、Tの数は1増加するが、Hがでると0にもどる。このとき推移確率行列は、   0  1  2 0 1/2 1/2   0 1 1/2   0  1/2 2 0   0   1 となる。ここで、状態2にたどり着いた後は、この問題に関係がないので、状態2を吸収状態にしよう。1ステップ後を考えると以下の式が得られる。 h(0)=1+0.5h(9)+0.5h(1) h(1)=1+0.5h(0) 私の分からない部分は、上記の二つの式の中で、なぜ1というのが加えられてるのでしょうか?この理由がどうしても分かりません。ご教授いただければと思います。

  • マルコフ過程(確率過程)に関する質問です!

    マルコフ連鎖に関する質問です。 下のマルコフ連鎖について 1、定常分布 2、既約になるための必要十分条件 3、p1=p2=1/2、q1=0、q2=1のとき(1)、(3)の再帰性を調べよ という3問がわからず困ってます。 <マルコフ連鎖> r:(1)から(1)に戻る確率 (r=1-p1-q1) p1:(1)から(2)へ移る確率 p2:(2)から(3)へ移る確率 q1:(1)から(3)へ移る確率 q2:(3)から(2) 1-p2:(2)から(1) 1ーq2:(3)から(1) 説明がわかりにくくて申し訳ありません。 かなり困っているので、よろしくお願い致します。

  • マルコフ過程の時間平均?

    「マルコフ過程の時間平均は、固有値=1の 固有ベクトルと一致する」 と言ってしまってよいのでしょうか? マルコフ過程を勉強する必要が出てきたのですが、 とりあえず、   x(t+1) = x(t) P (x は確率ベクトル、Pは行列) で、   定常分布が存在したら、その確率ベクトルは、   固有値が1のときの固有ベクトルになる というのは、理解できました。 ところで、2つ質問があります。 (1) この定常分布にx(t)が収束するかどうか、は   何か知る方法があるのでしょうか? また、(特にこちらが知りたいのですが) 収束しない場合でも (2) x(0), X(1), ..., x(∞) と無限の時間の平均は、   この固有ベクトルに一致する、と言っていいのでしょうか?  (シミュレーションをしていると、なんとなくそんな   感じがするのですが・・) よろしくおねがいします。

  • 【確率過程】推移確率行列の導出方法

    箱Aには赤玉1個白玉2個、箱Bには赤玉2個白玉1個が入っている。 それぞれの箱から球を一個取り出し交換する試行を繰り返す。 n回の施行の直後のAの赤玉の個数をXnとする。X0=1に注意する。 明らかにXn.はマルコフ連鎖になるが、その推移確率行列を求めよ。 [0,1,0,0] [1/9,4/9,4/9,0] [0,4/9,4/9,1/9] [0,0,1,0] 答えには上の推移確率行列だけが記されていましたが、各成分はどういう風にして導出されたのでしょうか。 問題文から上の推移行列を作成する方法を教えてください。 どなたかご教示のほど、どうかよろしくお願いします。

  • 正規マルコフ情報源のエントロピーについて

    次の行列であらわされる正規マルコフ情報源のエントロピーを計算せよ、という課題を出されました (すでに回収も終わっているのでカンニングにはなりません、念のため) P=| 0.2 0 0.8 |   | 0.4 0.6 0 | | 0 0.3 0.7 | まず定常確率を求めたのですが求まった定常確率が間違っていたようなのです。 以下に求める際に用いた式を載せますので間違っている点があればご教授ください。 また、その後のエントロピーの計算に関しても経過と答えを載せてほしいです。 P(0)=0.2P(0)+0.8P(2) P(1)=0.6P(1)+0.4P(0) P(2)=0.7P(2)+0.3P(1) P(0)+P(1)+P(2)=1 この式を解くと各値が1/3となりました。 最後に私はこの辺をあまり理解できていないため質問文にも至らないところが多々あると思います。 そのようなことがあれば補足欄で説明したいと思います。

  • 確率のscilabプログラミングの質問

    この2問を考えているのですが、scilabが全然わからないので苦戦しています。どなたか教えてください。 (1)適当なモデルを作り、対数の法則、中心極限定理をシュミレートし、histplotを活用して、視覚的に中心極限定理が成り立つことを証明せよ。 (2)有限集合上のマルコフ連鎖をシュミレートし、遷移確率(stochastic matrix)や初期分布を各自定めて、マルコフ連鎖の定常分布を求めよ。この連鎖のサンプルを多数生成し、histplotを用いて大きなステップ数の下で連鎖の分布が定常分布に近づくことを確かめよ。