玉を2回取り出す場合のベイズ公式

質問

いくつかの壺があり、その中に赤白の玉が混合して入っています（ベイズ統計の本によくあるパターン）。そこで壺を選んで玉を取り出して赤の場合のことをRと表現します。P(A|R)は玉が赤だった場合、壺がAである条件付き確率です。尤度になるのでしょうか。
その次が問題なのですが、P(A|RR)はどのように表現できるでしょうか。2回取り出して2回とも赤だった場合、壺がAだった確率ということです。2回玉を取り出しますが、壺もその都度選択するかどうかにもよるかと思いますが、これはどうやって計算するのでしょうか。P(A|R)を使って表現できるでしょうか。ベイズ公式から簡単に類推されるでしょうか。テキスト読んでいてP(A|RR)があまりにも当然のごとく出てかつ計算されているのでどう考えるのだろうと迷ってしまったのですが。よろしくお願いします。

回答No.5

f272

「漸化式を作って実際に計算していく」ということを目指しているようですが，漸化式ではなくアルゴリズムの形で表現してみましょう。
0. 壺がAである確率，Bである確率を与える。
1. 試行結果が得られる確率を，各々，掛ける。
2. かけた結果が確率になるように(合計が1になるように)スケーリングを行う。
3. 次の施行があるのなら1.に戻る。

#1さんの数値例を使えば...
0. 壺がAである確率=1/2，Bである確率=1/2
1. Rが得られた。その確率はそれぞれ2/3と3/4であるから1/2*2/3=1/3と1/2*3/4=3/8になる。
2. 合計は1/3+3/8=17/24だから1/3*24/17=8/17と3/8*24/17=9/17になる。
3. 1.に戻る。
1. Rが得られた。その確率はそれぞれ2/3と3/4であるから8/17*2/3=16/51と9/17*3/4=27/68になる。
2. 合計は16/51+27/68=145/204だから16/51*204/145=64/145と27/68*204/145=81/145になる。

ここで注目してもらいたいのは1.ではRが得られたときには2/3と3/4を掛けますが，赤が得られなかったときには1/3と1/4を掛けることになります。でもアルゴリズムとしては同じです。このアルゴリズムで，試行結果が得られるたびに確率が更新されていくことが分かるでしょう。
0.で与える確率は，それらしい値であればそれでかまいません。真の確率に従って試行結果が得られているかぎり，どんな場合でも試行回数を増やせば求められる確率は真の確率に近づきます。

お礼

回答ありがとうございます。データを得るごとに真に近づいていくということを実感するために漸化式が必要だと思いました。赤が多い壺を選んでいるのに白が出てきたら、一歩後退になると思いますが、何回も試行していくと当然ながら赤が多いので結局は正解に近づいてくはずですね。また漸化式というのはプログラミングとの相性がぴったりなので漸化式を解いてしまう必要もなく、ただ式ができてしまえばすっきりすると思っていました。

回答No.4

deshabari-haijo

ANo.1とANo.2の回答者です。
理解力不足のため、考え方が誤っていました。
なお、締め切らずに、訂正回答を待って頂いたことに感謝致します。
また、自分にとっても、いい勉強（復習）になりました。

「取り出した玉を元の壺に戻し、再度同じ壺から玉を取り出す」ので、ANo.2における(2)と(3)の場合は考えない（起こり得ない）ということですね。
単純に、壺Aを特定した上で、その中から赤玉を取り出す確率をp（ANo.1の例では2/3がこれに該当）、壺Bを特定した上で、その中から赤玉を取り出す確率をq（ANo.1の例では3/4がこれに該当）とすると、
P(A|R)
=1/2×p/(1/2×p+1/2×q)
=p/(p+q)
=1/(1+q/p)（p≠0として、分母と分子をpで割った結果）－(a)
P(A|RR)
=1/2×p^2/(1/2×p^2+1/2×q^2)
=p^2/(p^2+q^2)
=1/{1+(q/p)^2}（p≠0として、分母と分子をp^2で割った結果）－(b)
よって、試行をn回繰り返した場合に、P(A|RR)をP(A|2R)、P(A|RRR)をP(A|3R)のように表すと、一般式はnを自然数として、
P(A|nR)=1/{1+(q/p)^n}

ここで、式(a)からq/pを求めると、
q/p=1/ P(A|R)-1－(a)‘
同様に、式(b)から(q/p)^2を求めると、
(q/p)^2=1/ P(A|RR)-1=1/ P(A|2R)-1－(b)‘
式(a)’と(b)’から、1/ P(A|2R)-1={1/ P(A|R)-1}×q/p
よって、数列：｛1/ P(A|nR)-1｝は、初項：{1/ P(A|R)-1}、公比：q/pの等比数列になるので、
一般項：1/ P(A|nR)-1={1/ P(A|R)-1}×(q/p)^(n-1)

回答No.3

f272

#2さんは何か勘違いをしているようだ。
赤白の構成が分かっている複数の壺があり、とにかく壺を１つ選んで、それが壺A,Bのどちらなのかの確率的を調べるということのようです。そしてその壺に玉を戻して再度その壺から玉を取り出す(２回目）ようです。
というのですから，#1に示されている数値例だと
壺Aから赤玉1個を取り出す確率：1/2×2/3=1/3
壺Bから赤玉1個を取り出す確率：1/2×3/4=3/8
だから「玉が赤だった場合、壺がAである条件付き確率」は8/17です。
しかし
壺Aから赤玉2個を取り出す確率：1/2×2/3×2/3=2/9
壺Bから赤玉2個を取り出す確率：1/2×3/4×3/4=9/32
だから「玉が赤赤だった場合、壺がAである条件付き確率」は
2/9/(2/9+9/32)=64/(64+81)=64/145

回答No.2

deshabari-haijo

ANo.1の回答者です。
お礼を拝見しました。
自分には内容が難しいのですが、次の考え方でよいかと思います。

1回の試行で、壺Aから赤玉1個を取り出す確率をP(AR)（ANo.1の例では1/3がこれに該当）、壺Bから赤玉1個を取り出す確率をP(BR)（ANo.1の例では3/8がこれに該当）とします。
ただし、取り出した玉は、その都度元の壺に戻すこととします。
そして、赤玉を2回続けて取り出す取り出し方は、次の4通りになります。
(1)
2回とも壺Aから取り出す場合
この確率は、P(AR)×P(AR)={P(AR)}^2
(2)
1回目は壺Aから、2回目は壺Bから取り出す場合
この確率は、P(AR)×P(BR)
(3)
1回目は壺Bから、2回目は壺Aから取り出す場合
この確率は、P(BR)×P(AR)=P(AR)×P(BR)（同上）
(4)
2回とも壺Bから取り出す場合
この確率は、P(BR)×P(BR)={P(BR)}^2

よって、
P(A|RR)
={P(AR)}^2/[{P(AR)}^2+P(AR)×P(BR)+P(AR)×P(BR)+{P(BR)}^2]
={P(AR)}^2/[{P(AR)}^2+2×P(AR)×P(BR)+{P(BR)}^2]
={P(AR)}^2/{P(AR)+P(BR)}^2
=[P(AR)/{P(AR)+P(BR)}]^2
={P(A|R)}^2

回答No.1

deshabari-haijo

例えば、壺がAとBの2種類だけで、その中の赤白の玉の内訳と合計が次の通りであるとします。
壺A：赤玉2個、白玉1個、合計3個
壺B：赤玉3個、白玉1個、合計4個
壺Aから赤玉1個を取り出す確率：1/2×2/3=1/3
壺Bから赤玉1個を取り出す確率：1/2×3/4=3/8
「玉が赤だった場合、壺がAである条件付き確率」は、1/3ではなく、
(1/2×2/3)/(1/2×2/3+1/2×3/4)=(2/3)/(2/3+3/4)=(2/3)/(17/12)=2/3×12/17=8/17
取り出した玉をその都度元の壺に戻すのであれば、8/17つまりP(A|R)は変わらないので、単純に、
P(A|RR)=P(A|R)×P(A|R)={P(A|R)}^2
ではないでしょうか。
「壺もその都度選択するかどうかにもよる」という考え方では、「玉が赤だった場合、壺がAである条件付き確率」を求めるのではなく、「壺Aから赤玉1個を取り出す確率」を求めることになります。

お礼

回答ありがとうございます。私の使用しているテキストの内容を読み返してみると、赤白の構成が分かっている複数の壺があり、とにかく壺を１つ選んで、それが壺A,Bのどちらなのかの確率的を調べるということのようです。そしてその壺に玉を戻して再度その壺から玉を取り出す(２回目）ようです。つまり取り出した壺を１つだけに対する試行です。壺Bには赤が多いことは分かっているので赤が多く出てきたらBである確率が増えていきます（確率は生きているなどと言うらしいです）。試行によって確率がどのように変化するかを見る題材です。それを漸化式として表現する方法を考えているわけですね（漸化式を解くのではなく、漸化式を作って実際に計算していく）。その漸化式が求まらないと思っているのですが。２乗でいいのでしょうか。