【確率・統計】X1 ≦ X2 ≦ X3 となる確率

質問

分布関数 F(x)、密度関数 f(x) という分布に独立に従う確率変数 X をサンプルしていったとき、
サンプル取得順に X1 ≦ X2 ≦ X3 と増加していったときの X3 の分布は
どのように求めれば良いのでしょうか？

「順に（時間的に）増加」という概念があるので、単純な最大値分布にはならないとは思うのですが、
どう求めれば良いのかわかりません。

本を御提示いただくだけでも構いませんので、
御教授お願いいたします。

回答No.7

ramayana

ANo.6の続きです。

３　G(z, x)の考え方でI(z)を計算

G(z, x)の分母、分子をそれぞれxでならして、I(z)を計算できます。Xの実現値をξ（グザイ）で表すことにします。

　　I(z) = Pr(Z≦z| X<Y<Z)= Pr(Z≦z, X<Y<Z) / Pr(X<Y<Z)
　　= ∫[-∞ to z]Pr(Z≦z, ξ<Y<Z)f(ξ)dξ / ∫[-∞ to z]Pr(ξ<Y<Z)f(ξ)dξ

です。なお、ここで、I(z)は、G(z, x)そのものをxで積分して∫[-∞ to z] G(z,ξ)f(ξ)dξとするのでなく、分子、分母それぞれを積分していることに注意してください。

３．１　分子の計算

１．１により、

　　分子 = ∫[-∞ to z] {(1/2)(F(z)-F(ξ))^2}f(ξ)dξ

です。B(ξ) = (-1/6) (F(z)-F(ξ))^3 と置けば、{(1/2)(F(z)-F(ξ))^2}f(ξ) = (d/dζ)B(ζ) ですから、分子は、次のように計算されます。

　　分子 = B(z) - B(-∞) = (1/6)F(z)^3

３．２　分母の計算

分母は、分子の式でz = ∞と置けばいいので、

　　分母 = B(∞) - B(-∞) = 1/6

です。

３．３　結論

以上により、

　　I(z) = 分子 / 分母 = F(z)^3

です。

４　H(z, x)の考え方でI(z)を計算

H(z, x)の分母、分子をそれぞれxでならして、I(z)を計算できます。

　　I(z) = Pr(Z≦z| X <Z, Y<Z)= Pr(Z≦z, X <Z, Y<Z) / Pr(X <Z, Y<Z)
　　= ∫[-∞ to z] Pr(Z≦z, ξ<Z, Y<Z)f(ξ)dξ / ∫[-∞ to z] Pr(ξ<Z, Y<Z) f(ξ)dξ

４．１　分子の計算

２．１により、

　　分子 = ∫[-∞ to z] {(1/2)( F(z)^2 - F(x)^2)}f(ξ)dξ

です。C(ξ) = (1/2) F(ξ)F(z)^2 - (1/6)F(ξ)^3 と置けば、{(1/2)( F(z)^2 - F(x)^2)}f(ξ) = (d/dζ)C(ζ) ですから、分子は、次のように計算されます。

　　分子 = C(z) - C(-∞) = (1/3)F(z)^3

４．２　分母の計算

分母は、分子の式でz = ∞と置けばいいので、

　　分母 = C(∞) - C(-∞) = 1/3

です。

４．３　結論

以上により、

　　I(z) = 分子 / 分母 = F(z)^3

です。

回答No.6

ramayana

１　G(z, x)=Pr(Z≦z|X=x, X<Y<Z)の計算

　　Pr(Z≦z|X=x, X<Y<Z)= Pr(Z≦z|x<Y<Z)
　　= Pr(Z≦z, x<Y<Z) / Pr(x<Y<Z)

です。そこで、分子、分母をそれぞれ計算します。

１．１　分子の計算

z≦xのときPr(Z≦z|x<Y<Z)=0となるのは明らかなので、z>xの場合を考えます。以下、Yの実現値をη（イータ）、Zの実現値をζ（ゼータ）で表すことにします。

　　分子 = Pr(Z≦z, x<Y<Z)=∫[x to z]{∫[x to ζ]f(η)dη}f(ζ)dζ
　　=∫[x to z]{F(ζ)-F(x)}f(ζ)dζ

です。A(ζ)=(-1/2) (F(ζ)-F(x))^2とすれば、{F(ζ)-F(x)}f(ζ)=(d/dζ)A(ζ) ですから、分子は、次のように計算されます。

　　分子 = A(z)-A(x)=(1/2)(F(z)-F(x))^2

１．２　分母の計算

　　分母 = Pr(x<Y<Z)=∫[x to ∞]{∫[x to ζ]f(η)dη}f(ζ)dζ
　　=∫[x to ∞]{F(ζ)-F(x)}f(ζ)dζ

です。よって、上と同じA(ζ)を使って、分母は、次のように計算されます。

　　分母 = A(∞)-A(x)=(1/2)(1-F(x))^2

すなわち、分母は、分子の式で、z=∞として計算できます。

１．３　結論

以上により、z>xのとき、

　　Pr(Z≦z|X=x, X<Y<Z) = 分子 / 分母 = (F(z)-F(x))^2 / (1-F(x))^2

です。

２　H(z, x) = Pr(Z≦z|X=x, X< Z, Y<Z)の計算

　　Pr(Z≦z|X=x, X< Z, Y<Z)= Pr(Z≦z|x< Z, Y<Z)
　　= Pr(Z≦z, x< Z, Y<Z) / Pr(x< Z, Y<Z)

です。そこで、分子、分母をそれぞれ計算します。

２．１　分子の計算

z≦xのときPr(Z≦z, x< Z, Y<Z)=0となるのは明らかなので、z>xの場合を考えます。
分子 = Pr(Z≦z, x< Z, Y<Z)です。

　　Yがx以下のとき「Z≦z, x< Z, Y<Z　⇔　x< Z」
　　Yがxより大きいとき「Z≦z, x< Z, Y<Z　⇔　Y< Z」

ですから、これらで場合分けして、次のようになります。

分子 =　　∫[-∞ to x]{∫[x to z]f(ζ)dζ}f(η)dη
　　　 + ∫[x to z]{∫[η to z]f(ζ)dζ}f(η)dη

　　= ∫[-∞ to x]{F(z)-F(x)}f(η)dη + ∫[x to z]{F(z)-F(η)}f(η)dη
　　= (F(z)-F(x))∫[-∞ to x] f(η)dη + (A(z)-A(x))
　　= (F(z)-F(x))F(x) + (1/2) (F(z)-F(x))^2
　　=(1/2)( F(z)^2 - F(x)^2)

２．２　分母の計算

分母は、分子の式でz=∞と置けばいいので、

　　分母 =(1/2)( 1 - F(x)^2)

です。

２．３　結論

以上により、z>xのとき、

　　Pr(Z≦z|X=x, X< Z, Y<Z) = 分子 / 分母
　　　= (F(z)^2 - F(x)^2) / (1 - F(x)^2)

です。

（続く）

回答No.5

ramayana

失礼。ANo.4で計算間違いがありました。下図が正しいと思います。

お礼

お返事が遅くなってしまい大変申し訳ございませんでした。
御回答ありがとうございます。

御提示いただいた確率の式を上から順に G(z, x), H(z, x), I(z) とおいたとき、G(z, x), H(z, x) はどのように導出すれば良いのでしょうか。

また G(z, x), H(z, x) のそれぞれを x で積分すれば I(z) と一致すると思うのですが、そういう認識で良いのでしょうか。
そもそも私には x 積分をどう実行すれば良いのかわかりませんが、G と H の積分結果が一致してかつ I になるとは思えないのです。

お手数おかけしますが、お暇なときにでも御回答いただければ幸いです。
よろしくお願いいたします。

回答No.4

ramayana

私の計算では、次のようになりました。X1=X, X2=Y, X3=Zと書きます。

回答No.3

ramayana

ANo.1です。追加のご質問にお答えします。

１　標準正規分布のケースについて

A 「初期値 X1 が 5 だった場合、その実現確率はかなり小さく、X1 ≦ X2 となる確率もかなり小さくなり、さらにX2 ≦ X3 となる確率も恐ろしく小さくなる」

⇒　この部分は正しいと思います。

B 「求めたい確率は初期値 X1 の実現確率によらず、単にサンプル取得数（質問文では 3）にのみ依存することになり」

⇒　この部分は間違いだと思います。次のCのように言い換えれば、正しくなります。

C 「求めたい確率は、単にサンプル取得数（質問文では 3）にのみ依存することになり」

「初期値 X1 の実現確率によらず」という言葉が入っているかどうかが、分かれ目です。Φの定義には、X1の初期値の条件が含まれていないことを確認してください。実現値では、X1=5のときもあれば、X1=-100のときもあるでしょう。X1のいろいろな初期値でならしたX3の分布が、Φなのです。

次のように言えば、納得していただけるでしょうか。

　Φ’＝「X1=5かつ X1 ≦ X2 ≦ X3という条件付きのX3の分布」
　Ψ’＝「X1=5かつX1, X2,X3の最大値がX3という条件付きのX3の分布」

とすれば、Φ’≠Ψ’です。Φ’≠Φ、Ψ’≠Ψでもあります。

２　さいころのケースについて

まず、断っておきますが、ANo.2で説明をさぼった部分があります。それは、Pr(X1=X2)=0、すなわち、X1=X2となる確率が0であることを前提としていることです。ご質問の中に「密度関数 f(x)」という記述があったので、密度関数が存在すると解釈して、上のことが当然成立すると考えた次第です。

そこで、以下、X1とX2が同じ目にならない、という前提で説明します。ついでに、話を簡単にするため、さいころの目は、4, 5, 6の３種類しかないものとし、どれも等確率で出るものとします。

ΦとΨを実際に求めてみましょう。それぞれの分布関数をG(x)、H(x)とします：

　G(x)=Pr(X3≦x | X1≦X2≦X3)
　H(x)= Pr(X3≦x | X1≦X3, X2≦X3)

まず、G(x)を調べます。X1≦X2≦X3となるパターンは、(4,5,5)、(4,5,6)、(4,6,6)、(5,6,6)の4種類です。X3≦4となるパターンが0個、X3≦5となるパターンが1個、X3≦6となるパターンが4個ですから、G(4)=0/4=0、G(5)=1/4、G(6)=4/4=1です。

次に、H(x)を調べます。X1≦X3, X2≦X3となるパターンは、(4,5,5)、(4,5,6)、(4,6,6)、(5,6,6)、 (5,4,5)、(5,4,6)、(6,4,6)、(6,5,6)の8種類です。X3≦4となるパターンが0個、X3≦5となるパターンが2個、X3≦6となるパターンが8個ですから、H(4)=0/8=0、H(5)=2/8=1/4、G(6)=8/8=1です。

以上により、G(x)=H(x) が分かり、したがって、Φ=Ψが分かります。

お礼

御回答ありがとうございます。

私の質問文が不適切だったのかもしれません。
私の知りたいのは、ご指摘いただいたΦ’、
すなわち他のご指摘も踏まえて等号を消してしまえば

「X1 = x1 かつ X1 ＜ X2 ＜ X3という条件付きのX3の分布」

のことです。数式的に書けば

Pr ( X3 ≦ x | X1 = x1 and X1 ＜ X2 ＜ X3 )

となることと思います。私の知りたいのはこの確率です。
申し訳ありません。

回答No.2

ramayana

ANo.1です。

題意を読み違えていたかも知れないので、もう１つ補足します。

　Φ＝「X1 ≦ X2 ≦ X3という条件付きのX3の分布」
　Ψ＝「X1, X2,X3の最大値がX3という条件付きのX3の分布」

としたとき、ΦとΨは違うのではないか、というのがご質問の趣旨だとすれば、答は「いいえ」です。つまり、Φ=Ψ、すなわち、Φは、「単純な最大値分布」です。

これは、

　「X1, X2, X3の最大値がX3」 ⇔ 「X1 ≦ X2 ≦ X3またはX2 ≦ X1 ≦ X3」

ということと、

　「X1 ≦ X2 ≦ X3という条件付きのX3の分布」と、「X2 ≦ X1 ≦ X3という条件付きのX3の分布」が等しい

ということを使って証明できます。

お礼

>ΦとΨは違うのではないか、というのがご質問の趣旨だとすれば、

御回答ありがとうございます。
はい、それが質問の趣旨といって間違いありません。
しかしΦ＝Ψであるということにあまり納得できませんでした。

たとえば X が標準正規分布に従うとして定性的に考えると、
初期値 X1 が 5 だった場合、その実現確率はかなり小さく、
X1 ≦ X2 となる確率もかなり小さくなり、さらに
X2 ≦ X3 となる確率も恐ろしく小さくなることは明らかだと思います。

しかし御提示いただいた考え方を適用すると、求めたい確率は
初期値 X1 の実現確率によらず、
単にサンプル取得数（質問文では 3）にのみ依存することになり、
予想に反すると思います。

また御提示いただいた
「X1, X2, X3の最大値がX3」 ⇔ 「X1 ≦ X2 ≦ X3またはX2 ≦ X1 ≦ X3」
はもちろん理解できますが、これをサイコロで言い換えてみると、
（1回目，2回目，3回目）＝（4，5，6）
となる確率を求めたいのに、おおざっぱに言って
（4，5，6）または（5，4，6）となる確率を求めるは、最大値が6となる確率を求めれば良い
といっているだけで、別の確率を求めようとしていることになると思うのですが、それで良いのでしょうか。

お忙しい中、余暇を費やしての御教授ありがとうございます。
よろしければまた御回答いただければ幸いです。

回答No.1

ramayana

（１）X1,X2,X3の分布関数がF(x)
（２）X1,X2,X3が独立

という条件だけで、X1,X2,X3の結合分布は一意的に決定されます。したがって

　　Φ＝「X1 ≦ X2 ≦ X3という条件付きのX3の分布」

も（１）と（２）で一意的に決定されます。上のΦは、X1,X2,X3が時間の順に並んでいるかどうかに無関係です。

本ということですが、例えば下のようなスタンダードな教科書で「分布」の定義を調べ、分布が何によって決定されるかをチェックすると分かると思います。

伊藤清「確率論」（1953年）岩波書店