同時分布と独立同一分布の解釈はこれでOK?

質問

確率論の用語がいまいちピンと来ないので測度論の言葉で書き換えてます。

σ有限の測度空間(A_i,B_i,P_i)と可測空間(Ω_i,Σ_i) ただし,i=1,2,…,k
に於いて,次のように定義しました。

PがP_1,P_2,…,P_kの同時分布 ⇔ PはP_1,P_2,…,P_kらからなる積測度,

つまり,P(X_1^-1(b_1),X_2^-1(b_2),…,X_k^-1(b_k))=Π_{i=1..k}P_i(X_i^-1(b_i))
が成り立つ(∀b_i∈B_i,Map(A_i,Ω_i)∋X_iはB_i/Σ_i-可測関数).
そして,この時, X_1,X_2,…,X_kらを同時変数(joint distributed random variables)という.

このような解釈で大丈夫でしょうか?

特に,
(A_1,B_1,P_1)=(A_2,B_2,P_2)=…=(A_k,B_k,P_k)且つ
(Ω_1,Σ_1)=(Ω_2,Σ_2)=…=(Ω_k,Σ_k) の時,
Map(A_1,Ω_1)∋X_1,X_2,…,X_kらを独立同一分布変数(independent and identically distributed random variables)といい,
PをX_1,X_2,…,X_kの独立同一分布(independent and identity distribution)といい,

とも解釈いたしましたがこれで大丈夫でしょうか?

回答No.1

ramayana

意味が分からない記号がご質問に出ていたりするので、的を射ていないかもしれませんが、悪しからず。

「同時変数(joint distributed random variables)」とは、多分、「確率ベクトル（random vector）」のことだと思います。
　また、１つ確認しておくべきは、「同時分布（「結合分布」とも言う）」「独立」「確率ベクトル」といった概念は、いくつもの確率空間を想定しているわけではなく、確率空間を１つだけ定めて、その定められた１つの確率空間の上だけで議論されているということです。

以下、 確率空間 (Ω, Σ, P) の上での議論とします。 k を 1 以上の整数とします。R を実数全体の集合とします。 R^k を、 k 個の実数を並べたもの全体の集合とします。 R 及び R^k は、Borel 測度による測度空間とみなします。

（確率ベクトル）
「k 次元確率ベクトル」とは、 k 個の確率変数を並べたものです。これは、 X = (X[1], X[2], ・・・, X[k]) と表すことができます。ここで、各X[i] は、確率変数、すなわち、Ωから R への可測関数です（以下[ ] で添字を表すことにする）。

確率ベクトルについて、次の定理が知られています。

定理１　確率ベクトルは、Ωから R^k への可測関数である。

（結合分布）
X = (X[1], X[2], ・・・, X[k]) をk 次元確率ベクトルとします。R^k の任意の Borel 集合 A に対して、X^(-1)(A)∈Σ です（定理１より）。よって、Q(A) = P(X^(-1)(A)) としてBorel集合族からの実数値関数 Q を定義できます。Q は、R^k の確率分布になります。 k が 2 以上のとき、この Q のことを、X[1], X[2], ・・・, X[k] の「結合分布」あるいは「同時分布」といいます。 k = 1 のときは、この Q を単に X[1] の「分布」と言います。

（独立）
「独立」という概念は、「事象についての独立」「確率変数についての独立」「確率ベクトルについての独立」といった場面で使われます。

事象について、独立の意味はご存知と思います。

確率変数について、独立とは、次の意味です。Φを、(Ω, Σ, P) からの確率変数から成る有限集合又は無限集合とします。Φの任意の有限集合 X[1], X[2], ・・・, X[k] と R の任意の Borel 集合 A[1], A[2], ・・・, A[k] に対して、 k 個の事象 X[1]∈A[1], X[2]∈A[2], ・・・, X[k]∈A[k] が独立のとき、Φは独立であると言います。

確率ベクトルについての独立は、確率変数の場合と同様に定義できますが、省略します。

（独立と直積の関係）
確率変数についての独立と、分布の直積に関して、次の定理が知られています。

定理２　確率変数 X[1], X[2], ・・・, X[k] について、次の (1) と (2) は同値である。

(1) 　X[1], X[2], ・・・, X[k] が独立である。
(2)　　X[1], X[2], ・・・, X[k] の結合分布は、X[1], X[2], ・・・, X[k] それぞれの分布の直積分布である。

（i.i.d. について）
i.i.d.(independent identically distributed variables) は、有限個又は可算無限個の確率変数について使われることが多いようです。

確率変数の列 X[1], X[2], ・・・ が i.i.d. であるとは、 「X[1], X[2], ・・・ が独立であること」「X[1], X[2], ・・・ の分布が同一であること」の２つの条件を満たすことを意味します。

お礼

どうも有難うございます。遅くなりまして大変申し訳ありません。

> 意味が分からない記号がご質問に出ていたりするので、的を射ていないかもしれませんが、悪しからず。

これは失礼いたしました。

Map(A_i,Ω_i)
はA_iからΩ_iへの写像全体の集合です。

"X_iはB_i/Σ_i-可測関数"とは,
"X_iは∀s∈Σ_iに対して,X_i^-1(s)∈B_iなるA_iからΩ_iへの写像"という意味です。

b_i∈B_i
はb_iはσ集合体B_iの元,つまり可測集合という意味です。

(A_1,B_1,P_1)=(A_2,B_2,P_2)=…=(A_k,B_k,P_k)
は各測度空間が等しいという意味です。

(Ω_1,Σ_1)=(Ω_2,Σ_2)=…=(Ω_k,Σ_k)
は各可測空間が等しいという意味です。

>「同時変数(joint distributed random variables)」とは、
> 多分、「確率ベクトル（random vector）」のことだと思います。
:
> き、この Q のことを、X[1], X[2], ・・・, X[k] の「結合分布」あるいは
> 「同時分布」といいます。 k = 1 のときは、この Q を単に X[1] の「分布」と言います。

有難うございます。大変参考になります。

>（独立）
>「独立」という概念は、「事象についての独立」「確率変数についての独立」
> 「確率ベクトルについての独立」といった場面で使われます。
> 事象について、独立の意味はご存知と思います。

これの定義は
「Σ∋s_1,s_2,…,s_nが(事象について)独立
⇔
P(∩_{i=1}^n s_i)=Π_{i=1}^nP(s_i)が成立」
ですね。

https://proofwiki.org/wiki/Definition:Independent_Events

> 確率変数について、独立とは、次の意味です。Φを、(Ω, Σ, P) からの確率変数から
> 成る有限集合又は無限集合とします。Φの任意の有限集合 X[1], X[2], ・・・, X[k]
> と R の任意の Borel 集合 A[1], A[2], ・・・, A[k] に対して、 k 個の事象
> X[1]∈A[1], X[2]∈A[2], ・・・, X[k]∈A[k] が独立のとき、Φは独立であると言います。

ちょっとここがいまいちよく分かりません。

X[1],X[2],…,X[k]はΩからRへの可測関数ですよね。
X[1]∈A[1]とは
Ωの各元aに対するX[1]の像X[1](a)がA[1]に含まれるという意味でしょうか?
つまり,がX[1](Ω)⊂A[1]でしょうか?

「X[1],X[2],…,X[k]が独立
⇔
X[1](Ω),X[2](Ω),…,X[k](Ω)が独立
(つまり,{1,2,…,k}∋∀i,j, i≠jに対して,X[i]∩X[j]=φ)」

という解釈で正解でしょうか?

補足

下記お礼の続きです。

漸く分かりかけてきました。

『Φ:={X∈Map(Ω,R);Xは可測集合}とする時,
Φ⊃{X[1],X[2],…,X[k]}=:Φ'が独立,
⇔
∀b[1],b[2],…,b[k]∈Brl(R)に対して,
P(∩_{i=1..k}X[i]^-1(b[i]))=Π_{i=1..k}PX[i]^-1(b[i])』

が確率変数X[1],X[2],…,X[k]が独立の定義なのですね(ただし,Brl(R)は1次元ボレル集合体を表す)。

それから"直積分布"という言葉は今まで聞いた事が無かったのでいくつかのサイトを調べていましたら
(直積分布とは積測度の事なのですね)

> 確率ベクトルについての独立は、確率変数の場合と
> 同様に定義できますが、省略します。

これについては

『Φ:={X∈Map(Ω,R^k);Xは可測集合}とする時,
Φ⊃{X[1],X[2],…,X[k]}=:Φ'が独立,
⇔
∀b[1],b[2],…,b[k]∈Brl(R^k)に対して,
P(∩_{i=1..k}X[i]^-1(b[i]))=Π_{i=1..k}PX[i]^-1(b[i])』

という風に書けるのですね(ただし,Brl(R^k)はk次元ボレル集合体を表す)。

> 定理２　確率変数 X[1], X[2], ・・・, X[k] について
> 、次の (1) と (2) は同値である。
> (1) 　X[1], X[2], ・・・, X[k] が独立である。
(2)　　X[1], X[2], ・・・, X[k] の結合分布は、
> X[1], X[2], ・・・, X[k] それぞれの分布の直積分布である。

これは
X:=(X[1],X[2],…,X[k])^Tを確率ベクトルとすると
∀b∈Brl(R)に対して, P(X^-1(b))=Π_{i=1..k}P(X[i]^-1(b))が成立.
ということなのですね。
つまり,PX^-1はPX[1]^-1,PX[2]^-1,…,PX[k]^-1の直積測度になっているという主張なのですね。

>（i.i.d. について）
> i.i.d.(independent identically distributed variables) は、
> 有限個又は可算無限個の確率変数について使われることが多いようです。
> 確率変数の列 X[1], X[2], ・・・ が i.i.d. であるとは、
>「X[1], X[2], ・・・ が独立であること」「X[1], X[2], ・・・ の分布が
> 同一であること」の２つの条件を満たすことを意味します。

無限集合の場合の"X[1],X[2],…が独立"の定義は

『Φ:={X∈Map(Ω,R);Xは可測集合}とする時,
Φ⊃{X[1],X[2],…}=:Φ'が独立,
⇔
∀b[1],b[2],…∈Brl(R)に対して,
P(∩_{i=1..∞}X[i]^-1(b[i]))=Π_{i=1..∞}PX[i]^-1(b[i])』

という風に無限級数で定義されるのでしょうか?