確率空間と確率モデル | 確率論入門

1 確率空間・事象・零事象

定義 1.1. 三つ組 $(\Omega,\mathcal F,P)$ が確率空間 (probability space) であるとは、次の条件が成り立つことをいう。

$\Omega$ は集合であり、標本空間 (sample space) という。
$\mathcal F$ は $\Omega$ 上の σ-加法族である。 $\mathcal F$ の元を事象 (event) という。
$P:\mathcal F\to[0,\infty]$ は測度であり、 $P(\Omega)=1$ を満たす。 $P$ を確率測度 (probability measure) という。

標本点 $\omega\in\Omega$ は一回の試行で得られる結果を表し、事象 $A\in\mathcal F$ は結果について判定することができる条件を表す。確率は $\mathcal F$ の元に対して定まり、 $\Omega$ の任意の部分集合に対して定まるとは限らない。

定義 1.2. 事象 $N\in\mathcal F$ が $P(N)=0$ を満たすとき、 $N$ を零事象 (null event) という。

$\omega\in\Omega$ に関する命題 $\mathsf Q(\omega)$ について、ある零事象 $N\in\mathcal F$ が存在し、すべての $\omega\in\Omega\setminus N$ で $\mathsf Q(\omega)$ が成り立つとき、 $\mathsf Q$ はほとんど確実に成り立つ (hold almost surely) という。命題が成り立つ点の集合 $E=\{\omega\in\Omega\mid\mathsf Q(\omega)\}$ 自体が可測である場合には、この条件は $P(E)=1$ と同値である。

零事象は空集合とは限らない。ほとんど確実に成り立つ命題は、すべての標本点で成り立つ命題とも異なる。この区別は、連続モデルで一点の確率が $0$ になる例に現れる。

2 確率測度の基本性質

命題 2.1. $(\Omega,\mathcal F,P)$ を確率空間とし、 $A,B,A_1,A_2,\ldots\in\mathcal F$ とする。このとき、次の性質が成り立つ。

$P(\emptyset)=0$ であり、 $0\leq P(A)\leq1$ である。
$P(\Omega\setminus A)=1-P(A)$ である。
$A\subseteq B$ ならば $P(A)\leq P(B)$ である。
$A\subseteq B$ ならば $P(B\setminus A)=P(B)-P(A)$ である。
$P(A\cup B)=P(A)+P(B)-P(A\cap B)$ である。
可算劣加法性 $P\left(\bigcup_{n=1}^{\infty}A_n\right) \leq\sum_{n=1}^{\infty}P(A_n)$ が成り立つ。右辺は $\infty$ を許す。
$A_1\subseteq A_2\subseteq\cdots$ ならば、 $P\left(\bigcup_{n=1}^{\infty}A_n\right)=\lim_{n\to\infty}P(A_n)$ が成り立つ。下からの連続性には有限性の仮定を要しない。
$A_1\supseteq A_2\supseteq\cdots$ かつ $P(A_1)<\infty$ ならば、 $P\left(\bigcap_{n=1}^{\infty}A_n\right)=\lim_{n\to\infty}P(A_n)$ が成り立つ。確率空間では $P(A_1)\leq1$ なので有限性の仮定は自動的に満たされる。

証明.主張 (1)を示す。 $P$ は測度なので $P(\emptyset)=0$ である。最初に有限加法性を測度の可算加法性から導く。二つずつ交わらない有限列 $E_1,\ldots,E_m\in\mathcal F$ に対して、 $n>m$ では $E_n=\emptyset$ と定める。測度の可算加法性と $P(\emptyset)=0$ から

P\left(\bigsqcup_{n=1}^{m}E_n\right) =P\left(\bigsqcup_{n=1}^{\infty}E_n\right) =\sum_{n=1}^{\infty}P(E_n) =\sum_{n=1}^{m}P(E_n)

である。

主張 (2)を示す。 $\Omega=A\sqcup(\Omega\setminus A)$ と、上で導いた有限加法性から

1=P(\Omega)=P(A)+P(\Omega\setminus A)

であり、主張を得る。主張 (3)と主張 (4)を示す。 $A\subseteq B$ ならば $B=A\sqcup(B\setminus A)$ なので

P(B)=P(A)+P(B\setminus A)\geq P(A)

である。最初の主張を得て、同じ等式から、すべての項が有限であるため後の主張も得られる。 $P$ の値は非負であり、 $A\subseteq\Omega$ であるから、主張 (3)により $0\leq P(A)\leq P(\Omega)=1$ となり、主張 (1)の残りも得られる。

主張 (5)を示す。 $A\cup B=A\sqcup(B\setminus A)$ と $B=(A\cap B)\sqcup(B\setminus A)$ から

P(A\cup B)=P(A)+P(B\setminus A) =P(A)+P(B)-P(A\cap B)

であり、主張を得る。

主張 (6)を示す。可算劣加法性を示すため、

C_1=A_1,\qquad C_n=A_n\setminus\bigcup_{k=1}^{n-1}A_k\quad(n\geq2)

とおく。 $C_n$ は二つずつ交わらず、 $C_n\subseteq A_n$ であり、 $\bigcup_nC_n=\bigcup_nA_n$ である。可算加法性と単調性から

P\left(\bigcup_nA_n\right)=\sum_nP(C_n)\leq\sum_nP(A_n)

を得る。非負級数どうしの比較なので、右辺が無限大の場合も成立する。

主張 (7)を示す。 $A_n$ が増加するとする。 $C_1=A_1$ 、 $C_n=A_n\setminus A_{n-1}$ とおけば、 $C_n$ は二つずつ交わらず、

A_n=\bigsqcup_{k=1}^{n}C_k, \qquad \bigcup_nA_n=\bigsqcup_{k=1}^{\infty}C_k

である。したがって、

P\left(\bigcup_nA_n\right)=\sum_{k=1}^{\infty}P(C_k) =\lim_{n\to\infty}\sum_{k=1}^{n}P(C_k) =\lim_{n\to\infty}P(A_n)

である。この証明には、いずれかの $P(A_n)$ が有限であるという仮定を用いていない。

主張 (8)を示す。 $A_n$ が減少し $P(A_1)<\infty$ とする。 $B_n=A_1\setminus A_n$ とおくと $B_n$ は増加し、

\bigcup_nB_n=A_1\setminus\bigcap_nA_n

である。主張 (7)と主張 (4)を用いると、

\begin{aligned} P(A_1)-P\left(\bigcap_nA_n\right) &=P\left(A_1\setminus\bigcap_nA_n\right)\\ &=\lim_{n\to\infty}P(B_n) =\lim_{n\to\infty}\bigl(P(A_1)-P(A_n)\bigr) \end{aligned}

となる。 $P(A_1)<\infty$ なので有限な値を両辺から引くことができ、上からの連続性を得る。▨

有限性の仮定が必要になるのは、上からの連続性の場合であることに注意する。一般の測度空間では、例えば数え上げ測度 $\mu$ と $A_n=\{n,n+1,\ldots\}$ に対して $A_n\downarrow\emptyset$ であるにもかかわらず、すべての $n$ で $\mu(A_n)=\infty$ となる。確率空間では全体の測度が $1$ なので、このような例は生じない。

3 有限標本空間のモデル

例 3.1. $\Omega=\{\omega_1,\ldots,\omega_m\}$ とし、 $p_i\geq0$ および $\sum_{i=1}^{m}p_i=1$ を仮定する。 $\mathcal F=\mathcal P(\Omega)$ とし、

P(A)=\sum_{\omega_i\in A}p_i

と定める。空集合に対する和は $0$ である。互いに交わらない事象列では各標本点が高々一つの事象にしか現れず、標本点は有限個しかないため、和の順序を入れ替えると

P\left(\bigsqcup_{n=1}^{\infty}A_n\right) =\sum_{n=1}^{\infty}P(A_n)

を得る。また、 $P(\Omega)=\sum_ip_i=1$ である。したがって、これは確率空間である。

$p_i=1/m$ の場合には

P(A)=\frac{|A|}{|\Omega|}

となる。「同様に確からしい」という条件は、標本点へ等しい重みを置くというモデルの選択に相当する。

4 連続標本空間のモデル

例 4.1. $a<b$ とし、 $\mathcal L([a,b])$ を $[a,b]$ の Lebesgue 可測集合族、 $\lambda$ を Lebesgue 測度とする。

P(A)=\frac{\lambda(A)}{b-a} \qquad(A\in\mathcal L([a,b]))

と定める。Lebesgue 測度の可算加法性を正の定数 $1/(b-a)$ 倍しているので $P$ は測度であり、

P([a,b])=\frac{b-a}{b-a}=1

である。したがって、 $([a,b],\mathcal L([a,b]),P)$ は確率空間である。

$a\leq c\leq d\leq b$ ならば

P([c,d])=\frac{d-c}{b-a}

である。一方、各 $x\in[a,b]$ について $\lambda(\{x\})=0$ なので $P(\{x\})=0$ である。それでも $P([a,b])=1$ であり、可算加法性は非可算個の一点集合の和に直接適用されないため矛盾しない。

有限一様モデルでは各標本点の確率が正であるのに対して、連続一様モデルでは各一点が零事象である。両者は同じ確率空間の定義を満たすものの、異なる標本空間と確率測度を選んだ異なるモデルである。有限モデルではすべての部分集合を可測とし、連続モデルでは完備な Lebesgue 可測集合族を用いたため、いずれのモデルでも零事象の任意の部分集合が可測である。

5 生成族上の値による確率測度の一意性

確率モデルでは、すべての事象の確率を個別に指定する代わりに、半直線や直方体などの生成族上で値を指定することが多い。次の定理により、生成族上で一致する二つの確率測度が全事象上でも一致することが保証される。

定理 5.1. $\mathcal C$ を $\Omega$ を含む π 系とし、 $\mathcal F=\sigma(\mathcal C)$ とする。 $P_1,P_2$ を $(\Omega,\mathcal F)$ 上の確率測度とする。すべての $C\in\mathcal C$ について $P_1(C)=P_2(C)$ が成り立つならば、すべての $A\in\mathcal F$ について $P_1(A)=P_2(A)$ が成り立つ。

証明. 二つの測度が一致する集合の族を

\mathcal D=\{A\in\mathcal F\mid P_1(A)=P_2(A)\}

とおく。確率測度であるから $P_1(\Omega)=P_2(\Omega)=1$ であり、 $\Omega\in\mathcal D$ である。 $A\in\mathcal D$ ならば

P_1(\Omega\setminus A)=1-P_1(A)=1-P_2(A)=P_2(\Omega\setminus A)

なので、 $\Omega\setminus A\in\mathcal D$ である。二つずつ交わらない $A_1,A_2,\ldots\in\mathcal D$ に対して、可算加法性から

P_1\left(\bigcup_nA_n\right)=\sum_nP_1(A_n) =\sum_nP_2(A_n)=P_2\left(\bigcup_nA_n\right)

であり、 $\bigcup_nA_n\in\mathcal D$ である。したがって、 $\mathcal D$ は Dynkin 系である。

仮定から $\mathcal C\subseteq\mathcal D$ である。π–λ 定理§E10.9 定理 1.8により、 $\mathcal C$ を含む最小の Dynkin 系は $\sigma(\mathcal C)=\mathcal F$ である。ゆえに $\mathcal F\subseteq\mathcal D$ であり、 $P_1=P_2$ を得る。▨

6 演習

問題 6.1.

$A_1,A_2,\ldots$ が互いに交わらない事象であるとき、 $P(\bigcup_{k=n}^{\infty}A_k)\to0$ であることを、上からの連続性を用いて証明せよ。
$\Omega=\{1,2,3,4\}$ とし、 $P(\{i\})=ci$ とする。 $c$ を求め、事象 $A=\{2,4\}$ の確率を計算せよ。また、このモデルが一様モデルでない理由を述べよ。
$[0,1]$ 上の一様確率について、 $A_n=(0,1/n)$ が $A_n\downarrow\emptyset$ を満たし、 $P(A_n)\to0$ となることを確認せよ。減少列の共通部分に $0$ が入らない理由も述べよ。
$\mathcal C$ を $\Omega$ 上の π 系とし（ $\Omega\in\mathcal C$ とは限らない）、 $\mu_1,\mu_2$ を $(\Omega,\sigma(\mathcal C))$ 上の有限測度とする。すべての $C\in\mathcal C$ について $\mu_1(C)=\mu_2(C)$ であり、さらに $\mu_1(\Omega)=\mu_2(\Omega)$ ならば、 $\sigma(\mathcal C)$ 上で $\mu_1=\mu_2$ であることを証明せよ。また、 $\mu_1(\Omega)=\mu_2(\Omega)$ の仮定を外すと結論が成り立たない例と、有限性の仮定を外し、 $\Omega\in\mathcal C$ かつ $\mu_1(\Omega)=\mu_2(\Omega)=\infty$ のとき結論が成り立たない例を与えよ。

解答.

$B_n=\bigcup_{k=n}^{\infty}A_k$ とおく。 $B_{n+1}\subseteq B_n$ であるから $(B_n)$ は減少列であり、各 $B_n$ は事象である。 $\omega\in\bigcap_nB_n$ と仮定する。 $\omega\in B_1$ であるから $\omega\in A_j$ を満たす $j$ が存在し、 $A_k$ は互いに交わらないので $k\neq j$ ならば $\omega\notin A_k$ である。したがって $\omega\notin B_{j+1}$ となり、仮定に反する。ゆえに $\bigcap_nB_n=\emptyset$ である。 $P(B_1)\leq1<\infty$ であるから、命題 2.1 (8)により
$\lim_{n\to\infty}P\left(\bigcup_{k=n}^{\infty}A_k\right)=\lim_{n\to\infty}P(B_n)=P\left(\bigcap_{n=1}^{\infty}B_n\right)=P(\emptyset)=0$
を得る。
$P(\Omega)=1$ と有限加法性から $\sum_{i=1}^{4}ci=10c=1$ であり、 $c=1/10$ である。このとき $p_i=i/10\geq0$ かつ $\sum_ip_i=1$ であるから、例 3.1により $\mathcal P(\Omega)$ 上の確率測度 $P(A)=\sum_{i\in A}i/10$ が定まる。事象 $A=\{2,4\}$ の確率は
$P(A)=P(\{2\})+P(\{4\})=\frac{2}{10}+\frac{4}{10}=\frac35$
である。一様モデルでは各標本点の確率が $1/|\Omega|=1/4$ で等しいが、このモデルでは $P(\{1\})=1/10\neq4/10=P(\{4\})$ であり、標本点の重みが等しくない。したがって一様モデルでない。実際、一様モデルならば $P(A)=|A|/|\Omega|=1/2$ であるが、このモデルでは $P(A)=3/5$ である。
$[0,1]$ 上の一様確率は例 4.1で $a=0$ 、 $b=1$ とした $P=\lambda$ である。 $(0,1/(n+1))\subseteq(0,1/n)$ であるから $(A_n)$ は減少列である。 $x\leq0$ ならばどの $A_n$ にも属さない。 $x>0$ ならば $n>1/x$ を満たす $n$ について $x>1/n$ であるから $x\notin A_n$ である。したがって $\bigcap_nA_n=\emptyset$ であり、 $A_n\downarrow\emptyset$ である。一点集合の Lebesgue 測度は $0$ であるから $P(A_n)=\lambda((0,1/n))=\lambda([0,1/n])-\lambda(\{0\})-\lambda(\{1/n\})=1/n$ であり、 $P(A_n)\to0$ である。この極限は命題 2.1 (8)の結論 $P(A_n)\to P(\emptyset)=0$ と一致する。共通部分に $0$ が入らないのは、各 $A_n$ が左端 $0$ を含まない開区間であり、 $0\notin A_n$ がすべての $n$ について成り立つからである。
$\mathcal C'=\mathcal C\cup\{\Omega\}$ とおく。 $C\in\mathcal C$ について $\Omega\cap C=C$ であるから、 $\mathcal C'$ は π 系である。 $\Omega$ はどの σ-加法族にも属するので $\sigma(\mathcal C')=\sigma(\mathcal C)$ であり、仮定から $\mu_1$ と $\mu_2$ は $\mathcal C'$ 上で一致する。 $\mathcal D=\{A\in\sigma(\mathcal C)\mid\mu_1(A)=\mu_2(A)\}$ とおく。 $\Omega\in\mathcal D$ である。 $A\in\mathcal D$ ならば、全体の測度が有限であるから $\mu_j(\Omega\setminus A)=\mu_j(\Omega)-\mu_j(A)$ （ $j=1,2$ ）であり、 $\Omega\setminus A\in\mathcal D$ である。二つずつ交わらない $A_1,A_2,\ldots\in\mathcal D$ については可算加法性から $\bigcup_nA_n\in\mathcal D$ である。したがって $\mathcal D$ は $\mathcal C'$ を含む Dynkin 系であり、§E10.9 定理 1.8により $\sigma(\mathcal C)=\sigma(\mathcal C')\subseteq\mathcal D$ である。

全体の測度の一致を外した例として、 $\Omega=\{1,2\}$ 、 $\mathcal C=\{\{1\}\}$ とする。 $\mathcal C$ は π 系であり、 $\sigma(\mathcal C)=\mathcal P(\Omega)$ である。 $\mu_1=\delta_1$ 、 $\mu_2=\delta_1+\delta_2$ は $\{1\}$ 上でともに $1$ であるが、 $\mu_1(\Omega)=1\neq2=\mu_2(\Omega)$ である。

全体の測度が無限大の例として、 $\Omega=\NN$ とし、 $A_n=\{n,n+1,\ldots\}$ とおいて $\mathcal C=\{\emptyset\}\cup\{A_n\mid n\geq1\}$ とする。 $A_m\cap A_n=A_{\max\{m,n\}}$ であるから $\mathcal C$ は π 系であり、 $\Omega=A_1\in\mathcal C$ である。 $\{n\}=A_n\setminus A_{n+1}$ であるから、すべての部分集合は一点集合の可算和として $\sigma(\mathcal C)$ に属し、 $\sigma(\mathcal C)=\mathcal P(\NN)$ である。数え上げ測度 $\kappa$ と $2\kappa$ は $\mathcal C$ の各元で一致し（ $\emptyset$ では $0$ 、各 $A_n$ では $\infty$ ）、 $\Omega$ でもともに $\infty$ であるが、 $\kappa(\{1\})=1\neq2=2\kappa(\{1\})$ である。この例では補集合に対する閉性の段で $\infty-\infty$ が現れ、 $\mathcal D$ が Dynkin 系にならない。

▨

§E11.1確率空間と確率モデル