1 四つの収束概念
以下では、(Ω,F,P)を確率空間とし、X,X1,X2,…をこの確率空間上の実数値確率変数とする。XnとXの分布関数を、それぞれFnとFで表す。
定義 1.1.
P({ω∈Ω∣n→∞limXn(ω)=X(ω)})=1が成り立つとき、XnはXにほとんど確実に収束する (converge almost surely) といい、Xna.s.Xと書く。
定義 1.2. すべてのε>0に対して
P(∣Xn−X∣>ε)⟶0が成り立つとき、XnはXに確率収束する (converge in probability) といい、XnPXと書く。
定義 1.3.Fのすべての連続点x∈Rにおいて
Fn(x)⟶F(x)が成り立つとき、XnはXに分布収束する (converge in distribution) といい、Xn⇒Xと書く。
分布収束の定義では、Fの不連続点における収束を要求しない。例えばXnが定数確率変数cへ分布収束する場合、極限分布関数はcで跳躍するため、点cにおける分布関数の値は収束を判定する条件に含まれない。
定義 1.4.1≤p<∞とし、Xn,X∈Lp(P)とする。
∥Xn−X∥p=(E[∣Xn−X∣p])1/p⟶0が成り立つとき、XnはXにLp収束する (Lpconvergence) という。
p=∞の場合には、Xn,X∈L∞(P)かつ∥Xn−X∥∞→0であることをL∞収束 (L∞convergence) という。
例 1.5.Xを任意の有界確率変数とし、Xn=X+1/nと置く。このとき、すべてのω∈Ωに対してXn(ω)→X(ω)であり、任意の1≤p≤∞に対して
∥Xn−X∥p=n1である。したがって、後で証明する含意によって、四つの収束がすべて成り立つ。
2 収束概念の含意
三つの含意は、それぞれ異なる評価によって得られる。Lp収束から確率収束を導く際には Markov の不等式を、ほとんど確実な収束から確率収束を導く際には指示関数と優収束定理を用いる。確率収束から分布収束を導く際には、XnとXの差が小さい事象上で二つの分布関数を挟む。
定理 2.1.XnとXを実数値確率変数とする。
- 1≤p≤∞に対して、Xn→XがLpで成り立つならば、XnPXである。
- Xna.s.Xならば、XnPXである。
- XnPXならば、Xn⇒Xである。
証明.主張 (1)を示す。最初に1≤p<∞とし、ε>0を固定する。非負確率変数∣Xn−X∣pに
Markov の不等式§E11.4 定理 3.1を適用すると、
P(∣Xn−X∣>ε)=P(∣Xn−X∣p>εp)≤εpE[∣Xn−X∣p]=εp∥Xn−X∥ppを得る。Lp収束の仮定により右辺は0に収束する。p=∞の場合には、∥Xn−X∥∞<εとなるすべてのnについてP(∣Xn−X∣>ε)=0である。したがって、第一の含意が成り立つ。
主張 (2)を示す。次に、Xna.s.Xとする。ε>0を固定し、
In=1{∣Xn−X∣>ε}と置く。確率1の集合上でXn(ω)→X(ω)であるため、その集合上でIn(ω)→0である。また、0≤In≤1であり、定数関数1は確率測度Pに関して可積分である。優収束定理§E10.11 定理 3.1を適用すると、
P(∣Xn−X∣>ε)=E[In]⟶0を得る。この確率の極限が、ほとんど確実な収束から確率収束への第二の含意を与える。
主張 (3)を示す。最後に、XnPXとし、Fの連続点xを固定する。任意のδ>0に対して
{X≤x−δ}⊆{Xn≤x}∪{∣Xn−X∣>δ}および
{Xn≤x}⊆{X≤x+δ}∪{∣Xn−X∣>δ}が成り立つ。したがって、
F(x−δ)−P(∣Xn−X∣>δ)≤Fn(x)≤F(x+δ)+P(∣Xn−X∣>δ)である。n→∞とすると、確率収束の仮定から
F(x−δ)≤n→∞liminfFn(x)≤n→∞limsupFn(x)≤F(x+δ)を得る。δ↓0とする。分布関数の右連続性§E11.3 命題 2.2とxにおける連続性により、両端はF(x)に収束する。ゆえにFn(x)→F(x)であり、Xn⇒Xが成り立つ。▨
上の定理で示した含意は、有限のpについて
Lp 収束⟹確率収束⟹分布収束,ほとんど確実な収束⟹確率収束
とまとめられる。Lp収束とほとんど確実な収束の間には、有限のpについて一般の含意関係はない。
3 逆向きの含意が成立しない例
各反例では、どの確率空間と確率変数列を用いるかを明示する。収束しないという結論は、確率またはLpノルムを直接計算して確認する。
例 3.1.Ω=[0,1)に Lebesgue 確率測度を入れる。m≥0と0≤k<2mに対して
Im,k=[2mk,2mk+1),X2m+k=1Im,kと定める。2m≤n<2m+1ならばP(Xn=1)=2−mであるため、XnP0である。
一方、各mについて(Im,k)0≤k<2mは[0,1)の分割である。したがって、各ω∈[0,1)について、2m≤n<2m+1の範囲にXn(ω)=1となるnがちょうど一つある。m≥1の各範囲にはXn(ω)=0となるnもあるため、(Xn(ω))はどのωでも収束しない。よって、Xnは0にほとんど確実には収束しない。
さらに、1≤p<∞に対して
∥Xn∥p=P(Xn=1)1/p=2−m/p⟶0である。この例は、有限のpに対するLp収束からほとんど確実な収束も一般には導かれないことを示す。
例 3.2.Ω=(0,1]に Lebesgue 確率測度を入れ、1≤p<∞を固定して
Xn=n1/p1(0,1/n]と置く。各ω>0について、十分大きなnではω>1/nとなるため、Xn(ω)=0である。したがってXna.s.0であり、特にXnP0である。しかし、
∥Xn∥pp=E[∣Xn∣p]=nP((0,1/n])=1であるから、Lp収束は成り立たない。
p=∞についてはYn=1(0,1/n]と置けば、Yn→0はほとんど確実かつ確率的に成り立つが、∥Yn∥∞=1である。したがって、確率収束からLp収束への逆向きの含意は、1≤p≤∞のいずれについても一般には成立しない。
例 3.3.Ω={−1,1}に各点の確率が1/2である確率測度を入れ、X(ω)=ω、Xn=−Xと置く。XnとXは同じ分布をもつため、すべてのnについてFn=Fであり、Xn⇒Xである。しかし、
P(∣Xn−X∣>1)=1であるから、XnはXに確率収束しない。分布収束は確率変数の同時の配置を忘れ、各変数の分布だけを比較するため、この相違が生じる。
4 極限の一意性
ほとんど確実な収束、確率収束、およびLp収束の極限は、ほとんど至る所で一意である。分布収束では、極限確率変数そのものではなく、その分布が一意に定まる。この結論を分布関数から導くため、分布関数の不連続点の集合についての補題を先に示す。
補題 4.1. 分布関数Fの不連続点全体は高々可算である。
証明.Fは非減少かつ右連続である。F(x−)=supy<xF(y)と置くと、xが不連続点であることとF(x−)<F(x)であることは同値である。各不連続点xに対し、開区間(F(x−),F(x))に含まれる最初の有理数を、有理数の固定した列挙から選んでqxとする。
x<yならばF(x)≤F(y−)であるため、区間(F(x−),F(x))と(F(y−),F(y))は交わらない。したがってx↦qxは有理数全体への単射である。有理数全体は可算であるから、Fの不連続点全体も高々可算である。▨
定理 4.2. 次が成り立つ。
- Xna.s.XかつXna.s.Yならば、X=Yがほとんど至る所で成り立つ。
- XnPXかつXnPYならば、X=Yがほとんど至る所で成り立つ。
- Xn→XかつXn→Yが同じLpで成り立つならば、X=Yがほとんど至る所で成り立つ。
- Xn⇒XかつXn⇒Yならば、XとYの分布は等しい。
証明.主張 (1)を示す。Xn(ω)→X(ω)となる確率1の集合と、Xn(ω)→Y(ω)となる確率1の集合との共通部分も確率1である。その共通部分上では実数列の極限の一意性によりX(ω)=Y(ω)である。
主張 (2)を示す。任意のε>0に対して三角不等式から
P(∣X−Y∣>ε)≤P(∣X−Xn∣>ε/2)+P(∣Xn−Y∣>ε/2)を得る。n→∞とすると右辺は0に収束するため、P(∣X−Y∣>ε)=0である。{∣X−Y∣>0}=⋃m≥1{∣X−Y∣>1/m}であるから、可算劣加法性によりP(X=Y)=0となる。
主張 (3)を示す。既に証明した定理 2.1 (1)と主張 (2)から従う。
主張 (4)を示す。XとYの分布関数をそれぞれFとGとする。補題 4.1により、FとGの不連続点の和集合Dは高々可算である。x∈/Dならば、分布収束の定義から
F(x)=n→∞limFn(x)=G(x)である。R∖Dは稠密であるため、任意のx∈Rに対してxk>x、xk↓x、xk∈/Dを満たす列を取ることができる。分布関数の右連続性から
F(x)=k→∞limF(xk)=k→∞limG(xk)=G(x)を得る。したがってF=Gであり、分布関数による分布の一意性§E11.3 定理 2.3により、XとYの分布は等しい。▨
5 演習
問題 5.1.
- XnPXとし、a,b∈Rとする。定義だけを用いて、aXn+bPaX+bを証明せよ。
- 例 3.1について、Xn⇒0が分布関数の定義からも成り立つことを確認せよ。また、limsupn{Xn=1}=Ωであることを示せ。
- Xn⇒cとし、cを定数とする。任意のε>0に対して分布関数をc−εとc+εで評価し、XnPcを証明せよ。
解答.
-
ε>0を固定する。各ωで∣(aXn+b)−(aX+b)∣=∣a∣∣Xn−X∣である。a=0ならば、この差は恒等的に0であり、すべてのnでP(∣(aXn+b)−(aX+b)∣>ε)=P(∅)=0である。a=0ならば
{∣(aXn+b)−(aX+b)∣>ε}={∣Xn−X∣>∣a∣ε}
であり、定義 1.2を正の数ε/∣a∣に適用すると、右辺の確率は0に収束する。ε>0は任意であるから、同じ定義によりaXn+bPaX+bである。
-
n≥1に対して、2m≤n<2m+1を満たす整数m≥0をm(n)と書く。Xnは値0と1だけをとり、P(Xn=1)=λ(Im(n),k)=2−m(n)であるから、分布関数は
Fn(x)=⎩⎨⎧0,1−2−m(n),1,x<0,0≤x<1,x≥1
である。極限の定数0の分布関数は、x<0でF(x)=0、x≥0でF(x)=1であり、その連続点はx=0である。n→∞のときm(n)→∞であるから、x<0ではFn(x)=0=F(x)、0<x<1ではFn(x)=1−2−m(n)→1=F(x)、x≥1ではFn(x)=1=F(x)である。したがって、定義 1.3によりXn⇒0である。
ω∈[0,1)と正の整数Nをとる。2m≥Nを満たすmを一つ選ぶと、(Im,k)0≤k<2mは[0,1)の分割であるから、ω∈Im,kを満たすkが存在し、n=2m+k≥NについてXn(ω)=1である。したがってω∈⋃n≥N{Xn=1}がすべてのNについて成り立ち、事象列の上極限limsupnAn=⋂N≥1⋃n≥NAnの定義によりω∈limsupn{Xn=1}である。ωは任意であるからlimsupn{Xn=1}=Ωである。
-
定数cの分布関数Fは、x<cでF(x)=0、x≥cでF(x)=1であり、c以外のすべての点で連続である。ε>0をとると、c−εとc+εはFの連続点であるから、仮定によりFn(c−ε)→F(c−ε)=0かつFn(c+ε)→F(c+ε)=1である。事象{∣Xn−c∣>ε}は互いに交わらない{Xn<c−ε}と{Xn>c+ε}の和であり、{Xn<c−ε}⊆{Xn≤c−ε}であるから、
P(∣Xn−c∣>ε)≤P(Xn≤c−ε)+P(Xn>c+ε)=Fn(c−ε)+1−Fn(c+ε)
である。右辺は0+1−1=0に収束するので、P(∣Xn−c∣>ε)→0であり、XnPcが成り立つ。
▨