§E10.41Prokhorov の定理

最終更新

確率分布の極限を考える際には、確率が空間のどの範囲に集まっているかが重要になる。例えば、正規分布の密度は実数全体で正であるが、十分に広い有界区間へ確率の大部分を集めることができる。測度族から弱収束する部分列を取り出すには、各測度を近似するコンパクト集合を族全体で共通に選ぶことが問題になる。本記事では、Polish 空間上の有限正 Borel 測度を対象として、緊密性と Prokhorov の定理について解説する。

1 コンパクト空間上の部分列抽出

補題 1.1. Hilbert 立方体Q=[0,1]N≥0Q=[0,1]^{\N}上の有限正 Borel 測度列(ρn)n∈N≥1(\rho_n)_{n\in\NN}が、ある有限なM≥0M\geq0に対してρn(Q)≤M\rho_n(Q)\leq Mを満たすとする。このとき、有限正 Borel 測度ρ\rhoと狭義増加列(nk)k∈N≥1(n_k)_{k\in\NN}が存在して、ρnk⇒ρ\rho_{n_k}\Rightarrow\rhoとなる。

証明.QQは§E2.27 命題 2.1によりコンパクト距離空間である。有限個の座標に関する実係数多項式の全体は、C(Q,R)C(Q,\R)の部分代数をなし、定数関数を含み、相異なる二点を分離する。§E2.32 定理 2.6により、この代数は一様ノルムについて稠密である。各座標の値は[0,1][0,1]に属するので、多項式の係数を有理数へ近似すると一様ノルムでも近似される。実際、同じ有限個の単項式の係数だけを変えた二つの多項式の差の一様ノルムは、係数の差の絶対値の和以下である。したがって、有限個の座標に関する有理係数多項式全体は、C(Q,R)C(Q,\R)の可算な稠密集合である。この集合を(gj)j∈N≥1(g_j)_{j\in\NN}として列挙する。

各jjについて∣∫Qgj dρn∣≤M∥gj∥∞|\int_Qg_j\,d\rho_n|\leq M\|g_j\|_\inftyである。有界閉区間は§E2.9 定理 4.3によりコンパクトであり、§E2.9 定理 3.1により、その中の任意の列は収束部分列を持つ。I0=N≥1I_0=\NNとし、各j∈N≥1j\in\NNについて無限集合Ij⊆Ij−1I_j\subseteq I_{j-1}を、n∈Ijn\in I_jを昇順に動かしたとき∫Qgj dρn\int_Qg_j\,d\rho_nが収束するように取る。n1∈I1n_1\in I_1を取り、各k∈N≥1k\in\NNに対してnk+1∈Ik+1n_{k+1}\in I_{k+1}をnk+1>nkn_{k+1}>n_kとなるように取る。j∈N≥1j\in\NNを固定すると、すべてのk≥jk\geq jに対してnk∈Ik⊆Ijn_k\in I_k\subseteq I_jである。したがって、すべてのj∈N≥1j\in\NNについて、積分∫Qgj dρnk\int_Qg_j\,d\rho_{n_k}は同じ部分列(nk)k∈N≥1(n_k)_{k\in\NN}に沿ってk→∞k\to\inftyで収束する。

f∈C(Q,R)f\in C(Q,\R)とε>0\ep>0を取る。∥f−gj∥∞<ε/(1+4M)\|f-g_j\|_\infty<\ep/(1+4M)となるjjを取ると、

∣∫Qf dρnk−∫Qf dρnℓ∣≤2M∥f−gj∥∞+∣∫Qgj dρnk−∫Qgj dρnℓ∣.\left|\int_Qf\,d\rho_{n_k}-\int_Qf\,d\rho_{n_\ell}\right| \leq2M\|f-g_j\|_\infty+ \left|\int_Qg_j\,d\rho_{n_k}-\int_Qg_j\,d\rho_{n_\ell}\right|.

右辺の第二項は、十分大きいk,ℓk,\ellでε/2\ep/2未満になる。したがってffの積分は Cauchy 列である。実数の完備性から

Λ(f)=lim⁡k→∞∫Qf dρnk\Lambda(f)=\lim_{k\to\infty}\int_Qf\,d\rho_{n_k}

と定めることができる。積分の実線形性を極限へ移せばΛ\Lambdaは実線形であり、非負関数の積分の非負性からΛ\Lambdaは正である。また∣Λ(f)∣≤M∥f∥∞|\Lambda(f)|\leq M\|f\|_\inftyである。§E10.33 定理 1.1により、有限正 Borel 測度ρ\rhoが存在してΛ(f)=∫Qf dρ\Lambda(f)=\int_Qf\,d\rhoを満たす。定義した極限からρnk⇒ρ\rho_{n_k}\Rightarrow\rhoである。▨

2 共通のコンパクト集合による極限の引き戻し

補題 2.1.XXを Polish 空間、QQをコンパクト距離空間、j:X→Qj:X\to Qを位相的埋め込みとする。μn\mu_nをXX上の有限正 Borel 測度とし、像測度ρn=j#μn\rho_n=j_\#\mu_nがQQ上の有限正 Borel 測度ρ\rhoに弱収束すると仮定する。さらに、コンパクト集合の増加列(Kr)r∈N≥1(K_r)_{r\in\NN}が存在し、すべてのn,r∈N≥1n,r\in\NNに対して

μn(X∖Kr)≤2−r\mu_n(X\setminus K_r)\leq2^{-r}

であると仮定する。このとき、XX上の有限正 Borel 測度μ\muが存在してμn⇒μ\mu_n\Rightarrow\muおよびj#μ=ρj_\#\mu=\rhoを満たす。

証明.Cr=j(Kr)C_r=j(K_r)とおく。jjは連続であるから各CrC_rはコンパクトであり、§E2.9 系 4.1によりQQの閉集合である。QQは§E2.27 命題 1.7により Polish 空間である。全質量の収束からmn=μn(X)=ρn(Q)m_n=\mu_n(X)=\rho_n(Q)はm=ρ(Q)m=\rho(Q)へ収束する。埋め込みの単射性からρn(Cr)=μn(Kr)\rho_n(C_r)=\mu_n(K_r)であり、§E10.40 定理 2.3 (2)によって

ρ(Cr)≥lim sup⁡nρn(Cr)≥lim⁡n(mn−2−r)=m−2−r.\rho(C_r)\geq\limsup_n\rho_n(C_r) \geq\lim_n(m_n-2^{-r})=m-2^{-r}.

よってρ(Q∖Cr)≤2−r\rho(Q\setminus C_r)\leq2^{-r}である。F=⋃rCrF=\bigcup_rC_rは閉集合の可算合併なので Borel 集合であり、Q∖F⊆Q∖CrQ\setminus F\subseteq Q\setminus C_rがすべてのrrについて成り立つからρ(Q∖F)=0\rho(Q\setminus F)=0である。

A∈B(X)A\in\mathcal B(X)を取る。各A∩KrA\cap K_rはKrK_rの Borel 集合である。制限j∣Kr:Kr→Crj|_{K_r}:K_r\to C_rは同相写像であり、同相写像は開集合から生成される Borel σ-加法族を保つ。したがってj(A∩Kr)j(A\cap K_r)はCrC_rの Borel 集合である。部分空間の開集合は周囲の開集合との共通部分であり、共通部分を取る操作は補集合と可算合併を保つので、B(Cr)={Cr∩B∣B∈B(Q)}\mathcal B(C_r)=\{C_r\cap B\mid B\in\mathcal B(Q)\}である。CrC_rはQQの閉集合であるから、CrC_rの Borel 集合はQQの Borel 集合でもある。単射性から

j(A)∩F=⋃r=1∞j(A∩Kr)j(A)\cap F=\bigcup_{r=1}^{\infty}j(A\cap K_r)

であり、右辺はQQの Borel 集合である。

Borel 集合A⊆XA\subseteq Xに対して

μ(A)=ρ(j(A)∩F)\mu(A)=\rho(j(A)\cap F)

と定める。jjは空集合と可算合併を保ち、単射なので互いに交わらない集合を互いに交わらない集合へ移す。ρ\rhoの可算加法性によりμ\muは正 Borel 測度であり、μ(X)=ρ(F)=ρ(Q)<∞\mu(X)=\rho(F)=\rho(Q)<\inftyである。任意のB∈B(Q)B\in\mathcal B(Q)に対して

(j#μ)(B)=μ(j−1(B))=ρ(B∩F)=ρ(B)(j_\#\mu)(B)=\mu(j^{-1}(B))=\rho(B\cap F)=\rho(B)

である。ここではF⊆j(X)F\subseteq j(X)とρ(Q∖F)=0\rho(Q\setminus F)=0を用いた。また、μ(X∖Kr)=ρ(F∖Cr)≤2−r\mu(X\setminus K_r)=\rho(F\setminus C_r)\leq2^{-r}である。

f:X→Rf:X\to\Rを有界連続関数とし、L=max⁡{1,∥f∥∞}L=\max\{1,\|f\|_\infty\}とおく。各rrについてf∘(j∣Kr)−1:Cr→[−L,L]f\circ(j|_{K_r})^{-1}:C_r\to[-L,L]は連続である。QQは距離空間なので§E2.15 定理 3.2 (2)により正規であり、§E2.18 定理 4.1によって、この関数を延長する連続関数hr:Q→[−L,L]h_r:Q\to[-L,L]が存在する。したがって、hr∘jh_r\circ jはKrK_r上でffに一致する。像測度の積分公式§E10.12 定理 1.2 (3)と尾部の評価から

∣∫Xf dμn−∫Xf dμ∣≤∣∫Qhr dρn−∫Qhr dρ∣+2L(μn(X∖Kr)+μ(X∖Kr))≤∣∫Qhr dρn−∫Qhr dρ∣+4L2−r.\begin{aligned} \left|\int_Xf\,d\mu_n-\int_Xf\,d\mu\right| &\leq\left|\int_Qh_r\,d\rho_n-\int_Qh_r\,d\rho\right| +2L\bigl(\mu_n(X\setminus K_r)+\mu(X\setminus K_r)\bigr)\\ &\leq\left|\int_Qh_r\,d\rho_n-\int_Qh_r\,d\rho\right|+4L2^{-r}. \end{aligned}

r∈N≥1r\in\NNを固定すると、ρn⇒ρ\rho_n\Rightarrow\rhoとhrh_rの有界連続性から、右辺の第一項はn→∞n\to\inftyで00へ収束する。したがって、積分の差の絶対値の上極限は4L2−r4L2^{-r}以下である。すなわち、

lim sup⁡n→∞∣∫Xf dμn−∫Xf dμ∣≤4L2−r(r∈N≥1).\limsup_{n\to\infty}\left|\int_Xf\,d\mu_n-\int_Xf\,d\mu\right|\leq4L2^{-r}\qquad(r\in\NN).

r→∞r\to\inftyとすれば、この絶対値は00へ収束するので、μn⇒μ\mu_n\Rightarrow\muである。▨

3 Prokhorov の定理

定理 3.1.XXを Polish 空間、H⊆Mf+(X)\mathcal H\subseteq\mathcal M_f^+(X)を有限正 Borel 測度の族とする。このとき、次の二条件は同値である。

  1. H\mathcal Hは弱位相について相対コンパクトである。すなわち、Mf+(X)\mathcal M_f^+(X)の弱位相に関する閉包H‾\tpcl{\mathcal H}はコンパクトである。
  2. ある有限なM≥0M\geq0が存在して、すべてのν∈H\nu\in\mathcal Hがν(X)≤M\nu(X)\leq Mを満たす。また、H\mathcal Hは一様に緊密である。

証明.H=∅\mathcal H=\emptysetならば閉包も空であり、M=0M=0とK=∅K=\emptysetで両条件が成り立つ。X=∅X=\emptysetの場合には、有限正 Borel 測度は零測度だけなので両条件が成り立つ。H≠∅\mathcal H\ne\emptyset、X≠∅X\ne\emptysetとし、XXの位相を定める完備距離ddを固定する。§E10.40 定理 3.3 (2)により、弱位相は有界 Lipschitz 距離βd\beta_dの位相である。

(2)⇒\Rightarrow(1)を示す。μn∈H\mu_n\in\mathcal Hを任意の列とする。XXは可分な距離化可能空間であるから、§E2.27 系 2.2によって Hilbert 立方体Q=[0,1]N≥0Q=[0,1]^{\N}への位相的埋め込みj:X→Qj:X\to Qが存在する。jjは連続なので Borel 可測であり、§E10.12 命題 1.3によりρn=j#μn\rho_n=j_\#\mu_nはQQ上の有限正 Borel 測度である。全質量はρn(Q)=μn(X)≤M\rho_n(Q)=\mu_n(X)\leq Mである。補題 1.1により、部分列ρnk\rho_{n_k}はある有限正 Borel 測度ρ\rhoに弱収束する。

一様緊密性から、各r∈N≥1r\in\NNについて、すべてのν∈H\nu\in\mathcal Hがν(X∖Lr)<2−r\nu(X\setminus L_r)<2^{-r}を満たすコンパクト集合LrL_rを取る。Kr=⋃s=1rLsK_r=\bigcup_{s=1}^rL_sとおくと、(Kr)(K_r)はコンパクト集合の増加列であり、すべてのk,r∈N≥1k,r\in\NNについてμnk(X∖Kr)<2−r\mu_{n_k}(X\setminus K_r)<2^{-r}である。補題 2.1により、部分列μnk\mu_{n_k}はXX上の有限正 Borel 測度μ\muに弱収束する。したがってH\mathcal Hの任意の列は、Mf+(X)\mathcal M_f^+(X)内に弱収束する部分列を持つ。

νn∈H‾\nu_n\in\tpcl{\mathcal H}を任意の列とする。距離による閉包の特徴づけから、βd(νn,μn)<1/n\beta_d(\nu_n,\mu_n)<1/nを満たすμn∈H\mu_n\in\mathcal Hを取る。前段により、ある部分列μnk\mu_{n_k}がμ∈Mf+(X)\mu\in\mathcal M_f^+(X)に弱収束する。距離と弱収束の一致§E10.40 定理 3.3 (3)と三角不等式から

βd(νnk,μ)≤1nk+βd(μnk,μ)⟶0.\beta_d(\nu_{n_k},\mu)\leq\frac1{n_k}+\beta_d(\mu_{n_k},\mu)\longrightarrow0.

μ\muはH\mathcal Hの列の極限なのでH‾\tpcl{\mathcal H}に属する。よってH‾\tpcl{\mathcal H}は点列コンパクトであり、距離空間のコンパクト性の特徴づけ§E2.9 定理 3.1によりコンパクトである。

(1)⇒\Rightarrow(2)を示す。C=H‾\mathcal C=\tpcl{\mathcal H}は弱コンパクトである。全質量の写像ν↦ν(X)\nu\mapsto\nu(X)は、定数関数11の積分として弱連続である。その像はR\Rのコンパクト集合なので有界であり、H\mathcal Hの全質量は一様に有界である。

ε>0\ep>0を固定し、{aj∣j∈N≥1}\{a_j\mid j\in\NN\}をXXの可算な稠密集合とする。各r∈N≥1r\in\NNとν∈C\nu\in\mathcal Cに対して、半径2−r2^{-r}の球による可算被覆と§E10.8 定理 4.1 (1)を用い、有限球合併Uν,rU_{\nu,r}を

ν(X∖Uν,r)<ε2−r−2\nu(X\setminus U_{\nu,r})<\ep2^{-r-2}

となるように取る。ν\nuの弱開近傍Nν,rN_{\nu,r}であって、すべてのσ∈Nν,r\sigma\in N_{\nu,r}がσ(X∖Uν,r)<ε2−r−1\sigma(X\setminus U_{\nu,r})<\ep2^{-r-1}を満たすものが存在する。実際、存在しなければβd(σn,ν)<1/n\beta_d(\sigma_n,\nu)<1/nとσn(X∖Uν,r)≥ε2−r−1\sigma_n(X\setminus U_{\nu,r})\geq\ep2^{-r-1}を満たす列を取ることができる。σn⇒ν\sigma_n\Rightarrow\nuであるから、開集合に関する§E10.40 定理 2.3 (3)と全質量の収束により

lim sup⁡nσn(X∖Uν,r)≤ν(X∖Uν,r)<ε2−r−2,\limsup_n\sigma_n(X\setminus U_{\nu,r}) \leq\nu(X\setminus U_{\nu,r})<\ep2^{-r-2},

となる。各項がε2−r−1\ep2^{-r-1}以上であることと両立しない。

固定したrrに対して、弱コンパクト性から(Nν,r)ν∈C(N_{\nu,r})_{\nu\in\mathcal C}の有限部分被覆Nν1,r,…,Nνm,rN_{\nu_1,r},\ldots,N_{\nu_m,r}を取る。Ur=⋃i=1mUνi,rU_r=\bigcup_{i=1}^mU_{\nu_i,r}は半径2−r2^{-r}の球の有限合併であり、すべてのσ∈C\sigma\in\mathcal Cが

σ(X∖Ur)<ε2−r−1\sigma(X\setminus U_r)<\ep2^{-r-1}

を満たす。ddは完備なので、§E10.39 補題 2.2によりK=⋂rUr‾K=\bigcap_r\tpcl{U_r}はコンパクトである。可算劣加法性から、すべてのσ∈C\sigma\in\mathcal Cについて

σ(X∖K)≤∑r=1∞σ(X∖Ur)≤∑r=1∞ε2−r−1=ε2<ε.\sigma(X\setminus K)\leq\sum_{r=1}^{\infty}\sigma(X\setminus U_r) \leq\sum_{r=1}^{\infty}\ep2^{-r-1}=\frac{\ep}{2}<\ep.

よってC\mathcal Cは一様に緊密であり、部分族H\mathcal Hも一様に緊密である。▨

例 3.2.H\mathcal HをR\R上の確率 Borel 測度の族とし、ある有限なC≥0C\geq0に対して

sup⁡μ∈H∫Rx2 dμ(x)≤C\sup_{\mu\in\mathcal H}\int_\R x^2\,d\mu(x)\leq C

と仮定する。このとき、任意のR>0R>0とx∈Rx\in\Rについて1{∣x∣>R}(x)≤x2/R2\mathbf1_{\{|x|>R\}}(x)\leq x^2/R^2である。積分の単調性から、すべてのμ∈H\mu\in\mathcal Hについて

μ({x∈R∣∣x∣>R})≤1R2∫Rx2 dμ(x)≤CR2\mu(\{x\in\R\mid |x|>R\}) \leq\frac1{R^2}\int_\R x^2\,d\mu(x)\leq\frac C{R^2}

となる。ε>0\ep>0に対してR>C/εR>\sqrt{C/\ep}を取れば、コンパクト集合[−R,R][-R,R]の補集合の測度は、すべてのμ∈H\mu\in\mathcal Hについてε\ep未満である。したがって、H\mathcal Hは一様に緊密である。C=0C=0の場合にも任意のR>0R>0がこの条件を満たす。各μ∈H\mu\in\mathcal Hの全質量は11であるから、定理 3.1により、H\mathcal Hは弱位相について相対コンパクトである。

4 二つの条件の独立性

例 4.1.R\R上の族{δn∣n∈N≥1}\{\delta_n\mid n\in\NN\}では、各測度は緊密であり、全質量はすべて11である。しかし、任意のコンパクト集合K⊆RK\subseteq\Rは有界であるから、n∉Kn\notin Kとなる正整数nnが存在する。この n に対して、δn(R∖K)=1\delta_n(\R\setminus K)=1である。したがって、この族は一様に緊密ではない。

族{nδ0∣n∈N≥1}\{n\delta_0\mid n\in\NN\}は、コンパクト集合{0}\{0\}の外の測度がすべて零であるから、一様に緊密である。しかし、nnは正整数全体を動き、各測度の全質量はnnであるから、全質量は一様有界ではない。定理 3.1により、どちらの族も弱位相で相対コンパクトではない。

前提記事