§D3.19ペロン・フロベニウスの定理と定常分布

最終更新

固有値と固有ベクトルは、行列の成分の符号によらず、同じ手順で計算します。ところが、成分がすべて正であるという条件を課すと、固有値と固有ベクトルについて、符号に関する強い結論が得られます。その結論によれば、絶対値が最大の固有値は正の実数としてただ一つ定まります。また、その固有値の固有ベクトルとして、成分がすべて正であるものを取ることができます。

この記事では、成分がすべて正である行列の、絶対値が最大の固有値とその固有ベクトルの符号についての主張を証明します。さらに、その主張を各列の成分の和が11である行列へ適用して、確率ベクトルにその行列を繰り返し掛けたものが定常分布へ収束することを示します。あわせて、成分に00を許したときにどの結論が成り立たなくなるかと、それぞれの結論がどの条件のもとで成り立つかを確かめます。確率の言葉による解釈は§F19 確率過程で扱います。

1 正の行列と、そこで最大になる比

まず、扱う対象と、証明の中心になる量を定めます。

定義 1.1 (正の行列と非負の行列). 実行列A=(aij)A = (a_{ij})について、すべての成分がaij>0a_{ij} > 0を満たすときAAを正の行列といい、A>OA > Oと書く。すべての成分がaij≥0a_{ij} \ge 0を満たすときAAを非負の行列という。ベクトルについても同様に、成分がすべて正であることをx⃗>0⃗\vec x > \vec 0、成分がすべて00以上であることをx⃗≥0⃗\vec x \ge \vec 0と書く。

定義 1.2 (確率ベクトルの集合と比の最小値).n≥1n \ge 1とし

Δ={x⃗∈Rn:x⃗≥0⃗, ∑i=1nxi=1}\Delta = \left\{\vec x \in \R^n : \vec x \ge \vec 0, \ \sum_{i=1}^{n} x_i = 1\right\}

とおく。Δ\Deltaの要素を確率ベクトルという。AAをnn次の正の行列とし、x⃗∈Δ\vec x \in \Deltaに対し

f(x⃗)=min⁡{(Ax⃗)ixi:xi>0}f(\vec x) = \min\left\{\frac{(A\vec x)_i}{x_i} : x_i > 0\right\}

と定める。また∥y⃗∥1=∑i∣yi∣\|\vec y\|_1 = \sum_i |y_i|と書き、x⃗∈Δ\vec x \in \Deltaに対しT(x⃗)=Ax⃗∥Ax⃗∥1T(\vec x) = \dfrac{A\vec x}{\|A\vec x\|_1}と定める。

f(x⃗)f(\vec x)は、Ax⃗≥tx⃗A\vec x \ge t\vec xが成り立つ最大のttです。実際、xi=0x_i = 0となる成分では(Ax⃗)i>0=txi(A\vec x)_i > 0 = t x_iが自動的に成り立ちますので、Ax⃗≥tx⃗A\vec x \ge t\vec xの成分の不等式が成り立つかどうかがttによって変わるのは、xi>0x_i > 0となる成分だけです。T(x⃗)T(\vec x)はAx⃗A\vec xを確率ベクトルへ直したものです。次の補題を、以下の証明の全体で用います。

補題 1.3.AAをnn次の正の行列、x⃗∈Δ\vec x \in \Delta、t=f(x⃗)t = f(\vec x)、z⃗=Ax⃗−tx⃗\vec z = A\vec x - t\vec xとする。このときT(x⃗)∈ΔT(\vec x) \in \Deltaであり、次が成り立つ。

  1. t≥min⁡k,lakl>0t \ge \min_{k,l} a_{kl} > 0である。
  2. z⃗=0⃗\vec z = \vec 0ならばAx⃗=tx⃗A\vec x = t\vec xかつT(x⃗)=x⃗T(\vec x) = \vec xである。
  3. z⃗≠0⃗\vec z \ne \vec 0ならばf(T(x⃗))>tf(T(\vec x)) > tである。

証明.x⃗∈Δ\vec x \in \Deltaはx⃗≥0⃗\vec x \ge \vec 0かつx⃗≠0⃗\vec x \ne \vec 0を満たすから、A>OA > OよりAx⃗>0⃗A\vec x > \vec 0であり∥Ax⃗∥1>0\|A\vec x\|_1 > 0である。よってT(x⃗)T(\vec x)は定まり、成分は正で和が11であるからT(x⃗)∈ΔT(\vec x) \in \Deltaである。またα=min⁡k,lakl>0\alpha = \min_{k,l} a_{kl} > 0とおくと、(Ax⃗)i≥α∑jxj=α(A\vec x)_i \ge \alpha \sum_j x_j = \alphaかつxi≤1x_i \le 1であるからt=f(x⃗)≥α>0t = f(\vec x) \ge \alpha > 0であり、これが1である。

2について。z⃗=0⃗\vec z = \vec 0はAx⃗=tx⃗A\vec x = t\vec xにほかならない。このとき∥Ax⃗∥1=t∑ixi=t\|A\vec x\|_1 = t\sum_i x_i = tであるからT(x⃗)=Ax⃗/t=x⃗T(\vec x) = A\vec x / t = \vec xである。

3について。z⃗≥0⃗\vec z \ge \vec 0かつz⃗≠0⃗\vec z \ne \vec 0であるから、A>OA > OよりAz⃗>0⃗A\vec z > \vec 0である。y⃗=Ax⃗\vec y = A\vec xとおくとAz⃗=Ay⃗−ty⃗>0⃗A\vec z = A\vec y - t\vec y > \vec 0、すなわちAy⃗>ty⃗A\vec y > t\vec yである。s=∥y⃗∥1>0s = \|\vec y\|_1 > 0で割るとAT(x⃗)>t T(x⃗)A T(\vec x) > t\,T(\vec x)となる。T(x⃗)T(\vec x)の成分はすべて正であるから、各iiについて(AT(x⃗))i/T(x⃗)i>t(A T(\vec x))_i / T(\vec x)_i > tであり、f(T(x⃗))>tf(T(\vec x)) > tを得る。▨

ffの最大値の存在を示すために、Δ\Deltaの中で成分が下から一様に押さえられた部分を取り出します。ここで 1つだけ、線形代数の外の事実を用います。

定理 1.4.Rn\R^nの有界で閉じた空でない部分集合の上で定義された連続関数は、最大値をとる。

注意 1.5. 本記事では、この事実を認めて用いる。この事実の証明は§E2 位相空間論 Iで扱うコンパクト性に属する。 1変数の有界閉区間の場合は§D1 ε-論法と基礎解析で扱う。本記事の他の主張は、この事実と必修の記事の結果だけから証明する。

2 最大固有値と正の固有ベクトル

準備が整いましたので、主定理を述べます。証明の方針は、ffの最大値を与える点が固有ベクトルになることを、補題 1.3の3から導く、というものです。

定理 2.1 (ペロンの定理).AAをnn次の正の行列とする。このとき、次を満たす実数λ>0\lambda > 0が存在する。

  1. Av⃗=λv⃗A\vec v = \lambda \vec vかつv⃗>0⃗\vec v > \vec 0を満たすv⃗\vec vが存在する。
  2. AAの固有値μ∈C\mu \in \Cがμ≠λ\mu \ne \lambdaを満たすならば∣μ∣<λ|\mu| < \lambdaである。すなわち、絶対値が最大の固有値はλ\lambdaただ一つである。
  3. λ\lambdaの固有空間は11次元である。

証明.α=min⁡k,lakl>0\alpha = \min_{k,l}a_{kl} > 0、M=max⁡j∑iaijM = \max_j \sum_i a_{ij}、c=α/Mc = \alpha / Mとおき

Δc={x⃗∈Δ:xi≥c (1≤i≤n)}\Delta_c = \{\vec x \in \Delta : x_i \ge c \ (1 \le i \le n)\}

とする。x⃗∈Δ\vec x \in \Deltaに対し(Ax⃗)i≥α(A\vec x)_i \ge \alphaかつ∥Ax⃗∥1=∑j(∑iaij)xj≤M\|A\vec x\|_1 = \sum_j\left(\sum_i a_{ij}\right)x_j \le MであるからT(x⃗)∈ΔcT(\vec x) \in \Delta_cである。とくにΔc\Delta_cは空でない。Δc\Delta_cは有限個の不等式と1本の等式で定まるので閉じており、Δ\Deltaに含まれるので有界である。Δc\Delta_cの上では各成分がc>0c > 0以上であるから、(Ax⃗)i/xi(A\vec x)_i / x_iは連続であり、ffは有限個の連続関数の最小値として連続である。定理 1.4より、ffはΔc\Delta_cで最大値をとる。その最大値をλ\lambda、最大値を与える点をv⃗\vec vとする。v⃗∈Δc\vec v \in \Delta_cよりv⃗>0⃗\vec v > \vec 0であり、補題 1.3の1よりλ≥α>0\lambda \ge \alpha > 0である。

λ\lambdaがΔ\Delta全体でもffの最大値であることを示す。x⃗∈Δ\vec x \in \Deltaに対しT(x⃗)∈ΔcT(\vec x) \in \Delta_cであり、補題 1.3の2と3よりf(T(x⃗))≥f(x⃗)f(T(\vec x)) \ge f(\vec x)であるからf(x⃗)≤f(T(x⃗))≤λf(\vec x) \le f(T(\vec x)) \le \lambdaである。

1を示す。z⃗=Av⃗−λv⃗\vec z = A\vec v - \lambda\vec vとおく。z⃗≠0⃗\vec z \ne \vec 0とすると、補題 1.3の3よりT(v⃗)∈ΔcT(\vec v) \in \Delta_cについてf(T(v⃗))>λf(T(\vec v)) > \lambdaとなり、λ\lambdaがΔc\Delta_cでの最大値であることに反する。よってAv⃗=λv⃗A\vec v = \lambda\vec vであり、v⃗>0⃗\vec v > \vec 0である。

2を示す。μ\muを固有値、w⃗∈Cn\vec w \in \C^nをAw⃗=μw⃗A\vec w = \mu\vec wを満たす0⃗\vec 0でないベクトルとし、∣w⃗∣|\vec w|を成分が∣wi∣|w_i|であるベクトルとする。各iiについて

∣μ∣ ∣wi∣=∣∑jaijwj∣≤∑jaij∣wj∣|\mu|\,|w_i| = \left|\sum_j a_{ij}w_j\right| \le \sum_j a_{ij}|w_j|

であるからA∣w⃗∣≥∣μ∣ ∣w⃗∣A|\vec w| \ge |\mu|\,|\vec w|である。u⃗=∣w⃗∣/∥∣w⃗∣∥1∈Δ\vec u = |\vec w| / \||\vec w|\|_1 \in \Deltaとおくとf(u⃗)≥∣μ∣f(\vec u) \ge |\mu|であり、上で示したことから∣μ∣≤λ|\mu| \le \lambdaである。

∣μ∣=λ|\mu| = \lambdaと仮定する。f(u⃗)≥λf(\vec u) \ge \lambdaとf(u⃗)≤λf(\vec u) \le \lambdaからf(u⃗)=λf(\vec u) = \lambdaであり、補題 1.3の3をu⃗\vec uに適用すると、Au⃗−λu⃗≠0⃗A\vec u - \lambda\vec u \ne \vec 0はf(T(u⃗))>λf(T(\vec u)) > \lambdaを導いて矛盾する。よってAu⃗=λu⃗A\vec u = \lambda\vec uであり、u⃗=Au⃗/λ>0⃗\vec u = A\vec u/\lambda > \vec 0、すなわちすべてのjjについて∣wj∣>0|w_j| > 0である。さらに、各iiについて上の不等式が等号で成り立つ。

複素数についての等号の条件を用いる。複素数c1,…,cnc_1, \dots, c_nについて∣∑jcj∣≤∑j∣cj∣\left|\sum_j c_j\right| \le \sum_j |c_j|であり、等号が成り立つのは、絶対値が11の複素数ζ\zetaと00以上の実数tjt_jによってcj=tjζc_j = t_j\zetaと書けるときに限る。実際、∑jcj≠0\sum_j c_j \ne 0のときζ=∑jcj/∣∑jcj∣\zeta = \sum_j c_j / \left|\sum_j c_j\right|とおくと∣∑jcj∣=∑jℜ(ζ‾cj)≤∑j∣cj∣\left|\sum_j c_j\right| = \sum_j \Re(\overline{\zeta}c_j) \le \sum_j |c_j|であり、等号は各jjについてℜ(ζ‾cj)=∣cj∣\Re(\overline{\zeta}c_j) = |c_j|、すなわちζ‾cj\overline{\zeta}c_jが00以上の実数であることと同値である。∑jcj=0\sum_j c_j = 0のときは、等号はすべてのcjc_jが00であることを意味する。

cj=aijwjc_j = a_{ij}w_jに適用すると、aij>0a_{ij} > 0かつ∣wj∣>0|w_j| > 0よりcj≠0c_j \ne 0であるから、すべてのjjについてwjw_jはζ\zetaの正の実数倍である。すなわちw⃗=ζ ∣w⃗∣\vec w = \zeta\,|\vec w|である。Aw⃗=μw⃗A\vec w = \mu\vec wに代入してζA∣w⃗∣=μζ∣w⃗∣\zeta A|\vec w| = \mu \zeta |\vec w|、したがってA∣w⃗∣=μ∣w⃗∣A|\vec w| = \mu|\vec w|を得る。一方A∣w⃗∣=λ∣w⃗∣A|\vec w| = \lambda|\vec w|であり∣w⃗∣≠0⃗|\vec w| \ne \vec 0であるからμ=λ\mu = \lambdaである。よってμ≠λ\mu \ne \lambdaならば∣μ∣<λ|\mu| < \lambdaである。

3を示す。まずy⃗∈Rn\vec y \in \R^nがAy⃗=λy⃗A\vec y = \lambda\vec yを満たすとする。t=min⁡i(yi/vi)t = \min_i (y_i / v_i)とおくと、v⃗>0⃗\vec v > \vec 0よりy⃗−tv⃗≥0⃗\vec y - t\vec v \ge \vec 0であり、最小値を与える添字i0i_0について(y⃗−tv⃗)i0=0(\vec y - t\vec v)_{i_0} = 0である。y⃗−tv⃗≠0⃗\vec y - t\vec v \ne \vec 0とするとA(y⃗−tv⃗)>0⃗A(\vec y - t\vec v) > \vec 0であるが、A(y⃗−tv⃗)=λ(y⃗−tv⃗)A(\vec y - t\vec v) = \lambda(\vec y - t\vec v)の第i0i_0成分は00であり、矛盾する。よってy⃗=tv⃗\vec y = t\vec vである。次にy⃗∈Cn\vec y \in \C^nがAy⃗=λy⃗A\vec y = \lambda\vec yを満たすとする。AAとλ\lambdaは実であるから、実部と虚部のそれぞれが同じ等式を満たし、いずれもv⃗\vec vの実数倍である。よってy⃗\vec yはv⃗\vec vの複素数倍であり、固有空間は11次元である。▨

λ\lambdaをAAのペロン根、v⃗\vec vをペロンベクトルと呼びます。次の補題では、成分がすべて正である固有ベクトルをもつ固有値がλ\lambdaに限ることが述べられます。この補題を、ペロンの定理を確率行列へ適用するときに用います。

補題 2.2.AAをnn次の正の行列、λ\lambdaを定理 2.1の実数とする。

  1. A⊤A^\topのペロン根はλ\lambdaに等しい。
  2. Ax⃗=μx⃗A\vec x = \mu\vec xかつx⃗>0⃗\vec x > \vec 0を満たす実数μ\muとベクトルx⃗\vec xがあればμ=λ\mu = \lambdaである。

証明.A⊤A^\topも正の行列であるから、定理 2.1を適用して、λ′>0\lambda' > 0とw⃗>0⃗\vec w > \vec 0でA⊤w⃗=λ′w⃗A^\top \vec w = \lambda'\vec wを満たすものが取れる。v⃗\vec vをAAのペロンベクトルとすると

λ′ w⃗⊤v⃗=(A⊤w⃗)⊤v⃗=w⃗⊤(Av⃗)=λ w⃗⊤v⃗\lambda'\,\vec w^{\top}\vec v = (A^\top\vec w)^{\top}\vec v = \vec w^{\top}(A\vec v) = \lambda\,\vec w^{\top}\vec v

であり、w⃗>0⃗\vec w > \vec 0かつv⃗>0⃗\vec v > \vec 0よりw⃗⊤v⃗>0\vec w^{\top}\vec v > 0であるからλ′=λ\lambda' = \lambdaである。これが1である。

2については、同じ計算をx⃗\vec xについて行えばよい。λ w⃗⊤x⃗=(A⊤w⃗)⊤x⃗=w⃗⊤(Ax⃗)=μ w⃗⊤x⃗\lambda\,\vec w^{\top}\vec x = (A^\top\vec w)^{\top}\vec x = \vec w^{\top}(A\vec x) = \mu\,\vec w^{\top}\vec xでありw⃗⊤x⃗>0\vec w^{\top}\vec x > 0であるからμ=λ\mu = \lambdaである。▨

3 確率行列と定常分布

ここまでの結果を、各列の成分の和が11である行列へ適用します。この形の行列は、確率ベクトルを確率ベクトルへ写します。

定義 3.1 (確率行列と定常分布).nn次の非負行列P=(pij)P = (p_{ij})が、すべてのjjについて∑i=1npij=1\sum_{i=1}^{n} p_{ij} = 1を満たすとき、PPを確率行列という。確率ベクトルπ∈Δ\pi \in \DeltaがPπ=πP\pi = \piを満たすとき、π\piをPPの定常分布という。

PPが確率行列であることは、成分がすべて11である列ベクトル1\mathbf{1}についてP⊤1=1P^\top \mathbf{1} = \mathbf{1}が成り立つことと同じです。x⃗∈Δ\vec x \in \Deltaに対しPx⃗≥0⃗P\vec x \ge \vec 0であり、成分の和は∑i∑jpijxj=∑jxj=1\sum_i\sum_j p_{ij}x_j = \sum_j x_j = 1ですので、Px⃗∈ΔP\vec x \in \Deltaです。

定理 3.2.PPをnn次の確率行列で、成分がすべて正であるものとする。このときPPのペロン根は11であり、定常分布π\piがただ一つ存在してπ>0⃗\pi > \vec 0を満たす。

証明.P⊤P^\topは正の行列でありP⊤1=1P^\top\mathbf{1} = \mathbf{1}、1>0⃗\mathbf{1} > \vec 0であるから、補題 2.2の2をP⊤P^\topに適用して、P⊤P^\topのペロン根は11である。同補題の1より、PPのペロン根も11である。

定理 2.1の1よりPv⃗=v⃗P\vec v = \vec v、v⃗>0⃗\vec v > \vec 0を満たすv⃗\vec vが存在する。π=v⃗/∥v⃗∥1\pi = \vec v / \|\vec v\|_1とおくとπ∈Δ\pi \in \Delta、π>0⃗\pi > \vec 0、Pπ=πP\pi = \piである。

一意性を示す。π′\pi'を定常分布とすると、π′\pi'は固有値11の固有ベクトルであり、定理 2.1の3よりπ′=tπ\pi' = t\piと書ける。両辺の成分の和を取ると1=t1 = tであるからπ′=π\pi' = \piである。▨

4 べき乗が定常分布へ収束すること

定常分布が存在することと、確率ベクトルに確率行列を繰り返し掛けたものが定常分布へ収束することは、別の主張です。収束を示すために、確率ベクトルの差に確率行列を1回掛けるごとに、その差が一定の割合だけ縮むことを確かめます。

補題 4.1.PPをnn次の確率行列で、すべての成分がδ>0\delta > 0以上であるものとする。d⃗∈Rn\vec d \in \R^nが∑idi=0\sum_i d_i = 0を満たすならば

∥Pd⃗∥1≤(1−nδ) ∥d⃗∥1\|P\vec d\|_1 \le (1 - n\delta)\,\|\vec d\|_1

が成り立つ。ここで0≤1−nδ<10 \le 1 - n\delta < 1である。

証明. まずnδ≤∑ipi1=1n\delta \le \sum_i p_{i1} = 1であるから1−nδ≥01 - n\delta \ge 0であり、δ>0\delta > 0より1−nδ<11 - n\delta < 1である。

di+=max⁡(di,0)d_i^{+} = \max(d_i, 0)、di−=max⁡(−di,0)d_i^{-} = \max(-d_i, 0)とおくと、d⃗=d⃗+−d⃗−\vec d = \vec d^{+} - \vec d^{-}であり、d⃗+≥0⃗\vec d^{+} \ge \vec 0、d⃗−≥0⃗\vec d^{-} \ge \vec 0である。∑idi=0\sum_i d_i = 0より∑idi+=∑idi−=:s\sum_i d_i^{+} = \sum_i d_i^{-} =: sであり、∥d⃗∥1=2s\|\vec d\|_1 = 2sである。s=0s = 0ならばd⃗=0⃗\vec d = \vec 0で主張は明らかであるから、s>0s > 0とする。

a⃗=Pd⃗+\vec a = P\vec d^{+}、b⃗=Pd⃗−\vec b = P\vec d^{-}とおく。各列の成分の和が11であることから∑iai=∑ibi=s\sum_i a_i = \sum_i b_i = sである。またai=∑jpijdj+≥δsa_i = \sum_j p_{ij}d_j^{+} \ge \delta sであり、同様にbi≥δsb_i \ge \delta sである。ai,bi≥δsa_i, b_i \ge \delta sを満たす実数について∣ai−bi∣=ai+bi−2min⁡(ai,bi)≤ai+bi−2δs|a_i - b_i| = a_i + b_i - 2\min(a_i, b_i) \le a_i + b_i - 2\delta sであるから

∥Pd⃗∥1=∑i∣ai−bi∣≤∑i(ai+bi)−2nδs=2s−2nδs=(1−nδ)∥d⃗∥1\|P\vec d\|_1 = \sum_i |a_i - b_i| \le \sum_i (a_i + b_i) - 2n\delta s = 2s - 2n\delta s = (1-n\delta)\|\vec d\|_1

となる。▨

定理 4.2.PPをnn次の確率行列で成分がすべて正であるものとし、δ=min⁡i,jpij>0\delta = \min_{i,j}p_{ij} > 0、π\piを定理 3.2の定常分布とする。任意の確率ベクトルp⃗∈Δ\vec p \in \Deltaについて

∥Pkp⃗−π∥1≤(1−nδ)k ∥p⃗−π∥1(k=0,1,2,… )\|P^{k}\vec p - \pi\|_1 \le (1 - n\delta)^{k}\,\|\vec p - \pi\|_1 \qquad (k = 0, 1, 2, \dots)

が成り立つ。とくにk→∞k \to \inftyのときPkp⃗P^{k}\vec pはπ\piへ収束する。

証明.Pπ=πP\pi = \piよりPkp⃗−π=Pk(p⃗−π)P^{k}\vec p - \pi = P^{k}(\vec p - \pi)である。d⃗=p⃗−π\vec d = \vec p - \piは∑idi=1−1=0\sum_i d_i = 1 - 1 = 0を満たし、Pd⃗P\vec dの成分の和も00であるから、補題 4.1をkk回繰り返して適用することができ、不等式を得る。0≤1−nδ<10 \le 1 - n\delta < 1であるから(1−nδ)k(1-n\delta)^{k}は00へ収束し、∥Pkp⃗−π∥1→0\|P^{k}\vec p - \pi\|_1 \to 0である。各成分の差の絶対値は∥⋅∥1\|\cdot\|_1以下であるから、成分ごとにも収束する。▨

例 4.3.

P=(0.90.50.10.5)P = \begin{pmatrix} 0.9 & 0.5 \\ 0.1 & 0.5 \end{pmatrix}

は各列の成分の和が11で、成分はすべて正です。Pv⃗=v⃗P\vec v = \vec vを解くと0.9v1+0.5v2=v10.9v_1 + 0.5v_2 = v_1、すなわち0.5v2=0.1v10.5v_2 = 0.1v_1ですのでv1=5v2v_1 = 5v_2であり、π=(56,16)⊤\pi = \left(\frac56, \frac16\right)^\topです。検算すると0.9⋅56+0.5⋅16=4.56+0.56=560.9\cdot\frac56 + 0.5\cdot\frac16 = \frac{4.5}{6} + \frac{0.5}{6} = \frac56となります。

δ=0.1\delta = 0.1、n=2n = 2ですので、縮む割合は1−2⋅0.1=0.81 - 2\cdot0.1 = 0.8です。p⃗=(1,0)⊤\vec p = (1, 0)^\topから始めるとPp⃗=(0.9,0.1)⊤P\vec p = (0.9, 0.1)^\top、P2p⃗=(0.86,0.14)⊤P^2\vec p = (0.86, 0.14)^\topです。∥p⃗−π∥1=13\|\vec p - \pi\|_1 = \frac13ですので定理 4.2の評価は∥P2p⃗−π∥1≤0.82⋅13=0.213…\|P^2\vec p - \pi\|_1 \le 0.8^2 \cdot \frac13 = 0.213\ldotsを与えます。実際の値は2∣0.86−56∣=0.0533…2\left|0.86 - \frac56\right| = 0.0533\ldotsであり、評価を満たしています。

5 成分に 0 を許す場合

ここまでの証明では、A>OA > Oという条件を、z⃗≥0⃗\vec z \ge \vec 0かつz⃗≠0⃗\vec z \ne \vec 0からAz⃗>0⃗A\vec z > \vec 0を導く箇所で本質的に用いました。成分に00を許すと、z⃗≥0⃗\vec z \ge \vec 0かつz⃗≠0⃗\vec z \ne \vec 0であっても、Az⃗>0⃗A\vec z > \vec 0が成り立つとは限りません。以下の例で、それぞれの結論がどの条件のもとで成り立つかを確かめます。

例 5.1.A=(1002)A = \begin{pmatrix} 1 & 0 \\ 0 & 2\end{pmatrix}は非負行列です。絶対値が最大の固有値は22ですが、その固有ベクトルは(0,1)⊤(0, 1)^\topの実数倍に限られ、成分をすべて正に取ることはできません。定理 2.1の1が成り立ちません。

例 5.2.P=(0110)P = \begin{pmatrix} 0 & 1 \\ 1 & 0\end{pmatrix}は確率行列です。Pπ=πP\pi = \piを解くとπ=(12,12)⊤\pi = \left(\frac12, \frac12\right)^\topがただ一つの定常分布です。しかしP2=IP^2 = Iですので、P2k=IP^{2k} = I、P2k+1=PP^{2k+1} = Pとなり、p⃗=(1,0)⊤\vec p = (1,0)^\topから始めるとPkp⃗P^{k}\vec pは(1,0)⊤(1,0)^\topと(0,1)⊤(0,1)^\topを交互に取り、収束しません。定常分布がただ一つ存在することと、べき乗が収束することは別の主張です。

例 5.3.P=I2P = I_2は確率行列です。すべての確率ベクトルがPx⃗=x⃗P\vec x = \vec xを満たしますので、定常分布は無数にあります。定理 3.2の一意性は、成分がすべて正であるという条件に支えられています。

注意 5.4 (非負行列についての一般形). 成分に00を許した場合の主張を、条件とともに述べる。証明は本記事では行わず、参考文献と §F19 確率過程へ委ねる。

nn次の非負行列AAが既約であるとは、任意のi,ji, jに対して、ある正の整数kkが存在して(Ak)ij>0(A^{k})_{ij} > 0となることをいう。AAが原始的であるとは、ある正の整数kkが存在してAkA^{k}の成分がすべて正になることをいう。原始的な行列は既約であるが、逆は成り立たない。例 5.2のPPは既約であるが原始的ではない。

ペロン・フロベニウスの定理では次が述べられる。AAが既約な非負行列ならば、絶対値が最大の固有値のうちに正の実数λ\lambdaがあり、λ\lambdaの固有空間は11次元で、成分がすべて正である固有ベクトルをもつ。ただし、絶対値がλ\lambdaに等しい固有値はλ\lambdaのほかにも存在しうる。AAが原始的であれば、絶対値がλ\lambdaに等しい固有値はλ\lambdaだけであり、確率行列の場合には定理 4.2と同じ収束が成り立つ。

したがって、既約性は定常分布の一意性を、原始性はべき乗の収束を保証する標準的な十分条件である。これらの条件を仮定せずに同じ結論を述べると、例 5.3や例 5.2のように失敗しうる。ただし、個々の確率行列が一意な定常分布やべき乗の収束をもつための必要条件ではない。

6 演習

問題 6.1.A=(1234)A = \begin{pmatrix} 1 & 2 \\ 3 & 4\end{pmatrix}について、x⃗=(12,12)⊤\vec x = \left(\frac12,\frac12\right)^\topでのf(x⃗)f(\vec x)を計算し、Ax⃗≥f(x⃗)x⃗A\vec x \ge f(\vec x)\vec xが成り立つことを確かめよ。さらにT(x⃗)T(\vec x)を求め、f(T(x⃗))>f(x⃗)f(T(\vec x)) > f(\vec x)となることを確かめよ。

解答.

Ax⃗=(32,72)⊤A\vec x = \left(\frac32, \frac72\right)^\topである。x⃗\vec xの成分はともに正であるから、定義 1.2より

f(x⃗)=min⁡{3/21/2,7/21/2}=min⁡{3,7}=3f(\vec x) = \min\left\{\frac{3/2}{1/2}, \frac{7/2}{1/2}\right\} = \min\{3, 7\} = 3

である。Ax⃗−3x⃗=(32−32,72−32)⊤=(0,2)⊤≥0⃗A\vec x - 3\vec x = \left(\frac32 - \frac32, \frac72 - \frac32\right)^\top = (0, 2)^\top \ge \vec 0であるから、Ax⃗≥f(x⃗)x⃗A\vec x \ge f(\vec x)\vec xが成り立つ。

∥Ax⃗∥1=32+72=5\|A\vec x\|_1 = \frac32 + \frac72 = 5であるからT(x⃗)=15(32,72)⊤=(310,710)⊤T(\vec x) = \frac15\left(\frac32, \frac72\right)^\top = \left(\frac{3}{10}, \frac{7}{10}\right)^\topである。

A T(x⃗)=(310+1410,910+2810)⊤=(1710,3710)⊤A\,T(\vec x) = \left(\frac{3}{10} + \frac{14}{10}, \frac{9}{10} + \frac{28}{10}\right)^\top = \left(\frac{17}{10}, \frac{37}{10}\right)^\top

であり、T(x⃗)T(\vec x)の成分はともに正であるから

f(T(x⃗))=min⁡{17/103/10,37/107/10}=min⁡{173,377}=377f(T(\vec x)) = \min\left\{\frac{17/10}{3/10}, \frac{37/10}{7/10}\right\} = \min\left\{\frac{17}{3}, \frac{37}{7}\right\} = \frac{37}{7}

である。最後の等号は173=11921>11121=377\frac{17}{3} = \frac{119}{21} > \frac{111}{21} = \frac{37}{7}による。377>3\frac{37}{7} > 3であるからf(T(x⃗))>f(x⃗)f(T(\vec x)) > f(\vec x)である。z⃗=Ax⃗−f(x⃗)x⃗=(0,2)⊤\vec z = A\vec x - f(\vec x)\vec x = (0, 2)^\topは0⃗\vec 0でないので、f(T(x⃗))>f(x⃗)f(T(\vec x)) > f(\vec x)は補題 1.3 (3)の結論と一致する。▨

問題 6.2.例 4.3のPPとp⃗\vec pについてP3p⃗P^3\vec pを計算し、定理 4.2の評価と比べよ。

解答.

例 4.3よりp⃗=(1,0)⊤\vec p = (1, 0)^\top、P2p⃗=(0.86,0.14)⊤P^2\vec p = (0.86, 0.14)^\top、π=(56,16)⊤\pi = \left(\frac56, \frac16\right)^\topであるから

P3p⃗=P(0.860.14)=(0.9⋅0.86+0.5⋅0.140.1⋅0.86+0.5⋅0.14)=(0.8440.156)P^3\vec p = P\begin{pmatrix} 0.86 \\ 0.14 \end{pmatrix} = \begin{pmatrix} 0.9\cdot0.86 + 0.5\cdot0.14 \\ 0.1\cdot0.86 + 0.5\cdot0.14 \end{pmatrix} = \begin{pmatrix} 0.844 \\ 0.156 \end{pmatrix}

である。0.844−56=43750.844 - \frac56 = \frac{4}{375}、0.156−16=−43750.156 - \frac16 = -\frac{4}{375}であるから∥P3p⃗−π∥1=8375=0.0213…\|P^3\vec p - \pi\|_1 = \frac{8}{375} = 0.0213\ldotsである。

同例のとおりn=2n = 2、δ=0.1\delta = 0.1、∥p⃗−π∥1=13\|\vec p - \pi\|_1 = \frac13であるから、定理 4.2の評価は

∥P3p⃗−π∥1≤0.83⋅13=64375=0.1706…\|P^3\vec p - \pi\|_1 \le 0.8^3\cdot\frac13 = \frac{64}{375} = 0.1706\ldots

である。実際の値8375\frac{8}{375}はこの上界の18\frac18であり、評価を満たしている。

∥Pkp⃗−π∥1\|P^{k}\vec p - \pi\|_1の値は、差のベクトルd⃗=p⃗−π=(16,−16)⊤\vec d = \vec p - \pi = \left(\frac16, -\frac16\right)^\topにPPを掛けて求めることができる。

Pd⃗=(0.9−0.56,0.1−0.56)⊤=0.4 d⃗P\vec d = \left(\frac{0.9 - 0.5}{6}, \frac{0.1 - 0.5}{6}\right)^\top = 0.4\,\vec d

であり、Pπ=πP\pi = \piよりPkp⃗−π=Pkd⃗=0.4k d⃗P^{k}\vec p - \pi = P^{k}\vec d = 0.4^{k}\,\vec dであるから、∥Pkp⃗−π∥1=0.4k⋅13\|P^{k}\vec p - \pi\|_1 = 0.4^{k}\cdot\frac13である。k=3k = 3のとき0.064⋅13=83750.064\cdot\frac13 = \frac{8}{375}となり、上の計算と一致する。このPPについて、補題 4.1の縮む割合0.80.8は、PPを1回掛けるごとに∥Pkp⃗−π∥1\|P^{k}\vec p - \pi\|_1が実際に縮む割合0.40.4より大きい。▨

問題 6.3.例 5.2のPPが既約であることを定義に従って確かめ、原始的でないことをPkP^{k}の形から説明せよ。

解答.

既約と原始的の定義は注意 5.4による。P=(0110)P = \begin{pmatrix} 0 & 1 \\ 1 & 0\end{pmatrix}について、P1=PP^{1} = Pの(1,2)(1,2)成分と(2,1)(2,1)成分は1>01 > 0であり、P2=IP^2 = Iの(1,1)(1,1)成分と(2,2)(2,2)成分は1>01 > 0である。したがって、任意のi,j∈{1,2}i, j \in \{1, 2\}に対して(Pk)ij>0(P^{k})_{ij} > 0を満たす正の整数kkが存在するので、PPは既約である。

P2=IP^2 = Iであるから、正の整数mmについてP2m=(P2)m=IP^{2m} = (P^2)^{m} = Iであり、P2m−1=(P2)m−1P=PP^{2m-1} = (P^2)^{m-1}P = Pである((P2)0=I(P^2)^{0} = Iとする)。正の整数kkは偶数か奇数であるから、PkP^{k}はIIとPPのいずれかである。IIの(1,2)(1,2)成分は00であり、PPの(1,1)(1,1)成分は00である。したがって、どの正の整数kkについてもPkP^{k}は00の成分をもつので、PkP^{k}の成分がすべて正になる正の整数kkは存在しない。よってPPは原始的でない。▨

参考文献

  1. Roger A. Horn and Charles R. Johnson, Matrix Analysis, 2nd ed., Cambridge University Press, Cambridge, 2013.既約性と原始性の区別を含む、非負行列とペロン・フロベニウスの定理を参考にしました。
  2. Eugene Seneta, Non-negative Matrices and Markov Chains, 2nd ed., Springer Series in Statistics, Springer, 1981.非負行列の理論と、マルコフ連鎖の長時間の挙動への応用を参考にしました。
  3. Carl D. Meyer, Matrix Analysis and Applied Linear Algebra, 2nd ed., Society for Industrial and Applied Mathematics, 2023.確率行列と定常分布を参考にしました。

前提記事