§B4.10確率漸化式

最終更新

起こりうる状態を過不足なく分け、各状態から次の回の状態へ移る確率を用いて、状態確率の漸化式を立てます。

1 状態と遷移

定義 1.1 (状態確率と遷移確率).nn回目に状態iiにある確率をpn(i)p_n(i)とします。状態iiから次に状態jjへ移る条件付き確率を、状態iiからjjへの遷移確率といいます。

各状態から着目する状態へ入る場合を排反に分けると、次の回の状態確率を求めることができます。

2 完結した二状態の例

ある機械は、毎日の終わりに正常または故障のいずれかの状態にあります。正常ならば翌日も正常である確率を0.70.7、故障ならば修理によって翌日に正常である確率を0.20.2とします。初日は正常であるとします。

例 2.1.nn日目に正常である確率をpnp_nとすると、故障である確率は1−pn1-p_nです。翌日に正常である場合を、前日に正常であった場合と故障であった場合に分けると、

pn+1=0.7pn+0.2(1−pn)=0.5pn+0.2,p1=1p_{n+1}=0.7p_n+0.2(1-p_n)=0.5p_n+0.2,\qquad p_1=1

を得ます。

定理 2.2. 上の二状態モデルでは、

pn=0.4+0.6(12)n−1p_n=0.4+0.6\left(\frac12\right)^{n-1}

が成り立ちます。

証明. 不動点α\alphaはα=0.5α+0.2\alpha=0.5\alpha+0.2を満たすのでα=0.4\alpha=0.4です。したがって

pn+1−0.4=0.5(pn−0.4)p_{n+1}-0.4=0.5(p_n-0.4)

です。p1−0.4=0.6p_1-0.4=0.6なので、等比数列の一般項から結論を得ます。▨

注意 2.3 (確率としての検算).0.4≤pn≤10.4\le p_n\le1なので、一般項は確率の範囲にあります。またnnを大きくするとpnp_nは0.4へ近づき、漸化式の不動点と一致します。

上の例で状態を一つの確率だけで表すことができるのは、状態が正常と故障の二つだけなので、故障である確率が1−pn1-p_nと決まるためです。三状態以上では、通常は複数の状態確率を同時に追います。

例 2.4. 状態を晴れ、曇り、雨の三つに分ける場合、nn日目の確率をsn,cn,rns_n,c_n,r_nとし、sn+cn+rn=1s_n+c_n+r_n=1を保ちながら、各遷移確率を係数とする連立漸化式を立てます。一つの確率だけを追うと、前日の残り二状態を区別することができません。

3 例題

レベル3 — 確率漸化式

はじめの状態を p_0==1 として、n 回の操作の後に指定した状態にある確率 p_n を n の式で表せ。

解法の型1回の操作で場合分けして p_(n+1)==a p_n + b を立て、不動点α\alpha==b/(1−a) を引いて (p_n −α)\alpha)を公比 a の等比数列にする

例 3.1. 表の出る確率が 1/3 である硬貨を繰り返し投げる。n 回投げたとき、表の出た回数が偶数(0 回も含む)である確率を p_n とする。p_n を求めよ。

p0=1,pn+1=23 pn+13 (1−pn)p_0 = 1,\quad p_{n+1} = \dfrac{2}{3}\,p_n + \dfrac{1}{3}\,(1 - p_n)

答pn=12+12(13)np_n = \dfrac{1}{2} + \dfrac{1}{2}\left(\dfrac{1}{3}\right)^{n}

注意 n+1 回目に「偶数回」なのは、「n 回目まで偶数回で、次が裏(確率 2/3)」か「n 回目まで奇数回で、次が表(確率 1/3)」。整理すると p_(n+1)==(1 − 2·1/3) p_n + 1/3==1/3·p_n + 1/3。不動点はα=\alpha =1/2(回数を重ねると偶数・奇数が半々に近づく)。検算: n==1 では p_1==1/2 + (1/2)(1 − 2·1/3)==2/3 で、裏が出る確率に一致する。

例 3.2. 点 P は部屋 A、部屋 B のいずれかにいる。1回の操作でサイコロを1個投げ、P が A にいるときは出た目が 2 以下なら B へ移り(それ以外は A に留まる)、P が B にいるときは出た目が 1 以下なら A へ移る(それ以外は B に留まる)。はじめ P は A にいる。n 回の操作の後に P が A にいる確率 p_n を求めよ。

p0=1,pn+1=23 pn+16 (1−pn)p_0 = 1,\quad p_{n+1} = \dfrac{2}{3}\,p_n + \dfrac{1}{6}\,(1 - p_n)

答pn=13+23(12)np_n = \dfrac{1}{3} + \dfrac{2}{3}\left(\dfrac{1}{2}\right)^{n}

注意 n+1 回目に A にいるのは「n 回目に A にいて留まる(確率 4/6==2/3)」か「n 回目に B にいて A へ移る(確率 1/6)」。整理して p_(n+1)==1/2·p_n + 1/6。不動点はα=\alpha =(1/6)/(1 − 1/2)==1/3(長い目で見て A にいる割合)。p_n −α\alphaは公比 1/2 の等比数列で初項 1 −α=\alpha =2/3。

4 演習

問題 4.1.例 2.1の機械が初日に故障している場合に、nn日目に正常である確率pnp_nを求めよ。

解答.

初日に故障しているのでp1=0p_1=0であり、漸化式は例 2.1と同じpn+1=0.5pn+0.2p_{n+1}=0.5p_n+0.2である。不動点0.40.4を用いるとpn+1−0.4=0.5(pn−0.4)p_{n+1}-0.4=0.5(p_n-0.4)であり、数列(pn−0.4)(p_n-0.4)は初項p1−0.4=−0.4p_1-0.4=-0.4、公比1/21/2の等比数列である。したがって、

pn=0.4−0.4(12)n−1p_n=0.4-0.4\left(\frac12\right)^{n-1}

である。▨

問題 4.2. 二状態の機械について、正常から翌日も正常である確率をaa、故障から翌日に正常である確率をbbとする(0≤a≤10\le a\le1、0≤b≤10\le b\le1)。nn日目に正常である確率pnp_nが満たす漸化式と、その漸化式の不動点を求めよ。

解答.

nn日目に故障である確率は1−pn1-p_nである。翌日に正常である場合を、前日に正常であった場合と故障であった場合に分けると、二つの場合は排反なので

pn+1=apn+b(1−pn)=(a−b)pn+bp_{n+1}=ap_n+b(1-p_n)=(a-b)p_n+b

を得る。不動点α\alphaはα=(a−b)α+b\alpha=(a-b)\alpha+b、すなわち(1−a+b)α=b(1-a+b)\alpha=bを満たす。a−b≠1a-b\ne1ならば、不動点はただ一つ存在し、α=b/(1−a+b)\alpha=b/(1-a+b)である。a−b=1a-b=1となるのは、0≤a≤10\le a\le1、0≤b≤10\le b\le1のもとではa=1a=1、b=0b=0の場合に限る。この場合の漸化式はpn+1=pnp_{n+1}=p_nであり、すべての実数が不動点である。▨

問題 4.3.問題 4.1で求めた一般項が0以上1以下にあり、漸化式pn+1=0.5pn+0.2p_{n+1}=0.5p_n+0.2と初期条件p1=0p_1=0を満たすことを、代入して確かめよ。

解答.

一般項pn=0.4−0.4/2n−1p_n=0.4-0.4/2^{n-1}にn=1n=1を代入するとp1=0.4−0.4=0p_1=0.4-0.4=0であり、初期条件を満たす。一般項を漸化式の右辺に代入すると、

0.5(0.4−0.42n−1)+0.2=0.4−0.42n0.5\left(0.4-\frac{0.4}{2^{n-1}}\right)+0.2=0.4-\frac{0.4}{2^n}

であり、右辺は一般項のn+1n+1のときの値pn+1p_{n+1}に等しい。したがって、一般項は漸化式を満たす。さらに、すべての正の整数nnについて0<0.4/2n−1≤0.40<0.4/2^{n-1}\le0.4なので0≤pn<0.40\le p_n<0.4であり、pnp_nは0以上1以下にある。▨

レベル3 — 確率漸化式

はじめの状態を p_0==1 として、n 回の操作の後に指定した状態にある確率 p_n を n の式で表せ。

解法の型1回の操作で場合分けして p_(n+1)==a p_n + b を立て、不動点α\alpha==b/(1−a) を引いて (p_n −α)\alpha)を公比 a の等比数列にする

問題 4.4. 5 個の地点 A, B, C, D, E の上を点 P が動く。1回の操作で、P は今いる地点以外の 4 個の地点のいずれかへ等確率で移る。はじめ P は地点 A にある。n 回の操作の後に P が地点 A にある確率 p_n を求めよ。

p0=1,pn+1=1−pn4p_0 = 1,\quad p_{n+1} = \dfrac{1 - p_n}{4}
解答.

答pn=15+45(−14)np_n = \dfrac{1}{5} + \dfrac{4}{5}\left(-\dfrac{1}{4}\right)^{n}

注意 n+1 回目に A にいるのは「n 回目に A 以外にいて(確率 1 − p_n)、そこから A へ移る(確率 1/4)」場合だけなので p_(n+1)==(1 − p_n)/4。不動点はα=\alpha =1/5(長い目で見ると 5 個の地点に均等に散らばる)。p_n − 1/5 は公比 −1/4 の等比数列で、初項 p_0 − 1/5==4/5。検算: n==1 のとき p_1==1/5 − (1/5)==0(1回で A には戻れない)。▨

問題 4.5. 表の出る確率が 2/5 である硬貨を繰り返し投げる。n 回投げたとき、表の出た回数が偶数(0 回も含む)である確率を p_n とする。p_n を求めよ。

p0=1,pn+1=35 pn+25 (1−pn)p_0 = 1,\quad p_{n+1} = \dfrac{3}{5}\,p_n + \dfrac{2}{5}\,(1 - p_n)
解答.

答pn=12+12(15)np_n = \dfrac{1}{2} + \dfrac{1}{2}\left(\dfrac{1}{5}\right)^{n}

注意 n+1 回目に「偶数回」なのは、「n 回目まで偶数回で、次が裏(確率 3/5)」か「n 回目まで奇数回で、次が表(確率 2/5)」。整理すると p_(n+1)==(1 − 2·2/5) p_n + 2/5==1/5·p_n + 2/5。不動点はα=\alpha =1/2(回数を重ねると偶数・奇数が半々に近づく)。検算: n==1 では p_1==1/2 + (1/2)(1 − 2·2/5)==3/5 で、裏が出る確率に一致する。▨

問題 4.6. 点 P は部屋 A、部屋 B のいずれかにいる。1回の操作でサイコロを1個投げ、P が A にいるときは出た目が 2 以下なら B へ移り(それ以外は A に留まる)、P が B にいるときは出た目が 2 以下なら A へ移る(それ以外は B に留まる)。はじめ P は A にいる。n 回の操作の後に P が A にいる確率 p_n を求めよ。

p0=1,pn+1=23 pn+13 (1−pn)p_0 = 1,\quad p_{n+1} = \dfrac{2}{3}\,p_n + \dfrac{1}{3}\,(1 - p_n)
解答.

答pn=12+12(13)np_n = \dfrac{1}{2} + \dfrac{1}{2}\left(\dfrac{1}{3}\right)^{n}

注意 n+1 回目に A にいるのは「n 回目に A にいて留まる(確率 4/6==2/3)」か「n 回目に B にいて A へ移る(確率 2/6==1/3)」。整理して p_(n+1)==1/3·p_n + 1/3。不動点はα=\alpha =(1/3)/(1 − 1/3)==1/2(長い目で見て A にいる割合)。p_n −α\alphaは公比 1/3 の等比数列で初項 1 −α=\alpha =1/2。▨

前提記事