1 確率変数と確率分布
定義 1.1 (確率変数と確率分布). 有限標本空間Ω上の確率変数とは、各結果ω∈Ωに実数X(ω)を対応させる関数です。Xがとりうる値をx1,…,xmとするとき、
pi=P(X=xi)を並べたものをXの確率分布といいます。各pi≥0であり、∑i=1mpi=1が成り立ちます。
2 期待値と分散
定義 2.1 (期待値・分散・標準偏差). 有限個の値x1,…,xmをとる確率変数Xの期待値、分散、標準偏差を
E[X]=i=1∑mxipi,V[X]=E[(X−E[X])2],σX=V[X]と定義します。
期待値は試行を多数回繰り返したときの平均の理論値ですが、一回の試行で実際に得る値とは限りません。公平な六面体サイコロの出る目の期待値は3.5ですが、一回の試行で3.5の目は出ません。
証明.(X−E[X])2=X2−2E[X]X+E[X]2の期待値を取り、定数E[X]を用いて整理すると公式を得ます。▨
3 期待値の線形性
定理 3.1 (期待値の線形性). 同じ有限標本空間上の確率変数X,Yと実数a,bについて、
E[aX+bY]=aE[X]+bE[Y]が成り立ちます。X,Yの独立性は仮定しません。
証明.X=xi,Y=yjとなる同時確率をpijとすると、
E[aX+bY]=i,j∑(axi+byj)pij.和を分け、∑jpij=P(X=xi)と∑ipij=P(Y=yj)を用いると結論を得ます。▨
4 共分散と分散の加法性
定義 4.1 (共分散). 有限個の値をとる確率変数X,Yの共分散を
Cov(X,Y)=E[(X−E[X])(Y−E[Y])]と定義します。
証明.(X+Y−E[X+Y])2を展開し、期待値の線形性を用いると公式を得ます。▨
定義 4.3 (確率変数の独立). 有限個の値をとる確率変数X,Yが、すべての実数x,yについて
P(X=x,Y=y)=P(X=x)P(Y=y)を満たすとき、XとYは独立であるといいます。
定理 4.4.X,Yが独立で、有限個の値をとるならば、Cov(X,Y)=0です。
証明. 独立性から同時確率が積に分かれるのでE[XY]=E[X]E[Y]です。共分散をE[XY]−E[X]E[Y]と書けば0になります。▨
独立性は分散の加法性の十分条件ですが、必要条件ではありません。
例 4.6. 表の確率がpである硬貨について、表ならばX=1、裏ならばX=0とします。このとき
E[X]=p,V[X]=p(1−p)です。
5 例題
次の確率分布に従う確率変数 X について、期待値 E[X] と分散 V(X) を求めよ。
解法の型E[X]=Σx⋅P(X=x)、V(X)=E[X²] − (E[X])²、E[aX+b]=aE[X]+b、V(aX+b)=a²V(X)
例 5.1. 10 本のくじがあり、得点が 0 点のものが 5 本、1 点のものが 1 本、2 点のものが 3 本、3 点のものが 1 本ある。この中から1本を無作為に引いたときの得点を X とする。Y=3X - 6 とおくとき、Y の期待値 E[Y] と分散 V(Y) を求めよ。
XP021110121033101計1Y=3X−6答E[Y]=−3,V(Y)=554
注意 まず E[X]=1、V(X)=E[X²] − (E[X])²=22/10 − 1=12/10=6/5。あとは E[aX+b]=aE[X]+b、V(aX+b)=a²V(X)(定数 b は散らばりを動かさないので分散には効かない)を使う。a=3, b=-6 より E[Y]=3×1 − 6=-3、V(Y)=9×(6/5)=54/5。
例 5.2. 10 本のくじがあり、得点が 1 点のものが 2 本、2 点のものが 1 本、3 点のものが 2 本、4 点のものが 5 本ある。この中から1本を無作為に引いたときの得点を X とする。X の期待値 E[X] と分散 V(X) を求めよ。
XP1512101351421計1答E[X]=3,V(X)=57
注意 E[X]=(1×2 + 2×1 + 3×2 + 4×5) / 10=3。E[X²]=(1×2 + 4×1 + 9×2 + 16×5) / 10=104/10。V(X)=E[X²] − (E[X])²=104/10 − 9=14/10=7/5。
6 演習
問題 6.1. 確率変数XがP(X=0)=1/4、P(X=2)=3/4を満たすとき、Xの期待値と分散を求めよ。
解答.
定義 2.1により、
E[X]=0⋅41+2⋅43=23,E[X2]=02⋅41+22⋅43=3である。公式 2.2により、V[X]=E[X2]−E[X]2=3−9/4=3/4である。▨
問題 6.2.V[X+Y]=V[X]+V[Y]が成り立つために、XとYが独立であることは必要条件ではない。その理由を説明せよ。
解答.
公式 4.2により、Cov(X,Y)=0ならばV[X+Y]=V[X]+V[Y]が成り立つ。したがって、独立でないが共分散が0である確率変数X,Yが一つでも存在すれば、独立性は必要条件ではない。例 4.5のXとY=X2は独立ではなく、共分散は0である。
この例のX,Yについて、等式を直接確かめる。Xは−1,0,1をそれぞれ確率1/3でとるので、V[X]=E[X2]−E[X]2=2/3である。Yは1を確率2/3、0を確率1/3でとるので、V[Y]=2/3−(2/3)2=2/9である。X+Yは、X=−1,0のとき0、X=1のとき2をとるので、0を確率2/3、2を確率1/3でとる。したがって、
V[X+Y]=34−(32)2=98=32+92=V[X]+V[Y]が成り立つ。XとYは独立でないので、独立性はV[X+Y]=V[X]+V[Y]の必要条件ではない。▨
問題 6.3.定理 3.1の証明で独立性を使っていないことを、同時分布の和の計算から確かめよ。
解答.
X=xi,Y=yjとなる同時確率をpijとする。事象{X=xi,Y=yj}(jを動かす)は互いに排反であり、その和集合は{X=xi}なので、∑jpij=P(X=xi)である。同様に∑ipij=P(Y=yj)である。これらを用いると、
E[aX+bY]=i,j∑(axi+byj)pij=ai∑xij∑pij+bj∑yji∑pij=ai∑xiP(X=xi)+bj∑yjP(Y=yj)となり、右辺はaE[X]+bE[Y]である。この計算で用いたのは、和の順序の入れ替えと、排反な事象の確率の加法性だけである。独立性を用いるのはpij=P(X=xi)P(Y=yj)と積に分解する場合であるが、この計算ではpijを積に分解していない。したがって、定理 3.1の証明は独立性を使っていない。▨
次の確率分布に従う確率変数 X について、期待値 E[X] と分散 V(X) を求めよ。
解法の型E[X]=Σx⋅P(X=x)、V(X)=E[X²] − (E[X])²、E[aX+b]=aE[X]+b、V(aX+b)=a²V(X)
問題 6.4. 10 本のくじがあり、得点が 1 点のものが 4 本、2 点のものが 3 本、3 点のものが 2 本、4 点のものが 1 本ある。この中から1本を無作為に引いたときの得点を X とする。Y=3X + 3 とおくとき、Y の期待値 E[Y] と分散 V(Y) を求めよ。
XP15221033514101計1Y=3X+3解答.
答E[Y]=9,V(Y)=9
注意 まず E[X]=2、V(X)=E[X²] − (E[X])²=50/10 − 4=10/10=1。あとは E[aX+b]=aE[X]+b、V(aX+b)=a²V(X)(定数 b は散らばりを動かさないので分散には効かない)を使う。a=3, b=3 より E[Y]=3×2 + 3=9、V(Y)=9×1=9。▨
問題 6.5. 12 本のくじがあり、得点が 0 点のものが 6 本、1 点のものが 2 本、2 点のものが 2 本、3 点のものが 2 本ある。この中から1本を無作為に引いたときの得点を X とする。X の期待値 E[X] と分散 V(X) を求めよ。
XP021161261361計1解答.
答E[X]=1,V(X)=34
注意 E[X]=(0×6 + 1×2 + 2×2 + 3×2) / 12=1。E[X²]=(0×6 + 1×2 + 4×2 + 9×2) / 12=28/12。V(X)=E[X²] − (E[X])²=28/12 − 1=16/12=4/3。▨
問題 6.6. 12 本のくじがあり、得点が 1 点のものが 1 本、2 点のものが 2 本、3 点のものが 5 本、4 点のものが 4 本ある。この中から1本を無作為に引いたときの得点を X とする。Y=3X - 3 とおくとき、Y の期待値 E[Y] と分散 V(Y) を求めよ。
XP11212613125431計1Y=3X−3解答.
答E[Y]=6,V(Y)=215
注意 まず E[X]=3、V(X)=E[X²] − (E[X])²=118/12 − 9=10/12=5/6。あとは E[aX+b]=aE[X]+b、V(aX+b)=a²V(X)(定数 b は散らばりを動かさないので分散には効かない)を使う。a=3, b=-3 より E[Y]=3×3 − 3=6、V(Y)=9×(5/6)=15/2。▨