[Statistics] I 統計学の基礎 8. 確率論の基本

Pythonで学ぶあたらしい統計学の教科書のまとめやコードを実行してみた際のメモです．
集合
集合：客観的に範囲が規定されたモノの集まり

要素
あるモノaがAの要素である時に $a \in A$と書き，aがAに属すると呼ぶ．
あるモノaがAの要素である時に $a \notin A$と書き，aがAに属すると呼ぶ．

集合の2つの表記方法
0以上5以下の整数は

$A = {0, 1, 2, 3, 4, 5}$

$A = \{a; a \in Z $ かつ$ 0 ≦ a  5 \}$

と表記される．後者のような表記を内包的表記という．セミコロン ; （もしくは | ）よりも右側が条件を表す．なお$Z$は整数の集合を表す．

部分集合

2つの集合AとBにおいて「$a \in A$ならば$a \in B$」である時，AをBの部分集合と呼び，$A \subset B$と表記する．

積集合と和集合

2つの集合AとBに対して，積集合$A \cap B$は以下のように定義される．

$A \cap B = \{ a; a \in A かつ a \in B\}$，AかつBの条件

2つの集合AとBに対して，積集合$A \cap B$は以下のように定義される．

$A \cup B = \{ a; a \in A または a \in B\}$，AまたはBの条件

差集合
2つの集合AとBに対して，差集合 A-B は以下のように定義される．

$A - B = \{a; a \in A かつ a \notin B\}$

空集合
空集合：要素を一つも含まない集まり．

全体集合
全体集合：ある集合Sがあり「Sの部分集合しか取り扱わない」と限定したとき，Sを全体集合と呼ぶ．

補集合
全体集合Sが定まっている時，Sの部分集合Aに対して，以下の関係が成り立つ$A^{C}$をAの補集合と呼ぶ．

$A^{C} = S - A$

標本点・標本空間・事象
標本点：起こりうる可能な結果．$\omega$と表記する．
標本空間：標本点の全体の集合．$\Omega$と表記する．
ここで標本空間は全体集合とみなされ，標本点はその要素となる．
事象：標本空間の部分集合として定義される．
事象も集合と同様に和事象や積事象が定義される．
根元事象：ただ一つの標本点からなり，これ以上分解できない事象．
複合事象：複数の標本点を含み，二つ以上の根元事象に分解できるもの．
空事象：標本点を一つも含まない事象．
  e.g. サイコロ投げ
        標本点：$\omega_{1} = 1, \omega_{2} = 2, \omega_{3} = 3, \omega_{4} = 4, \omega_{5} = 5, \omega_{6} = 6$
        標本空間：$\Omega = \{1, 2, 3, 4, 5, 6 \}$
        複合事象：偶数となる事象 $A = \{2, 4, 6 \}$
                            奇数となる事象 $B = \{ 1, 3, 5 \}$ など
        根元事象：1の目が出る事象 $C = \{ 1 \}$
                            2の目が出る事象 $D = \{ 2 \}$

排反事象

$A \cap B = \emptyset$である時（事象同士の重なりがない時），事象AとBは排反事象であるという．

確率の公理主義的定義

確率の公理主義的定義に基づくと，以下の三つの公理を満たすものを確率という．

1. すべての事象 A に対して $0 \leq P(A) \leq 1$
2. P ( \Omega ) = 1
3. 排反な事象$A_{1}, A_{2}, \cdots,$ に対して$P ( A_{1} \cup A_{2} \cup \cdots ) = P(A_{1} + P(A_{2}) + \cdots$

1. は，確率が0以上1以下ということ．2. は，標本空間を対象にしたら，それが起こる確率は1になるということ．3. は重なりがない事象のどれかが起こる確率は，事象が起こる確率の和で計算ができるという事を表している．

頻度による確率の解釈

頻度主義に立った確率の解釈では，確率と相対度数の極限値と考える．

主観確率

確率を相対度数で定義した場合は，誰が計算しても同じ値が得られる（頻度主義）．

一方の主観確率は，個人が主観的に確率を割り当てる（ベイズ主義）．

確率の加法定理

確率の加法定理

$P (A \cup B) = P(A) P(B)$

事象同士が排反であるという条件を無くした確率の加法定理の一般的な形

$P(A \cup B) = P(A) + P(B) - P(A \cap B)$

条件付確率
条件付確率：事象Bが起こらなかったことがわかったという条件において，事象Aが発生する確率．
$P(A|B)$と表記して以下のように定義される．

$P(A|B) = \cfrac{P(A \cap B)}{P(B)}$

確率の乗法定理
確率の乗法定理：条件付確率の定義を式変形した以下の関係

$P(A \cup B) = P(B) \cdot P(A|B)$

独立
$P(A \cup B) = P(A) \cdot P(B)$が成り立つ時，事象A, Bは独立であるという．$P(A|B) = P(A)$と同じ意味．

Pythonで学ぶあたらしい統計学の教科書に関する過去の投稿は以下です．
I 統計学の基礎
 1. 統計学，2. 標本が得られるプロセス，3. 標本が得られるプロセスの抽象化，4. 記述統計の基礎，6. 確率質量関数と確率密度関数，7. 統計量の計算，確率論の基本