[學習筆記] 統計學:機率 (Probability)

隨機實驗 (Random Experiment)


會導致得到幾種可能的結果 (outcome) 之一的行動或程序。

舉例:擲銅板,可能的結果:正面、反面。

樣本空間 (Sample Space)


隨機實驗樣本空間包含所有可能的結果。這些結果必須是 exhaustive 及 mutually exclusive。

樣本空間表示為 S = {O1, O2, ..., Ok}

舉例:擲骰子的樣本空間 S = {1, 2, 3, 4, 5, 6}

機率的要求 Requirement of Probabilities


1. 0<=P(Oi)<=1, 其中 1<=i<=k, P(Oi)代表outcome i發生的機率。

2. P(O1) + P(O2) + ... + P(Ok) = 1

簡單事件 (Simple Event)


樣本空間內的一個結果

事件 (Event)


樣本空間內的一個或多個簡單事件的集合。

事件的機率 (Probability of Events)


事件的機率等於「構成事件的簡單事件的機率的總和」。

舉例:擲骰子,點數 >3 的機率 = 點數為 4 的機率 + 點數為 5 的機率 + 點數為 6 的機率。

事件 A 和 B 的交集 (Intersection of Events A and B)


事件 A 事件 B 都發生的情況,表示為「A and B」。

聯合機率 (joint probability)


兩個以上的事件都發生的機率,稱為聯合機率

邊際機率 (marginal probability)


在有兩個以上的事件的樣本空間中,若僅考慮某一事件個別發生的機率,稱為邊際機率

舉例:



其中 P(A1), P(A2), P(B1), P(B2) 為邊際機率

條件機率 (conditional probability)


在事件 B 發生的條件下,事件 A 發生的機率。

表示為 P(A|B),其中「|」唸作given。

P(A|B) = P(A and B) / P(B)

可從集合的概念來理解。

以上例而言,當車主為白領的條件下,購買進口車的機率,P(B2|A2) = P(B2 and A2) / P(A2) = 0.3 / 0.4 = 0.75

獨立事件 (Independent Events)


若 P(A|B) = P(A) 或 P(B|A) = P(B),則事件 A 和事件 B 稱為獨立事件

事件 A 和 B 的聯集 (Union of Events A and B)


事件 A 事件 B 發生的情況,表示為「A or B」。

互補法則 (Complement Rule)


P(Ac) = 1 - P(A)

其中, P(A): 事件 A 發生的機率, P(Ac): 事件 A 不發生的機率。

乘法法則 (Multiplication Rule)


P(A and B) = P(B)P(A|B)

P(A and B) = P(A)P(B|A)

可由條件機率推導出來。

獨立事件的乘法法則 (Multiplication Rule for Independent Events)


P(A and B) = P(A)P(B)

乘法法則,加上獨立事件的定義,就可以很容易推導出來。

加法法則 (Addition Rule)


P(A or B) = P(A) + P(B) - P(A and B)

以集合的概念來看(畫有交集2個圈圈分別代表A及B集合),就可以很容易瞭解。

互斥事件的加法法則 (Addition Rule for Mutually Exclusive Events)


P(A or B) = P(A) + P(B)

因為互斥事件沒有交集 P(A and B) = 0

延伸閱讀


[學習筆記] 統計學:基本概念

Managerial Statistics, Chap 6 Probability

[WiKi] Bayes' theorem: 以集合的概念來看,就可以很容易瞭解。