• conjugate 意味著它有共軛分布的關系。
• Multi-Class表示隨機方差大于 2。
• N Times意味著我們還考慮先驗概率 P(X)。
• 為了進一步了解概率，我建議閱讀 [pattern recognition and machine learning，Bishop 2006]。

在貝葉斯概率論中，如果后驗分布 p（θx）與先驗概率分布 p（θ）在同一概率分布族中，則先驗和后驗稱為共軛分布，先驗稱為似然函數的共軛先驗。

共軛先驗維基百科在這里（https://en.wikipedia.org/wiki/Conjugate_prior）。無損原圖可見：https://github.com/graykode/distribution-is-all-you-need/blob/master/overview.pptx

二、分布概率與特征

1. 均勻分布（連續）

均勻分布在 [a，b] 上具有相同的概率值，是簡單概率分布。

2. 伯努利分布（離散）

• 先驗概率 p（x）不考慮伯努利分布。因此，如果我們對最大似然進行優化，那么我們很容易被過度擬合。
• 利用二元交叉熵對二項分類進行分類。它的形式與伯努利分布的負對數相同。

3. 二項分布（離散）

• 參數為 n 和 p 的二項分布是一系列 n 個獨立實驗中成功次數的離散概率分布。
• 二項式分布是指通過指定要提前挑選的數量而考慮先驗概率的分布。

"""

各分布的生成代碼（算法進階 附注）：

https://github.com/graykode/distribution-is-all-you-need

Code by Tae-Hwan Hung(@graykode)

"""

import numpy as np

from matplotlib import pyplot as plt



import operator as op

from functools import reduce



def const(n, r):

    r = min(r, n-r)

    numer = reduce(op.mul, range(n, n-r, -1), 1)

    denom = reduce(op.mul, range(1, r+1), 1)

    return numer / denom



def binomial(n, p):

    q = 1 - p

    y = [const(n, k) * (p ** k) * (q ** (n-k)) for k in range(n)]

    return y, np.mean(y), np.std(y)



for ls in [(0.5, 20), (0.7, 40), (0.5, 40)]:

    p, n_experiment = ls[0], ls[1]

    x = np.arange(n_experiment)

    y, u, s = binomial(n_experiment, p)

    plt.scatter(x, y, label=r'$\mu=%.2f,\ \sigma=%.2f$' % (u, s))



plt.legend()

plt.savefig('graph/binomial.png')

plt.show()

4. 多伯努利分布，分類分布（離散）

• 多伯努利稱為分類分布。
• 交叉熵和采取負對數的多伯努利分布具有相同的形式。

5. 多項式分布（離散）

多項式分布與分類分布的關系與伯努爾分布與二項分布的關系相同。

6. β分布（連續）

• β分布與二項分布和伯努利分布共軛。
• 利用共軛，利用已知的先驗分布可以更容易地得到后驗分布。
• 當β分布滿足特殊情況（α=1，β=1）時，均勻分布是相同的。

7. Dirichlet 分布（連續）

• dirichlet 分布與多項式分布是共軛的。
• 如果 k=2，則為β分布。

8. 伽馬分布（連續）

• 如果 gamma(a,1)/gamma(a,1)+gamma(b,1)與beta(a,b)相同，則 gamma分布為β分布。
• 指數分布和卡方分布是伽馬分布的特例。

9. 指數分布（連續）

指數分布是 α 為 1 時 γ 分布的特例。

10. 高斯分布（連續）

高斯分布是一種非常常見的連續概率分布。

11. 正態分布（連續）

正態分布為標準高斯分布，平均值為 0，標準差為 1。

12. 卡方分布（連續）

• k 自由度的卡方分布是 k 個獨立標準正態隨機變量的平方和的分布。
• 卡方分布是 β 分布的特例

13. t 分布（連續）

t 分布是對稱的鐘形分布，與正態分布類似，但尾部較重，這意味著它更容易產生遠低于平均值的值。

代碼：https://github.com/graykode/distribution-is-all-you-need/

文章轉自微信公眾號@算法進階

#你可能也喜歡這些API文章!

使用這些基本 REST API 最佳實踐構建出色的 API

如何使用API：初學者的分步教程