機器學習算法之貝葉斯算法介紹(一)

來源：康寧反應器技術有限公司分類：工作原理

2024-11-06 11:22:49 205閱讀次數

掃碼分享

*圖片來源于網絡

近些年來很多化學化工類文獻會在其里面提到貝葉斯算法(或貝葉斯優化算法)，讓人有種感覺，這個貝葉斯算法是很高級非常有用，而又帶有一些神秘感。

隨便上網一搜索，會出現大量文章介紹貝葉斯定理、貝葉斯算法，條件概率、先驗概率、后驗概率、樸素貝葉斯、高斯貝葉斯等等名詞，讓非這個專業的人感覺到頭大。例如在搜索引擎里面輸入“貝葉斯定理”會查到關于貝葉斯定理的歷史來源，計算公式介紹等。

貝葉斯算法

*圖片來源于網絡it.sohu.com/a/577883879_99977650

本文為了非專業背景的讀者了解“貝葉斯算法”原理，采用輕松的方式為您介紹貝葉斯算法的思路邏輯。

在開始前，我們先來看看平時下結論的步驟：

在觀察到一個證據或線索后，我們通常會根據自己歷史經驗，該證據出現時有多少概率產生某后果，然后選擇最大概率的后果做出結論判斷。其實這就是類似樸素貝葉斯算法的步驟。

為了方便理解，舉一個不嚴謹的例子：

住在南方海邊城市的人在夏季，天氣悶熱而且感覺到胸悶，會做出大概率海上會有臺風的判斷。

這里的夏季天氣悶熱胸悶是證據(Evidence，E)，臺風是輸出(Outcome，Y)，根據這個證據得出這個臺風的判斷的概率，使用數學表達為P(Y|E)。當然這個輸出也可以為疾病(Y2，使用Y2區分臺風)，畢竟有胸悶現象，但判斷者為什么選擇是臺風的判斷而不是身體疾病的判斷？

P(Y)即先驗概率 P(Y|E)為后驗概率

因為判斷者其中一個理由是認為自己身體很棒有病的概率很低，也就是P(Y2)概率比出現臺風的概率P(Y)小多了(注，這里的P(Y)即先驗概率，P(Y|E)為后驗概率)。

歷史經驗 P(E|Y)概率

再進一步分析，為什么判斷者根據這個證據做出臺風判斷，是因為他在南方海邊城市住有“歷史經驗”，我們看看他是如何得到這個歷史經驗的。

小時候，第一次發現有臺風很好奇，第二次發現有臺風，好像都是在夏季及其悶熱而且胸悶。漸漸地他發現，在夏天有臺風前感覺非常悶熱和胸悶的概率很高，也就是P(E|Y)概率很高，而且他所住的城市出現臺風的概率比較高P(Y)。另外他身體健康出現胸悶的機會不大，即P(Y2)比較小。在他腦海中做出P(Y|E)=P(E|Y)*P(Y)/P(E)計算，因而有了出現這個證據做出有臺風的判斷。

看完前面不嚴謹的例子后，我們來看看電腦是如何實現樸素貝葉斯算法的？

比如給出一個水果的特征為“長”、“甜”、“黃色”，電腦如何通過已有的數據來“學習”，并預測出現這三個特征的水果是什么。