深度學習 --- 應用數學和機器學習基礎（概率論與信息論）

一、概率論 概率論是用於表示不確定性聲明的數學框架。它不僅提供了量化不確定性的方法，也提供了用於導出新的不確定性聲明的公理。 概率論兩種用途：首先，概率法則告訴我們AI系統如何推理，據此我們設計一些算法來計算或者估算由概率論導出的表達式；其次，可以用概率和統計從理論上分析我們提出的AI系統的行爲。 概率論使我們能夠提出不確定性的聲明以及在不確定性存在的情況下進行推理，而信息論使我們能夠量化概率分佈

>>阅读原文<<