基礎算法梳理任務3

1.信息論基礎（熵 聯合熵 條件熵 信息增益 基尼不純度） 信息熵：   聯合熵： 條件熵： 信息增益： 信息增益比： 基尼不純度： 基尼不純度舉例： 一個隨機事件X ，P(X=0)= 0.5 ,P(X=1)=0.5       那麼基尼不純度就爲   P(X=0)*(1 - P(X=0)) +  P(X=1)*(1 - P(X=1))  = 0.5          一個隨機事件Y ，P(Y=0

>>阅读原文<<