熵和基尼係數

CART     Classification & Regression Tree 1.熵（entropy）  熵是表示隨機變量不確定性的度量。設XX是一個取有限個值的離散隨機變量，其概率分佈爲 對於一個取有限個值的隨機變量X，如果其概率分佈爲：  P(X=xi)=pi,i=1,2,⋯,n 那麼隨機變量X的熵可以用以下公式描述：                      H(X)=−∑i=1npi

>>阅读原文<<