特徵選擇之互信息

      對於事件A和事件B同時出現的，一種信息論的描述方法就是互信息，計算方式以下ui 其意義：因爲事件A發生與事件B發生相關聯而提供的信息量。spa     在處理分類問題提取特徵的時候就能夠用互信息來衡量某個特徵和特定類別的相關性，若是信息量越大，那麼特徵和這個類別的相關性越大。反之也是成立的。3d     以搜狗實驗室的語料爲例。選取金融，IT產品，體育，娛樂，股票這五個類別，經過互信息

>>阅读原文<<