決策樹演算法總結 - as_ - 博客園 - 博客園 - 開發者的網上家園

資訊理論中對熵的一種解釋，熵確定了要編碼集合S中任意成員的分類所需要的最少二進位位數。更一般地，如果目標屬性具有c個不同的值，那麼S相對於c個狀態的分類的熵定義為：

www.cnblogs.com