决策树的优点
1、决策树易于理解和解释,可以可视化分析,容易提取出规则;
2、可以同时处理标称型和数值型数据;
3、比较适合处理有缺失属性的样本;
4、能够处理不相关的特征;
5、测试数据集时,运行速度比较快;
6、在相对短的时间内能够对大型数据源做出可行且效果良好的结果。
决策树的缺点
1、容易发生过拟合(随机森林可以很大程度上减少过拟合);
2、容易忽略数据集中属性的相互关联;
3、对于那些各类别样本数量不一致的数据,在决策树中,进行属性划分时,不同的判定准则会带来不同的属性选择倾向;信息增益准则对可取数目较多的属性有所偏好(典型代表ID3算法),而增益率准则(CART)则对可取数目较少的属性有所偏好,但CART进行属性划分时候不再简单地直接利用增益率尽心划分,而是采用一种启发式规则)(只要是使用了信息增益,都有这个缺点,如RF)。
4、ID3算法计算信息增益时结果偏向数值比较多的特征。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)