当前标签: Boosting

机器学习算法二：详解Boosting系列算法二GBM

GBM GBM 全称gradient boosting machine，一般叫做梯度提升树算法。是一类很常用的集成学习算法，在多次数据挖掘比赛中获得了优秀的成绩。在解释GBM时，有很多内容需要提前一并解释了才有助于理解GBM算法。建议阅读此篇内容以前先了解一个Adaboost算法 <https://blog...

2018-06-04 15:35 阅读(1020)

[机器学习]集成学习--bagging、boosting、stacking

集成学习简介集成学习（ensemble learning）通过构建并结合多个学习器来完成学习任务。如何产生“好而不同”的个体学习器，是集成学习研究的核心。集成学习的思路是通过合并多个模型来提升机器学习性能，这种方法相较于当个单个模型通常能够获得更好的预测结果。这也是集成学习在众多高水平的比赛如奈飞...

2018-05-24 12:11 阅读(285)

决策树、Bagging、随机森林、Boosting、Adaboost、GBDT、XGBoost

决策树（Descision Tree）决策树介绍决策树基于“树”结构进行决策： - 每个“内部节点”对应于某个属性上的测试 - 每个分枝对应于该测试的一种可能结果（即属性的某个取值） - 每个叶节点对应于一个“预测结果” 决策树学习的三个步骤 * 特征选择 * 决策树的生成 * 决策...

2018-03-09 15:49 阅读(380)

1