当前标签: LightGBM
[机器学习 ]RandomForest、GBDT、XGBoost、lightGBM 原理与区别
RF,GBDT,XGBoost,lightGBM都属于集成学习(Ensemble Learning),集成学习的目的是通过结合多个基学习器的预测结果来改善基本学习器的泛化能力和鲁棒性。 根据基本学习器的生成方式,目前的集成学习方法大致分为两大类:即基本学习器之间存在强依赖关系、必须串行生成的序列化方法,以及基本...
2018-08-28 17:27
阅读(1511)
决策树模型,XGBoost,LightGBM和CatBoost模型可视化
决策树模型,XGBoost,LightGBM和CatBoost模型可视化 安装 graphviz * 参考文档 http://graphviz.readthedocs.io/en/stable/manual.html#installation <http://graphviz.readthedocs.io/e...
2018-08-09 10:39
阅读(1100)
LightGBM的黑科技--plot函数
本教程教萌新如何使用lightgbm里面可视化函数 作者:JasonChen 文章内容概览: * 保留训练结果 * plot_metric()函数的使用(重要) * plot_importance()函数的使用(重要) * plot_tree()函数的使用(可选) * create_tree_...
2018-07-09 16:34
阅读(2598)
LightGBM 如何调参
本文结构: * 什么是 LightGBM * 怎么调参 * 和 xgboost 的代码比较 1. 什么是 LightGBM Light GBM is a gradient boosting framework that uses tree based learning algorithm. Lig...
2018-06-16 07:58
阅读(1968)
【lightgbm 使用经验总结教训】
做快手公司举办的2018中国高校计算机大赛--大数据挑战赛有半个月了,从5月30日开始到现在基本一直在构造特征,但是当我构造的特征到后期的时候,发现加特征之后,明明验证集上的准确率提高了,但是线上的结果一直提不上去,我怀疑的是特征的问题,但是今天6月13日,我仔细看了lightgbm算法的说明文档后才发现,我用的...
2018-06-13 13:49
阅读(873)
最简便的lightGBM GPU支持的安装、验证方法
以下基于ubuntu 16.04 python 3.6.5安装测试成功 1、安装软件依赖 sudo apt-get install --no-install-recommends git cmake build-essential libboost-dev libboost-system-dev libboost...
2018-06-01 11:13
阅读(2022)
开源|LightGBM基本原理,以及调用形式
久前微软 DMTK (分布式机器学习工具包)团队在 GitHub 上开源了性能超越其他 boosting 工具的 LightGBM 知乎上有近千人关注“如何看待微软开源的 LightGBM?”问题,被评价为“速度惊人”,“非常有启发”,“支持分布式”,“代码清晰易懂”,“占用内存小”等。 关于adaboost、...
2018-04-24 18:08
阅读(543)
机器学习算法三大神器GBDT、XGBoost、LightGBM
本文主要简要的比较了常用的boosting算法的一些区别,从AdaBoost到LightGBM,包括AdaBoost,GBDT,XGBoost,LightGBM四个模型的简单介绍,一步一步从原理到优化对比。 AdaBoost原理 原始的AdaBoost算法是在算法开始的时候,为每一个样本赋上一个权重值,初...
2018-04-23 11:42
阅读(690)