- GBDT是机器学习算法,XGBoost是该算法的工程实现
- 在使用CART作为基分类器的时候,XGBoost显式地加入了正则项来控制模型复杂度,有利于防止过拟合
- GBDT在模型训练时只使用了代价函数的一阶导数信息,XGBoost对代价函数进行二阶泰勒展开,可以同时使用一阶和二阶函数
- 传统的GBDT采样CART作为基分类器,而XGBoost支持多种类型的基分类器,比如线性分类器
- 传统的GBDT在每轮迭代时使用全部数据,XGBoost支持对数据进行采样
- 传统的GBDT没有设计对缺失值的处理,XGBoost能自动学出缺失值处理策略
上一题:介绍一下GBDT的基本原理
下一题:L1范式和L2范式的区别
标签: xgboost、gbdt、分类器、一阶、二阶
笔试题
刷题
简历模板
AI算法
大数据
内推
内推: