0329 怖

Author: warningStackOverflow

.quant_intro_images/quant_intro_pic1.png

@@ -10,10 +10,11 @@
 1. Boosting:个体学习器间有强依赖关系，串行生成，每个个体学习器都是在上一个学习器的基础上进行学习，尝试修正上一个学习器的错误。 <br>
 2. Bagging:个体学习器间没有强依赖关系，可以并行生成，每个个体学习器都是独立生成的，通过投票等方式进行集成。（Stacking算是他的变种） <br>
 
-### 6.1 Boost
+### 6.1 Boost（重点看，滴滴的算法，滴滴面试必问）
 Boosting的思路：从初始训练集T中得到第一个基学习器，然后根据基学习器的表现对训练样本分布进行调整，使得先前基学习器做错的训练样本在后续受到更多关注，然后基于调整后的样本分布得到第二个基学习器，如此重复，直到基学习器数目达到事先指定的值T。再进行加权结合。<br>
 #### 6.1.1 AdaBoost：
-#### 6.1.2 GBDT
+思路：前一个基本分类器被错误分类的样本的**权值会增大**，而正确分类的样本的**权值会减小**，并再次用来训练下一个基本分类器。同时，在每一轮迭代中，加入一个新的弱分类器，直到达到某个预定的足够小的错误率或达到预先指定的最大迭代次数才确定最终的强分类器。
+#### 6.1.2 GBDT和LightGBM
 关于GBDT和XGBoost,可以[参考这里。](https://zhuanlan.zhihu.com/p/162001079) <br>
 梯度提升决策树，是一种迭代的决策树算法，每次迭代都在训练集上拟合一个回归树，然后根据残差更新模型。 <br>
 #### 6.1.3 XGBoost