adaboost的样本权值如何对弱分类器产生影响

xiaoxiao2021-02-28  37

参照https://www.zhihu.com/question/26957827?sort=created,感谢作者

以SVM这样的强分类器作为弱分类器使用,有可能会造成两个问题:

1. 第一次产生的分类器错误率已经达到上限,使后面的分类器起不到效果,或者说分类器的差异性太小;

2. 训练出的多个分类器,基本是相似位置的超平面,也就是说,最后组合得到的还是一个线性分类器,因此模型对数据的拟合能力,不如非线性分类器,达不到adaboost组合变强的结果。

经请教,以SVM作为弱分类器,弱分类器使用的训练样本依然是原始样本,权重是在损失函数中考虑的,比如权重是w,如果把某个样本分错了,损失就不是1,而是w,所以,为了使得损失函数最小,分类器就会尽量将权值大的样本分对。

转载请注明原文地址: https://www.6miu.com/read-2628805.html

最新回复(0)