机器学习中的分类算法各自有什么优点?
0 313
0
该提问暂无详细描述
收藏
2021-01-07 13:51 更新 天明 •  997
共 1 个回答
高赞 时间
0

首先考虑你的训练集有多大? 如果训练集较小,则高偏差/低方差分类器(例如,朴素贝叶斯)比低偏差/高方差分类器(例如,kNN或逻辑回归)具有优势,因为后者会出现过拟合。但是,随着训练集的增长,低偏差/高方差分类器开始胜出(它们的渐近误差较小),因为高偏差分类器的功能不足以提供准确的模型。 你也可以将其视为生成模型与判别模型的区别。 一些特定算法的优点: 朴素贝叶斯的优点:超级简单,只需要进行大量计数即可。如果NB条件独立性假设成立,则朴素贝叶斯分类器的收敛速度将高于判别模型(例如逻辑回归),因此需要的训练数据更少。即使NB假设不成立,NB分类器在实践中仍然常常表现得很出色。如果你想进行某种半监督式学习,或者想要执行一些非常好用的简单操作,那么它是一个不错的选择。 逻辑回归的优点:有很多方法可以规范化模型,而不必像朴素贝叶斯一样担心特征是相关的。与决策树或SVM不同,它还具有很好的概率解释,并且可以轻松地更新模型(使用在线梯度下降方法)来获取新数据。如果你需要一个概率框架(例如,方便地调整分类阈值,不确定情况或需要获取置信区间时),或者希望将来接收到更多训练数据,请使用它。 决策树的优点:易于解释。非参数化,因此不必担心异常值或数据是否可线性分离(例如,决策树很容易处理这样的情况:类A位于某个特征x的低端,类B位于特征x的中间范围,类A位于高端)。它的主要缺点是很容易过度拟合。随机森林通常适用于是许多分类问题(我认为通常比SVM更好),它的速度很快又可扩展,并且不必像调整SVM一样需要调整一堆参数,这个优点使它很受欢迎。 SVM的优点:高精度,有较好的内核,即使你的数据在基本特征空间中不是线性可分离的,它也可以正常工作。在以高维空间为标准的文本分类问题中尤其流行。但是内存密集,运行和调优有点烦人,因此我认为随机森林会比较好一些。 说了这么多,我认为更好的数据通常胜过更好的算法,并且设计好的功能还有很长的路要走。而且,如果你有一个庞大的数据集,那么分类算法的选择可能对分类性能的影响并不大(因此请根据速度或易用性来选择算法)。而且,如果你真的在乎准确性,则应该尝试一堆不同的分类器,然后通过交叉验证选择最佳的分类器。

收藏
2021-01-07 14:47 更新 Lisa •  1296