一、决策树
C4.5:使用信息增益比来选择特征,适用于具有多个属性的分类问题。
CART:分类与回归树,可以同时处理分类和回归问题。
二、支持向量机(SVM)
线性SVM:用于解决线性可分的分类问题。
核SVM:通过核函数,可以解决非线性分类问题。
三、随机森林
集成学习:结合多个决策树的预测,以提高整体准确性。
特征选择:通过随机选择特征进行训练,增加模型的泛化能力。
四、K-近邻算法(K-NN)
基于距离:通过计算样本间的距离,找到最近的K个邻居进行分类。
无需训练:是一种惰性学习算法,无需训练过程。
五、神经网络
多层感知器(MLP):适用于复杂的非线性分类问题。
卷积神经网络(CNN):在图像分类任务中具有出色的表现。
六、朴素贝叶斯
基于概率:利用贝叶斯定理和特征条件独立假设进行分类。
七、逻辑回归
概率模型:虽然名为回归,但广泛用于二分类问题。
常见问答:
Q1: 随机森林与单一决策树有何不同?
答: 随机森林是多个决策树的集成,能够减少过拟合,提高准确性。
Q2: K-近邻算法的K值如何选择?
答: K值的选择通常通过交叉验证来确定,以找到优异的平衡点。
Q3: 逻辑回归如何用于多分类问题?
答: 逻辑回归可以通过“一对多”或“一对一”策略扩展到多分类问题。