千锋教育-做有情怀、有良心、有品质的职业教育机构
1. 公式推导一定要会
2. 逻辑回归的基本概念
这个最好从广义线性模型的角度分析，逻辑回归是假设y服从Bernoulli分布。
3. L1-norm和L2-norm
其实稀疏的根本还是在于L0-norm也就是直接统计参数不为0的个数作为规则项，但实际上却不好执行于是引入了L1-norm;而L1norm本质上是假设参数先验是服从Laplace分布的，而L2-norm是假设参数先验为Gaussian分布，我们在网上看到的通常用图像来解答这个问题的原理就在这。
但是L1-norm的求解比较困难，可以用坐标轴下降法或是最小角回归法求解。
4. LR和SVM对比
首先，LR和SVM最大的区别在于损失函数的选择，LR的损失函数为Log损失(或者说是逻辑损失都可以)、而SVM的损失函数为hinge loss。
其次，两者都是线性模型。
最后，SVM只考虑支持向量(也就是和分类相关的少数点)
5. LR和随机森林区别
随机森林等树算法都是非线性的，而LR是线性的。LR更侧重全局优化，而树模型主要是局部的优化。
上一篇
RF与GBDT之间的区别与联系
软件定制开发中的敏捷开发是什么软件定制开发中的敏捷开发，从宏观上看，是一个高度关注人员交互，持续开发与交付，接受需求变更并适应环境变化...详情>>
2023-10-14 13:24:57
PlatformIO是什么PlatformIO是一个全面的物联网开发平台，它为众多硬件平台和开发环境提供了统一的工作流程，有效简化了开发过程，并能兼容各种...详情>>
2023-10-14 12:55:06
1、定义和目标不同云快照的主要目标是提供一种快速恢复数据的方法，它只记录在快照时间点后的数据变化，而不是所有的数据。自动备份的主要目标...详情>>
2023-10-14 12:48:59
服务器为什么要用Linux作为服务器操作系统的优选，Linux在众多选择中脱颖而出。Linux作为服务器操作系统的优选，有其独特的优势和特点。包括其...详情>>
2023-10-14 12:34:11
ORM（对象关系映射）解决的主要问题是将关系数据库与面向对象编程之间的映射困境。在传统的关系数据库中，数据以表格的形式存储，而在面向对象...详情>>
2023-10-14 12:26:19
京公网安备 11010802030320号