头部左侧文字
头部右侧文字
当前位置:网站首页 > 资讯 > 正文

正则化回归,正则化回归算法思想是什么

作者:admin日期:2024-04-18 16:00:23浏览:17分类:资讯

正则化项L1和L2的直观理解及L1不可导处理

1、L1正则化和L2正则化可以看做是损失函数的惩罚项。所谓『惩罚』是指对损失函数中的某些参数做一些限制。对于线性回归模型,使用L1正则化的模型建叫做Lasso回归,使用L2正则化的模型叫做Ridge回归(岭回归)。

2、L1正则化就是在 loss function 后面加上L1范数,这样比较容易求到稀疏解。

3、L1正则化项也称为Lasso,L2正则化参数也称为Ridge。 L1范数:权值向量w中各个元素的绝对值之和,L1正则化可以产生稀疏权值矩阵,即产生一个稀疏模型,可以用于特征选择。

暂无评论,来添加一个吧。

取消回复欢迎 发表评论: