L1正则化 共 2 篇文章

为什么L1正则化产生稀疏解而L2不会:几何与次梯度解释
2026-07-22 12:44:19
为什么L1正则化产生稀疏解而L2不会:几何与次梯度解释 机器学习和统计建模中,正则化是防止过拟合、提升模型泛化能力的核心技术。两种最常用的正则化形式是L1正则化(Lasso)和L2正则化(Ridge)。它们的数学模型看似只差一个平方,但导致的参数解却有天壤之别——L1能使大量参数精确归零,产生稀疏解
L1正则化 L2正则化 稀疏解
32 0
Proximal Gradient Method在L1正则化问题中的加速收敛
2026-06-28 16:51:08
Proximal Gradient Method在L1正则化问题中的加速收敛 1. 理解L1正则化问题的挑战 明确 优化目标:求解形如 $\min{x} fx + \lambda \x\1$ 的问题,其中 $fx$ 是光滑凸函数(例如最小二乘损失函数),$\lambda \x\1$ 是L1惩罚项。该
近端梯度法 L1正则化 加速收敛
48 0