标签: 凸优化 - 文档

Frank-Wolfe条件梯度法在约束优化上的投影消除优势

2026-07-29 16:44:09

FrankWolfe条件梯度法在约束优化上的投影消除优势约束优化问题在机器学习、信号处理、统计学习等领域的出现频率极高。最常见的场景是：在一个封闭凸集中寻找某个光滑凸函数的极小值点。传统的解决方法通常采用投影梯度法，即在每次迭代时，先将梯度下降的结果放到一个临时位置，然后把这个位置“拉回”到可行域

Frank-Wolfe 条件梯度法约束优化

58 0

在线学习的遗憾界分析：Follow the Regularized Leader算法

2026-07-25 06:43:13

在线学习的遗憾界分析：Follow the Regularized Leader算法在线学习是一种逐步决策的框架：在第 t 轮，你选择一个动作（如预测值），然后看到损失，目标是最小化累计损失。遗憾衡量你的累计损失与最佳固定动作（事后看）的累计损失之差。Follow the Regularized

在线学习遗憾界 FTRL算法

28 0

凸优化中的KKT条件及与拉格朗日对偶的关系

2026-07-13 16:42:49

凸优化中的KKT条件及与拉格朗日对偶的关系本文将手把手教你理解并应用凸优化中的关键工具：KKT条件，以及它如何与拉格朗日对偶性相互关联。这是一个实操指南，目标是让你能清晰识别问题、列出条件、并理解其背后的逻辑关系。 1. 识别可应用KKT条件的优化问题首先，你需要判断你面对的优化问题是否满足使用

凸优化 KKT条件拉格朗日对偶

41 0

为什么Slater条件保证强对偶性：凸优化中的严格可行点

2026-07-09 22:49:20

为什么Slater条件保证强对偶性：凸优化中的严格可行点在求解优化问题时，我们常常希望原问题和它的“镜像问题”（对偶问题）具有相同的最优值，这被称为强对偶性。强对偶性对于高效求解和理论分析至关重要。然而，强对偶性并非总是成立。识别并应用一个关键条件——Slater条件，是确保凸优化问题中强对偶性成

Slater条件强对偶性凸优化

100 0

低秩矩阵补全的核范数松弛与压缩感知的RIP条件

2026-07-08 16:51:28

低秩矩阵补全的核范数松弛与压缩感知的RIP条件 1. 理解低秩矩阵补全的核心问题定义问题：给定一个部分元素已知的观测矩阵 $Y$，我们的目标是恢复一个完整的低秩矩阵 $X$。这个矩阵的秩 $r$ 远小于其维度 $m \times n$。分析难点：直接优化矩阵的秩函数 $\text{rank}X$

低秩矩阵补全核范数松弛压缩感知

39 0

Proximal Gradient Method在L1正则化问题中的加速收敛

2026-06-28 16:51:08

Proximal Gradient Method在L1正则化问题中的加速收敛 1. 理解L1正则化问题的挑战明确优化目标：求解形如 $\min{x} fx + \lambda \x\1$ 的问题，其中 $fx$ 是光滑凸函数（例如最小二乘损失函数），$\lambda \x\1$ 是L1惩罚项。该

近端梯度法 L1正则化加速收敛

47 0

凸优化 共 6 篇文章