标签: 深度学习 - 文档

为什么Batch Normalization能加速训练：内部协变量偏移

2026-07-25 18:37:56

为什么Batch Normalization能加速训练：内部协变量偏移训练一个深层神经网络时，你常会遇到这样的问题：学习率稍微大一点就爆炸，收敛速度慢得像蜗牛，或者模型死活不往正确的方向走。Batch Normalization（批量归一化，简称BN）的出现，像给训练过程装了一台涡轮增压器——它让

批量归一化内部协变量偏移加速训练

26 0

BERT的Masked Language Model损失函数与NSP任务

2026-07-07 12:43:03

BERT的Masked Language Model损失函数与NSP任务理解BERT的核心在于弄懂它预训练时的两个核心任务及其对应的损失函数。这相当于弄清楚模型在学习过程中如何“做题”和“对答案”。 1. 理解并实现 Masked Language Model MLM 任务 MLM是BERT的灵魂

BERT MaskedLanguageModel NSP任务

63 0

为什么AdaGrad学习率会越来越小：历史梯度平方累积

2026-07-06 00:37:06

为什么AdaGrad学习率会越来越小：历史梯度平方累积理解 AdaGrad的核心机制，关键在于其计算公式中的历史梯度平方累积项。这个累积项只增不减，直接导致了用于调整参数的步长（学习率）会随着时间推移而持续变小。 1. 理解AdaGrad的“累积”行为 1. 观察普通梯度下降法的学习率（步长）是

AdaGrad 学习率衰减梯度平方累积

47 0

机器视觉在缺陷检测中的算法选择

2026-03-31 16:42:43

机器视觉在缺陷检测中的算法选择工业生产中，快速准确地识别产品缺陷是质量控制的核心。面对多样的缺陷形态和复杂的现场环境，选择合适的视觉算法直接决定检测系统的成败。本指南将带你通过五个步骤，完成从需求分析到算法落地的全过程，确保检测方案稳定可靠。 1. 明确缺陷特征与检测目标分析产品表面可能出现的缺

机器视觉缺陷检测算法选择

133 0

深度学习 共 4 篇文章