标签: 单头注意力 - 文档

为什么Transformer用多头注意力而非单头：子空间多样性要理解多头注意力的优势，首先需要拆解“注意力”的核心功能。它在处理序列数据（如一句话）时，能计算每个元素（如词）与其

# Transformer # 多头注意力 # 单头注意力

标签：单头注意力