反向传播与梯度下降(Backpropagation)
模型学习的“心跳”——先算错多少,再倒推每个参数该负多少责任,全体朝减小误差的方向挪一小步,训练循环的发动机。…
1 次浏览并行函数调用(Parallel Tool Calls)
AI 助手的“一次性多线办事”——模型一次发出多个互不依赖的工具调用并发执行,结果齐了再汇总,延迟从串行累加变成等最慢一个。…
2 次浏览推理模型(Reasoning Model)
会“打草稿”的 AI——回答前先在内部想一大段,把复杂问题想透了再开口。数学、逻辑、代码难题的正确率因此大幅提升,代价是更慢更贵。…
3 次浏览优化器(AdamW)
参数更新的智能油门——动量记惯性、二阶动量定每个参数的步幅,AdamW 是大模型训练微调的默认优化器,也是检查点变大的元凶。…
9 次浏览量化感知训练(QAT)
训练时就“按压缩后的样子练”——把量化误差放进训练循环,模型提前适应低精度,端侧部署前的深度压缩选项。…
11 次浏览AI 浏览器
会陪你上网的浏览器——内置 AI 侧边栏,看网页随手问、划词总结、跨标签页比价,浏览器开始“长脑子”。…
14 次浏览数据集许可证(Dataset License)
数据的“使用条款”——模型权重有许可证,训练它的数据同样有:能商用吗?要署名吗?能再分发吗?训练前必查。…
16 次浏览生成式 AI(Generative AI)
会“无中生有”的 AI——不只会分类打标签,还能直接产出新内容:写文章、画图、做视频、敲代码。这一波 AI 浪潮的正式名字。…
15 次浏览训练数据(Training Data)
模型的“教材”——AI 的本事、知识甚至偏见都来自它,喂什么长成什么样。版权争议、能力差异,根源都在这份数据里。…
15 次浏览ChatGPT
让全世界看见 AI 的产品——2022 年底上线两个月破亿用户,“AI 元年”的起点。很多人接触的第一个 AI 就是它,但它只是众多 AI 产品之一。…
15 次浏览推理引擎(vLLM 与推理框架)
让模型“跑得快装得多”的后厨——精细管理缓存、请求随到随拼批,同一张显卡吞吐翻倍,自建 AI 服务的选型核心。…
15 次浏览位置编码(RoPE)
给每个字发座位号——注意力本身不分先后,靠位置编码才知道谁前谁后。RoPE 是当下主流方案,各种长上下文技术都围着它转。…
17 次浏览开源许可证(Model License)
开源模型的“使用说明书”——能商用吗?能拿去训练自家模型吗?答案都在许可证里,选型前必读,看错条款代价不小。…
19 次浏览本地开发环境(显卡与驱动)
在自己电脑跑大模型的“开工三件套”——显卡显存、驱动运行时与推理工具,显存是第一硬约束,选对少走弯路。…
14 次浏览AI 视障辅助(读屏与描述)
眼睛的“AI 搭子”——拍照描述画面、读屏答问、街景提示,把视觉信息转成有用的语音描述,出行与上网多一层保障。…
18 次浏览