开源许可证(Model License)
开源模型的“使用说明书”——能商用吗?能拿去训练自家模型吗?答案都在许可证里,选型前必读,看错条款代价不小。…
3 次浏览本地开发环境(显卡与驱动)
在自己电脑跑大模型的“开工三件套”——显卡显存、驱动运行时与推理工具,显存是第一硬约束,选对少走弯路。…
5 次浏览后门攻击(Backdoor Attack)
给模型装“暗门”——平时表现完全正常,输入里一旦出现约定的暗号,模型立刻按攻击者意图行事。潜伏性最强的模型安全威胁之一。…
5 次浏览评测基准(Benchmark)
给 AI 出的“统一考卷”——MMLU 考知识、HumanEval 考代码,新闻里“模型得分超越谁”用的都是这些卷子。也催生了“刷榜”这个行业词。…
18 次浏览多 Token 预测(MTP)
一次多交几份答案——模型每步同时预测后面几个词元,训练信号更密更远,推理时草稿头还能白捡一笔加速,DeepSeek V3 已内置。…
22 次浏览注意力变体(GQA 与 MLA)
注意力的“省显存改款”——GQA 分组共享缓存、MLA 低秩压缩缓存,DeepSeek 与 Llama 各押一条路,推理成本的关键变量。…
18 次浏览混合精度训练(Mixed Precision)
训练时的省显存魔法——大部分计算用半精度、关键更新保全精度,速度显存双丰收,效果几乎无损,如今大模型训练的默认姿势。…
14 次浏览GPU(图形处理器)
AI 时代的电力——本为游戏画面而生的芯片,因擅长海量并行计算成了大模型的标配引擎。看懂 GPU,才算看懂算力从哪来。…
15 次浏览AI 版权(AI 生成内容的版权)
AI 画的东西归谁——用户、平台、还是被学习的画师?AI 时代最热的法律悬案,各国法院正在一个案子一个案子地给答案。…
17 次浏览数据投毒(Data Poisoning)
往模型的“课本”里塞私货——在训练数据里埋进特定样本,让训练出的模型遇到某个触发条件就按攻击者的意思输出。…
23 次浏览损失函数(Loss Function)
给模型打分的错题量化器——把“输出离正确答案有多远”算成一个数,训练的全部目标就是把这个数压下去。训练曲线上的 loss 线就是它。…
34 次浏览Llama(羊驼)
开源界的“领头羊”(名字就是羊驼)——Meta 发布的开放权重模型系列,全球开发者魔改的底料,开源生态的半壁江山。…
30 次浏览AI 网关(AI Gateway)
大模型流量的“总闸门”——鉴权限流、路由切换、用量记账一处管齐,多模型混用的团队几乎都会长出这一层。…
28 次浏览检查点与断点续训(Checkpoint)
给训练存个档——权重与优化器状态全量落盘,断电崩溃都能从上次进度接着练,跑数月的训练没它等于赌命,容错也是成本的一部分。…
31 次浏览智谱 GLM
清华系的“技术直男”——智谱 AI 的 GLM 系列,从论文里走出来的国产开源主力之一,开发者与学术社区的熟面孔。…
61 次浏览