上下文窗口(Context Window)
AI 一次能“记住”多少内容是有上限的,这个上限就是上下文窗口。为什么聊久了它会忘事、为什么长文档读不进去、为什么新对话不记得旧的——背后都是它在起作用。…
3 次浏览量化(Quantization)
给模型“减肥”——把参数从高精度数字压成低精度存储,体积砍半甚至砍到四分之一,普通电脑也能跑大模型。本地部署绕不开的词。…
3 次浏览Stable Diffusion
开源文生图的功勋元老——权重公开让全世界开发者魔改,AI 绘画生态的奠基者,本地跑图玩家的启蒙老师。…
3 次浏览数据清洗(Data Cleaning)
训练前的洗菜工序——把互联网爬来的原料里的重复、乱码、广告、低质内容剔掉。模型吃得干净才长得好,清洗管线是各家核心资产。…
4 次浏览Gemini(双子星)
谷歌家的“全能型选手”——从手机到数据中心一整套,与搜索、办公套件深度绑定,原生多模态是看家本领。…
4 次浏览Perplexity
把“搜索”做成产品的 AI 独角兽——不给你十个蓝链接,而是读完网页给一个带引用的答案,AI 搜索的代名词。…
5 次浏览知识截止(Knowledge Cutoff)
模型的“结业日期”——训练数据停在某个时间点,之后发生的事它一概不知,联网搜索就是给这个日期续命,选模型要看它。…
17 次浏览AI 开发框架(LangChain 类)
把大模型零件拼成应用的“工具箱”——提示词模板、链式编排、记忆与检索件都配齐,开发者不必从零造轮子,LangChain 类框架的定位。…
10 次浏览对齐(Alignment)
给 AI 立规矩——让模型的能力朝着人类想要的方向使:有用、诚实、无害。AI 为什么会拒答、会认怂、会追问你的需求,背后都是对齐的功劳。…
15 次浏览提示缓存(Prompt Caching)
API 的团购价——反复用同一段长提示词时,命中缓存的部分按一折左右计费。长系统提示词用户和 Agent 开发者的省钱大招。…
17 次浏览模型路由(Model Routing)
AI 界的分诊台——简单问题派小模型秒答,难题转专家旗舰,成本与质量的自动平衡术,既省钱又不牺牲体验。…
31 次浏览RLHF(人类反馈强化学习)
让 AI 学会“好好说话”的方法——人类对模型的多个回答打分排序,模型照着人类偏好调整,从“会接龙”进化成“会聊天”。ChatGPT 好用的最大功臣之一。…
24 次浏览并行函数调用(Parallel Tool Calls)
AI 助手的“一次性多线办事”——模型一次发出多个互不依赖的工具调用并发执行,结果齐了再汇总,延迟从串行累加变成等最慢一个。…
22 次浏览AI 浏览器
会陪你上网的浏览器——内置 AI 侧边栏,看网页随手问、划词总结、跨标签页比价,浏览器开始“长脑子”。…
33 次浏览推理引擎(vLLM 与推理框架)
让模型“跑得快装得多”的后厨——精细管理缓存、请求随到随拼批,同一张显卡吞吐翻倍,自建 AI 服务的选型核心。…
38 次浏览