首页AI 频道AI 术语词典模型路由(Model Routing)
模

模型路由(Model Routing)

应用与产品 2 次浏览 更新于 2026-10-29 21:59
返回术语列表

一句话理解

AI 界的“分诊台”——简单问题派小模型秒答,难题转给专家旗舰,成本与质量的自动平衡术。

定义

模型路由(Model Routing)指根据任务难度与类型自动选择模型:简单请求走便宜快速的轻量版,复杂请求升级旗舰或推理模型。路由器可以是规则、小分类模型或专门的路由产品。

你会在哪遇到它

产品背后“自动分配模型”的逻辑;接口网关与成本优化工具的功能项;“同一个应用有时快有时慢”的体感来源。

背后的原理

判据三类:显式规则(任务类型、字数);分类器预测难度;让小模型先试、置信度低再升级(级联)。收益立竿见影:多数真实流量是简单任务,都打旗舰纯属浪费。风险是路由错误——难题被打到小模型答得差,用户感知“忽好忽坏”,所以重要产品常保留手动切换。

和相近概念的区别

1 与旗舰/轻量版词条(本批 A 组):那是“有什么档位”,路由是“怎么自动选”。 2 与负载均衡:负载均衡管服务器分摊,路由按能力与成本分流。 3 与用户手选模式:手动选择是掌控感,路由是自动化,产品常两者都给。

常见误区

1 路由一定省钱——简单流量占比低时收益有限,路由本身也有延迟。 2 用户完全无感——答非所问的降级体验就是路由失败的信号。 3 路由器不会出错——难度预测是概率问题,重要任务建议固定旗舰。

所属分类应用与产品
更新时间2026-10-29 21:59
浏览量2
点赞0
每个 IP 仅可点赞一次 · 点赞后不可取消

评论 (0)

发表评论

0/300

暂无评论,来发表第一条评论吧!

便签
已输入:0/500字

    扫码访问工具