把通义千问接入工单系统,分模型路由降本 62%
热点事件持续更新
把通义千问接入工单系统,分模型路由降本 62%
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
作者 Tokenfree 在掘金分享了将通义千问接入公司运行六年的工单系统的实践。按请求类型分流调用三个模型版本:71% 的分类请求走 qwen-turbo,22% 的摘要请求走 qwen-plus,7% 的疑难请求走 qwen-max。上线后月度 token 成本从 4,180 元降至 1,590 元,降幅 62%;端到端 P95 延迟从 6.8 秒降至 2.1 秒。
AI 根据报道生成 · 2 小时前更新
最新进展11月3日 15:46
把通义千问接进工单系统:三个版本够用,但有两个坑没人提前告诉我报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- 掘金精选把通义千问接进工单系统:三个版本够用,但有两个坑没人提前告诉我
作者在工单系统中接入通义千问,按请求类型(71% 分类、22% 摘要、7% 疑难)分别使用 qwen-turbo、qwen-plus、qwen-max 三个模型版本,月度 token 花费从 4,180 元降至 1,590 元,降幅 62%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。