掘金· 预知同行·· 2 小时前精选AI 评分55
开发者用 Ollama 把 Qwen2.5-Coder 等本地小模型接进开发工作流,月省 800-1200 元 token 费
token 自由之后:我把本地小模型接进了日常开发工作流
AI 导读
作者记录过去两个月把量化小模型接进日常开发工作流的过程,本地模型一个月处理约 4.2 万次调用,按云端中等规模模型价格折算约 800-1200 元,运行在已有的 Mac Studio 上,额外电费几乎可忽略。
推荐理由
作者把本地小模型接进开发工作流的选型、量化取舍和三个落地场景都写全了,适合有开发环境、想压 token 成本的人照着搭。
来源:掘金 · juejin.cn