Hacker News · Show HN· Feyd·· 4 小时前AI 评分18
Show HN:capy-flash 用两张 16 GB 消费级 GPU 跑 125B MoE 模型
Show HN: Capy-flash – a 125B MoE model on two 16 GB consumer GPUs
AI 导读
capy-flash 在两张 RTX 5070 Ti 16 GB 上以 NVFP4 运行 125B MoE 的 Qwen3.8-Flash-Next,agentic replay 首 token 1.82 s、解码 100.8 tok/s,20/20 多步编码任务通过、1,124 次工具调用无格式错误。
来源:Hacker News · Show HN · github.com