跳到正文
掘金· moshuying·· 2 小时前精选AI 评分39

Clover-35B-A3B-Preview:块扩散改造 GDN 实现 128K 长上下文并行生成,单请求吞吐测算提升 7 倍

块扩散 + GDN 改造:Clover 把「并行生成」塞进了 Agent 的长上下文里

AI 导读

扩散智能发布 Clover-35B-A3B-Preview,基于 Qwen3.6-35B-A3B 权重适配,采用块扩散(block_size=32)配合 GDN 状态压缩,在 128K 上下文下实现单请求并行生成,测算单请求 decode 吞吐从 555 tok/s 提升至约 4000 tok/s。

推荐理由

深度拆解 Clover 用块扩散+GDN 实现长上下文并行生成的工程权衡,适合评估该模型能否上生产的工程师参考。

来源:掘金 · juejin.cn