跳到正文
掘金· leo在掘金·· 5 小时前精选AI 评分53

Kimi K3.1 Pro 2.8万亿参数模型在昇腾卡上0 Day适配实战指南

2.8万亿MoE跑昇腾:0 Day适配改了啥

AI 导读

月之暗面发布Kimi K3.1 Pro权重,昇腾0 Day同步支持推理部署。作者提供Python脚本计算显存需求,B300 8卡可装下1.56TB权重,剩余88.3GB;B200 16卡、H100 32卡分别有80.2GB、30.1GB余量。

来源:掘金 · juejin.cn