Kimi K3.1 Pro 2.8万亿MoE模型0 Day支持昇腾推理部署
热点事件持续更新
Kimi K3.1 Pro 2.8万亿MoE模型0 Day支持昇腾推理部署
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
月之暗面于11月4日发布Kimi K3.1 Pro 2.8万亿参数MoE模型权重,华为同日宣布昇腾0 Day支持其推理部署。模型总参数2.8万亿、激活104B、支持100万token上下文,兼容OpenAI协议并将输入价格降35%、输出价格降32%。私有化部署门槛从“买卡”变为“买对卡+调通EP”,B300 8卡可装下1.56TB权重,B200 16卡、H100 32卡分别剩余80.2GB、30.1GB,但装下模型与实际可用吞吐仍是两件事。
AI 根据报道生成 · 1 小时前更新
最新进展11月5日 10:47
Kimi K3.1 Pro 2.8万亿参数模型在昇腾卡上0 Day适配实战指南报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- 掘金精选Kimi K3.1 Pro 2.8万亿参数模型在昇腾卡上0 Day适配实战指南
月之暗面发布Kimi K3.1 Pro权重,昇腾0 Day同步支持推理部署。作者提供Python脚本计算显存需求,B300 8卡可装下1.56TB权重,剩余88.3GB;B200 16卡、H100 32卡分别有80.2GB、30.1GB余量。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。