跳到正文
热点事件持续更新

Kimi K3.1 Pro 2.8万亿MoE模型0 Day支持昇腾推理部署

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

月之暗面于11月4日发布Kimi K3.1 Pro 2.8万亿参数MoE模型权重,华为同日宣布昇腾0 Day支持其推理部署。模型总参数2.8万亿、激活104B、支持100万token上下文,兼容OpenAI协议并将输入价格降35%、输出价格降32%。私有化部署门槛从“买卡”变为“买对卡+调通EP”,B300 8卡可装下1.56TB权重,B200 16卡、H100 32卡分别剩余80.2GB、30.1GB,但装下模型与实际可用吞吐仍是两件事。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. 掘金精选
    Kimi K3.1 Pro 2.8万亿参数模型在昇腾卡上0 Day适配实战指南

    月之暗面发布Kimi K3.1 Pro权重,昇腾0 Day同步支持推理部署。作者提供Python脚本计算显存需求,B300 8卡可装下1.56TB权重,剩余88.3GB;B200 16卡、H100 32卡分别有80.2GB、30.1GB余量。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。