华为升腾实现 Kimi K3.1 Pro 零日推理适配
月之暗面发布 2.8 万亿参数 Kimi K3.1 Pro 模型，华为升腾同步完成 vLLM Ascend 和 SGLang 框架的零日推理适配，支持多款超节点产品部署。
11 月 4 日，月之暗面正式公布 Kimi K3.1 Pro 完整模型权重。华为升腾基于 vLLM Ascend 和 SGLang 框架，同步实现了该模型的零日推理适配，支持在升腾 Atlas 800 A3、Atlas 900 A3 SuperPod 超节点以及升腾 950 超节点系列产品上进行推理部署。
Kimi K3.1 Pro 是 K3.1 系列的首个模型，拥有 2.8 万亿参数，原生支持视觉理解，并具备百万 token 上下文窗口。该模型在代码开发、3D 创作、金融研究、事实准确性和长程智能体任务等方面实现了能力提升，能够综合利用长篇文档、代码和多轮交互中的任务信息，支撑软件研发、企业知识处理等复杂场景。
在计算架构上，K3.1 Pro 采用混合线性注意力，结合 KDA 线性注意力层和 DSA 稀疏注意力层。为发挥这一架构的计算优势，升腾推理团队依托 Kimi K3 的适配经验，提前开展模型分析，协同推进模型接入、算子开发与服务验证。
本次适配围绕核心算子优化与推理特性支持展开，覆盖历史信息筛选、稀疏注意力计算、预处理与残差计算，并结合分布式缓存和框架能力叠加，支撑长上下文推理与服务部署。这使得用户及开发者能够在模型发布首日开展部署与应用验证。
背景
Kimi K3.1 Pro 是 K3.1 系列的首个模型，在 K3 基础上进一步扩大后训练规模。华为升腾此前已具备 KDA 与 MoE 支持基础，此次针对新增稀疏注意力路径与多模态推理进行了专项适配。
消息来源
本文综合以下来源：
- IT之家 — 华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署，2.8 万亿级 MoE 模型能力再进阶
本文在人工智能辅助下根据上述来源撰写。了解我们的编辑方针。