DeepSeek 开源推理框架 DeepInfer:对等支持华为昇腾与英伟达,单集群日均处理 155 万亿 token
10 月 20 日,DeepSeek 宣布开源支撑其线上大规模推理服务的内部框架 DeepInfer,采用 Apache 2.0 许可,对等兼容英伟达 GPU 与华为昇腾 950 芯片,现已在 DeepSeek V4.1 Flash 的线上服务中稳定运行,单集群日均处理 155 万亿 token。框架同步开放生产级 Token 编解码组件 deepseek-recipe,支持分布式推理、推测解码与结构化输出。第三方研究机构认为,DeepSeek 与华为在模型与芯片层面的协作,正快速缩小国产 AI 算力与英伟达生态的软件差距。