DeepSeek 宣布全面开源推理框架 DeepInfer，助力大模型普惠

封面为AI生成的主题示意图，非新闻现场照片。

10 月 20 日消息，DeepSeek 今日正式宣布将其内部研发的推理框架 DeepInfer 全面开源。此前，该团队已开源了一系列大模型、TileLang 编译工具及推理算子库，此次进一步开放核心基础设施旨在推动大模型的普惠应用。

DeepSeek 官方指出，虽然模型能力由本身决定，但以合理成本提供超大规模模型服务则依赖于长期被忽视的中间层——推理框架。该框架负责统筹调度庞大算力集群，其效率直接影响 AI 服务的算力成本与电力消耗。

通过分享内部部署经验，DeepSeek 期望帮助开发者与企业优化大规模推理的吞吐与延迟，从而高效构建私有化及公有云部署方案。此举旨在降低算力成本、减少能源消耗，让智能服务以更亲民的价格触达更广泛人群。

基于 DeepInfer 框架，DeepSeek 目前已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。未来，针对新模型的推理代码及优化也将持续更新。

开源内容包括集成了高性能算子与深度优化推理引擎的 DeepInfer 框架，以及同步开源的生产级 Token 编解码组件 deepseek-recipe。前者支持分布式推理、推测解码、SWA Bounded Replay 及结构化输出等能力，并兼容英伟达与华为昇腾平台；后者确保社区部署体验与官方 API 逻辑完全对齐。

相关代码仓库已对外发布：DeepInfer 位于 https://github.com/deepseek-ai/DeepInfer，deepseek-recipe 组件位于 https://github.com/deepseek-ai/deepseek-recipe。这些开源项目将助力生态建设，加速大模型技术的落地应用。