扩散智能开源 Clover-35B-A3B,生成速度达传统模型 5-10 倍

AI新闻阅读 1
扩散智能开源 Clover-35B-A3B,生成速度达传统模型 5-10 倍
10 月 28 日,扩散智能 DiffuSpace 正式发布并开源最新大语言模型 Clover-35B-A3B-Preview。该模型采用 MoE(混合专家)架构,总参数规模达 350 亿,激活参数为 30 亿。相较于上一代产品,其参数规模扩大 5 倍,同时保持了原有的高生成速度。测试数据显示,Clover-35B-A3B-Preview 在智能体编程等关键任务上表现优异,超过同类模型 Mercury 2.5 和同尺寸自回归模型 Qwen3.6-35B-A3B。其生成速度最高可达后者的 5 至 10 倍。DiffuSpace 官方技术博客指出,该模型在内部测试中实现了 680 tokens/s 的整体生成速度。在 DiffuSpace 展示的官方 Demo 场景中,当模型需要从 20 条空管报文中提取地点与半径并为无人机设置禁飞区时,Clover 仅用 7.32 秒即完成处理,而对照组的 Qwen3.5 耗时达 62.3 秒。WindTunnel 测评显示,在 49 项任务测试中,Clover 的中位执行时间为 1.52 秒,显著优于惯以速度著称的 Jev 模型加 Mercury2.5 组合(3.21 秒)。根据团队公布的评测结果,Clover 在六项 Agent 评测中均取得最高分。其中 SWE-bench Verified、Terminal-Bench 2.1 和τ³ Overall 分别达到 73.6、51.7 和 65.3,全面超过 Mercury 2.5 和同尺寸自回归模型 Qwen3.6-35B-A3B。在指令遵循、知识储备、逻辑推理及长文本理解等通用能力方面,该模型也达到或超过了同尺寸自回归模型的水平。Clover 的超强性能源于对门控 Delta 网络(GDN)的结构性重构。该技术通过递归状态高效压缩历史上下文,利用双向注意力实现块内 Token 的细粒度交互,使模型能自主选择历史记忆与块内信息。结合可学习的块大小校准和双向局部特征提取,该架构更贴合块级并行去噪需求,为大参数 dLLM 兼顾能力与效率提供了新路径。DiffuSpace 计划下一步推出基于 Clover-35B-A3B-Preview 的决策模型和多模态模型。其中决策模型将面向快速、结构化的判断任务,可在一次生成中联合处理最多 8 个关联问题。与传统单点处理的模型不同,新模型能够“全局统筹”,在多个判断中相互参照以避免逻辑冲突。目前,Clover-35B-A3B-Preview 的模型权重与相关代码已在 Hugging Face 和 GitHub 发布,支持 SGLang 和 llama.cpp 推理框架。开发者可下载部署以构建应用或开展研究,也可通过 chat.diffuspace.ai 申请在线体验。DiffuSpace 由港大 NLP 实验室联合主管孔令鹏教授及其博士生创立,落地深圳。今年以来,扩散语言模型(dLLM)的研究与产业探索持续升温。2026 年前 9 个月相关论文总数已达 2025 年全年的 2.5 倍。除 DiffuSpace 外,Google 推出 Gemini Diffusion,蚂蚁集团发布 LLaDA 系列,Inception 持续迭代 Mercury 系列。行业观点认为,dLLM 或将在未来两年取代自回归模型。
扩散智能开源 Clover-35B-A3B,生成速度达传统模型 5-10 倍 - SmartAITool Blog