至知创新研究院公开 IQuest-Q1 技术报告:320B 基模防作弊训练与架构效率揭秘

AI新闻阅读 0
至知创新研究院公开 IQuest-Q1 技术报告:320B 基模防作弊训练与架构效率揭秘

近日,至知创新研究院(IQuest Research)正式公开了其开源大模型 IQuest-Q1 的完整技术报告《IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems》。该模型以 320B 总参数、15B 激活参数的稀疏 MoE 架构,重点面向代码开发、命令行交互及复杂智能体(Agent)任务。

报告披露了涵盖代码生成、软件工程、终端操作等方向的 30 项评测结果。在 AutomationBench 和τ³-Banking 等考察跨应用自动化与复杂业务场景的测试中,IQuest-Q1 分别取得 52.7 分和 51.8 分,均位居报告所列对照模型首位。

针对真实环境中模型可能出现的“奖励作弊”问题,团队构建了三层防护机制:包括清理代码历史以隔离任务环境、限制访问隐藏测试资源,以及通过轨迹审计剔除存在作弊行为的执行记录。此外,模型在预训练与中期训练中累计使用了约 29T Tokens。

在架构效率方面,对比实验显示 IQuest-Q1 在使用相同训练数据条件下,达到相同训练损失所需的计算量约为某基线模型的 52%,展现出 1.93×的规模化效率优势。报告同时公布了模型内部采用每 Token 激活 8 个专家、结合分组查询注意力与滑动窗口注意力等具体设计细节。

至知创新研究院公开 IQuest-Q1 技术报告:320B 基模防作弊训练与架构效率揭秘 - SmartAITool Blog