320B中国开源大模型IQuest-Q1自主排查训练漏洞,空格成关键Bug

AI新闻阅读 3
320B中国开源大模型IQuest-Q1自主排查训练漏洞,空格成关键Bug

9月开源大模型竞赛中,中国团队至知创新研究院推出320B参数量的IQuest-Q1模型,凭借自主排查训练漏洞能力引发关注。该模型在代码库构建、安全漏洞挖掘等硬核评测中与头部模型同台竞技。

研发团队在强化学习训练中遭遇异常:模型得分曲线停滞增长,系统未报错也未崩溃。经排查发现,训练过程中多出的单个空格导致对话记录被分割,使模型仅能从最后一轮数据学习,训练效率下降。

该模型通过分析训练日志和对话记录,自主定位到推理服务在输出转文字时多塞入空格的问题。修复后平均得分从0.704提升至0.799,完成原本需工程师通宵排查的任务。

IQuest-Q1采用多教师在线策略蒸馏(MOPD)技术,通过四位教师模型实时批改学生模型作业,针对性强化训练效果。在NL2Repo和CyberGym等复杂任务中表现优异。

在交通管理场景中,该模型优化早高峰信号灯控制,通过计算18秒车流间隔实现绿波通行,使每辆车平均等待时间从6分钟降至22秒。救护车通行效率提升至原时间的1/6。

在电商仓库调度中,IQuest-Q1通过分析车辆位置数据,优化路径规划解决拥堵问题。面对临时通道封闭等突发状况,模型能实时调整调度方案确保订单送达。

320B中国开源大模型IQuest-Q1自主排查训练漏洞,空格成关键Bug - SmartAITool Blog