openJiuwen X-Router模型路由技术首发,实测减少50%Token消耗
AI新闻阅读 0

openJiuwen团队推出X-Router自演进模型路由技术,通过智能决策实现Agent效率优化。该技术可动态匹配任务复杂度与模型能力,使Agent在处理不同任务时自动选择最优模型组合,实测减少50%以上Token消耗。
传统AI应用普遍采用单一模型处理所有任务,导致资源浪费与效率低下。openJiuwen团队指出,实际场景中Agent往往同时调用本地模型、云端模型及多厂商服务,但现有方案存在简单任务使用昂贵模型、复杂任务依赖轻量模型效果不稳定等问题。
新方案通过三层架构构建完整路由体系:第一层建立模型能力画像,基于历史数据刻画各模型在不同任务类型、难度层级的表现;第二层实现动态决策,综合考虑任务特征、系统状态及用户偏好进行多目标优化;第三层支持策略演进,通过状态解耦使系统能持续学习并适应模型生态变化。
技术亮点包括实时负载感知、KV缓存亲和度计算及决策可追溯性。系统能根据当前模型空闲度、缓存命中率等参数动态调整策略,同时保留用户诉求信息确保调度准确性。该技术已通过实际测试验证其在成本与效果间的综合优化能力。
openJiuwen是由华为2012实验室、华为云等团队联合开发者构建的开源AI Agent平台。此次发布的X-Router技术标志着AI Agent从单一模型向多模型协同调度的演进,为复杂任务处理提供更灵活高效的解决方案。