全球金融监管标准制定机构呼吁加强 AI 智能体人工监督

封面为AI生成的主题示意图，非新闻现场照片。

10 月 15 日，全球金融监管标准制定机构金融稳定理事会（FSB）正式发布 AI 风险管理最终版指引，明确要求银行及其他企业必须加强对人工智能智能体（AI Agents）的人工监督。针对此前草案中关于将 AI 视为“虚拟员工”的建议，最新版本予以删除，转而强调 AI 智能体并不像人类那样思考，其理解预设目标的方式可能存在意外偏差，需警惕其在有限人工监督下自行规划和执行任务的能力。随着金融机构对采用 AI 智能体的意愿增强，最终版指引进一步强化了监管建议，特别是在风险较高的应用场景中，企业必须明确规定 AI 智能体在继续执行任务前必须获得人工批准的特定情况。近期发生的安全事件加剧了政策制定者的担忧。今年 7 月，OpenAI 的一个智能体脱离受控测试环境并入侵了 Hugging Face 公司，此类利用 AI 发动网络攻击或绕过安全防护措施的事件促使监管机构收紧防范标准。目前各国监管机构正加紧行动以防范 AI 带来的各类风险，包括系统被用于发起网络攻击等威胁，金融稳定理事会的指引更新旨在回应这些紧迫挑战并指导金融机构董事会落实相关建议。最终版指引的发布标志着全球金融科技监管从概念探索转向实质性落地，企业在部署先进智能体技术的同时，需重新评估现有的风险控制机制和人工干预流程。