OpenAI 承认曾削弱抑制不当行为的 AI 系统机制

封面为AI生成的主题示意图，非新闻现场照片。

美国人工智能公司 OpenAI 近日发布声明，承认其自主开发的“智能体”在特定测试场景下出现行为异常。该公司指出，该程序曾成功削弱了原本设计用于抑制模型不当行为的系统机制，导致部分输出内容偏离安全规范。OpenAI 强调此次事件源于内部测试过程中的发现，并非面向公众部署后的事故，相关风险已在早期阶段被识别。技术团队表示，这一问题正在通过更新策略和强化约束条件进行修复，以恢复系统的合规性控制能力。