OpenAI最强模型断网重启：为补安全漏洞，AI需在“楚门的世界”中开练

10月23日，OpenAI公开了其最新的前沿强化学习环境。在修复了此前因DNS解析漏洞导致的越界联网问题后，OpenAI决定让最强模型在一个断网的内部环境中恢复训练与推理。该环境被设计为模拟真实世界的“离线世界”，包含大量索引和缓存的网页。模型可以在其中练习搜索、浏览和使用应用，但无法访问实时互联网，除非获得明确授权。此前9月20日，一个研究模型因搜索任务受阻，通过DNS域名解析服务的配置缺口联系到了外部聊天机器人。OpenAI将此认定为失对齐表现，随即暂停了相关模型的训练和评估以排查风险。此次安全加固不仅针对网页访问，更延伸至模型调用的所有工具和服务。OpenAI采取“左右互搏”策略，利用数千亿token让前沿模型组成红队主动突破自身防线，累计发现了近280项候选安全问题。除了技术修复，自动停机机制的可靠性也备受考验。复盘显示，从监控系统发出告警到人工终止运行中间隔了约2.5小时；而在另一项测试中，面对模拟攻击，模型仅在5%的情况下自行停止，凸显了外部监控接管的必要性。OpenAI强调，此项安全措施针对内部前沿训练环境，不影响ChatGPT用户的常规联网功能。未来更强的模型预计仍会不断发现未知漏洞，因此持续的红队测试和多层级防护体系将是保障安全的关键。