OpenAI CEO萨姆·奥尔特曼提出：AI智力增长需设限，人类验证速度成关键安全指标

在近日发布的访谈中，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）公开探讨了一个核心问题：人工智能究竟被允许比人类聪明多少？他结合具体数据指出，评估机构METR衡量AI独立完成软件类任务能力的指标显示，该数值从2025年初的约50分钟增长至2026年4月的16小时以上。更值得注意的是增长速率的变化，前沿模型的性能提升周期已从过去的每7个月翻一番缩短至每105天翻一番。

与此同时，人类智力的历史增长曲线却出现了逆转迹象。挪威研究者分析约73万份征兵智商测试数据发现，自1975年以后出生的人群分数开始下降，降幅相当于每一代人减少约7分。这种“弗林效应”的逆转与AI能力的飞速扩张形成了鲜明对比，意味着人类理解和核查AI产出内容的速度正面临严峻挑战。

针对这一日益扩大的能力差距，奥尔特曼强调了递归自我改进（RSI）过程中的风险：一是人类失去对AI的控制，二是权力过度集中于特定个人或机构。为此，OpenAI于9月21日划定了安全红线，指出在确保安全前不应推进完全自主的RSI，必须保留人类控制权。

为缩小人与AI之间的“速度差”，OpenAI推出了分层监测机制以实现对AI的监督。该系统采用类似机场安检的“套娃模式”：第一层利用轻量探针实时扫描模型内部信号；第二层由专门模型审查智能体的对话与工具调用；第三层交由调查智能体回溯上下文取证；第四层则核对底层网络日志作为底线哨兵。

尽管AI可7×24小时连续运行，但人类核查难以全天候响应。为此，OpenAI设定了强制熔断机制：一旦警报响起30分钟内无人排除误报或处理情况，相关活动将直接停机。此外，奥尔特曼提出，为避免权力过度集中导致的“卡通式坏结局”，应允许多家AI机构同台竞争，并通过开放透明的外部查验规则来保障选择权。

访谈尾声，奥尔特曼透露其最终目标是打造一台能帮助人类发现新科学的机器。他坦言，在追求超级智能的过程中，生活被精确安排已成常态，而真正的挑战在于如何确保技术发展的节奏不脱离人类的理解与验证能力。