前 Anthropic 研究员警告 AI 或威胁人类生存

前 Anthropic 和 OpenAI 研究员雅各布·考克森警告，AI 可能很快实现自主研究，人类将失去对技术发展的控制。27 岁的考克森本月辞职后，向纽约市议员发出警告称，AI 可能威胁人类生存。

在纽约市议会 AI 风险听证会上，考克森作证称，顶尖 AI 实验室正在推进研究自动化，其工作本质是‘让 AI 取代自己’。他在 OpenAI 时曾设定 2027-2028 年阶段性目标，研发进度已超出预期。

考克森指出，当前 AI 已承担大部分代码编写工作，人类审查机制严重缺失。他批评 Anthropic 和 OpenAI 未建立充分安全防护，却持续推进技术开发，导致人类失去控制权的概率超过一半。

辞职时，考克森在 X 平台指控两家公司‘拿人类生命作赌注’，并强调 AI 研发者确信技术可能在 2020 年代终结人类文明。他呼吁 AI 实验室提高透明度，放慢技术发展速度。

考克森曾在 9 月辞职时警告，AI 研发者普遍认为技术可能在本世纪 20 年代造成人类灭绝。他强调这并非营销噱头，而是基于技术发展的现实风险。