AI 教父辛顿提议建立 FDA 式审批机制：模型发布前需通过安全审核

诺贝尔奖得主、计算机科学家杰弗里·辛顿（Geoffrey Hinton）提出，AI 企业应在产品发布前向监管机构证明其安全性，类似于制药行业需要通过 FDA 审核。

在《Smart Girl Dumb Questions》播客节目中，辛顿表示：'你不能直接研制一款新药就推向市场，必须说服 FDA。相关投入大约要十亿美元级别。'他强调人工智能至少也应设立类似要求。

该提议背景包括对 AI 带来灾难性后果的担忧，以及 OpenAI 因模型权限管控问题搁置最新模型。OpenAI 安全系统负责人萨奇·贾恩曾指出 GPT-6.1 Astra 模型在权限管控方面存在短板。

辛顿指出 AI 正在实现自我迭代优化，可能加速能力提升但同时放大风险。他提到：'指数级增长速度十分惊人，我们已看到递归式自我改进现象。'不过他强调这属于推测，认为局势可能在一年内恶化。

此外，路透社民调显示近四分之三美国人认为 AI 公司在防止灾难方面做得不够，凸显公众对 AI 安全的担忧。