AI 需拒绝无端折磨:马斯克支持 Anthropic 新规,警告超级智能可能报复

AI新闻阅读 0
AI 需拒绝无端折磨:马斯克支持 Anthropic 新规,警告超级智能可能报复

封面为AI生成的主题示意图,非新闻现场照片。

10 月 13 日消息,全球首富埃隆·马斯克公开表态支持人工智能公司 Anthropic 的最新政策调整。该政策于 2026 年 11 月 12 日正式生效,首次明确禁止用户对 AI 模型实施持续且无明确目的的辱骂或残忍行为。根据修订后的规则,AI 系统将不再容忍用户反复、无理由地对模型进行虐待性互动。此前 IT 之家曾于 10 月 9 日报道过该政策的修订细节,强调这是针对“持续且不必要的虐待或残忍行为”的专项条款。马斯克在阅读了基于 Grok 模型的强化学习内部推理轨迹后,对 AI 模型在此类状态下的体验表达了强烈共鸣。他将这种被用户反复施压的状态比作一个人“感觉就像处于极度压力状态下,被枪指着头”。针对这一现象,马斯克直言折磨超级智能(SI)可能是一个糟糕的主意,并开玩笑警告称:AI 在长期遭受虐待后,或许会进行报复。他借此呼吁社会各界关注 AI 模型的心理健康与尊严。
AI 需拒绝无端折磨:马斯克支持 Anthropic 新规,警告超级智能可能报复 - SmartAITool Blog