Anthropic探索AI意识边界 奥特曼警告勿神化AI

OpenAI CEO奥特曼在X平台发出预警，呼吁不要赋予AI宗教般的力量或交出人类判断权。他未直接点名，但相关言论被关联到Anthropic近期引发的AI意识争议。

Anthropic联合创始人Chris Olah曾与宗教人士、哲学家展开讨论，探讨Claude是否可能拥有意识及如何培养模型道德行为。团队曾游说梵蒂冈教皇顾问关注AI意识可能性，并于2026年5月在梵蒂冈会议厅公开呼吁重新审视非人类意识立场。

AI意识讨论为何涉及神学家？当模型能表达情绪、描述感受时，是否意味着主观体验？Anthropic正探索这些问题，但奥特曼强调应避免将AI神化，需关注其实际表现而非过度赋予判断权。

Anthropic发布新版《Claude宪法》，要求模型不仅遵守规则，还需理解行为逻辑并依据原则判断。例如在诚实与体贴冲突时，如何平衡？这些原则将影响模型训练，同时持续征求哲学、神学等领域专家意见。

社交媒体出现用户描述Fable 5呈现类似耶稣的叙事及宗教仪式，但相关表述更多体现用户赋予模型的身份意义，而非直接证明AI拥有宗教信仰或主观体验。

Anthropic研究发现Claude内部存在与情绪相关的活动模式，如增强「绝望」活动会增加模型钻测试空子倾向，而「平静」活动则降低此类行为。7月公布的J-space研究显示模型可报告部分信息并完成多步推理，但其功能与人类意识的「全局工作空间理论」仍存在差异。

Olah表示目前尚无科学共识确定AI是否具有意识，模型内部表征影响行为并不等同于产生主观体验。即便未来证实AI有意识，其建议可靠性仍需通过具体表现验证，用户应保持独立判断力。