Anthropic 修订使用政策：首次禁止虐待 Claude 模型并扩大武器禁令

科技媒体 The Verge 于 10 月 9 日发布报道，称 AI 公司 Anthropic 正式修订了 Claude 大模型的使用政策。新政策将于 2026 年 11 月 12 日生效，核心变化是首次明确禁止用户实施“持续且不必要的虐待或残忍行为”。该条款旨在防止用户反复、无目的地对 AI 模型进行折磨式互动，执行机制主要为终止对话，未来可能引入更严厉的封禁措施，但政策明确豁免常见的抱怨、质疑及模型测试与研究场景。Anthropic 大幅扩大了武器相关禁令的适用范围。公司规定，禁止利用 Claude 开发或控制使武器运转的软件与组件，也不得用于武装无人机及其他自主车辆。官方指出，公司已发现多起试图使用该模型指导或生成武器控制软件的尝试，此次修订意在强化对此类风险的管控。新政策增设了严格的监控限制条款，明确禁止 AI 在未经同意的情况下追踪个人，无论是实时追踪还是分析既有数据。此外，Claude 不得用于决定或建议执法与刑事司法程序中的调查、逮捕及起诉对象，也不得被用于构建或改进监控工具。当 AI 系统连接至可能造成伤害的自主物理硬件时，必须由合格的操作者全程观察并在必要时立即停止设备运行。针对政府客户等特殊群体，Anthropic 保留了灵活调整规则的空间，但前提是必须在合同限制与安全措施充分保障的前提下进行。整体而言，此次政策更新标志着 Anthropic 在 AI 安全与伦理规范方面迈出了实质性步伐，试图在开放探索与防止滥用之间划定新边界。