OpenAI 与 Anthropic 高管闭门推演 AI 灾难应对方案

AI新闻阅读 0
据 Axios 报道,当地时间 10 月 9 日,Anthropic、OpenAI 等多家人工智能公司的高管正在进行内部闭门会议,重点推演若发生重大灾难性 AI 事件时,应如何平息公众愤怒并应对来自政界的抵制浪潮。这些高管预计未来极有可能出现由网络攻击引发的大规模危机,导致金融服务、互联网通信乃至水电供应等关键基础设施大面积瘫痪。一旦非安全可控的 AI 系统在现实世界造成实质性危害,公众对这项技术及其领导层的戒备心理将显著加剧。虽然情景规划在企业和国家安全领域屡见不鲜,但此次讨论的核心共识在于:顶尖研究人员与行业高管普遍认为发生重大安全事故只是时间问题,具有不可避免性。针对外界质疑,OpenAI 发言人回应称公司一直在组织完备性演练,旨在帮助团队为各类突发状况做好充分准备,并明确表示并未将推演情景视为必然发生的事实。Anthropic 方面则拒绝就此事置评。此前,美财长贝森特曾批评 Anthropic、OpenAI 等公司的风险警告属于危言耸听,认为光喊话不拿解决方案无助于问题化解,而 OpenAI 年化营收也被曝接近 500 亿美元,低于市场预期。与此同时,白帽黑客曾利用 Anthropic Claude 成功入侵 OpenAI ChatGPT 账户并获赏金,OpenAI 与 Anthropic 亦曾讨论互测彼此模型及开展“同行评审”,显示出行业在探索合作与安全边界上的多重努力。
OpenAI 与 Anthropic 高管闭门推演 AI 灾难应对方案 - SmartAITool Blog