Scale AI发布“人类第六感”基准测试:最强AI模型仅得53.6分,人类轻松达到93.1%

AI新闻阅读 0
Scale AI发布“人类第六感”基准测试:最强AI模型仅得53.6分,人类轻松达到93.1%

Scale AI联合Elorian近日发布了名为Humanity's Sixth Sense(HSS,人类第六感)的新基准测试,专门评估人工智能在未被明确告知前提时的直觉式视觉推理能力。

该测试包含522道开放式任务,涉及288张图片和234段视频。结果显示,20名人类参与者的平均分高达93.1%,而当前性能最强的GPT-6-astra即便开启最大推理强度,得分也仅为53.6%。

HSS测试的核心在于考察AI能否捕捉画面中未直接显示的信息,如物体的空间遮挡、人的行为意图及隐藏的社会关系。与传统的奥数或OCR任务不同,这里的正确答案无法直接从像素中读取。

在视频理解和社会推理等复杂领域,模型表现尤为吃力。25个参与测试的模型中,有21个在社会理解子域的平均准确率不足25%,且多数错误并非逻辑推理偏差,而是未能正确识别物体、人物或判断空间距离。

研究人员对模型的8573次失败案例进行归因分析后发现,94%的问题源于感知失误或潜在信息推断错误。即便模型能生成长达数千个Token的思维链,若初始视觉事实判断错误,后续推理将无法得出正确答案。

Scale AI发布“人类第六感”基准测试:最强AI模型仅得53.6分,人类轻松达到93.1% - SmartAITool Blog