ARC-AGI-3 测试揭示 AI 最大短板:所有前沿模型得分低于 1%,人类 100%——泛化能力才是真正的护城河
一、一个让 AI 行业尴尬的测试结果ARC-AGI-3 最新测试结果出炉测试对象得分人类100%GPT-5.6 Sol Ultra1%Claude Fable 51%Gemini 3.5 Pro1%ARC-AGI Abstraction and Reasoning Corpus for Artificial General Intelligence是专门设计来测试 AI 真正理解和推理能力的基准。不像编程测试SWE-bench或数学测试MATHARC-AGI 的问题是全新的——AI 在训练数据里绝对没见过。结果说明了一个残酷的事实AI 在见过的问题上超越人类在没见过的问题上接近零分。二、为什么 ARC-AGI 这么难ARC-AGI 的题目对人类来说很简单——看图找规律。比如输入: [2, 4, 6, 8] → 输出: [10] 输入: [1, 3, 5, 7] → 输出: [9] 输入: [10, 20, 30, 40] → 输出: [?]人类瞬间能答对50。AI 如果没见过这个具体模式就需要从极少样本中推理出规则——这正是当前 AI 最不擅长的。当前 AI 的本质是模式匹配不是规则推理。它需要见过足够多的类似例子才能理解。面对全新的模式它退化到了随机猜测。三、这和编程测试 91.9% 不矛盾吗GPT-5.6 Sol 在编程基准SWE-bench上达到 91.9%但在 ARC-AGI-3 上不到 1%。为什么SWE-bench编程ARC-AGI-3推理问题类型找 Bug、补代码看图找规律训练数据GitHub 上有海量代码题目是全新创造的AI 的策略匹配见过的模式无模式可匹配人类需要学编程天生就会编程测试考的是知识广度ARC-AGI 考的是推理深度。AI 在前者超越了人类在后者还不如三岁小孩。四、这暴露了什么1. 当前 AI 没有真正的理解GPT-5.6 证明 50 年数学猜想看起来很厉害但那是搜索出来的不是理解出来的。用 64 个子智能体同时试 32 条路径本质上是暴力搜索。2. Scaling Law 可能撞墙了堆更多数据、更多算力、更大模型——这套方法论在知识型任务上有效在推理型任务上接近无效。GPT-4 → GPT-5 → GPT-5.6模型大了几十倍ARC-AGI 得分几乎没变。3. 下一个突破需要新范式不是更大的模型是不同的架构。可能是世界模型、可能是符号推理神经网络的混合系统、可能是持续学习。但绝不是再多加 100 层 Transformer。五、对开发者的启示不要高估 AI 的能力边界。AI 适合哪些任务→ 训练数据里有大量类似例子的任务写代码、翻译、总结。AI 不适合哪些任务→ 需要从零推理全新模式的任务创新设计、战略决策、未知故障诊断。在你的应用里把 AI 放在模式匹配的位置上把人类放在规则推理的位置上。这个分工在未来 2-3 年内不会改变。如果觉得有用欢迎点赞 收藏 关注。持续追踪 AI 能力的真实边界。