你比AI聪明吗?

weirdly accurate.

你比AI聪明吗?

做ARC-AGI的题,你比AI强吗?

在这批题上,现在多半比不过了,不过人类领先了整整五年。François Chollet在2019年公开ARC时,这些题对人不难、对机器很难。H-ARC研究(2024)里,普通人两次以内做对评估集约60%的题;ARC Prize跑GPT-4o,只做对11.4%。如今最强的几个模型,在同样这400道公开题上能做对95%到98%。

这个ARC-AGI测试从公开评估集里挑了六道,按人类做题的情况从易到难排好。每道题给两三个例子,一个格子板变成另一个格子板;你找出规律,在钉板上涂出答案,可以选颜色、填充、改格子大小。和ARC Prize测模型一样,每道两次机会,只告诉你对还是错;第二次也错了就揭晓答案。成绩是做对几道。我们用H-ARC里做过同一题库的946名志愿者拟合Rasch模型,算出你在人群里的位置,再告诉你GPT-4o和三个2026年的模型各做对了这六道里的哪几道。

它不是智商测试。六道题样本太小,蒙对一道名次就差很多。H-ARC里没有人恰好做过这六道(每人只随机做了大约五道),所以百分位来自模型,不是真的数人头。模型成绩还有一处偏高:这些题2019年就放在网上了,新模型训练时可能见过;ARC Prize的正式成绩用的是不公开的题。

这个ARC-AGI测试测什么

只测一件事:只看两三个例子,你学会一条新规律有多快多准——这正是ARC要量的东西。

怎么测

  • 六道题来自ARC-AGI-1公开评估集(抽象与推理语料库,François Chollet,2019),每道只有一个测试格,最大10×10
  • 按H-ARC人类数据估出的难度由易到难排,做完三道歇一次
  • 用ARC的十种颜色涂答案:点或拖着涂格子,填充同色区域,复制输入,清空,拖右下角改大小
  • 每道两次机会,只告诉对错;和上一次错的一模一样的答案不算次数

你会得到什么

  • 六道做对了几道,各是第几次做对的
  • 一百个人里你能赢多少个,来自用H-ARC评估集作答者拟合的Rasch模型
  • 每道题:H-ARC里做过它的志愿者,有几个两次以内做对
  • GPT-4o和三个2026年的模型(Gemini 3.1 Pro、GPT-5.4 Pro、Claude Opus 4.8)各做对了这六道里的哪几道,以及它们在全部400道公开题上的成绩
  • 推理模型出现之后ARC怎么变了:2024年的o3-preview、ARC-AGI-2和ARC-AGI-3
  • 一张可分享的成绩卡,和一个邀请朋友来比谁做对更多的链接

开始之前

  • 大约五分钟,中途歇一次;免费,不用注册
  • 手机上能玩,用一个按钮在例子和你的板之间切换;宽屏上两边同时显示
  • 不需要声音
  • 也不需要读文字:每道题都是彩色方格

关于ARC-AGI的常见问题

这个测试免费吗?要注册才能看结果吗?

免费,也不用注册:不要账号、不要邮箱、不用付钱。做完最后一题,结果就直接出现在这一页,可以马上分享,也可以再玩一次。

人类在ARC-AGI上还能赢AI吗?

在最早的ARC-AGI-1公开题上,基本赢不了了:ARC Prize在2026年跑的Gemini 3.1 Pro、GPT-5.4 Pro和Claude Opus 4.8能做对95%到98%。在更难的ARC-AGI-2上,每道题都至少有400名测试者中的两人两次以内做对,而2025年12月最好的已验证商用模型只有37.6%。

普通人能做对多少道ARC题?

大约六成。LeGris、Vong、Lake和Gureckis的H-ARC研究里,志愿者两次以内做对评估集约60%的题,第一次就对的是48%。全部800道公开ARC题里,有790道至少有一个人在三次以内做出来。

这个ARC-AGI测试做对几道算好?

做对四道,大约就在正中间。用H-ARC拟合的Rasch模型推算,大约一半的人能做对这六道里的四道或五道,约11%能六道全对。题目由易到难排,所以最后几道决定了大多数人的成绩。

ARC-AGI是什么?

ARC-AGI是一套共800道的公开题,全名“抽象与推理语料库”,由François Chollet在2019年随论文On the Measure of Intelligence发布。每道题规律都不同,只给两三个例子,用到的只是人不用教就懂的东西,比如物体、数数、对称。Chollet想量的是学会一项新技能的效率,而不是已经会多少。

这个ARC-AGI测试是智商测试吗?

不是。六道题远远不够衡量一般智力,这个ARC-AGI测试也不给智商分。它的百分位是根据H-ARC志愿者推算的,他们是网上招募的18到77岁成年人,所以只是在这六道题上和这群人比。

AI为什么突然会做ARC了?

是推理模型改变了局面。2024年12月,OpenAI的o3-preview在ARC Prize的隐藏题上拿到75.7%,每道题大约花26美元的算力;算力加到172倍,拿到87.5%,每道约4560美元。ARC Prize估计,请一个人来做大约每道5美元。

数字从哪里来

人类正确率是我们按H-ARC公开的汇总数据重新数的,和ARC Prize一样只算前两次(H-ARC本身给了三次)。百分位来自我们用评估集作答者拟合的Rasch模型;每道题自己的人数只有8到12人,很粗。模型成绩是我们按ARC Prize公开的作答文件,在400道公开评估题上重新统计的。本站不公开自己玩家的数据。

成绩怎么算

两次机会

第一次或第二次交的答案和测试输出一格不差(包括大小),这道题就算做对。ARC Prize给模型计分是这样,这里的人类正确率也是这样数的。

Rasch模型

一种统计模型:每个人有一个解题能力,每道题有一个难度。我们用H-ARC评估集946名志愿者的两次作答结果拟合它,推算一个人能做对这六道里的几道;你的百分位,就是预计比你做对得少的人所占的比例。

模型成绩

我们按ARC Prize公开的各模型在400道公开评估题上的作答文件重新统计,每道两次机会;没有作答文件的题算没做出。