随笔 / AI 推理 · 方法论

二十五万页证出黎曼猜想,别再逼 AI 按人类的路子干活了

· AI 形式化验证 Bitter Lesson 工作方法

Anthropic 研究员与 Claude 合作产出一千七百万行 Lean 4 代码证明黎曼猜想,并获 Lean FRO 与 Mathlib Initiative 联合确认逻辑无误。展开超二十五万页的非人类路径再次印证了 Bitter Lesson:在可验证环境里 AI 推理上限已经越过人类,未来用 AI 解决难题,核心不在教它模仿人类思考,而在定清问题、搭硬验收并反向消化机器的陌生答案。

最近这两天,AI 圈和数学界都在讨论同一条新闻。十一月二十日,Anthropic 的数学研究员莱文特·阿尔珀格在个人网站发了一份四页说明,表示自己和 Claude 合作证明了困扰人类一百六十七年的黎曼猜想,同时还解决了狄利克雷 L-函数版本的广义黎曼猜想。他没有按照惯例先发一篇传统的数学论文,而是直接放出了十四个压缩包,里面装的是大约一千七百万行 Lean 4 形式化代码。按照他自己的估算,如果把这些代码完整展开成人类习惯阅读的自然语言,篇幅会超过二十五万页,因为 AI 连最基础的实数大小比较都写在了里面,从一开始就不是给人看的。

消息刚出来的时候,大家的怀疑非常有道理。因为就在上个月,OpenAI 高调发布了 Navier-Stokes 方程的证明,结果没过几周就被伦敦国王学院和剑桥的学者查出了问题。他们发现验证代码在形式化翻译的时候弱化了书面论文里的原命题,也就是说,代码虽然通过了检查,但是它证明的并不是原来那道题。所以阿尔珀格刚放出代码的时候,很多数学家的第一反应是先看看它到底能不能编译,以及它证明的是不是真正的黎曼猜想。

但是到了十一月二十一日早上,事情出现了关键进展。负责 Lean 语言开发的 Lean FRO 和维护全球最大形式化数学库的 Mathlib Initiative 联合发布了一份官方声明,确认这份证明在逻辑上是正确的。因为验证门槛很高,社区里面有几十位学者各自把这一千七百万行代码完整编译了一遍,结果拿到的导出文件完全一致。他们又用独立的比对工具确认,代码里面证明的就是 Mathlib 早就写好的黎曼猜想标准定义,全程只用到了三条标准公理,没有偷换概念,也没有夹带额外的假设。最后,除了 Lean 自己的内核以外,还有好几个用不同编程语言写的独立验证器检查了静态导出的证明文件,全部都顺利通过了。

巧合的是,就在阿尔珀格发公告几个小时以后,斯坦福大学教授、美国数学会主席 Ravi Vakil 也在网上放出了一份纯人类的证明草稿。这是学者 Alessandro Masullo 花了十二年时间写出来的九百四十页手稿,发布的时候还专门强调全程没有使用任何 AI 工具。但是稿子放出来才过了八个小时,就有好几位数学家借助不同的 AI 模型在里面找出了多处问题。

插图:左边学者耗时十二年写出的厚手稿在放大镜下露出缺口,右边人仰头看不完的庞大代码高塔却稳稳穿过几道独立检验门亮起对勾

把同一天发生的两件事放在一起看,我对这件事的态度整体比较正向。我认为 AI 如果能尝试解决历史遗留的数学难题,就意味着在可验证的环境里面,它已经具备了极强的逻辑推演能力,甚至在很大程度上超过了人类。只不过从二十五万页的角度来看,它解决问题的方式显然和人类完全不同。这也印证了之前 The Bitter Lesson 里提到的观点,AI 发展的路径并不是按照人类擅长或者理解的方式向前推进的。顺着这个变化往下看,未来我们使用 AI 解决问题时的整体思路,也会和过去完全不同。

先把黎曼猜想和认证的边界说清楚

很多平时不接触数论的朋友可能会觉得奇怪,为什么一个数学猜想能让学术界和科技圈同时震动。我们上学的时候都学过素数,像二、三、五、七、十一这些只能被一和自己整除的整数,所有大于一的自然数都可以拆成素数的乘积。但是素数在数轴上出现的位置看着非常随机,前人虽然算出了素数大致的平均密度,却一直没有办法说清楚,实际素数个数和平均估计值之间最多会偏离多远。一八五九年,德国数学家黎曼写了一篇只有八页的论文,把素数分布的误差问题转化成了复平面上一个函数在什么位置等于零的问题,这个函数就是后来的黎曼 zeta 函数。他当时在论文里面猜了一句,所有有意义的零点大概都落在实部等于 1/2 这条直线上。如果这个猜想是对的,就说明素数分布的误差已经被压到了数学上允许的最紧边界。

在过去一百六十七年里面,人类用计算机算完了前十万亿个零点,发现它们全都落在这条直线上,但是算对再多例子也不算严格证明,因为只要在无穷远处有一个零点偏出去一点,整个猜想就会塌掉。几代数学家一直等不到证明,干脆先假设它是对的,在这个前提下面继续往下推,结果盖出了上千条重要的现代数论定理。大家把黎曼猜想叫做数学界的珠穆朗玛峰,主要是因为半座数论大厦的地基都压在它上面。如果这份证明最终站稳,最直接的影响就是这一大片原本带着条件前提的定理可以批量转正了。

这两天网上也有不少人担心,黎曼猜想如果真的证出来了,RSA 加密是不是就会失效,银行系统和比特币会不会跟着出事。其实完全不用这样担心,因为 RSA 加密依靠的是把一个极大的合数拆回两个素数相乘非常困难,而黎曼猜想管的是素数的整体分布规律,这两件事之间并没有直接的破解通道。而且也要说明白,Lean 和 Mathlib 认证代码逻辑没有问题,并不代表克雷数学研究所明天就会把一百万美元的千禧年大奖发出去。按照克雷研究所的规则,解答必须在合格的出版渠道正式发表,经过至少两年时间,并且获得全球数学界的普遍接受。也就是说,机器现在帮我们确认了真假,但是人类数学界还没有走完读懂它和吸收它的过程。

两派争论的背后,各漏了一块关键拼图

也就是卡在人类读不懂这件事上,在 AI 推进解决数学问题的过程里面,现在明显分成了两派观点。一派非常在意人类有没有在这个过程里面真正形成认知。昨天网上流传着一张疑似二零二六年菲尔兹奖得主邓煜的聊天截图,意思大概是这份二十五万页的证明报告不是给人看的,在压缩到五百页之前他不会去复核。虽然这张截图还没有得到本人的公开证实,但是它确实代表了很多一线数学家的真实反应。就在证明公布的前一天,威斯康星大学数学家 Jordan Ellenberg 在 3Blue1Brown 的播客里面也明确说过,如果有一个两百亿 token 而且没人读得懂的 Lean 证明,那就不算黎曼猜想的证明,他也不在乎它存不存在。

我觉得这一派的担忧非常有道理。人类在解题的过程里面本身就在探索新发现,这些发现对科技进步影响深远,就像当年的美国登月工程一样。纯粹登月只是一步,但是为了登月而带动的材料科学和计算科学等发展,深刻改变了现实世界。数学里面也是一样的道理,前人为了证明费马大定理或者黎曼猜想,在摸索的过程里面顺手发明了大量改变整个学科的新工具。陶哲轩在自己整理的AI 与数学观点笔记里面把数学研究拆成了三个环节,分别是生成、验证和消化。以前这三个环节都很慢,人类在自己推导和互相审稿的时候,顺便就把知识消化成了自己的直觉。现在 AI 把生成变快了,Lean 把验证也自动化了,唯独消化还卡在人脑的处理速度里面。如果 AI 解决数学问题的时候人类无法形成认知,又如何影响世界呢?

但是另一派的看法就要乐观很多,我自己的判断也更偏向这一边。因为如果 AI 已经能解决如此复杂的数学难题,能够把长达一千七百万行而且中间错一步就不行的严密推理跑通,它必然对强推理相关的其他创新性发明有很大帮助,所以这方面的能力对现实世界同样非常有影响力。只要底层的长链推理能力跨过了这个门槛,以后用到芯片验证和新材料模拟或者复杂系统软件开发里面,就算人类一时半会儿没有把里面的每一步中间过程都编成教科书,它同样可以产出直接改变现实世界的工程成果。

如果把这两派的观点放在一起仔细看,我觉得两边其实都只讲对了一半,各自漏掉了一件很重要的事。担心人类无法形成认知的那一派,是默认了人必须从头到尾自己推一遍才能获得理解。但得出结果和理解结果完全可以是先后两步。十年前 AlphaGo 下出第三十七手的时候,职业棋手一开始也都看不懂,甚至以为是程序出了故障。但是后来围棋界没有因此垮掉,反而把 AI 的棋谱拿回来反复拆解和学习,现在人类棋手对围棋的理解比十年前深入了很多。这次二十五万页的证明也是一样的道理。阿尔珀格自己在说明里面也写到,这份代码里面包含了很多冗余步骤,他直觉认为很快就能被大幅简化。AI 相当于先帮我们确认了这条路绝对走得通,后面人类数学家再带着 AI 一起进去压缩和提炼,把二十五万页逐步压成五百页甚至更短,肯定比在黑屋子里面盲摸一百六十七年容易得多。

不过反过来看,比较乐观的一派也容易忽略一个重要前提,就是可验证的环境在现实世界里面其实非常稀缺。这次 Claude 之所以能够做到这一步,很大程度上是因为数学领域正好有 Lean 和 Mathlib 这样一套极其严格的验证工具。陶哲轩打过一个非常形象的比方,他说 AI 就像一根喷出大量劣质生水的消防水带,而形式化验证器就是接在后面的滤水器。因为有滤水器在下面兜底,AI 哪怕试错一百万次,或者写出了二十五万页冗长的推导,只要最后有一条路径能够通过内核检验,它在逻辑上就是确凿成立的。但是如果离开纯数学,回到商业决策或者日常工程研发里面,绝大多数场景根本没有现成的 Lean 可以用。如果缺少一套靠谱的验证器,推理能力再强的模型也一样可能顺着一个有偏差的前提,写出一大堆看着逻辑通顺但是完全偏离目标的东西。

插图:上方消防水带喷出夹杂大量杂物与错号的汹涌水流,经中间多层严密滤网拦截后,底部才流出一股清澈笔直的水流落进杯中

二十五万页印证的,是 Bitter Lesson 的再次胜利

如果跳出两派的争论,只看五百页和二十五万页这个悬殊的反差,很容易想到强化学习先驱 Rich Sutton 在二零一九年写的那篇 The Bitter Lesson。Sutton 在文章里面总结了过去七十年的 AI 发展史,不管是早年的国际象棋和围棋,还是后来的语音识别和计算机视觉,研究者反复吃过同一个亏。大家总是很想把人类自己总结出来的领域知识,把自己觉得聪明又优雅的思考方式塞进 AI 系统里面。如果在短期内看,这么做确实见效很快,研究者自己也很有成就感。但是只要时间一拉长,随着算力持续变便宜,最后跑赢一切的,往往是那些不怎么迎合人类习惯但是能够依靠大规模搜索和学习的通用方法。

阿尔珀格自己在四页说明里面写出来的经历,和这个规律几乎完全一样。前期确实是他凭着数论学者的直觉找对了类比方向,也搭了一个简化模型,但是到了后面真正攻坚的阶段,Claude 的推进速度很快就把他甩在了后面。高阶群上那些极其繁复的构造本来就是他自己不熟悉的领域,但是 Claude 能够把数论里面一大堆不同的工具串在一起,提出把链条长度拉到平方根级别这种反直觉的做法,硬生生把证明推过了终点。

很多数学家看到二十五万页会觉得别扭,觉得这不是好的数学。但是往深里想一层,人类之所以喜欢五百页以内的优雅证明,真的是因为数学真理本身就应该长得这么精简吗?很大程度上,是因为人脑的工作记忆就只有那么大。一份证明如果超过五百页,人脑就记不住前面的引理和后面的关联了,也没有办法靠人工检查它对不对。我们平时推崇的优雅、简洁和高度抽象,很大一部分是人类为了迁就自己有限的大脑容量,不得不发明出来的压缩技巧。AI 没有人脑这个生理限制,它可以同时挂着十几万个模块不掉线,用人类看着极其繁琐的方式把每一个基础步骤都老老实实展开,最后拼出一个绝对正确的答案。如果到了今天,我们还是指望 AI 按照人类大师的习惯,一步一步写出简洁优雅的中间草稿,那其实是在拿人脑的局限去限制机器的能力。

插图:左边小人因手推车容量有限只能费力把积木压缩折叠,右边多臂机械同时托举密密麻麻的积木块不经压缩便架起长桥直达对岸

以后用 AI 解决难题,整体思路要换一套了

想通这一层以后,这件事就不再只是远在天边的数学奇观了,它直接关系到我们平时在工作和团队里面怎么用 AI。

过去一两年,很多人用 AI 解决复杂问题的时候,最习惯的做法是把人类的工作步骤一条条写进提示词里面。比如把老员工的经验总结成十来步,告诉 AI 第一步要分析什么,第二步要套什么框架,第三步要怎么归纳,希望靠盯紧中间过程来避免它出错。在模型能力还不算强的时候,这种手把手教流程的办法确实管用。但是当模型在可验证环境里面的推理上限已经超过人类以后,如果我们还花大力气去规定它每一步该怎么想,方向其实就走反了。

以后如果还想用 AI 解决硬骨头问题,我觉得人最应该把精力花在定义问题和建立验收标准上面,不要再继续手把手教 AI 怎么走。这次一千七百万行代码之所以能够在一天之内让社区信服,主要是因为 Mathlib 里面早就放好了大家都认可的标准定义,而且外面还有一整套只认逻辑的独立验证器。我八月份写《真正该越积越厚的不是 Prompt,是 Eval》的时候就讲过类似的体会,Prompt 是你和当前这一代模型签的临时合同,管的是现在该怎么做,而 Eval 是长期合同,管的是什么样的结果才值得接受。数学界早就有了 Lean,如果放到软件开发和数据分析这些业务系统里面,谁能先把业务口径和自动化回归评测做结实,谁才算给 AI 搭出了可以验证的环境。只要验收的边界卡死了,AI 在里面是用人类习惯的五百步,还是用它自己擅长的二十五万步,我们其实没有必要替它操心。

不过在真实业务里面,把这套验收机制搭起来往往比写业务代码本身还要难。前阵子我在《不是 AI 在指挥 AI,是老工程在管着 AI》里面也提过,以前的老系统验收主要看服务有没有崩溃,而 Agent 的验收看的是结果有没有偏离目标。纯数学已经是全世界最容易用确定规则一锤定音的地方了,即便这样,上个月都还出过验证代码跑通了但是题目在形式化翻译时被改弱的失误。如果放到更加开放的商业和工程场景里面,一旦人一开始就把目标定义歪了,AI 的推理能力越强,反而越容易沿着错误的前提跑出一大堆逻辑自洽但是没有实际用处的东西。所以不管模型往后怎么进化,最前端的题目定义和验收边界,人是一定不能撒手的。

除了定义问题和做好验收以外,人还有一个绕不开的工作,就是把机器跑出来的陌生结果慢慢消化出来。康奈尔大学数学家 Steven Strogatz 在接受《纽约时报》采访评价这次人机合作的时候打了个比方,说这像一位高明的骑师骑上了一匹快得不可思议的骏马。阿尔珀格自己没有办法推完最后那几公里,但是他找对了起跑方向,也守住了标准,接下来还要带着同行们把这二十五万页代码一点点拆解压缩,提炼出人类能看懂而且可以复用到别的问题上的新方法。往后看,很多领域里的专家,核心价值可能都会慢慢往这个方向迁移。以后大家不用再单纯比拼谁亲手算得更快或者推得更远,因为这些活算力可以做得更好,真正稀缺的是谁能提出值得让 AI 跑一轮的真问题,谁能搭起靠谱的验证环境,以及当 AI 用陌生的路径把答案交出来以后,谁能最快看透里面的门道,把它变成自己和团队都能用的新认知。

插图:山峰正面老路在半山腰断头让登山者停步,背面却靠密集脚手架先登顶插起对勾旗,并垂下绳索把图纸传给山脚拿着标尺研究的人

回头看十一月二十日同一天出现的两份证明,人类花了十二年时间写出来的九百四十页手稿刚公开就查出了漏洞,而没有人通读过的一千七百万行代码却已经通过了多内核验证。这个对比虽然有点残酷,但是把未来的分工照得很清楚。我们没有必要再强求 AI 像人一样思考了,繁重的搜索和长链推演可以交给算力,人更应该专注在定义问题、建立验收和消化新知上面。至于那份二十五万页的证明,我反而很期待它被压缩到五百页的那一天,因为到那时候大家可能会发现,AI 并没有把人类思考的路堵死,它只是先替我们爬上了山顶,让我们第一次看到,原来这座山还可以从背面走上去。

订阅 / 联系

下一篇继续从这里接上

新文章会同步到 RSS;也可以直接发邮件给我。