ReuF2F 基准发布,用形式化证明核验编码智能体科研能力

ReuF2F 基准发布,用形式化证明核验编码智能体科研能力

2026 年 10 月 21 日,arXiv 的 cs.AI 版块上线编号 2610.27046v1 的论文《ReuF2F: Benchmarking Coding Agents on Formalized Undergraduate Research Problems》,提出一套以本科阶段科研问题为素材、经形式化后交由编码智能体求解,并由证明助手进行机器核验的评测基准。它把评分权从模型裁判与人工评审手中交还给证明检查器,使「AI 能否做研究」这一模糊命题变成可复现的二值判定

论文于 2026 年 10 月 21 日 04:00(UTC)以 arXiv 新投稿(Announce Type: new)形式发布,分类为 cs.AI,编号 2610.27046v1。摘要给出的问题设定是:随着 AI 系统开始处理尚未解决的研究问题,可靠验证的重要性上升;形式数学提供了可信框架,使智能体在做数学探索的同时产出可机器核验的证明。

ReuF2F 的定位由此确定。现有形式数学基准大多围绕已知结果,或集中在少数几个知名公开难题上;当这些题目的解答被公开并进入训练语料,评测便难以稳定复现。ReuF2F 改以本科阶段科研问题为题目来源,并将题目形式化,要求被测对象是具备代码执行与工具调用能力的编码智能体,而非单轮推理的模型。判定环节由证明检查器自动完成,不引入人工评审或模型打分,输出为通过或不通过的二值结果。

需要说明的是,截至该公告版本,公开摘要未披露题目总量、形式化所用证明助手的具体名称、参与评测的基线模型清单以及各模型通过率。ReuF2F 目前仍是一份方法与数据集说明,其区分度要等完整论文与后续榜单公布后才能判断。

形式化数学基准已有一条清晰的技术路线。2021 年的 miniF2F 把竞赛题搬进 Lean 与 Isabelle,2023 年的 ProofNet 转向本科教材定理,2024 年的 PutnamBench 把规模推到千题量级。这条路线共同的前提是数学库的成熟:Lean 的 mathlib 已积累逾 20 万条定理与引理,使形式化本科数学不再是每次都从公理起步的重活。

另一条线索来自模型侧。2024 年 AlphaProof 在国际数学奥林匹克六题中解出四题;2025 年,公开披露的系统已达到 IMO 金牌线。竞赛数学的顶部空间被快速填满,评测需求随之外溢:从「解已知答案的题」转向「处理答案未成文的问题」。与此同时,SWE-bench 一类编码智能体基准因题目进入训练语料而饱受污染争议,社区对可抗污染题库的需求上升。

两条线索在 2026 年交汇:编码智能体已具备长程工具调用能力,形式化数学提供了无需人工裁判的判定方式,而本

刘工判断:ReuF2F 这类基准会在未来 6 个月内进入至少两家头部实验室的模型卡评测表,但它作为排行榜的寿命不会超过 18 个月,真正沉淀下来的是它提出的评测范式。

从技术层面看,ReuF2F 最实质的改动是把裁判从流程里删掉。用模型给模型打分,评分方差本身就是噪声源;证明检查器只回一个布尔值,评审成本趋近于零,且结果可复现。代价落在覆盖面:能被形式化的本科科研问题,必然是被削去实验、数值与工程细节的那一部分,基准测到的是可形式化的科研,不是科研全貌。这决定了它更像一把硬量具,而不是一把万能尺。

在商业维度上,这类基准的价值不在榜单而在数据。形式化题库同时是评测集和强化学习的奖励信号来源,谁掌握持续产出研究级形式化题目的流水线,谁就掌握了训练侧的稀缺资源。数学库的引理覆盖、题目形式化的人力成本、以及题目公开后的污染半衰期,三者共同构成进入门槛。可以预期,题库会以公开一部分、保留一部分的方式运营,与当年竞赛题基准的做法一致。

对行业而言,刘工在 AI 视觉检测一线看到的是同一套逻辑:在工业质检里,凡是能把好坏写成可执行判据的环节,迭代速度比依赖人工目检的环节快一个数量级,因为反馈闭环从数天压缩到毫秒。形式化证明对 AI 科研评测的意义与此相同——它把「这个解答对不对」从评审会的争论变成一次可执行的检查。

一个可跟踪的量化信号:若 ReuF2F 完整榜单显示头部编码智能体通过率落在个位数,说明本科科研级形式化仍是硬骨头;若 12 个月内该数字跃过 20%,则意味着形式化数学的数据瓶颈已被规模化生产突破,届时评测重心会立刻转向题目是否还够难,基准的更新周期将从年计缩到季度计。

  • miniF2F 收录 488 道竞赛数学题(244 验证 + 244 测试),题源集中在 AMC、AIME 与 IMO,是形式化推理最常用的对照基准。
  • ProofNet 收录 371 道题,取自实分析、复分析、线性代数、抽象代数与拓扑等本科教材,与 ReuF2F 的本科定位最接近,但题目均为已成文定理。
  • PutnamBench 收录 1,698 道题(其中 660 道来自 Putnam 竞赛),规模约为 miniF2F 的 3.5 倍,难度分布仍限于竞赛题型。
  • Lean 的 mathlib 已积累逾 20 万条定理与引理,是 ReuF2F 能把本科科研问题形式化的基础设施前提。
  • 参照系:2025 年公开披露达到 IMO 金牌线的系统,成绩为 42 分制下的 35 分,竞赛顶部接近饱和,评测需求被迫外溢到研究级题目。
  • 截至公告版本,ReuF2F 未公开题目数量与基线通过率,暂无法与上述基准做同口径规模对比。

对行业而言,短期(3 个月)内最直接的变化是评测话语的迁移:团队描述模型数学能力时,会从在某竞赛集上得多少分转向能否产出机器可核验的证明,形式化工具链的工程投入随之上升。中期(1 年)看,若研究级形式化题库被证明可持续生产,模型厂商的数据采购清单里会出现形式化题目这一新条目,围绕题库授权、引理库维护与形式化人力的分工将形成小型产业链,学术机构在其中扮演题目供给方。

对普通用户而言,短期影响几乎不可见,这类基准不直接改变产品体验。中期影响是间接的:形式化证明要求模型把推理步骤写到无歧义,这种训练偏好会渗透到代码生成与配置校验等日常场景,用户可能感知到的是 AI 写的代码更容易一次跑通、出错时更能说清错在哪。需要提醒的是,基准分数与产品可靠性之间仍有距离,把榜单名次直接等同于可用性,是过去几年反复出现的误读。

值得继续思考的问题:

  • 形式化题库的污染半衰期:题目公开后通过率以多快速度失效,决定这类基准的更新节奏。
  • 证明助手生态之争:ReuF2F 选用哪种形式化语言,会放大对应数学库的网络效应。
  • 编码智能体的长程工具调用:形式化证明是检验多步规划与自我纠错的天然压力测试。

延伸阅读:2026 主流 AI 大模型对比——不追热点也能长期有用的选型指南,收藏备用。

本条动态来自 arXiv cs.AI(发布于 2026-10-21 04:00:00)。本站为海外 AI 动态的中文转述与观点评论,原文版权归原作者所有。


每日聚合海外 AI 一手动态与深度观点。收藏本站,不错过每一个重要信号;返回首页查看更多。

转载声明:欢迎转载,请保留原文链接并注明出处「文峰雷达」。 · 商务与品牌合作:查看媒体与商务页
每日快讯 + 周日周评 · 可随时回复邮件退订 · 邮箱仅用于订阅通知,不会对外分享

留下评论

您的邮箱地址不会被公开。 必填项已用 * 标注

中文EN
联系刘工 · 媒体与商务 · 隐私政策 · 免责声明 · AI 声明 · 刘工周评
邮箱:wenfengleida@wenfengleida.cn