跳转至

VALG: An Agentic System for ML Theory Research

作者: Dechen Zhang, Xuan Tang, Xinxiang Yin, Xingwu Chen, Jian Qian, Difan Zou
来源: XAGI 2026 交叉智能大会 · Session 02 AI4Math & Theory · 返回会议场次
报告: LLM for ML Theory at Scale: The VALG Agent and OpenTheoryBench · 讲者 邹荻凡(香港大学 · 计算与数据科学学院)
论文: arXiv:2608.13060

本页是会议报告的对应论文长篇精读;会议现场的报告摘要见场次页。


一、领域脉络与小综述

这个方向是什么:本文属于「AI for Mathematics」中一个正在快速成形的新分支——用 LLM 智能体(agent)自动化非形式化的数学研究流程,即从开放问题出发,经过文献调研、问题细化、定理形式化、证明构造、验证修订,最终产出可发表的数学结论。与形式化定理证明(如 Lean、Coq)不同,这类系统处理的不是"给定定理去证明",而是"连定理本身都尚未确定"的模糊研究阶段。本文的独特定位在于:它专门面向机器学习理论(而非纯数学),强调学习问题的"设定"(数据生成、协议、oracle、损失、度量、随机性)本身就是定理的一部分,因此问题形式化与证明开发必须协同演化。

发展脉络(history):从被引文献可以梳理出三条交织的线索。

  1. 神经定理证明与形式化数学:LeanDojo(Yang et al., 2023)提供了程序化 Lean 环境和检索增强的证明搜索;HyperTree Proof Search(Lample et al., 2022)用 AlphaZero 式树搜索做证明;DeepSeek-Prover 系列(Xin et al., 2024; Ren et al., 2025)通过大规模合成数据训练证明模型;Lean-STaR(Lin et al., 2025)将非形式化思维穿插进 tactic 生成;LEGO-Prover 和 DreamProver(Wang et al., 2024; Zhang et al., 2026b)构建可复用的 lemma 库。这条线的共同特点是定理目标固定,系统只负责找证明。

  2. 研究型智能体与开放问题:QED(An et al., 2026)是本文最直接的参照——它用多智能体系统在开放数学问题上生成完整证明,但本文明确指出 QED 的局限:其验证是"整体式"的,难以定位失败根源;本文因此将审查拆分为结构、严谨性、引用、对抗性四个独立维度。Danus(Liu et al., 2026b)用共享事实图协调多个证明智能体,其"事实图"思想与本文的"依赖图"相近,但 Danus 在定理目标固定后才启动,不处理问题形式化本身。AI4SLT(Zhang et al., 2026a)将 Lean 形式化引入统计学习理论,但其目标是形式化已有理论,而非发现新定理。

  3. 通用科研智能体:AI Scientist(Lu et al., 2024)、Agent Laboratory(Schmidgall et al., 2025)、Co-Scientist(Gottweis et al., 2026)覆盖了从文献调研到论文写作的完整科研流程,但它们的"研究"以实验/假设验证为主,不涉及数学证明的构造与验证。MLAgentBench(Huang et al., 2023)、MLE-bench(Chan et al., 2025)、RE-Bench(Wijk et al., 2024)则从工程执行角度评估智能体,不涉及理论创新。

当前 frontier 与本文位置:上述工作的共同盲区是——当定理本身需要修改时,系统如何保持与原始问题的可追溯性。本文的贡献正是在此:提出"源相对定理分支"(source-relative theorem branches)概念,每个分支固定一个数学设定,通过类型化依赖图追踪证明结构,并建立"失败定位→最小修复→分支修订"的层级化修订机制。这使得系统可以产出"部分进展"(受限方法、特例、条件定理)而不丢失与源问题的关联——这在 ML 理论研究中是常态(一个开放问题往往只能先解决其受限版本)。

子线索聚类: - 证明搜索(Lample 2022; Xin 2024; Ren 2025; Lin 2025; Wang 2024; Zhang 2026b):在固定目标下搜索证明,核心是搜索效率与 lemma 复用。 - 研究流程自动化(Lu 2024; Schmidgall 2025; Gottweis 2026; Huang 2023; Chan 2025; Wijk 2024; Starace 2025):覆盖实验、写作、代码执行,但不涉及数学证明。 - 开放问题求解(An 2026; Liu 2026b; Feng 2026; Zhao 2026):直接面向未解问题,但缺乏对"问题形式化本身需要修订"这一环节的系统支持。 - 形式化验证基础设施(Yang 2023; Azerbayev 2023; Zhang 2026a,c):提供证明检查与库支持,但不参与问题发现。

⚠️ 作者的 framing(这是作者的说法):作者将 ML 理论研究刻画为"设定-定理-证明"三要素的协同演化过程,并据此论证:任何固定定理目标的证明系统都无法胜任 ML 理论研究,因为设定本身可能就是障碍(例如,一个定理在原始设定下为假,需要放宽设定才能成立)。作者据此将"进展"定义为多层次的:完全解决 > 受限方法 > 特例 > 条件定理 > 失败分析。这一 framing 将"未能解决原问题"重新定义为"有价值的科学产出",是本文论证策略的核心。被淡化的竞争性叙事包括:形式化验证社区强调的"机器可检查的正确性"(本文的验证仍是 LLM 审查,非形式化证明);以及传统数学研究强调的"概念创新"(本文的产出更接近技术性引理而非新概念框架)。

张力:被引文献之间存在一个明显张力——形式化证明社区(LeanDojo、DeepSeek-Prover)追求的是"机器可验证的正确性",其代价是形式化成本极高;非形式化研究智能体(QED、Danus)追求的是"研究效率",其代价是正确性只能靠 LLM 审查。本文试图在两者之间取中间路线:用依赖图保证结构可追溯,但验证仍依赖 LLM 审查。这一张力在论文中未被正面讨论,但直接关系到 VALG 产出的可信度——如果 LLM 审查本身不可靠,那么"内部定稿"的定理可能只是"看似合理"的陈述。作者在结论中承认了这一点("correctness of the proof needs to be verified by more experts"),但未提出量化验证可靠性的方案。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

在展开 VALG 的技术细节之前,先以论文 4.2 节"非自适应 1-bit 均值估计"为例,把记号交代清楚。这是九个案例中最容易"一眼看穿"的一个,且完整展示了 VALG 的核心循环。

  • 分布类:\(\mathcal{D}(k, \lambda, \sigma)\),其中 \(k > 1\) 是固定的矩阶数,\(\lambda \ge \sigma > 0\) 是已知常数。\(D \in \mathcal{D}(k, \lambda, \sigma)\) 当且仅当 \(\mu(D) := \mathbb{E}_{X \sim D}[X] \in [-\lambda, \lambda]\) 且 \(\mathbb{E}_{X \sim D}|X - \mu(D)|^k \le \sigma^k\)。这里 \(\mu(D)\) 是感兴趣的 estimand(均值),\(\lambda\) 是均值的有界范围,\(\sigma\) 是 \(k\) 阶中心矩的上界。
  • 可观测数据:\(n\) 个独立同分布样本 \(X_1, \dots, X_n \sim D\),但研究者看不到 \(X_i\) 本身,只能看到二进制消息 \(Y_i = \mathbf{1}\{X_i \in A_i\} \in \{0,1\}\),其中 \(A_i \subset \mathbb{R}\) 是预先固定的(非自适应)可测集。\(A_i\) 可以依赖公开/私有随机性,但不能依赖之前的消息。
  • 协议:一个非自适应 1-bit 协议由 \(n\) 个预定的集合 \(A_1, \dots, A_n\) 和一个估计器 \(\hat{\mu} = \hat{\mu}(Y_1, \dots, Y_n)\) 组成。协议是 \((\epsilon, \delta)\)-准确的,若 \(\sup_{D \in \mathcal{D}(k,\lambda,\sigma)} P\{|\hat{\mu} - \mu(D)| > \epsilon\} \le \delta\)。
  • 已知基准(自适应情形):自适应 1-bit 协议(即 \(A_i\) 可以依赖之前的消息)的最优样本复杂度为

    \[r_k(\lambda, \sigma, \epsilon, \delta) = \log \frac{\lambda}{\sigma} + \begin{cases} \frac{\sigma^2}{\epsilon^2} \log \frac{1}{\delta}, & k > 2, \\[4pt] \frac{\sigma^2}{\epsilon^2} \log \frac{\sigma}{\epsilon} \log \frac{1}{\delta}, & k = 2, \\[4pt] \left(\frac{\sigma}{\epsilon}\right)^{k/(k-1)} \log \frac{1}{\delta}, & 1 < k < 2. \end{cases}\]
    这个公式来自 Lau and Scarlett (2026a) 的开放问题陈述,是 VALG 工作的源问题。

  • 开放问题:非自适应协议(所有 \(A_i\) 预先固定)能否达到同样的 \(r_k(\lambda, \sigma, \epsilon, \delta)\) 阶?注意这里的困难:自适应协议可以根据前面的消息动态调整阈值,从而"聚焦"到均值附近;非自适应协议必须预先覆盖整个 \([-\lambda, \lambda]\) 区间,信息效率似乎必然受损。

第二步:最小内核

VALG 对这个问题的处理方式,可以提炼为以下"定位-细化"两阶段结构,这是整篇论文方法论的缩影:

  1. 定位阶段(localization):用 \(N_{\text{loc}} = O(\log(\lambda/\sigma) + \log(1/\delta))\) 个样本,通过预定的"平衡码"(balanced code,Lau and Scarlett 2026b, Theorem 16 的构造)确定 \(\mu(D)\) 落在某个长度为 \(O(\sigma)\) 的小区间 \(I\) 内,失败概率 \(\le \delta/4\)。这个阶段只使用并集可测集(union-of-cells queries),不依赖任何消息。

  2. 细化阶段(refinement):在定位区间 \(I\) 内,用剩余的样本进行精细估计。关键技巧是预定的阈值网格:在 \(I\) 内预先放置一组阈值 \(\{t_j\}\),每个样本 \(X_i\) 的查询集合 \(A_i\) 是 \(I\) 内某个阈值 \(t_j\) 的右半区间。由于 \(I\) 的长度已知(\(O(\sigma)\)),阈值网格的间距可以按 \(\epsilon\) 缩放,从而每个样本的信息量达到最优。

  3. 解码:收集所有 \(Y_i\) 后,用加权中位数(weighted median)或矩估计器组合各阈值处的计数,得到 \(\hat{\mu}\)。这里的数学核心是一个反卷积不等式:对于 \(k\)-阶矩有界的分布,阈值计数之差 \(\frac{1}{n}\sum_i (Y_i - \mathbb{E}Y_i)\) 的偏差可以用 \(k\)-阶矩控制,从而得到 \(\hat{\mu}\) 的 \(\epsilon\)-误差界。

为什么这是"最小内核":这个例子展示了 VALG 的全部四个关键机制——(i) 源相对分支:定理的最终形式(非自适应协议达到 \(r_k\) 阶)与源问题(是否自适应是必要的)保持明确关联;(ii) 失败定位:如果细化阶段的矩估计失败,VALG 会定位到是"阈值网格间距"还是"定位区间长度"的问题;(iii) 修订路由:定位失败→增加定位样本;细化失败→调整网格权重;(iv) 部分进展分类:如果最终只能证明 \(k > 2\) 的情形,VALG 会将其标记为"受限方法"而非"失败"。

这个例子的数学本质:非自适应 1-bit 均值估计的困难在于信息论上的覆盖问题——预先固定的阈值网格必须在不知道 \(\mu\) 的情况下覆盖所有可能位置。VALG 的解法是"粗定位 + 细网格"的两阶段设计,这本质上是一个自适应降维(adaptive dimensionality reduction)技巧:先用少量样本把问题从 \([-\lambda, \lambda]\) 缩小到 \(O(\sigma)\) 区间,再在缩小的区间内用最优密度的网格。这个技巧在统计上等价于两阶段抽样设计(two-stage sampling design),在通信复杂性上等价于先验覆盖 + 后验细化(prior covering + posterior refinement)。


三、这篇论文做了什么

三句话: 1. 研究了什么问题:能否构建一个自主智能体系统,在 ML 理论研究中完成从开放问题到可验证定理的完整流程,并在定理需要修订时保持与源问题的可追溯性? 2. 核心方法:提出 VALG,一个结合"源相对分支"(每个分支固定一个数学设定)、"类型化依赖图"(追踪证明结构)、"分层修订"(失败定位→最小修复→分支修订)和"多维度审查"(结构/严谨/引用/对抗)的智能体架构。 3. 主要结论:在 COLT 2026 的五个开放问题、九个子任务上,VALG 产出 22 个内部定稿的定理候选,其中两个完全匹配源问题范围,其余为受限方法、特例或条件定理;案例表明系统能有效区分"证明失败"与"设定失败",并据此调整策略。

关键设定与假设(在第二节记号基础上补全):

  • 智能体架构:VALG 由四类角色组成——Planner(制定证明策略)、Sketcher(生成证明草图)、Verifier(检查每一步推导)、Critic(从四个维度审查)。每个角色由 LLM 实例化,通过共享的"工作记忆"(依赖图)协作。
  • 源相对分支:每个分支 \(B\) 包含一个四元组 \((S, T, A, P)\),其中 \(S\) 是源问题(来自 COLT 开放问题论文),\(T\) 是当前定理陈述,\(A\) 是允许的假设集合,\(P\) 是证明计划。分支之间通过"修订关系"连接,形成一棵以源问题为根的树。
  • 类型化依赖图:节点是"声明"(assumption/lemma/theorem),边是"依赖关系",每条边标注类型:derivation(推导)、citation(引用)、assumption(假设引入)、interface(接口匹配)。验证器检查每条边的类型是否合法。
  • 失败分类:验证失败被分为四类——derivation failure(推导错误)、dependency failure(依赖不满足)、interface failure(引理接口不匹配)、formulation failure(定理陈述本身有问题)。只有最后一类触发"修订定理"而非"修订证明"。
  • 修订路由:derivation failure→重试证明步骤;dependency failure→检查依赖引理;interface failure→调整引理陈述;formulation failure→创建新分支(放宽/收紧假设、改变设定、限制方法)。
  • 审查机制:每个定稿定理需通过四轮独立审查——structural(证明结构完整)、rigor(每一步推导严谨)、citation(引用真实且支持结论)、adversarial(尝试构造反例或边界情形)。

主要结果(按案例分述):

  1. Tensor ALS 上界(4.1.1):VALG 提出一个 \(k = \lceil C r^{5/3} (\log r)^{5/2} \rceil\) 的构造,证明在平滑扰动模型下 ALS 从随机初始化以高概率收敛到全局最优。这是部分进展——它需要额外的"弱干扰"和"近平衡权重"假设,且 ALS 的更新被替换为"同步 Jacobi 提交"(simultaneous old-state Jacobi commit)。作者明确标注:源问题要求任意确定性基,而 VALG 的证明依赖高斯平滑后的谱性质。

  2. Tensor ALS 下界(4.1.2):VALG 构造了一个"坏"确定性基,证明对任意 \(k \le r^{1+c}\),ALS 或 GD 以常数概率停在严格正目标值。这是受限方法结果——它只对"从高斯初始化出发的 ALS/GD"有效,不排除其他初始化或算法。证明的关键是一个"固定子空间障碍"引理:若初始化落在某个 \(r^{1+c}\) 维子空间附近,则 ALS 的更新保持在该子空间内。

  3. 非自适应 1-bit 均值估计(4.2.1):VALG 给出了一个完全匹配源问题范围的构造(定理 4.5 和 4.6),证明非自适应协议可以达到自适应最优率 \(r_k(\lambda,\sigma,\epsilon,\delta)\)。这是完全解决。核心是"平衡码定位 + 加权中位数细化"的两阶段方案,其中定位阶段使用 Lau and Scarlett (2026b) 的并集查询构造,细化阶段使用预定的阈值网格。

  4. DP 学习样本复杂度(4.4.1):VALG 证明对 Cartesian 乘积类 \(\mathcal{C} = \prod_i \mathcal{C}_i\)(每个因子 VC 维 1、有限 Littleton 维),私有学习的样本复杂度为 \(\tilde{\Theta}(\sum_i \mathrm{LD}(\mathcal{C}_i)/\epsilon)\)。这是部分进展——它需要"有限 Cartesian 分解"和"可数商空间"假设,且下界只在 \(\delta \le c/(m^2 \log m)\) 的小 \(\delta\) 区域成立。

  5. 在线优化的 Pfaffian 界(4.5.1-4.5.2):VALG 证明了两个结果:(a) 对多项式系数分布类,若端点条件密度有界,则根命中常数 \(C_D\) 以 \(O(R d^2)\) 增长(定理 4.12);(b) 对 Pfaffian 函数系,在"锚定归一化"下得到类似的界(定理 4.13)。这是部分进展——它需要"字面锚定"(\(F_1 \equiv 1\))和"单位范数"假设,且 Pfaffian 情形只对 \(p=1\) 的链成立。

证明路线与技术技巧:

  • 整体路线:VALG 的证明流程是"草图→全局诊断→逐步细化→独立审查"。草图阶段由 Sketcher 生成一个非正式的证明大纲;Planner 将其分解为依赖图;Verifier 按拓扑序检查每个节点的推导;失败时 Critic 定位失败类型并路由到相应修订策略。
  • 关键跳跃点:
  • Tensor ALS 上界:最困难的是证明"同步 Jacobi 提交"在平滑扰动下不会破坏已收敛的分量。VALG 使用了一个"谱间隙保持"引理:若当前估计与真值的内积超过 \(1 - O(r^{-2/3})\),则一步 Jacobi 更新后内积增加至少 \(c r^{-5/3}\)。这个引理需要精细的随机矩阵浓度界。
  • 1-bit 均值估计:关键跳跃是"定位阶段失败概率的指数衰减"。VALG 使用平衡码的 Hoeffding 型不等式,证明 \(N_{\text{loc}} = O(\log(\lambda/\sigma) + \log(1/\delta))\) 足以保证定位误差 \(\le L_k \sigma\) 的概率 \(\ge 1 - \delta/4\)。这个界是紧的,因为 \(\log(\lambda/\sigma)\) 是覆盖 \([-\lambda,\lambda]\) 的信息论下界。
  • DP 学习:关键跳跃是"Cartesian 分解 + 阈值机制"的隐私核算。VALG 使用 Rényi 差分隐私的组合定理,证明每个因子的 \(\epsilon_i\) 预算可以独立分配,总隐私损失为 \(\sum_i \epsilon_i\)。这个技巧避免了全局灵敏度分析。
  • 技术技巧点名:
  • 平衡码(balanced code):用于定位阶段,将 \([-\lambda,\lambda]\) 编码为二进制串,使得每个样本的 1-bit 输出最大化关于 \(\mu\) 的信息。
  • 同步 Jacobi 提交:避免 ALS 的异步更新带来的依赖问题,使每一步的更新可以并行验证。
  • 类型化依赖图:将证明结构显式编码为 DAG,使得失败定位可以精确到"哪条边不合法"。
  • Rényi 隐私核算:用于 DP 案例的隐私损失组合。
  • 端点条件密度:用于 Pfaffian 案例,将根命中概率转化为条件密度的积分。

🔎 结论是否比证明窄:是,且作者明确承认。具体而言: - 定理 4.1(Tensor ALS 上界)的证明依赖"同步 Jacobi 提交"和"弱干扰"假设,而源问题允许任意 ALS 变体。作者在讨论中写道:"The source setting leaves two technical barriers... The remaining problem is to prove the same rank, accuracy, running-time, and probability guarantees for arbitrary source-admissible base triples without the added structural assumptions."(第 4.1.1 节 Discussion) - 定理 4.8(DP 学习)的结论是 \(\mathrm{dc}_{\epsilon+\delta_0}(\mathcal{C}) \le S^{L_0}\),而源问题要求 \(\mathrm{dc}(\mathcal{C}) \le O(m/\tau^2)\)。作者明确标注:"This is partial progress... The remaining problem is to obtain a comparable intrinsic characterization for every measurable class of finite Littleton dimension, without the Cartesian, VC-one, or countable-quotient assumptions."(第 4.4.1 节 Discussion) - 定理 4.12-4.13(Pfaffian 界)的证明需要"锚定归一化"(\(F_1 \equiv 1\)),而源问题允许任意 Pfaffian 系。作者写道:"Whether every raw Pfaffian presentation admits this normalization with polynomial parameter budgets remains open."(第 4.5.1 节 Discussion) - 唯一"完全匹配"的是定理 4.5/4.6(非自适应 1-bit 均值估计),其证明覆盖了源问题的全部范围。

真实例子与应用:论文没有传统意义上的数据实验,但其"案例研究"本身就是应用——五个 COLT 2026 开放问题被当作测试床。每个案例的产出(定理、证明、修订记录)都公开在 GitHub 仓库中。值得注意的是,论文没有提供任何"人类专家评估"或"与人类数学家对比"的数据,其"成功"标准是内部的(定理是否定稿、是否通过审查),而非外部的(是否被领域专家认可)。这是本文作为系统论文的一个明显局限。


四、开放问题

以下问题均扎根于论文的具体语句,按"从近到远"排列:

  1. 验证可靠性的量化(扎根于第 5 节:"Current systems tend to overuse notation and present proofs in ways that obscure the main argument... these stylistic issues significantly increase the cost of expert verification")。VALG 的验证完全依赖 LLM 审查,但论文没有提供任何关于审查器误判率的数据。一个可研究的问题:能否用形式化证明助手的部分自动化(如 Lean 的 sorry 填充)来量化 LLM 审查的可靠性?具体而言,可以构造一个"已知正确/已知错误"的定理测试集,测量 VALG 审查器的假阳性/假阴性率,并分析失败模式是否与定理的结构特征(依赖深度、量化复杂度、极限过程)相关。

  2. "部分进展"的自动分类与价值评估(扎根于第 4 节每个案例的 "partial progress" 标注)。VALG 能区分"完全解决"和"部分进展",但分类标准是人为设定的(是否匹配源问题范围)。一个可研究的问题:能否学习一个自动分类器,根据定理的假设、结论与源问题的语义距离,预测该定理对源问题的"贡献度"?这需要定义"贡献度"的可操作度量——例如,该定理能否作为证明源问题其他子任务的引理。

  3. 修订策略的最优性(扎根于第 3.3 节 "Failure-Localized Routing")。VALG 的修订策略是"最小修复优先"(先重试步骤,再调整引理,最后修订定理)。但这一策略是否最优?一个可研究的问题:在给定计算预算(LLM 调用次数)下,不同修订策略(深度优先 vs. 广度优先 vs. 基于失败类型的优先级)对最终定理质量(正确性、 generality、可读性)的影响。这可以形式化为一个随机最短路径问题,其中状态是依赖图的部分赋值,动作是修订操作,目标是最大化定稿概率。

  4. 从"定理发现"到"概念发现"(扎根于第 2 节对 QED 和 Danus 的讨论,以及第 5 节 "formalization also remains a critical challenge")。VALG 的产出是定理和证明,但 ML 理论研究中更重要的往往是概念——例如,1-bit 均值估计案例中的"平衡码定位"思想,能否被抽象为一个可复用的"定位-细化"模式?一个可研究的问题:能否让 VALG 在多个案例中自动提取跨问题的证明模式(如"两阶段采样"、"谱间隙保持"、"隐私预算分配"),并存入可检索的模式库?这需要定义模式的形式化表示(例如,依赖图的子图同构类)。

  5. 与统计计算复杂性的连接(扎根于 4.1 节 Tensor ALS 案例的 "polynomial time" 表述)。VALG 的定理只关心统计精度(\(\epsilon\) 误差、概率),不关心计算复杂性。但 ML 理论的核心问题之一是统计-计算权衡(statistical-computational tradeoff)。一个可研究的问题:能否扩展 VALG 的定理模板,使其同时输出"统计保证"和"计算保证"(例如,ALS 的迭代次数、每次迭代的浮点运算数)?这需要将计算复杂性分析(如条件数、谱间隙的界)纳入证明框架。

  6. 开放问题的选择偏差(扎根于第 4 节 "nine subproblems from five COLT 2026 open-problem papers")。VALG 的案例全部来自 COLT 开放问题——这些问题的共同特征是"已有部分结果、有明确的猜想方向"。一个可研究的问题:VALG 在没有明确猜想的开放问题上表现如何?例如,给定一个学习问题的描述(分布类、协议、误差度量),VALG 能否自主提出有意义的定理目标?这需要评估"问题提出"本身的质量,可能需要人类专家的事后评判。

  7. 形式化验证的桥接(扎根于第 5 节 "formalization also remains a critical challenge" 和第 2 节对 Lean 生态的讨论)。VALG 的证明是非形式化的,无法被 Lean 等证明助手直接检查。一个可研究的问题:能否将 VALG 的依赖图自动翻译为 Lean 的 sorry 骨架,使得每个依赖边对应一个 Lean theorem 声明,然后逐步填充证明?这需要解决自然语言证明到形式化证明的语义鸿沟,但 VALG 的依赖图结构可能为此提供了比纯文本更好的起点。

提醒:要确认上述问题是否是真 gap,建议去读以下近期工作的引言部分(约 5 篇):(i) QED 的评估部分(看它如何处理验证失败);(ii) Danus 的 fact graph 设计(看它与依赖图的异同);(iii) AI4SLT 的形式化策略(看它如何桥接非形式化与形式化);(iv) LeanDojo 的检索增强(看它如何处理前提选择);(v) 任何关于 LLM 数学推理可靠性的实证研究(看验证器的误判率)。如果这些工作的引言都指向同一个未解决问题,那才是值得投入的真 gap。


Maintained by 陈星宇 · Homepage · Source

评论