跳转至

Session 10 · 机器学习理论

XAGI 2026 交叉智能大会 · 10 月 18 日(周日)上午 10:00-12:00 · 3会(友谊宫二层3号会议室) · 返回会议总览

  • 3 场报告 · 已精读 3 场

主持:马梓业(香港城市大学)

本场导览

自动生成:归纳本场主线,不打分、不排名。

这一场报告围绕“学习系统的效率与适应性”展开,主线有三条:一是经典优化算法的收敛极限(马鉴昊),二是在线学习理论及其在推理加速中的应用(赵鹏),三是Agent架构的自适应构建(常恒)。三者从不同层面回应同一问题——在资源受限或环境非稳态下,如何通过算法设计而非单纯增加算力来提升性能。

最突出的是赵鹏的报告,它横跨理论与系统两个层面。理论部分提出“在线集成”框架,针对非稳态环境给出最优动态遗憾界,这是对传统静态遗憾分析的直接推进;应用部分则将同一套在线学习逻辑移植到大模型推理,用“生成-验证-自适应更新”闭环动态优化推测解码的草稿策略,并扩展到扩散模型草稿与并行树状解码。这条线从理论保障到系统落地是递进关系,且与马鉴昊形成对照——马鉴昊证明步长调度的加速存在硬下界(Ω(T^{-1.9319})),即纯算法层面无法达到Nesterov最优;赵鹏则展示在线反馈机制可以在系统层面绕过这一限制,两者在“算法设计边界”上构成互补视角。常恒的报告更偏工程架构,关注Agent的规划、记忆与工具编排如何随任务演化,与赵鹏的在线更新思想有交集,但对象从单模型推理扩展到多组件系统。

若想快速建立本场脉络,建议先看马鉴昊(理解优化理论的下界约束)和赵鹏(看理论如何转化为推理加速的实际收益),这两场构成“理论极限—系统突破”的完整叙事。常恒的报告适合对Agent架构设计感兴趣的读者,可作为进阶入口,其“Harness与模型策略协同优化”与赵鹏的“草稿策略自适应”在方法论上可互相参照。


1. 步长加速梯度下降的收敛下界

讲者:马鉴昊(清华大学 · 工业工程系) · 10:00-10:40

对应论文:未检索到公开论文(以下为依据报告摘要与讲者方向的推断)

摘要(会议官网)

梯度下降是优化与机器学习中最基础的算法之一。对于光滑凸优化问题,经典理论给出的收敛速度为 O(T^{-1})。近年来的一系列工作发现,无须引入动量或改变算法结构,仅通过精心设计步长序列,就可以将普通梯度下降加速至约 O(T^{-1.2716})。这自然引出了一个基本问题:仅依靠步长选择,梯度下降能否达到 Nesterov 加速方法所具有的最优 O(T^{-2}) 收敛速度? 本报告将介绍我们在这一问题上的最新结果。针对使用预先设定的非负步长序列的梯度下降,我们证明了一个 \Omega(T^{-1.9319}) 的末次迭代收敛下界。这表明,无论如何设计此类步长序列,仅依靠步长调度都无法使普通梯度下降达到 O(T^{-2}) 的最优加速速度。 本工作的证明由 GPT-5.6 Sol Pro 在作者指导下完成,报告也将简要分享大语言模型参与数学研究与证明发现的过程。

(未检索到公开论文,以下依据报告摘要与讲者方向推断)

问题:梯度下降是优化与机器学习的基础算法,经典理论对光滑凸问题给出 \(O(T^{-1})\) 的收敛速度。近年工作发现,仅通过精心设计步长序列,无需动量或改变算法结构,即可将普通梯度下降加速至约 \(O(T^{-1.2716})\)。这引出一个基本问题:仅靠步长选择,能否达到 Nesterov 加速方法的最优 \(O(T^{-2})\) 速度?本报告针对这一开放问题给出否定性回答。

核心方法:报告考虑使用预先设定的非负步长序列的梯度下降,即步长在迭代前固定、不依赖当前迭代信息。作者证明了一个末次迭代收敛下界 \(\Omega(T^{-1.9319})\),意味着无论步长序列如何设计,普通梯度下降的末次迭代误差都无法突破该速率。由于 \(1.9319 < 2\),该下界直接排除了达到 \(O(T^{-2})\) 最优加速的可能性。摘要未给出证明的具体构造细节,但提到证明由 GPT-5.6 Sol Pro 在作者指导下完成,报告将讨论大语言模型参与数学证明的过程。

与已有工作的关系:该结果衔接了两条线索:一是经典梯度下降的 \(O(T^{-1})\) 理论,二是近年来通过步长调度将梯度下降加速至 \(O(T^{-1.2716})\) 的系列工作。它同时对照 Nesterov 加速方法的 \(O(T^{-2})\) 最优界,表明步长调度这一受限策略与完整加速方法之间存在本质差距。下界指数 \(1.9319\) 接近但未达到 \(2\),说明步长调度的潜力几乎被穷尽,但摘要未提及与具体基线(如特定步长策略)的数值对比。

贡献与边界:主要贡献是从理论上划定了「仅靠步长调度」这一策略的收敛速度极限,为优化理论中步长设计的研究提供了明确边界。其适用边界包括:问题限定为光滑凸优化,分析对象是末次迭代误差,且步长序列须预先设定、非负。因此,结论不直接覆盖自适应步长、动量方法或平均迭代收敛性。由于未检索到公开论文,证明的技术细节、常数项以及 GPT-5.6 Sol Pro 在证明中的具体作用均无法从现有材料核实。

讲者简介

马鉴昊,清华大学工业工程系助理教授,研究方向为机器学习中的优化理论。2025年于美国密歇根大学工业与运筹工程系获得博士学位,导师为 Salar Fattahi 教授;随后在宾夕法尼亚大学统计与数据科学系从事博士后研究,合作导师为 Yuxin Chen 教授。相关成果发表于 JMLR、Mathematics of Operations Research、TMLR、COLT、ICML、ICLR、NeurIPS 等期刊与会议。

2. 在线学习与大模型高效推理

讲者:赵鹏(南京大学 · 人工智能学院) · 10:40-11:20

对应论文:未检索到公开论文(以下为依据报告摘要与讲者方向的推断)

摘要(会议官网)

在线学习是一种通过交互信息持续提升模型能力的学习范式,是解决序列预测与决策问题的重要技术手段。本次报告将首先介绍我们在非稳态在线学习方面的理论进展,提出“在线集成”框架实现最优的动态遗憾界保障,有效提升了开放环境下的稳健性。进一步,本报告还将介绍在线学习技术在大模型情境下的初探。特别以高效推理为例,针对自回归生成过程计算开销大、推理延迟高的问题,我们提出了在线学习驱动的推测解码方法:基于小模型生成草稿、大尺寸模型验证的推理范式,并构建“生成-验证-自适应更新”的在线学习闭环,通过反馈信息动态优化草稿策略,有效提高了推测解码系统的接收率和推理效率。同时,报告还将介绍基于扩散模型架构的草稿生成与并行树状解码等方向进展。

(未检索到公开论文,以下为推断)

问题:在线学习通过交互信息持续提升模型能力,是序列预测与决策问题的核心范式。但现实环境常是非稳态的,传统静态遗憾界难以刻画模型在分布漂移下的表现;同时,大模型自回归生成的计算开销与推理延迟成为部署瓶颈。报告将这两个问题串联:一方面从理论上追求非稳态环境下的最优动态遗憾界,另一方面把在线学习机制引入推测解码,用反馈动态优化草稿策略,以降低推理成本。

核心方法:理论部分提出“在线集成”框架,通过组合多个在线学习器来适应环境变化,目标是获得最优的动态遗憾界保障,从而提升开放环境下的稳健性。应用部分则构建“生成-验证-自适应更新”的闭环:小模型先生成草稿,大模型并行验证,再根据验证反馈在线更新草稿生成策略,使草稿分布逐步贴近目标模型的接受偏好,从而提高接收率与端到端推理效率。报告还提及基于扩散模型架构的草稿生成与并行树状解码,作为该路线的进一步扩展。

与已有工作的关系:推测解码本身是成熟的推理加速范式,通常依赖固定的小模型草稿与大模型验证,草稿策略不随反馈调整。本报告的增量在于把在线学习嵌入这一流程,使草稿策略具备自适应更新能力,属于“学习型推测解码”方向。理论部分则与在线学习中的动态遗憾研究一脉相承,在线集成框架可视为对单一在线学习器在非稳态环境下局限性的回应,但摘要未点名具体基线或同期工作。

贡献与边界:主要贡献是给出非稳态在线学习的理论保障框架,并将在线学习与推测解码结合,形成可动态优化的推理加速方案。边界也很明显:官网摘要未给出任何实验规模、数据集、具体加速比或遗憾界数值,因此无法判断实际效果与理论紧度;在线学习闭环依赖验证反馈的即时性与准确性,若验证成本过高或反馈延迟,可能抵消推理收益。扩散模型草稿与并行树状解码仅作为方向提及,细节与成熟度未知。

讲者简介

赵鹏,南京大学人工智能学院准聘副教授,博士生导师,机器学习与数据挖掘所(LAMDA)成员。研究方向为机器学习基础理论,包括在线学习、随机优化、强化学习理论等。发表学术论文60余篇,包括JMLR、COLT、ICML、NeurIPS等顶级期刊和会议。担任Machine Learning、TMLR期刊执行编委、Frontiers of Computer Science期刊青年编委,担任ICML、NeurIPS等会议领域主席等。入选CCF优秀博士论文激励计划,曾获南京大学“小米青年学者-科技创新奖”等。

3. Learning to Build Agents: Adaptive Planning, Memory, and Harness Evolution

讲者:常恒(Unity China · AI Hub) · 11:20-12:00

对应论文:未检索到公开论文(以下为依据报告摘要与讲者方向的推断)

摘要(会议官网)

随着大语言模型推理能力持续提升,Agent系统的性能瓶颈正逐步从模型本身扩展到规划、记忆、执行与工具编排等外部机制。本报告将介绍我们近期围绕自适应Agent架构的一系列研究,包括任务感知的执行结构、可演化的规划与记忆机制,以及Harness与模型策略的协同优化。相关工作旨在探索超越单纯模型规模扩展的新路径,使Agent系统具备面向任务动态构建、持续适应与自主进化的能力。

(未检索到公开论文,以下依据报告摘要与讲者方向推断)

问题:大语言模型推理能力提升后,Agent 系统的性能瓶颈从模型本身转移到规划、记忆、执行与工具编排等外部机制。报告要解决的核心问题是:如何让 Agent 不再依赖固定流程或单纯扩大模型规模,而是能根据任务动态构建自身结构、持续适应环境并自主进化。官网摘要强调“超越单纯模型规模扩展”,说明动机来自当前 Scaling Law 边际收益递减与 Agent 工程化需求上升的交叉点。

核心方法:报告围绕三条线索展开:任务感知的执行结构、可演化的规划与记忆机制、Harness 与模型策略的协同优化。其中“Harness”指 Agent 外部控制框架(如工具调用协议、上下文管理、执行循环),与模型策略联合优化意味着将外部机制视为可学习参数的一部分,而非手工固定。摘要未给出具体算法、公式或实验规模,因此无法确认是否采用强化学习、进化搜索或双层优化等具体实现。

与已有工作的关系:该方向与当前 LLM Agent 主流路线(如 ReAct、Plan-and-Execute、反思型 Agent)形成对照——后者多依赖人工设计的提示模板或固定循环;本报告强调“自适应”与“演化”,更接近 AutoGPT 类动态规划与近期 Agent 自我改进工作。讲者背景涉及 Agentic RL,暗示可能将 Agent 构建过程建模为可微或可奖励优化的决策问题,与纯 prompt engineering 路线拉开距离。

贡献与边界:主要贡献是提出一个整合规划、记忆、Harness 协同演化的 Agent 架构视角,为“模型规模之外”的性能提升提供系统化思路。边界在于:官网摘要未给出可复现的技术细节、基准数据集或对比实验,无法评估其相对现有方法的实际增益;且“自主进化”通常依赖高质量奖励信号或环境反馈,在开放任务中可能面临稀疏奖励与评估偏差。讲者来自工业界(Unity China),应用导向明显,但摘要未披露具体垂域场景。

讲者简介

常恒博士,现任Unity China首席AI科学家,曾任华为终端云服务助理首席专家,华为天少少年计划。他于清华大学电子系获得工学学士学位,后于清华大学计算机系取得计算机科学博士学位,曾在UC Berkeley和Harvard进行研究工作。他当前的研究兴趣包括: LLM Agents,Agentic RL及其在垂域场景的应用。他在人工智能和数据挖掘领域的国际顶级会议与期刊上发表了六十余篇学术论文,并担任NeurIPS, ICLR, AAAI等国际顶级会议领域主席(Area Chair)。


Maintained by 陈星宇 · Homepage · Source

评论