跳转至

Session 03 · LLM评测 & Benchmark

XAGI 2026 交叉智能大会 · 10 月 17 日(周六)下午 14:00-16:00 · 7会(友谊宫二层7号会议室) · 返回会议总览

  • 4 场报告 · 已精读 4 场

主持:张辉帅(北京大学)

本场导览

自动生成:归纳本场主线,不打分、不排名。

这一场聚焦于大模型评测与基准构建的底层方法论,四场报告分别从数据归因、科学数据自动化、评测视角分工、持续优化能力四个切面展开。主线可归纳为两条:一是“数据如何决定模型行为与能力”——潘亮铭的机理数据归因与刘泽群的科学数据自动化均从数据侧切入,前者试图解释行为成因,后者则面向科学场景解决数据生产与评测的自动化问题;二是“评测本身如何设计”——姚金戈从研发方与中立方的视角差异讨论评测的定位与挑战,张辉帅则针对代码智能体的持续优化能力提出新基准,属于任务驱动的评测设计。

最突出的主线是数据与评测的耦合:潘亮铭的“机理数据归因”框架(ICML 2026 Oral)打通了训练数据到内部机制再到行为输出的因果链,并通过对关键样本的定向改写实现行为双向操控,这为评测提供了“干预式”验证手段;刘泽群的AIDE、DESRO、SciCustom三个系统则分别覆盖数据整理、推理合成与定制评测,其核心是将科学本体作为语义骨架来组织评测基准,与潘亮铭的“机理理解驱动数据研究”形成互补——前者从行为反推数据作用,后者从数据构建正向支撑评测。姚金戈的视角讨论则点出评测的元问题:第一方评测贴近研发迭代但易有偏差,第三方评测更中立但面临任务定义与成本挑战,这为理解前两场报告中的评测设计动机提供了背景。张辉帅的ARC-Golf Bench与上述报告形成对照:它不依赖数据归因或科学本体,而是以代码长度优化为具体任务,考察模型与运行框架的组合效应,并引入经验库迁移机制,属于评测方法在特定任务上的落地验证。

若按主题选择入口:想从数据侧理解评测根基,先看潘亮铭与刘泽群两场,前者提供机理视角,后者给出科学场景的完整数据流水线;想聚焦评测设计本身,姚金戈的视角辨析适合作为框架性铺垫,再以张辉帅的ARC-Golf Bench作为具体案例,观察评测基准如何被构造、验证并用于能力分析。若时间有限,潘亮铭与张辉帅两场覆盖了从数据归因到任务基准的两端,可作为快速了解本场核心议题的起点。


1. 大模型数据归因:从行为溯源到精准干预

讲者:潘亮铭(北京大学 · 计算机学院) · 14:00-14:30

对应论文:Mechanistic Data Attribution: Tracing the Training Origins of Interpretable LLM Units · arXiv:2601.21996 · 📖 长篇精读

摘要(会议官网)

大模型的能力与行为从何而来?数据归因(Data Attribution)试图回答这一根本问题:将模型的行为与内部机制追溯到塑造它们的具体训练数据。本次报告将结合我们近期的两项工作,介绍数据归因研究的两条路径。其一是“溯源”:我们提出“机理数据归因”框架(ICML 2026 Oral),首次打通从训练数据到内部机制再到模型行为的完整因果链,揭示归纳头等可解释单元由哪些训练样本塑造。其二是“干预”:通过对影响函数选出的关键样本进行定向改写,实现对模型弃答与安全拒绝等行为的精准双向操控。这些结果表明,数据归因不仅可用于理解大模型行为的成因,也为在数据层面定向调控模型行为提供了可行途径。报告最后将探讨“以机理理解驱动数据研究”的研究愿景,让数据的筛选、增强与治理从经验驱动走向机理指导。

(对应论文为自动检索推断,可能有偏差)

问题:大模型的能力与行为从何而来?可解释性研究已能定位模型内部的归纳头等可解释单元,但它们的训练数据成因仍是黑箱。报告要解决的是“数据归因”的粒度问题:传统数据归因只能回答哪些数据影响了整体行为,无法回答哪些样本塑造了某个具体机制。官网摘要强调,这项工作首次打通“训练数据→内部机制→模型行为”的完整因果链,并进一步把归因从理解工具推进为干预手段,为数据筛选、增强与治理提供机理指导。

核心方法:报告提出“机理数据归因”(MDA)框架,分三步:先用监测指标定位可解释单元(如归纳头),再在单元对应的参数子空间 \(\theta_{\text{sub}}\) 上用影响函数计算训练样本对单元行为的贡献,核心公式为 \(I_{\text{MDA}}(z_{\text{train}}, D_{\text{probe}}) = -\nabla_{\theta_{\text{sub}}} L(z_{\text{train}})^\top \hat{H}^{-1}_{\theta_{\text{sub}}} \nabla_{\theta_{\text{sub}}} f_{\text{probe}}(\theta, D_{\text{probe}})\),其中 \(\hat{H}^{-1}\) 用 EK-FAC 近似。论文在 Pythia 系列(14M–160M)上做了因果验证:删除或重复 ≤10% 的高影响样本可显著抑制或加速归纳头与前词头的涌现,随机干预无效;高影响样本呈幂律分布,且以 LaTeX、XML 等重复结构数据为主。干预归纳头会同步改变模型的上下文学习(ICL)能力,为归纳头与 ICL 的关联提供了直接因果证据。

与已有工作的关系:它把 Koh & Liang (2017) 的影响函数从“全局行为归因”扩展到“机制级归因”,并采用 Grosse et al. (2023) 的 EK-FAC 近似来应对大模型 Hessian 计算开销。与同期观察性研究(如 Lee et al. 2026、Baker et al. 2026 对数据模式与归纳头涌现的相关分析)相比,MDA 的优势在于做了训练期因果干预,而非仅报告相关性。论文还对比了随机删除/增强基线,并验证了高影响样本在不同归纳头间的可迁移性。

贡献与边界:主要贡献是提出可扩展的机理数据归因框架,首次在真实规模模型上因果验证了特定训练样本对可解释单元涌现的充分性与必要性,并展示了数据级干预对 ICL 等能力的双向调控。边界方面:论文的因果实验限于 Pythia 14M–160M,对 OLMo-2-1B/7B 仅做了定性分析,未做完整重训练验证;归因计算限定在关键发育窗口内,未覆盖全训练语料;高影响样本的“重复结构”特征是否适用于其他机制(如知识存储、推理)尚不清楚。官网摘要提到的“精准干预”第二项工作(弃答与安全行为调控)未在检索到的论文中展开,具体方法与效果边界需以报告现场为准。

讲者简介

潘亮铭,北京大学计算机学院助理教授、研究员、博士生导师,国家级青年人才,智源青年学者。主要研究方向包括自然语言处理、机器学习、大语言模型与可解释人工智能,聚焦大模型内部机理理解与可解释性,并以此为基础构建可靠、可控、安全的大语言模型。已在 ICML、NeurIPS、ICLR、ACL等国际顶级会议和期刊发表论文 60 余篇,谷歌学术总引用量超过 7000 次,论文曾获包括最佳论文奖在内的多项荣誉奖励。主持包括 CCF-腾讯犀牛鸟基金、CCF-1688源宝合作基金在内的多项产学研合作。

2. 科学大模型的数据自动化:数据整理、推理合成与定制评测

讲者:刘泽群(中关村学院 · AI4Science) · 14:30-15:00

对应论文:未检索到公开论文(以下为依据报告摘要与讲者方向的推断)

摘要(会议官网)

以大语言模型为代表的基础模型正在深刻重塑科学研究范式,在分子设计、医学诊断等领域展现出加速科学发现的巨大潜力。然而,科学大模型的发展在数据层面仍面临多重挑战:原始数据分散异构,推理过程缺乏显式记录,评测需求因任务而异。本报告围绕科学大模型“数据准备 - 推理学习 - 能力验证”的全生命周期,介绍我们在数据自动化方面的研究工作。在数据整理方面,我们提出多智能体协同框架 AIDE,实现科学数据检索、质量筛选与结构化组织的全流程自动化,将分散异构的原始数据转化为训练就绪的高质量资源。在推理合成方面,我们提出 DESRO,基于实验变量变化与结果差异反演潜在推理过程,并以分子优化为例实现可解释推理链的大规模合成。在定制评测方面,我们提出 SciCustom,以科学本体为语义骨架,将科学语料组织为可复用的细粒度知识单元,进而依据用户需求自动构建面向特定科研场景的评测基准。上述工作推动科学数据构建由依赖人工走向自动化,为科学大模型的持续进化提供数据支撑。

(未检索到公开论文,以下为推断)

问题
以大语言模型为代表的基础模型正在重塑科学研究范式,在分子设计、医学诊断等领域展现出加速发现的潜力。但科学大模型的数据层面存在三重瓶颈:原始数据分散异构,难以直接用于训练;推理过程缺乏显式记录,模型难以学习可解释的科学推理;评测需求因任务而异,通用基准无法覆盖特定科研场景。这些问题贯穿“数据准备—推理学习—能力验证”全生命周期,使得数据构建高度依赖人工,成为科学大模型持续进化的主要障碍。

核心方法
报告围绕上述生命周期提出三个自动化系统。数据整理方面,AIDE 采用多智能体协同框架,将科学数据检索、质量筛选与结构化组织全流程自动化,把分散异构的原始数据转化为训练就绪资源。推理合成方面,DESRO 基于实验变量变化与结果差异反演潜在推理过程,并以分子优化为例实现可解释推理链的大规模合成。定制评测方面,SciCustom 以科学本体为语义骨架,将科学语料组织为可复用的细粒度知识单元,再依据用户需求自动构建面向特定科研场景的评测基准。三者分别对应数据、推理、评测三个环节。

与已有工作的关系
官网摘要未给出明确基线或同期对比。从讲者简介看,其此前研发的 MolXPT、NatureLM 等科学大模型属于下游应用背景,本报告则从数据侧切入,与依赖人工整理和通用评测的既有路线形成互补。可推断其针对的是科学数据人工处理成本高、通用评测不适用等问题,推进了数据构建自动化这一方向,但具体与哪些已有方法对比、相对提升幅度如何,摘要中未说明。

贡献与边界
主要贡献在于提出覆盖科学数据全生命周期的自动化框架,推动数据构建由人工走向自动化,为科学大模型提供可持续的数据支撑。边界方面:官网摘要未给出实验规模、数据集大小或量化结果;DESRO 以分子优化为例,其推理反演方法在其他科学领域的泛化性未知;SciCustom 依赖科学本体的质量与覆盖度,本体不完整时评测基准的可靠性可能受限。由于未检索到公开论文,以上仅基于摘要与讲者方向做推断,具体技术细节与验证结果有待原文确认。

讲者简介

刘泽群博士,现为北京中关村学院研究员,主要研究方向为大模型、AI4Science。分别于2019年和2024年在北京大学计算机学院获得学士和博士学位,在加入北京中关村学院前,曾在微软亚洲研究院担任研究员。刘泽群博士致力于科学大模型相关的研究,取得了一系列算法和应用上的突破,在Nature Machine Intelligence等顶级期刊和ACL、EMNLP、NAACL等人工智能顶级会议上发表论文十余篇,作为主要贡献者研发的MolXPT、NatureLM等科学大模型受到行业内广泛关注和认可。

3. 大语言模型评测的两种视角

讲者:姚金戈(至知研究院 · UBio Team) · 15:00-15:30

对应论文:未检索到公开论文(以下为依据报告摘要与讲者方向的推断)

摘要(会议官网)

随着大语言模型研发进入“下半场”,评测工作的重要性日益凸显。报告结合讲者实际评测经验与观察,阐释评测对研发方向的决定性作用,并围绕大语言模型的两种视角:研发团队第一方评测与中立团队第三方评测这两个视角展开,探讨二者异同、各自面临的巨大挑战,以及近期出现的初步解决思路。

(未检索到公开论文,以下依据报告摘要与讲者方向推断)

问题:报告聚焦大语言模型研发“下半场”中评测工作的定位与困境。官网摘要指出,评测对研发方向具有决定性作用,但当前评测实践存在两种割裂的视角:研发团队内部的“第一方评测”与中立团队的“第三方评测”。报告要回答的核心问题是:这两种视角各自面临什么挑战,以及近期有哪些初步解决思路。之所以现在值得讨论,是因为模型能力快速迭代后,传统评测指标与真实研发决策之间的鸿沟日益明显,评测不再只是排行榜竞争,而是直接影响技术路线选择。

核心方法:摘要未给出具体技术方案或公式,仅说明报告基于讲者“实际评测经验与观察”展开。从讲者背景推断,方法层面可能包括:对比第一方评测(如研发团队自建评测集、在线AB测试、基于用户反馈的迭代)与第三方评测(如公开基准、对抗性测试、跨模型盲评)在目标、数据来源、评估偏差上的差异;并讨论近期出现的“初步解决思路”,例如评测协议标准化、第三方与第一方评测结果的对齐校准等。但官网摘要未披露任何具体数字、规模或实验结论,这些细节只能视为方向性推断。

与已有工作的关系:材料中未点名任何基线、方法名或同期工作,无法确认报告具体对标哪条研究路线。从领域常识看,该报告可能涉及LLM-as-a-Judge、动态基准(如LiveBench)、人类偏好对齐等常见评测范式,但摘要并未提及,因此不宜过度关联。更稳妥的理解是:报告试图在工业界评测实践与学术评测研究之间建立桥梁,强调“视角”差异而非具体算法创新,这与讲者多年在微软亚研、苹果从事产品研发的经历一致。

贡献与边界:主要贡献在于提出一个分析框架——将评测拆分为第一方与第三方两种视角,并强调其对研发方向的决定性作用,这有助于研究者反思自身评测实践的盲区。边界也很明显:报告属于经验总结与观点阐释,而非系统性实证研究;未检索到公开论文,意味着其结论缺乏可复现的细节支撑。依赖的假设是“评测结果能有效传导至研发决策”,但这一假设在多大程度上成立,摘要未给出证据。若想跟进,建议关注讲者所在至知研究院UBio Team后续是否发布评测方法论或数据集。

讲者简介

姚金戈博士曾在微软亚洲研究院、苹果公司担任主管研究员或研发工程师,多年从事自然语言理解与生成技术研发,2026 年加入至知研究院(IQuest Research, UBio Team)担任 AI 算法专家,近年开始承担大语言模型及其他AIGC系统的评测与分析工作。曾在多个国际顶尖学术会议担任领域主席、主导工业级智能助手产品的功能研发与技术迭代。

4. 大语言模型持续优化能力评测

讲者:张辉帅(北京大学 · 王选计算机研究所) · 15:30-16:00

对应论文:未检索到公开论文(以下为依据报告摘要与讲者方向的推断)

摘要(会议官网)

现有代码基准通常以正确性为主要评价目标,对大语言模型智能体持续改进优化的能力缺乏充分评估。我们提出 ARC-Golf Bench,包含 96 道不同难度的网格变换任务,要求智能体在保证正确性的前提下尽可能缩短 Python 程序,并以人类表现为参照。通过评测四个模型与两种智能体运行框架,我们发现:智能体在 10 道任务上超越了最佳人类参考解,但整体仍落后于最强人类团队,且性能显著依赖模型与运行框架的组合。我们进一步提出 Golf-UnZip,分析代码精简技巧的丰富度与解题方法的多样性,并通过可复用经验库研究经验迁移,在留出任务上使两个执行智能体的程序总长度分别减少 13.2% 和 9.4%。该基准为研究模型能力、运行框架与经验迁移如何影响持续程序优化提供了可验证的实验平台。

(未检索到公开论文,以下为推断)

问题:现有代码基准大多以“能否通过测试”为唯一标准,衡量的是模型一次生成正确代码的能力,而非在正确基础上持续改进、压缩程序长度的能力。报告指出,这种评价缺失使得大语言模型智能体的“持续优化”行为——例如重构、消除冗余、寻找更短解法——无法被系统度量。随着智能体被用于真实软件维护与算法设计,这种能力的重要性上升,因此需要一个以人类表现为参照、兼顾正确性与程序长度的评测平台。

核心方法:报告提出 ARC-Golf Bench,包含 96 道不同难度的网格变换任务,要求智能体在保证正确性的前提下尽可能缩短 Python 程序,并以人类表现为参照。评测覆盖四个模型与两种智能体运行框架,发现智能体在 10 道任务上超越最佳人类参考解,但整体仍落后于最强人类团队,且性能显著依赖模型与框架的组合。进一步提出 Golf-UnZip,用于分析代码精简技巧的丰富度与解题方法的多样性,并通过可复用经验库研究经验迁移,在留出任务上使两个执行智能体的程序总长度分别减少 13.2% 和 9.4%。

与已有工作的关系:该工作直接针对现有代码基准“以正确性为主要评价目标”的局限,属于程序合成与代码生成评测路线的延伸。其特点是将“代码长度”作为优化目标,并引入人类基线作为参照,同时把智能体运行框架作为变量纳入评测——这区别于只关注模型单次输出的传统 benchmark。Golf-UnZip 中的经验库迁移机制,也与少样本提示、工具调用等智能体能力研究相关,但摘要未给出具体对比基线。

贡献与边界:主要贡献是提供了一个可验证的持续程序优化评测平台,并初步揭示了模型能力、运行框架与经验迁移三者的交互效应;经验库带来的长度缩减是量化结果。边界方面,任务限定为网格变换,优化目标仅为 Python 程序长度,未涉及运行效率、可读性或更复杂的真实代码库;评测规模(96 道任务、四个模型)有限,且官网摘要未给出模型名称、框架细节及统计显著性,因此结论的泛化性仍需后续论文补充。

讲者简介

张辉帅,北京大学王选计算机研究所助理教授,此前曾在微软亚洲研究院担任首席研究员。他的研究领域包括自然语言处理、大语言模型,及大模型优化训练算法。已在机器学习和人工智能的顶级会议与期刊上发表了50余篇论文。他与合作者的一系列创新性工作首次成功将隐私保护技术应用于大型语言模型的训练中,推动了相关技术在商业产品中的应用。


Maintained by 陈星宇 · Homepage · Source

评论