Whom to Query for What: Adaptive Group Elicitation via Multi-Turn LLM Interactions¶

讲者: Tianwei Gao
会场: Robustness and Reliability of Statistical Inference in the AI Age
报告题目: Whom to Query for What: Adaptive Group Elicitation via Multi-Turn LLM Interactions
链接: arXiv
来源: JCSDS 2026 · 返回会议总览

一、领域脉络与小综述¶

这个方向是什么¶

这个子方向的核心问题是：如何在有限的交互预算（提问次数、受访者人数）下，通过自适应地选择问题和受访者，高效地推断一个群体的潜在属性（如政治倾向、经济偏好）？ 它结合了贝叶斯实验设计、预测推断、图神经网络和大型语言模型（LLM），旨在解决传统调查中成本高、数据稀疏、非响应等实际问题。当前，该方向正处于从“个体自适应启发”向“群体自适应启发”过渡的阶段，本文是这一过渡的关键一步。

发展脉络¶

奠基工作：贝叶斯实验设计与预测推断
- Rainforth et al. (2024)：对现代贝叶斯实验设计（BED）进行了全面综述，涵盖了从经典贝叶斯自适应方法（如Cheng and Shen, 2005）到深度学习技术（如Foster et al., 2021; Ivanova et al., 2021）的演进。它为自适应启发提供了理论框架，但主要关注个体层面的最优设计。
- Fong et al. (2024)：提出了“鞅后验分布”（Martingale posterior distributions），将贝叶斯推断的根基从参数先验转移到对缺失观测的预测分布上。他们证明了，通过一个满足鞅性质的copula更新规则，可以构建一个有效的预测推断机器。本文引用语境：该工作被用来论证预测分布序列的无偏更新性质（predictive coherence）。
- Berti et al. (2004)：提出了“条件同分布”（c.i.d.）序列的概念，并证明了其预测分布序列构成一个鞅。这为Fong et al. (2024)的鞅后验理论提供了数学基础，也被本文用来论证其框架的理论合理性（Fact 2.1）。
主要进展：LLM驱动的个体自适应启发
- Wang et al. (2025)：首次提出使用自回归模型（如LLM）进行自适应启发，无需显式指定先验。他们通过元训练一个LLM来模拟未来观测，并基于预期信息增益（EIG）贪心地选择下一个问题。本文引用语境：该工作被定位为“最近的工作”，但其方法局限于固定受访者池，没有考虑“问谁”的问题。本文的framing：作者明确指出，Wang et al. (2025)主要优化“问什么”，而实际瓶颈往往是“能问多少人”，因此需要同时优化“问谁”。
- Xie et al. (2021); Ye and Namkoong (2024)：将上下文学习（ICL）解释为隐式贝叶斯推断，为LLM作为预测工具提供了理论基础。本文引用语境：这些工作被用来论证，经过微调的LLM是有效的预测推断工具。
当前Frontier：群体结构与图神经网络
- Suh et al. (2025)：提出了GEMS（Graph-basEd Models for Human Simulation），使用异构图神经网络（GNN）进行人类行为模拟，在多项任务上匹配或超越了强LLM方法，但参数量少了三个数量级。本文引用语境：该工作被直接采用，其异构图GNN被用作本文框架中的核心传播和插补工具。本文的定位：本文将此GNN方法整合进一个闭环的自适应启发框架中，使其不仅用于模拟，更用于指导“问谁”的决策。
本文的位置：本文是上述两条线索的首次系统性结合。它将Wang et al. (2025)的LLM驱动的EIG查询选择，与Suh et al. (2025)的GNN群体结构建模结合起来，并首次形式化地定义了“群体自适应启发”问题，即联合选择问题和受访者。本文的理论贡献在于，证明了在子模性假设下，其贪心联合选择算法具有近最优性保证。

子线索聚类¶

线索一：个体自适应启发（Individual Adaptive Elicitation）：核心是“问什么”。代表工作：Wang et al. (2025), Foster et al. (2021), Ivanova et al. (2021)。这些方法假设一个固定的受访者池，通过优化问题选择来最大化信息增益。本文的批评：忽略了“问谁”这一实际瓶颈。
线索二：群体建模与模拟（Group Modeling & Simulation）：核心是“如何利用群体结构”。代表工作：Suh et al. (2025), Schlichtkrull et al. (2018), Kipf and Welling (2017)。这些方法使用图神经网络来建模个体间的相似性和关系，用于预测或模拟。本文的贡献：将这些模型从被动模拟提升为主动决策的一部分，用于指导受访者选择和插补。
线索三：预测推断理论（Predictive Inference Theory）：核心是“为什么这样做是合理的”。代表工作：Fong et al. (2024), Berti et al. (2004), Ye and Namkoong (2024)。这些工作为基于预测分布的推断提供了严格的数学基础。本文的依赖：本文的理论合理性（Fact 2.1）直接建立在这些工作之上。

核心问题与瓶颈¶

核心问题1：如何在有限预算下，联合优化“问什么”和“问谁”，以最大化对群体潜在属性的推断精度？
核心问题2：如何利用群体结构（如人口统计学相似性）来插补未观测到的响应，从而更有效地利用稀疏数据？
核心问题3：如何为这种联合决策问题提供理论上的最优性保证？
当前瓶颈：现有方法要么只优化问题选择（Wang et al., 2025），要么只进行群体模拟（Suh et al., 2025），缺乏一个统一的、闭环的、能同时处理两个维度的框架。此外，理论保证通常局限于个体层面或简单的子模函数最大化问题，而联合选择问题的理论分析更为复杂。

⚠️ 作者的Framing¶

作者如何frame缺口：作者将缺口描述为“现有方法主要优化‘问什么’，而实际瓶颈是‘能问多少人’”，从而将本文的贡献定位为“显然的下一步”——即同时优化“问谁”。他们通过引入“群体自适应启发”这一新问题，并提供一个结合LLM和GNN的解决方案，来填补这个缺口。
被淡化或回避的竞争路线：
- 纯贝叶斯方法：作者回避了与经典贝叶斯实验设计（如Rainforth et al., 2024）的直接比较。这些方法虽然计算成本高，但提供了更严格的贝叶斯最优性。作者通过使用LLM来“避免显式先验”和“处理自然语言”来论证其方法的优势，但并未在实验中与一个计算上可行的贝叶斯基线（如变分BED）进行对比。
- 主动学习（Active Learning）：主动学习领域有大量关于联合选择实例和特征的工作。作者没有引用或讨论这些文献，而是将问题框定在“群体启发”这一特定语境下。这可能是因为主动学习通常假设一个固定的特征空间，而本文的问题涉及自然语言查询，更具挑战性。
什么明显该被引/该存在、却没出现在intro里？
- 主动学习（Active Learning）：特别是“查询合成”（query synthesis）和“流式选择性采样”（stream-based selective sampling）的相关工作。这些工作直接处理了“问谁”和“问什么”的联合问题，虽然通常不涉及自然语言或群体结构。
- 因果推断中的自适应实验设计：例如，在治疗分配和政策学习中，也有类似的问题：在有限预算下，选择哪些个体接受哪种治疗，以最大化对因果效应的推断。这些工作可能提供了不同的理论视角（如遗憾界）。

张力¶

未见明显对立引用。所有被引工作基本都沿着“预测推断”和“图神经网络”这两个互补的方向发展，没有发现彼此矛盾或在不同条件下得出相反结论的情况。

二、最核心、最简单的例子 / 数学问题¶

第一步：符号、模型与可观测数据¶

符号：
- V：群体成员集合，|V| = n。每个成员 v ∈ V 有一个潜在实体 U_v（如政治倾向）。
- X：候选查询（问题）集合。每个查询 x ∈ X 是一个自然语言问题。
- Y：响应空间。Y_v^x 表示成员 v 对查询 x 的响应（如“支持/反对”）。
- H_t：到第 t 轮为止的交互历史，包含所有已提出的查询和已观测到的响应。
- R_t：第 t 轮被选中的受访者子集，|R_t| ≤ k。
- x_t：第 t 轮被选中的查询。
- f(S)：效用函数，衡量从一组查询-受访者对 S ⊆ V × X 中获得的信息增益（如EIG）。
- ∆(A|S)：边际增益，f(S ∪ A) - f(S)。
- h_v：成员 v 在异构图GNN中的最终层嵌入向量。
模型：
- 数据生成机制：假设存在一个潜在实体 U_v 控制着成员 v 对所有查询的响应。给定 U_v，成员 v 的响应是条件独立的。即 P(Y_v^{x_1}, ..., Y_v^{x_m} | U_v) = ∏_j P(Y_v^{x_j} | U_v)。这个 U_v 是未知的，是推断的目标。
- 预测模型：一个元训练的LLM p_θ 被用来近似 P(Y_v^x | H_v)，即给定历史交互，预测成员 v 对查询 x 的响应。这个LLM不显式建模 U_v，而是通过预测未来响应来间接量化关于 U_v 的不确定性。
- 群体结构模型：一个异构图GNN被用来建模成员之间的相似性。图包含三种节点：成员节点、特征节点（如年龄、性别）和查询-选择节点（如“问题Q1，选项A”）。边连接成员到其对应的特征和已观测到的选择。GNN通过消息传递来学习成员嵌入 h_v，使得相似响应模式的成员具有相似的嵌入。
可观测数据：
- 可观测：对于被选中的受访者子集 R_t 和被选中的查询 x_t，我们可以观测到他们的真实响应 Y_{R_t}^{x_t}。此外，所有成员的人口统计学特征（如年龄、性别）是已知的。
- 不可观测/潜在：每个成员的潜在实体 U_v 是不可观测的。对于未被选中的成员 v ∉ R_t，他们对查询 x_t 的响应 Y_v^{x_t} 是不可观测的，需要被插补。对于所有成员，对未提出的查询的响应也是不可观测的。

第二步：最小内核¶

最简特例：假设我们有一个非常小的群体，只有 n=3 个成员 V = {Alice, Bob, Carol}。候选查询集 X 只有 m=2 个问题 {Q1, Q2}，每个问题只有两个选项（支持/反对）。我们的预算非常紧张：每轮只能问 k=1 个受访者，总共只能进行 T=2 轮交互。目标是在两轮后，尽可能准确地预测所有3个人对一个从未被问过的目标问题 Q_target 的响应。

在这个特例下，核心思路是什么？

第一轮：
- 选择问题：LLM评估 Q1 和 Q2 的预期信息增益（EIG）。假设 Q1 的EIG更高，因为它能更好地区分Alice、Bob和Carol的潜在倾向。所以我们选择 Q1。
- 选择受访者：GNN根据成员的人口统计学特征（如年龄、教育背景）生成嵌入 h_Alice, h_Bob, h_Carol。假设 h_Alice 和 h_Bob 非常相似，而 h_Carol 是离群点。为了最大化覆盖，我们选择嵌入空间的“中心”或最“代表性”的成员。假设 h_Alice 是中心，所以我们选择询问Alice。
- 观测与插补：我们问Alice Q1，得到她的真实响应（例如，“支持”）。然后，GNN利用这个新信息进行消息传递。由于Alice和Bob的嵌入相似，GNN会更新Bob的嵌入，并预测Bob对 Q1 的响应很可能也是“支持”。Carol的响应则根据其与Alice的弱连接进行弱预测。这些插补的响应被加入历史。
第二轮：
- 选择问题：基于更新后的历史（包含Alice的真实响应和Bob、Carol的插补响应），LLM重新评估 Q2 的EIG。现在，由于我们已经对 Q1 有了一些了解，Q2 可能提供互补的信息，因此它的EIG现在最高。所以我们选择 Q2。
- 选择受访者：GNN的嵌入已经更新。现在，Bob的嵌入可能更接近Alice，而Carol仍然是离群点。为了获得最大信息增益，我们可能选择询问Carol，因为我们对她的不确定性最大。所以我们选择询问Carol。
- 观测与插补：我们问Carol Q2，得到她的真实响应（例如，“反对”）。GNN再次进行消息传递，更新所有嵌入。现在，我们对Alice和Bob的 Q2 响应进行插补（基于他们与Carol的相似性，以及他们自己的历史）。
最终预测：经过两轮，我们有了Alice对 Q1 的真实响应，Carol对 Q2 的真实响应，以及GNN插补的所有其他响应。LLM利用这个“完整”的历史，来预测每个人对 Q_target 的响应。

这个最小内核揭示了什么？ * 联合决策的必要性：如果只优化问题选择（如Wang et al., 2025），我们可能会在两轮中都问 Q1，或者每次都问同一个最“有信息量”的人（如Alice），从而错过Carol这个离群点的关键信息。本文的框架通过联合选择，在第一轮覆盖了主流群体（Alice），在第二轮针对了不确定性高的个体（Carol），实现了更高效的信息收集。 * GNN插补的价值：没有GNN，我们只能依赖LLM对未观测响应进行独立预测，这忽略了群体结构。GNN通过消息传递，将Alice的真实响应“传播”给Bob，使得对Bob的预测更准确，从而在第二轮做出更好的决策。 * 贪心算法的合理性：在这个两轮的例子中，每轮都选择当前最优的（问题，受访者）对，最终得到了一个很好的结果。本文的理论（Theorem 4.1 & 4.2）证明了这种贪心策略在更一般的情况下也是近最优的。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：本文研究了群体自适应启发问题，即在有限的问题和受访者预算下，如何通过多轮交互，自适应地选择问题和受访者，以最小化对群体潜在属性的不确定性。
核心工具/方法：提出了一个结合LLM驱动的预期信息增益（EIG）目标（用于选择问题）和异构图神经网络（GNN）传播（用于插补缺失响应和选择受访者）的闭环框架。
主要结论：在三个真实世界观点数据集（CES, OpinionQA, Twin-2K）上，该方法在有限的受访者预算下（如10%），一致地优于仅优化问题选择的基线方法，在CES上取得了超过12%的相对提升。理论分析表明，其贪心联合选择算法在子模性假设下具有近最优性保证。

关键设定与假设¶

设定：
- 多轮交互：一个中央智能体与一个群体进行 T 轮交互。每轮，智能体选择一个查询 x_t 和一个受访者子集 R_t（|R_t| ≤ k）。
- 预算约束：总查询次数 T 和每轮受访者数量 k 是固定的。
- 目标：最小化对群体潜在属性（由一组保留的目标查询 X_h 的响应来代理）的不确定性。
关键假设：
- 子模性（Submodularity, Assumption A.1(c)）：效用函数 f 满足边际收益递减。即，随着已观测到的信息增多，新增一个观测带来的信息增益会减少。这是保证贪心算法近最优性的标准假设。
- 单调性（Monotonicity, Assumption A.1(b)）：观测更多信息不会降低效用。这是合理的。
- 查询-预算对齐（Query-Budget Alignment, Assumption A.1(d)）：存在一个常数 η，使得对于任何历史，从所有受访者那里获得信息的最大增益（Ψ）与从有限预算 k 的受访者那里获得信息的最大增益（Φ_k）是成比例的。这个假设排除了那种信息只集中在极少数人身上的查询，确保了贪心选择查询的合理性。相比已有文献：这是本文为联合选择问题引入的新假设，是对经典子模函数最大化理论（如Krause et al., 2008）的扩展。
- 鞅条件（Martingale Condition, Fact 2.1）：预测分布序列构成一个鞅。这是从de Finetti定理推广而来的，保证了预测推断的理论合理性。相比已有文献：这是Fong et al. (2024)和Berti et al. (2004)的核心假设，本文直接沿用。

主要结果¶

定理4.1（联合贪心选择的近最优性）：在Assumption A.1下，由联合贪心算法（每轮同时选择最优的 (R_t, x_t) 对）选择的序列，其累积信息增益至少是最优序列的 (1 - e^{-2})/2 倍。即 f(S_T) ≥ (1 - e^{-2})/2 * f(S_T^*)。
- 直觉：这个界是经典子模函数最大化贪心算法 (1-1/e) 界的变体，但针对的是联合选择问题。它表明，即使联合搜索空间巨大，贪心策略也能保证一个常数因子的近似最优。
- 必要条件：Assumption A.1 (a)-(c)（子模性和单调性）。
- 解决的技术难点：将经典的单元素贪心选择扩展到“集合对”（受访者子集和查询）的联合选择，并证明其近最优性。
定理4.2（两阶段贪心选择的近最优性）：在Assumption A.1下，由两阶段贪心算法（先选最优查询，再选最优受访者子集）选择的序列，其累积信息增益至少是最优序列的 (1 - e^{-2η})/2 倍。其中 η 是Assumption A.1(d)中的对齐常数。
- 直觉：这个界比定理4.1的界更宽松（因为 η ≤ 1），但它对应了本文实际使用的、计算上更可行的两阶段策略。它表明，只要查询-预算对齐假设成立，两阶段贪心也是近最优的。
- 必要条件：Assumption A.1 (a)-(d)。
- 解决的技术难点：证明两阶段策略（先选全局最优查询，再选局部最优受访者）不会导致信息增益的灾难性损失。关键在于对齐假设 η 保证了全局最优查询的信息增益不会远小于任何局部最优查询的信息增益。

证明路线与技术技巧¶

整体路线（以定理4.2为例）：
1. 定义与设定：定义最优序列 S_T^* 和两阶段贪心序列 S_T。目标是证明 f(S_T^*) ≤ C * f(S_T)。
2. 建立递推关系：通过单调性，将 f(S_T^*) 与 f(S_i)（前 i 轮贪心选择的效用）联系起来。核心是证明 f(S_T^*) ≤ 2f(S_i) + (T/η)[f(S_{i+1}) - f(S_i)]。这一步利用了子模性来分解最优序列的边际增益，并将其与贪心序列的边际增益进行比较。
3. 处理两种情形：对于最优序列中的每个元素 (R_j^*, x_j^*)，根据其查询 x_j^* 是否已经被贪心算法选过，分两种情形处理其边际增益：
  - 情形1（查询已选）：利用子模性，其边际增益不超过贪心算法在选中该查询的那一轮的边际增益。
  - 情形2（查询未选）：利用子模性和对齐假设（Assumption A.1(d)），其边际增益不超过 (1/η) 倍的贪心算法在下一轮的边际增益。
4. 求和与放缩：将所有 T 个最优元素的边际增益求和，并利用上述两种情形的界，得到步骤2中的递推关系。
5. 解递推关系：定义 δ_i = f(S_T^*) - 2f(S_i)，从递推关系得到 δ_{i+1} ≤ δ_i (1 - 2η/T)。迭代 T 次，得到 δ_T ≤ f(S_T^*) e^{-2η}。
6. 得出结论：整理 δ_T 的定义，得到 f(S_T^*) ≤ 2/(1 - e^{-2η}) * f(S_T)。
关键跳跃点：
- 从最优序列到贪心序列的边际增益比较：这是证明的核心。如何将最优序列中一个元素 (R_j^*, x_j^*) 的边际增益 ∆((R_j^*, x_j^*)|S_{j-1}^*) 与贪心序列的边际增益 f(S_{i+1}) - f(S_i) 联系起来？关键在于利用子模性，将条件集从 S_{j-1}^* 放松到 S_i，然后利用贪心算法的定义或对齐假设。
- 对齐假设的引入：在情形2中，如果没有对齐假设，我们只能得到 ∆((R_j^*, x_j^*)|S_i) ≤ max_{x} Φ_k(x|S_i)，但这无法直接与 f(S_{i+1}) - f(S_i) 联系起来。对齐假设保证了 max_x Φ_k(x|S_i) 与 Φ_k(x_{i+1}|S_i) = f(S_{i+1}) - f(S_i) 是成比例的，从而完成了桥接。
技术技巧点名：
- 子模函数最大化（Submodular Maximization）：整个证明框架是经典子模函数最大化贪心算法分析（如Krause et al., 2008）的直接应用和扩展。
- 边际增益分解：将最优序列的总效用分解为每一步的边际增益之和，这是标准技巧。
- 递推关系与放缩：通过建立 δ_i 的递推关系并求解，得到最终的近似比。这是分析贪心算法性能的经典方法。

真实例子与应用¶

数据：三个真实世界观点数据集：
- CES (Cooperative Election Study)：2024年美国大选调查，包含3,326名受访者，30个二元政策问题。
- OpinionQA：皮尤研究中心美国趋势小组数据，包含2,368名受访者，30个多选社会/政治问题。
- Twin-2K：一个用于构建“数字孪生”的数据集，包含2,368名受访者，40个关于经济偏好和行为决策的问题。
如何应用：
1. 元训练：使用来自“南方”地区的受访者数据，元训练LLM（Llama-3.1-8B，LoRA微调）和异构图GNN（R-GCN）。
2. 测试：在来自“西部”地区的受访者数据上进行自适应启发。每轮，框架使用元训练的LLM计算候选问题的EIG，使用GNN嵌入选择受访者子集，然后观测真实响应，并用GNN插补未观测响应，更新历史。
3. 评估：在5个从未被问过的“目标问题”上，评估对所有受访者响应的预测准确率。
结果：
- 主要结果（图3）：在10%、30%、50%的受访者预算下，本文方法（Ours）在所有三个数据集上，在所有轮次中，准确率都一致高于三个基线（Meta-Random, Meta-Greedy, Meta-Greedy-Imp）。例如，在CES上，10%预算下，第4轮相对提升超过12%。
- 消融实验（图5）：
  - 查询选择：贪心查询选择（GreedyQ）优于随机查询选择（RandomQ）。
  - 插补：GNN插补（GreedyQ-Imp）远优于无插补（GreedyQ-NonImp），且优于LLM独立插补（Meta-Greedy-Imp）。
  - 主动观测：主动选择受访者（Ours）优于仅依赖GNN插补而不主动观测（Ours-Imp）。
- 受访者选择分析（图4）：增益主要集中在“高敏感性”受访者（即那些仅靠群体结构难以预测的个体）上。这表明框架有效地将有限预算分配给了最难推断的个体。
- 多步规划对比（表1）：与贪心算法相比，更复杂的多步规划（rollout）带来的增益微乎其微，且不稳定，无法证明其高昂的计算成本。
例子想说明什么：这些实验系统地验证了本文的核心论点：有效的群体自适应启发需要联合优化“问什么”和“问谁”，并且群体结构（通过GNN建模）对于插补和受访者选择至关重要。实验结果也支持了其理论分析（贪心算法的近最优性）。

🔎 结论是否比证明窄¶

定理4.1和4.2的证明：严格依赖于Assumption A.1，特别是子模性和查询-预算对齐假设。论文在Remark A.6中论证了在贝叶斯框架下，预测分布序列满足鞅性质，从而为子模性提供了部分直觉，但并未严格证明EIG函数 f 在任何情况下都满足子模性。这是一个常见的理论-实践差距。
泛化声明：论文在结论中声称“我们的方法在多个真实世界数据集上一致地提高了推断精度”。这个结论是基于实验的，而非严格证明。实验只在三个特定数据集上，使用特定的LLM和GNN架构进行。其泛化到其他类型的数据、模型或问题（如连续响应、动态群体）的能力并未被证明。
理论保证的范围：定理4.1和4.2保证的是贪心算法选择的序列的效用，而不是最终预测的准确性。它保证的是信息增益的下界，但信息增益高并不直接等价于预测准确率高（尽管实验表明两者相关）。这是一个重要的细微差别。

四、开放问题¶

理论保证的扩展：本文的理论保证依赖于子模性和查询-预算对齐假设。一个开放问题是，当这些假设不成立时（例如，EIG函数不是子模的，或者存在信息只集中在极少数人身上的查询），贪心算法的性能会退化到什么程度？能否给出一个更紧的、不依赖于这些假设的界？（扎根于：Assumption A.1及其在Remark A.6中的讨论）
更复杂的群体结构：本文假设群体结构是静态的，由人口统计学特征定义。一个开放问题是，如何处理动态变化的群体结构（例如，成员加入/退出，关系随时间演变）？如何将时间序列模型（如RNN）与GNN结合，以捕捉群体偏好的演变？（扎根于：论文的设定是静态群体，未来工作部分未提及此点，但这是一个自然的扩展方向）
计算效率与可扩展性：本文的方法每轮都需要运行LLM进行EIG计算和GNN进行消息传递。对于超大规模群体（如数百万用户），如何设计近似算法或分布式计算方案，使得该方法在实时交互中仍然可行？（扎根于：论文在Remark 4.3中提到了计算成本，但未深入探讨可扩展性问题）
与因果推断的结合：本文的目标是预测群体响应。一个更深层次的问题是，如何将自适应启发框架用于因果推断？ 例如，在政策制定中，我们可能不仅想预测群体对某个问题的看法，还想知道改变某个因素（如提供信息）会如何改变他们的看法。这需要将框架扩展到反事实预测和因果效应估计。（扎根于：论文的动机来自调查，但未涉及因果问题。这与研究者的因果推断兴趣直接相关。）

Maintained by 陈星宇 · Homepage · Source on GitHub