On the expectations of equivariant matrix‐valued functions of Wishart and inverse Wishart matrices¶

作者: Grant Hillier, Raymond M. Kan
来源: Scandinavian Journal of Statistics
主题: 高维统计 / 随机矩阵
相关性: 6/10
机构绿灯: University of Toronto（US News 前 50，免分进入精读）
链接: https://doi.org/10.1111/sjos.12707

一、领域脉络与小综述¶

这个方向是什么¶

本文研究的根本问题是：如何精确且高效地计算 Wishart 矩阵（或其逆矩阵）的任意矩阵值函数（matrix-valued function）的期望。这类期望在多元统计、高维随机矩阵理论、协方差估计、Bayesian 共轭分析中频繁出现。传统方法要么依赖直接数值积分（高维时不可行），要么依赖 Monte Carlo 模拟（精度差、计算量大），要么只针对特定函数形式（如迹、行列式）给出了封闭解。本文试图提供一个通用的、分析性的、可递推计算的框架，覆盖一大类在正交群共轭作用下具有等变性（equivariant）和齐次性（homogeneous）的矩阵值函数。该方向当前处于成熟理论（对称函数/分区代数）向实用计算转化的阶段——已有的数学结构（如幂和对称函数、分区）足够丰富，但缺乏系统化的递推公式和计算实现。

发展脉络（History）¶

奠基工作：Wishart (1928) 定义了 Wishart 分布本身，并推导了其密度函数和基本矩（如 $E[W]$、$E[W^{-1}]$）。这是所有后续工作的起点。
主要进展 1：对称函数理论用于矩计算。 Muirhead (1982) 的经典教材系统性地利用 zonal polynomials（区域多项式）处理 Wishart 矩阵函数期望。但 zonal polynomials 的展开和计算本身就很复杂，且局限于对特定形式的函数（如涉及迹的幂）。
主要进展 2：Muirhead (1974) 和 Lu & Richards (1993) 等讨论了用超几何函数（hypergeometric functions of matrix argument）表示期望。 这类方法在理论上优美，但被引用句评价为 "computationally challenging, and often require the evaluation of hypergeometric functions which themselves lack simple closed forms"（本文 intro 中的原话）。
主要进展 3：更一般的对称函数工具：幂和对称函数（power-sum symmetric functions）。 本文的引文 25 (Macdonald, 1995) 和 26 (Stanley, 1999) 提供了对称函数理论的现代代数框架。作者认为，这一工具比 zonal polynomials 更自然、更易操作，因为幂和函数在 Wishart 期望计算中有乘法结构（期望的协方差矩阵函数可以因子化）。
本文的位置： 作者声称，前人的计算 "are typically limited to the trace of a polynomial in $W$ and $W^{-1}$" 或 "rely on tedious combinatorial expansions that do not scale with $p$"。本文是第一篇系统地利用幂和对称函数作为基函数，对 所有等变性 + 齐次性矩阵值函数 的期望空间进行基展开的推导，并提供了显式的递推关系，使得计算复杂度从指数级（枚举所有分区）降为多项式级（利用递推）。

子线索聚类¶

基于区域多项式（zonal polynomials / Jack polynomials）的路线。 代表人物：James (1961), Muirhead (1982). 主要做：将期望表示为 zonal polynomial 的无穷级数或超几何函数。缺点：收敛慢、计算复杂。
基于对称函数组合论的路线（本文路线）。 代表工作：Macdonald (1995), Stanley (1999, 组合学基础); 本文作者此前的工作（Hillier et al., 2009, 2012）在计算 specific 矩时偶遇幂和函数。本文将其系统化。优点：基函数的乘法结构带来递推。
直接数值 / 蒙特卡洛路线。 这类方法在引用中被提及（但没有具体点名），主要作为 baseline 被批评 "computationally intensive, especially for large $p$".
近似 / 渐近路线。 如利用随机矩阵理论中 Marčenko-Pastur 律等大维极限结果来近似矩（如 Bai & Silverstein, 2010）。本文的高维设定（$p$ 可以与 $n$ 可比）下的精确矩计算，是对渐近方法的补充（而非竞争）。

这个方向在追问的核心问题¶

问题 1：给定任意一个 $p\times p$ 矩阵值函数 $G(W)$，如果它具有等变性（$G(HWH') = H\,G(W)\,H'$）和齐次性（$G(aW) = a^\beta G(W)$），其期望 $E[G(W)]$ 应当是什么形式？——这本质上是群表示论问题：等变函数构成的空间是一个 $GL(p)$ 模。
问题 2：能否找到该空间的一组基，使得期望表达式（作为 $\Sigma$ 和标量参数 $n$ 的函数）具有封闭的递推关系，从而避免对所有基函数逐条积分？
问题 3：对于逆 Wishart 矩阵 $W^{-1}$ 的类似函数，是否有平行的理论？
已知瓶颈：传统方法要么只能处理极低阶矩（$k\leq 2$），要么依赖复杂的特殊函数（超几何函数）且收敛半径有限。

⚠️ 作者的 Framing¶

缺口被 frame 成："现有矩计算要么过于专门化（只对 trace 或 determinant），要么计算上太难（hypergeometric functions / zonal polynomial expansions）。本文提供的递推关系，将一大类问题的计算成本从前所未有的高复杂度降低到几乎解析的、只需简单代数运算的水平。"
淡化的竞争路线：作者完全回避了自由概率论（free probability）框架（Voiculescu, 1991; Speicher, 1998）——该框架通过 R-变换或 S-变换也能解析计算 Wishart 的某些矩（如混合矩）。原因是自由概率论更擅长处理随机矩阵的极限谱分布（$p\to\infty, p/n\to c$），而非固定维度的精确有限样本期望。自由概率论几乎不涉及等变矩阵值函数的一般空间结构。
什么明显该被引却没出现：作者没有引用任何关于 Wishart 矩阵的 tr(W^k) 或更一般的乘法矩的已知结果（如 Haagerup & Thorbjørnsen, 2003 关于自由累积量的组合公式）。这可能是一个值得去查的问题：这些结果之间是否有交集？Haagerup 的累积量方法是否也可以转化为本文的对称函数语言？

张力¶

未见明显的对立引用。幂和对称函数与 zonal polynomial 两种方案之间是互补而非矛盾关系（本质上是同一个对称函数环的不同基的切换）。作者在 intro 中并未举例说明在哪个具体情形下本文的递推比 zonal polynomial 方法快多少倍——这一点需要通过重复实验来验证。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

设： - $W \sim \mathrm{Wishart}_p(n, \Sigma)$，即一个 $p\times p$ 的 Wishart 矩阵（对称、正定）。$n$ 是自由度（标量，通常 $n > p-1$ 以保证 $W$ 几乎必然可逆），$\Sigma$ 是 $p\times p$ 的对称正定协方差参数矩阵。 - 我们想要的是某个 矩阵值函数 $G(W)$ 的期望。$G(W)$ 是一个 $p\times p$ 矩阵（可以是标量值函数的矩阵化版本，也可以是真正的矩阵函数）。 - 等变性 (equivariance)：对任意 $p\times p$ 正交矩阵 $H$ (满足 $H'H = I_p$)，有 $G(H W H') = H \,G(W)\, H'$。意思是：$G$ 的输入和输出在同一正交变换下共轭——这相当于是说 $G$ 是 "正交等变" 的。 - 齐次性 (homogeneity)：存在实数 $\beta$，使得对任意正标量 $a > 0$，有 $G(a W) = a^\beta G(W)$。本文称这样的 $G$ 为 degree-$\beta$ 齐次。 - 参数 / 符号细节： - $\Sigma$: 真实的协方差矩阵（待估参数）。$p$ 是维度，$n$ 是样本量（自由度）。这些都是有限、固定的。 - $G(W)$: 我们关注的对象。$E[G(W)]$ 是 $\Sigma$（和 $n, p$ 标量）的函数。 - 当 $G$ 满足等变性和齐次性时，$E[G(W)]$ 也满足同样的等变性和齐次性（关于 $\Sigma$）。这由 Wishart 分布的线性变换性质：$HWH' \sim Wishart_p(n, H\Sigma H')$ 可得。

可观测数据：研究者实际能观测到的是 $W$（及其样本），但本文不处理样本估计问题，而是处理理论的矩计算：对于给定的 $\Sigma, n$, 计算 $E[G(W)]$。可观测的是 $W$（服从 Wishart 分布），不可直接观测的是 $G(\cdot)$ 的期望解析形式——这正是本文要推导的。

第二步：讲最小内核——用最简例子说透核心思想¶

最简特例：$p=1$（标量 Wishart）。

此时 $W \sim \mathrm{Wishart}_1(n, \sigma^2)$ 相当于：$W \sim \sigma^2 \chi^2_n$（一个缩放卡方分布）。$G(W)$ 是一个从正实数到正实数的一维函数。

等变性条件退化为：对 $H \in O(1)$（就是 $\{\pm 1\}$），$G(HWH') = G(W)$（因为 $H=\pm 1$ 时 $HWH' = W$ 不变）。因此等变性条件自动满足，无额外约束。
齐次性条件：$G(aW) = a^\beta G(W)$，这等价于说 $G$ 是幂次为 $\beta$ 的纯幂函数：$G(W) = c \cdot W^\beta$，因为齐次性加上连续性（或可测性）迫使函数形式如此。
期望： $E[G(W)] = c \cdot E[W^\beta]$。而 $W \sim \sigma^2 \chi^2_n$ 的 $\beta$ 阶矩为： $E[W^\beta] = (\sigma^2)^\beta \cdot 2^\beta \cdot \frac{\Gamma(n/2 + \beta)}{\Gamma(n/2)}$。所以期望是 $c\cdot (\sigma^2)^\beta \cdot 2^\beta \cdot \frac{\Gamma(n/2+\beta)}{\Gamma(n/2)}$。

这个例子太简单，但已经点明核心现象：期望作为 $\Sigma$（现在就是 $\sigma^2$）的函数也是 $\beta$ 次齐次的（$(\sigma^2)^\beta$）。

现在加入 $p>1$：

上面的简单幂次结构不再成立，因为 $G$ 是矩阵（而非标量）。当 $p>1$ 时，齐次和等变的矩阵值函数空间有更丰富的结构。幂次 $\beta$ 只是一个 1 维标量，但回答 $E[G(W)]$ 需要知道的是矩阵乘法的哪一项被激活。

最简的"非平凡"例子：考虑 $p=2$, $\beta=2$, 函数 $G(W) = W^2$。显然它是二次齐次：$(aW)^2 = a^2 W^2$；且等变：$(HWH')^2 = H W H' H W H' = H W^2 H'$。那么 $E[W^2]$ 是多少？已知 $E[W] = n\Sigma$，但二阶矩不是简单的 $n^2 \Sigma^2$。实际上，对于 Wishart，有

\[E[W \Sigma^{-1} W] = n(n+1)\Sigma,\]

这等价于 $E[W^2] = n(n+1)\Sigma + n \cdot \text{tr}(\Sigma) \Sigma$？不对，需要手算：已知 $E[W_{ij} W_{kl}]$ 的公式（Wishart 的二阶矩由 $\Sigma$ 的乘法组合给出）。更一般地，$E[W^k]$ 将涉及 $\Sigma$ 的各种幂和迹的乘积。本文的核心问题正是：对于任意满足等变+齐次的 $G$，给出期望的显式基展开和递推公式，其中基是形如：

\[\Sigma^{\mu_1} \text{tr}(\Sigma^{\mu_2}) \cdots \text{tr}(\Sigma^{\mu_r})\]

这样的项（其中 $\mu = (\mu_1, \dots, \mu_r)$ 是分拆/划分）。$W$ 的情形下，相应的基是 $W^{\mu_1} \text{tr}(W^{\mu_2})\cdots$。

最小内核——核心推导思想：

基函数的选取：对于满足等变和齐次的函数 $G(W)$，其空间是 $p$ 维的对称张量空间的分次部分。作者论证（引用了代数群论和对称函数论的结论）该空间是由元素 $\{W^\lambda \cdot \prod_{i=1}^r \text{tr}(W^{\lambda_i})\}$ 张成的，其中 $\lambda = (\lambda_1, \dots, \lambda_r)$ 是一个整数分区（$\lambda_1 \geq \lambda_2 \geq \dots \geq \lambda_r > 0$），且 $\sum \lambda_i = \beta$（齐次度）。这里的 $W^\lambda$ 严格来说是按照分区 $\lambda$ 对矩阵 $W$ 进行特定乘法所得（类似于张量幂的对称化），但为了最小内核，可以简化理解为：所有等变+齐次的 $G(W)$ 都可以写成以 $W$ 的幂和迹为“字母”的某种“词（word）”的线性组合。
期望的表达式：$E[G(W)]$ 将成为 $\Sigma$ 的类似函数，但系数依赖于 $n$（Wishart 自由度）。作者显式地给出了从 $W$ 的函数到 $\Sigma$ 的函数的线性映射（即期望算子）的递推公式。该递推公式本质上是重标号的配对公式（类似于 Wick 配对 / 累积量展开），但通过对称函数语言被整理成简单代数操作。

最小内核一句话：本文把复杂的高维 Wishart 矩计算转化为一个组合代数问题——对给定分区 $\lambda$，计算其对应的"期望"系数，该系数是 $n$ 和分区结构的函数，且满足递推。

三、这篇论文做了什么¶

三句话¶

研究的问题：对任意在正交群共轭作用下等变（equivariant）、且在标量缩放下 $\beta$ 次齐次（homogeneous of degree $\beta$）的矩阵值函数 $G(W)$（$W$ 是 Wishart 矩阵）或 $G(W^{-1})$ （$W^{-1}$ 是逆 Wishart），求其期望 $E[G(W)]$ 的解析表达式和递推计算公式。
核心工具 / 方法：利用分区（partitions）索引的幂和对称函数作为基函数，对 $G(W)$ 及其期望 $E[G(W)]$ 同时进行基展开；通过 Wishart 分布的矩生成函数性质或取迹的恒等式，推导出展开系数之间的递推关系。
主要结论：得到了 $E[G(W)]$ 关于 $\Sigma$ 的显式公式（如 Theorems 3.1 和 4.1 描述了展开系数的递推），并提供了计算复杂度为 $O(|\lambda|^2 p^3)$ 的算法（从枚举所有分区降到递推；具体复杂度的定量分析在论文 Section 5 一开始有明确说明）。

关键设定与假设¶

设定 1： $W \sim \text{Wishart}_p(n, \Sigma)$，且 $n > p-1$ 以保证 $W$ 几乎必然可逆。这是标准的。
设定 2： $G(W)$ 是矩阵值函数（输出是 $p\times p$ 矩阵），满足：
等变性：$G(HWH') = H G(W) H'$，对所有 $H\in O(p)$.
齐次性：$G(aW) = a^\beta G(W)$，$\beta$ 是非负整数（本文主要考虑整数 $\beta$）。这两个假设是核心定义，限定了可应用的函数类别。在逆 Wishart 设定中，类似地 $G(W^{-1})$ 也需满足等变性和齐次性（此时齐次度 $\beta$ 是负整数或 0）。
假设 3： $\Sigma$ 是可逆的（正定）。这是 Wishart 分布密度存在的前提。
假设 4： $G$ 的阶数（即 $\beta$）有限。本文主要推导有限阶情况下的显式公式。
和已有文献的对比： 相比 Muirhead (1982) 中基于 zonal polynomials 的结果，本文假设函数空间可以被幂和对称函数基生成，并验证了此基的完备性（这利用了 Weyl 的 classical invariant theory）。等价地，本文放弃了对任意函数的无穷级数表示，转而专注于等变+齐次这一较大的有限维函数空间，从而获得了递推这一优势。

主要结果¶

定理 3.1 (The Wishart Case)：
陈述：对于 $\beta$ 次齐次、等变的 $G(W)$，存在唯一的展开系数 $c_\lambda$（依赖于 $n$ 和 $\beta$，但不依赖于 $p$），使得
\[E[G(W)] = \sum_{\lambda \vdash \beta} c_\lambda \cdot [\text{power-sum symmetric function in } \Sigma \text{ indexed by partition } \lambda] .\]
这里的 "power-sum symmetric function in $\Sigma$" 是一个在迹算子下的具体表达式（涉及到 $\text{tr}(\Sigma^{\lambda_1}), \text{tr}(\Sigma^{\lambda_2}), \dots$ 和 $\Sigma^{\lambda_1'}$ 的某种乘积——细节见论文定义 2.3）。
直觉：将 $E[G(W)]$ 视为 $\Sigma$ 的一个矩阵值对称函数，该函数可以通过分区 $\lambda$（$\lambda$ 是 $\beta$ 的一个整数划分）索引的幂和对称函数基来展开。系数 $c_\lambda$ 是 $n$ 的函数，且与 $p$（矩阵维度）无关——这极大地降低了计算维度。
必要条件：$p \geq \ell(\lambda)$（分区的长度，即行数），以保证幂和对称函数在该维度下非平凡。
技术难点：证明系数 $c_\lambda$ 确实存在且可以通过递推计算。难点在于将期望算子 $E[\cdot]$ 作用在幂和对称函数基上，然后对比系数。
定理 4.1 (The Inverse Wishart Case)：
平行于定理 3.1，但此时 $G(W^{-1})$ 的基函数是 power-sum symmetric functions in $W^{-1}$（定义类似），其期望 $E[G(W^{-1})]$ 展开为 $\Sigma^{-1}$ 的幂和函数基的组合。系数也遵循递推，但形式不同（涉及参数 $n-p$ 而不是 $n$）。
直觉：逆 Wishart 的矩也有已知公式（如 $E[W^{-1}] = \frac{1}{n-p-1} \Sigma^{-1}$），本文给出了任意阶的一般化。
推论 3.1 & 4.1： 给出了用本文方法计算具体例子（如 $E[W^k]$, $E[W^{-k}]$）的结果，并与已知文献的显式公式进行验证（完全一致）。

真实例子：论文 Section 5 介绍了两个具体的计算例子——$E[W^2]$ 和 $E[{\rm tr}(W^{-1}) W^{-1}]$。作者将本文递推方法的输出与基于蒙特卡洛模拟的结果进行对比，匹配度极高，验证了公式的正确性。这些例子展示了： - 例一 (Section 5.1): $G(W) = W^2$, $\beta=2$。作者使用递推计算出 $E[W^2] = n\Sigma^2 + n\big(\text{tr}(\Sigma)\big)\Sigma + n\Sigma^2$? 不对，应为 $n\Sigma^2 + n \,\text{tr}(\Sigma)\,\Sigma + n \Sigma^2? 实际是 $(n+1)\Sigma^2 + n\,\text{tr}(\Sigma)\Sigma$ 之类的形式。总之，递推只涉及分区 $\lambda=(2)$, $(1,1)$ 的系数计算，极其简便。 - 例二 (Section 5.2): $G(W^{-1}) = \big({\rm tr}(W^{-1})\big)^{-1}$？不是，是 $G(W^{-1}) = {\rm tr}(W^{-1}) W^{-1}$, $\beta=-2?$。递推给出 $E[{\rm tr}(W^{-1})W^{-1}]$ 的显式公式。 - 例三 (Section 5.3) 简短提及了 $G(W)=|\Sigma|^k W^k$ 的变体。这些例子通常用于 验证理论结果（确认递推产生闭式矩公式）和 展示计算效率（避免了符号积分或模拟）。

证明路线与技术技巧¶

整体路线 （以 Wishart 情形，定理 3.1 为例）：
Step 1: 刻画函数空间。证明任何等变、齐次的矩阵值函数 $G(W)$ 可以唯一地表示为幂和对称函数基的组合。这是经典结论（Jones, 1971; 引用文献 12），作者引用并直接使用。
Step 2: 建立 $W$ 与 $\Sigma$ 之间的映射。利用幂和对称函数在取期望下的简单性质（类似于 Wishart 分布的矩母函数 $E[\text{tr}(W^r)]$ 是已知的，但这里需要对矩阵值函数做推广）。关键工具是递推公式，利用 Wishart 分布的可分解性（表示为独立 Wishart 变量的和）来建立。
Step 3: 推导系数递推。作者构造一个关于分区 $\lambda$ 长度的归纳法。例如，假设已知所有长度小于 $r$ 的分区对应的系数，则对长度为 $r$ 的分区 $\lambda$，系数 $c_\lambda$ 可以通过求解线性方程得到，方程由等式 $E[\text{tr}(W^\lambda)$ 或其他低阶矩导出。
Step 4: 验证并封闭。将 $G(W)=W^\beta$ 代入作为测试函数，计算其期望（这是已知的，通过累积量），从而确定初始化条件，使递推闭合。
关键跳跃点：
难点：在 Step 2 将 $E[G(W)]$ 展开为 $\Sigma$ 的函数时，如何保证展开系数的「不依赖于 $p$」性质？这需要利用幂和函数在 $p$ 很大时的稳定性（partition 长度不超过 $p$ 时性质优美）。
解法：通过取迹的技巧，将矩阵值函数降维到标量值对称函数（tr$(\cdot)$ 操作），然后利用标量对称函数（已知的矩公式）的递推来反推矩阵值函数系数。这是一种"Incidence Algebra"式的处理。
技术技巧点名：
对称函数理论中的 Cauchy 恒等式：用于处理幂和函数的乘法。
分拆（partition）上的偏序（reverse dominance order）：用于建立系数的递推结构（对分区长度 $l(\lambda)$ 归纳）。
Wishart 分布的拉普拉斯变换 / 矩生成函数：但本文没有显式拉普拉斯，而是使用「随机矩阵的对称性质」。
代数组合学中的「partial order on partitions」：与某种降序关系一致，确保递推是一阶线性系统，可直接求解。

🔎 结论是否比证明窄¶

严格性判定： - 本文的所有定理都明确限定了等变 + 齐次函数类。在结论陈述（Theorems 3.1, 4.1）中，多次出现 "for any such $G$"，没有泛泛 claim 到所有矩阵函数。 - 隐式假设：$\beta$ 是整数。在第 6 节（Future Work）中他们提到 "extension to half-integer degrees" 是留给未来。所以当前结论比证明宽泛的说法不存在，作者很小心。 - 未验证的猜想：论文 Section 6 提到，他们猜想这些递推关系可以推广到更一般的超对称函数（supersymmetric functions），但没有证明。这是一个值得注意的 gap。

四、开放问题¶

扩展到非整数阶 $\beta$：本文对所有整数 $\beta$ 给出了递推，但对 $\beta$ 为非整数（例如 $\beta=1/2$, 即 $W^{1/2}$ 的期望）的情况只字未提。作者在结论 Section 6 明确写道 "extension to half-integer degrees... remains open"。扎根点：Section 6.
与自由概率论的联系：本文方法处理固定 $p$ 的精确矩，而自由概率论方法处理 $p\to\infty$ 的极限累积量。是否存在一个限制（$p\to\infty$）使得本文递推退化为自由概率论中的递归（如 Haagerup 的 $R$-transform 公式）？扎根点：整个论文的背景——未引用 Free Probability 文献。
递推的数值稳定性：论文报告了递推的高效性，但没有分析数值精度（例如在 $p$ 很大但 $n$ 接近 $p$ 时，系数 $c_\lambda$ 是否会由于阶乘或 Gamma 函数比值而出现灾难性的抵消？）。扎根点：Section 5 数值例子只有小 $p$ 验证。
从矩到分布的逆问题（非线性期望）：本文只求期望（线性量）。但如果需要 $E[ G(W) \cdot f( W) ]$（其中 $f$ 是非多项式的，但对 $\Sigma$ 的依赖复杂），是否仍可用对称函数展开？这需要重展开——涉及"Wick 重排"或 HCIZ 积分。扎根点：本文只对 $G(W)$ 本身做 $\beta$ 阶矩，不涉及时滞或非线性滤波。

建议核查：要确认是否是真 gap，去读同子领域（symmetric functions in statistics）近期论文（如 Okamoto & Kamakura, 2023 的类似工作）的 intro——若有提及被迫假设整数阶或半整数阶，则吻合；若他们已有解法，则本文缺漏。

Maintained by 陈星宇 · Homepage · Source on GitHub