跳转至

Bootstrap Error Estimation and Sketch-Size Selection for Sketched Ridge Regression

作者: Akito Narahara, Takayuki Kawashima, Takafumi Kanamori
主题: 统计计算 / 算法
相关性: 6/10
链接: https://arxiv.org/abs/2608.15478


一、领域脉络与小综述(从 introduction + 参考文献 + 已检索摘要构建)

这个方向是什么:随机化sketching(随机投影/采样)是RandNLA(随机数值线性代数)的核心技术,通过将大规模数据压缩到低维空间来降低计算成本。本子方向关注的核心统计问题是:在数据被sketch压缩后,如何对基于压缩数据得到的估计量(如岭回归系数)进行事后误差估计——即给定一个已实现的sketch,估计该sketch导致的估计误差有多大。这不同于经典的"sketch前"最坏情形误差界(如Johnson-Lindenstrauss引理给出的界),而是"sketch后"的数据自适应误差估计。该方向的成熟度处于快速发展期:理论基础(渐近分布、bootstrap一致性)正在建立,但实际可用的误差估计工具仍有限。

发展脉络(history): - 奠基工作:Lopes et al. (2018) [被引文献1] 首次提出用bootstrap估计随机最小二乘(least-squares)算法的误差。其核心思想是:对压缩后的数据行(即sketch后的观测)进行重抽样,用bootstrap分布近似sketch误差的分布。该工作建立了"paired bootstrap"范式——即bootstrap必须同时重抽样压缩设计向量和响应,以保留sketch引入的相关结构。 - 主要进展:Lopes et al. (2019, 2020) [被引文献13,15] 将bootstrap误差估计推广到sketched SVD、随机矩阵乘法、随机傅里叶特征(RFF)等更广泛的RandNLA算法。这些工作逐步确立了"bootstrap可用于估计随机化算法误差"这一原则,并发展出针对不同算法的具体实现。同时,Ahfock et al. (2021) [被引文献8] 从统计推断角度分析了sketching的统计性质,指出sketch引入的额外变异性需要被纳入推断。 - 当前frontier:本文(Narahara et al.)将bootstrap误差估计从最小二乘推广到岭回归,并处理了三个此前未解决的问题:(i) 正则化参数λ_n随n变化时的渐近理论;(ii) 有限bootstrap重抽样次数的Monte Carlo误差校正;(iii) 从固定sketch尺寸集合中选择满足误差容限的最小尺寸。同时,Clarté et al. (2024) [被引文献20] 揭示了在高维比例极限(n/d → α)下,bootstrap可能失效——这构成了本文固定维数理论与高维理论之间的张力。

子线索聚类: 1. Bootstrap误差估计线索:Lopes et al. (2018, 2019, 2020) [1,13,15]、Chen & Lopes (2020)、Yao et al. (2023) [17]——核心是"对sketch后的数据重抽样,用bootstrap分布近似误差分布"。这条线索的方法论基础是U-统计量的渐近理论。 2. Sketching的统计推断线索:Ahfock et al. (2021) [8]、Lee & Ng (2020) [22]——关注sketching下估计量的统计性质(偏差、方差、分布),但不一定使用bootstrap。 3. Sketching的算法与复杂度线索:Kacham & Woodruff (2022) [21]、Chowdhury et al. (2018)——关注sketching算法的计算复杂度、迭代收敛和最优性下界,与统计推断相对独立。 4. 高维极限下的重抽样行为线索:Clarté et al. (2024) [20]——在n/d → α的比例极限下分析bootstrap和subsampling的行为,发现与固定维数理论不同的现象。

这个方向在追问的核心问题: 1. 误差估计的"事后"性质:给定一个已实现的sketch,能否仅从压缩数据出发,估计该特定sketch导致的误差?这要求误差估计方法不依赖未压缩的原始数据。 2. bootstrap的有效性条件:在什么条件下,对压缩数据行重抽样能正确近似sketch误差的分布?这涉及sketch行之间的独立性、sketch尺寸与数据维数的关系。 3. 误差界的实用性:如何将误差估计转化为可操作的决策(如选择最小满足误差容限的sketch尺寸)?这需要控制多重比较和有限重抽样带来的额外不确定性。

⚠️ 作者的 framing(必须明确标注成"这是作者的说法"):作者在introduction中将缺口frame为"Lopes et al. (2018) 的bootstrap方法仅适用于最小二乘,未处理岭回归的正则化效应,也未解决有限bootstrap重抽样的Monte Carlo误差和多重比较问题"。作者声称其贡献是"将paired bootstrap推广到岭回归,并建立统一的渐近理论,同时提供实际可用的sketch尺寸选择规则"。值得注意的省略:作者将问题限定在固定维数(d固定)和i.i.d.各向同性sketch行,回避了高维比例极限(Clarté et al. 2024 [20] 的框架)和结构化sketch(SRHT、CountSketch)——后者在引言中被明确列为"超出本文范围"。作者也没有讨论sketch行之间的依赖结构(如CountSketch的哈希冲突)对bootstrap有效性的影响。

张力:Clarté et al. (2024) [20] 表明在n/d → α的比例高维极限下,bootstrap对岭回归的误差估计可能不一致(特别是当α < 1时),而本文的固定维数理论(d固定,n, m → ∞)保证bootstrap一致。这两个结果并不矛盾(不同的极限框架),但意味着本文的结论在什么条件下可推广到高维是开放的。此外,Ahfock et al. (2021) [8] 指出sketching可能使估计量的渐近分布不再是高斯(取决于sketch类型),而本文的定理1在i.i.d.各向同性sketch下建立了高斯极限——这暗示sketch类型的选择对推断方法有本质影响。


二、最核心、最简单的例子 / 数学问题(先把符号 / 模型 / 可观测数据交代清楚)

第一步:把符号、模型、可观测数据交代清楚

  • 数据:固定设计矩阵 \(X_n \in \mathbb{R}^{n \times d}\)(确定性),响应向量 \(y_n \in \mathbb{R}^n\)(确定性)。\(n\) 是样本量,\(d\) 是特征维数(固定常数)。注意:本文不假设数据来自随机模型,数据是固定的,随机性完全来自sketch和bootstrap。
  • 目标量(estimand):\(\beta_n := \arg\min_\beta \frac{1}{n}\|X_n\beta - y_n\|_2^2 + \lambda_n\|\beta\|_2^2\),即全数据岭回归解。这是我们要逼近但无法直接计算的量(因为计算成本高)。
  • sketch矩阵:\(S_n \in \mathbb{R}^{m \times n}\),行 \(s_{n,1}, \ldots, s_{n,m} \in \mathbb{R}^n\) 是i.i.d.各向同性随机向量(\(\mathbb{E}(s_{n,i}s_{n,i}^\top) = I_n\))。\(m\) 是sketch尺寸,\(m/n \to 0\)。sketch后的数据为 \(Z_{n,i} := \frac{1}{\sqrt{n}}X_n^\top s_{n,i} \in \mathbb{R}^d\) 和 \(u_{n,i} := \frac{1}{\sqrt{n}}y_n^\top s_{n,i} \in \mathbb{R}\)。
  • sketched估计量:\(\hat{\beta}_{n,m} := (\hat{H}_{n,m} + \lambda_n I_d)^{-1}\hat{g}_{n,m}\),其中 \(\hat{H}_{n,m} := \frac{1}{m}\sum_{i=1}^m Z_{n,i}Z_{n,i}^\top\),\(\hat{g}_{n,m} := \frac{1}{m}\sum_{i=1}^m Z_{n,i}u_{n,i}\)。注意 \(\mathbb{E}(\hat{H}_{n,m}) = H_n := \frac{1}{n}X_n^\top X_n\),\(\mathbb{E}(\hat{g}_{n,m}) = g_n := \frac{1}{n}X_n^\top y_n\)。
  • 误差量:\(\|\hat{\beta}_{n,m} - \beta_n\|_2\),即sketched解与全数据解之间的欧氏距离。这是我们要估计的随机变量。
  • bootstrap重抽样:从 \(\{(Z_{n,i}, u_{n,i})\}_{i=1}^m\) 中有放回抽取 \(m\) 个样本,得到加权矩 \(\hat{H}^*_{n,m} := \frac{1}{m}\sum_{i=1}^m w_i Z_{n,i}Z_{n,i}^\top\),\(\hat{g}^*_{n,m} := \frac{1}{m}\sum_{i=1}^m w_i Z_{n,i}u_{n,i}\),其中 \((w_1, \ldots, w_m) \sim \text{Multinomial}(m; 1/m, \ldots, 1/m)\)。bootstrap估计量为 \(\hat{\beta}^*_{n,m} := (\hat{H}^*_{n,m} + \lambda_n I_d)^{-1}\hat{g}^*_{n,m}\)。
  • bootstrap误差:\(e^*_{n,m} := \|\hat{\beta}^*_{n,m} - \hat{\beta}_{n,m}\|_2\)。bootstrap用 \(e^*_{n,m}\) 的分布来近似 \(\|\hat{\beta}_{n,m} - \beta_n\|_2\) 的分布。
  • 关键参数:\(\lambda_n\) 是正则化参数,允许 \(\lambda_n \to \lambda_\infty \geq 0\)。\(r_n := \frac{1}{\sqrt{n}}\|r_n\|_2\) 其中 \(r_n := y_n - X_n\beta_n\) 是全数据岭回归残差。\(A_n := (H_n + \lambda_n I_d)^{-1}\)。

第二步:讲最小内核

本文的核心数学问题可以归结为:证明bootstrap误差分布 \(\sqrt{m}e^*_{n,m}\) 与真实误差分布 \(\sqrt{m}\|\hat{\beta}_{n,m} - \beta_n\|_2\) 在Kolmogorov距离下一致收敛到同一个高斯分布的范数。

最小例子:考虑 \(d=1\)(标量系数),\(X_n\) 是 \(n\) 维列向量,\(y_n\) 是 \(n\) 维列向量。此时: - 全数据解:\(\beta_n = \frac{g_n}{h_n + \lambda_n}\),其中 \(h_n = \frac{1}{n}\|X_n\|_2^2\),\(g_n = \frac{1}{n}X_n^\top y_n\)。 - sketched解:\(\hat{\beta}_{n,m} = \frac{\hat{g}_{n,m}}{\hat{h}_{n,m} + \lambda_n}\),其中 \(\hat{h}_{n,m} = \frac{1}{m}\sum_{i=1}^m Z_{n,i}^2\),\(\hat{g}_{n,m} = \frac{1}{m}\sum_{i=1}^m Z_{n,i}u_{n,i}\)。 - 误差:\(\hat{\beta}_{n,m} - \beta_n \approx \frac{1}{h_n + \lambda_n}\left[(\hat{g}_{n,m} - g_n) - \beta_n(\hat{h}_{n,m} - h_n)\right]\)(一阶Taylor展开)。 - 括号内是 \(m\) 个i.i.d.零均值随机变量的平均,方差为 \(\sigma_n^2 := \mathbb{E}[(\psi_{n,1})^2]\),其中 \(\psi_{n,1} = A_n\{Z_{n,1}(u_{n,1} - Z_{n,1}\beta_n) - \lambda_n\beta_n\}\)。 - 因此 \(\sqrt{m}(\hat{\beta}_{n,m} - \beta_n) \Rightarrow N(0, \sigma_n^2)\),且 \(\sqrt{m}|\hat{\beta}_{n,m} - \beta_n| \Rightarrow |N(0, \sigma_n^2)|\)(半正态分布)。

bootstrap为什么有效:bootstrap重抽样 \((Z_{n,i}, u_{n,i})\) 等价于用经验分布 \(\hat{F}_m\) 替换真实分布 \(F_n\)。条件于sketch,bootstrap误差 \(\sqrt{m}(\hat{\beta}^*_{n,m} - \hat{\beta}_{n,m})\) 的分布近似于 \(N(0, \hat{\sigma}^2_{n,m})\),其中 \(\hat{\sigma}^2_{n,m} := \frac{1}{m}\sum_{i=1}^m(\hat{\psi}_{n,m,i})^2\) 是 \(\sigma_n^2\) 的一致估计。因此,只要 \(\hat{\sigma}^2_{n,m} \to \sigma_n^2\)(在概率意义下),bootstrap分布就逼近真实分布。这就是本文定理1和定理2的核心逻辑:先证明sketched估计量的渐近正态性(定理1),再证明bootstrap分布与真实分布有相同的极限(定理2)。

关键难点:当 \(\lambda_n \to 0\) 时,\(A_n\) 可能无界(因为 \(H_n\) 可能接近奇异),需要额外的条件(如 \(\lambda_n \gg m^{-1/2}\))来控制Taylor展开的余项。此外,bootstrap重抽样引入了额外的随机性,需要证明这种随机性在 \(m \to \infty\) 时消失(即条件分布与无条件分布一致)。


三、这篇论文做了什么(本次重心,务必讲透)

三句话: 1. 研究了什么问题:在随机化sketching下,如何仅用压缩数据估计岭回归系数 \(\hat{\beta}_{n,m}\) 与全数据解 \(\beta_n\) 之间的欧氏距离 \(\|\hat{\beta}_{n,m} - \beta_n\|_2\),并据此从有限候选集中选择满足误差容限的最小sketch尺寸。 2. 核心工具/方法:将Lopes et al. (2018) 的paired bootstrap从最小二乘推广到岭回归,推导sketched估计量和bootstrap估计量的渐近线性表示与高斯极限;引入线性化bootstrap(一阶Taylor近似)避免重复求解岭回归;引入order-statistic校正控制有限bootstrap重抽样的Monte Carlo误差;引入Bonferroni规则控制多重比较。 3. 主要结论:在固定维数、\(m, n \to \infty\) 且 \(\lambda_n \to \lambda_\infty \geq 0\) 的设定下,bootstrap误差分布一致收敛到真实误差分布,覆盖概率渐近精确;Rademacher sketch在Loewner序下最小化主协方差矩阵;线性化bootstrap与重拟合bootstrap一阶等价;Bonferroni规则渐近控制选择到"误差超容限"的sketch尺寸的概率。

关键设定与假设: - 固定维数:\(d\) 固定,不随 \(n\) 变化。这是最重要的限制——排除了高维比例极限(\(d/n \to \alpha\))。 - i.i.d.各向同性sketch行:\(s_{n,1}, \ldots, s_{n,m}\) 独立同分布,\(\mathbb{E}(s_{n,i}s_{n,i}^\top) = I_n\)。这排除了SRHT、CountSketch等结构化sketch(其行间存在依赖)。 - 正则化参数:\(\lambda_n > 0\) 且 \(\lambda_n \to \lambda_\infty \geq 0\)。允许 \(\lambda_\infty = 0\)(即极限无正则化),但需要 \(\lambda_n \gg m^{-1/2}\) 来控制Taylor余项。 - 矩条件:sketch行坐标的8阶矩有限(引理1的充分条件),以及 \(\frac{1}{n^2}\sum_{j=1}^n (e_j^\top X_n C X_n^\top e_j + e_j^\top X_n c y_n^\top e_j)^2\) 收敛(保证协方差矩阵收敛)。 - 非退化条件:\(\Omega := \lim_n \Omega_n\) 满秩(定理1的渐近正态性需要)。 - Bootstrap重抽样次数:\(B_n \to \infty\)(定理2的覆盖概率需要)。

主要结果: - 命题1(渐近线性表示):\(\sqrt{m}(\hat{\beta}_{n,m} - \beta_n) = \frac{1}{\sqrt{m}}\sum_{i=1}^m \psi_{n,i} + o_p(1)\),其中 \(\psi_{n,i} = A_n\{Z_{n,i}(u_{n,i} - Z_{n,i}^\top\beta_n) - \lambda_n\beta_n\}\)。这个表示将sketch误差分解为 \(m\) 个i.i.d.影响函数之和,是后续所有结果的基础。 - 定理1(渐近正态性):\(\sqrt{m}(\hat{\beta}_{n,m} - \beta_n) \Rightarrow N(0, \Omega)\),其中 \(\Omega = \lim_n \Omega_n\),\(\Omega_n = \mathbb{E}(\psi_{n,1}\psi_{n,1}^\top)\)。证明路线:先证 \(\frac{1}{\sqrt{m}}\sum_{i=1}^m \psi_{n,i} \Rightarrow N(0, \Omega)\)(Lindeberg-Feller),再证余项 \(o_p(1)\)(利用 \(\lambda_n \gg m^{-1/2}\) 和8阶矩条件)。 - 定理2(bootstrap一致性):条件于sketch,\(\sqrt{m}(\hat{\beta}^*_{n,m} - \hat{\beta}_{n,m}) \Rightarrow N(0, \Omega)\) 在概率意义下。证明路线:先证bootstrap影响函数的条件协方差 \(\hat{\Omega}_{n,m} \to \Omega\)(利用经验过程理论),再证bootstrap版本的Lindeberg条件成立。 - 推论1(覆盖概率):\(\mathbb{P}(\|\hat{\beta}_{n,m} - \beta_n\|_2 \leq \hat{\epsilon}_{n,m,B}(\alpha)) \to 1-\alpha\),其中 \(\hat{\epsilon}\) 是bootstrap经验分位数。证明:结合定理1、定理2和分位数收敛的连续性。 - 命题2(线性化bootstrap):\(\sqrt{m}\|\hat{\beta}^*_{n,m} - \hat{\beta}_{n,m}\|_2 = \sqrt{m}\|\hat{A}_{n,m}\frac{1}{m}\sum_{i=1}^m (w_i-1)\hat{\psi}_{n,m,i}\|_2 + o_p^*(m^{-1/2})\)。即线性化bootstrap与重拟合bootstrap一阶等价,但计算成本从 \(O(B(md^2+d^3))\) 降至 \(O(Bmd)\)。 - 命题3(order-statistic校正):选择第 \(k_B(p,\delta)\) 个order statistic作为误差界,使得条件概率 \(\mathbb{P}^*(\hat{\epsilon}^{MC} \geq q^*) \geq 1-\delta\)。这是基于二项分布的精确有限样本校正。 - 定理3(Bonferroni选择规则):对每个候选sketch尺寸 \(m_j\) 计算误差界 \(\hat{\epsilon}_j\),选择最小的 \(m_j\) 使得 \(\hat{\epsilon}_j \leq \tau\)。若每个 \(\hat{\epsilon}_j\) 有至少 \(1-\alpha/K\) 的覆盖概率,则选择到"误差超容限"的sketch尺寸的概率至多为 \(\alpha\)。

技术技巧点名: - 渐近线性表示:将sketched估计量在 \(\beta_n\) 处做一阶Taylor展开,将误差分解为影响函数之和加余项。这是半参数统计的标准技巧,但本文将其应用于sketching的随机性。 - 条件bootstrap分析:先固定sketch,分析bootstrap重抽样的条件分布;再对sketch分布取期望。这避免了处理sketch和bootstrap的双重随机性的复杂性。 - 经验过程理论:用于证明bootstrap影响函数的经验协方差 \(\hat{\Omega}_{n,m}\) 一致收敛到 \(\Omega\)。具体地,利用 \(\sup_{|t| \leq M} |\frac{1}{m}\sum_{i=1}^m (e^{it^\top \psi_{n,i}/\sqrt{m}} - \mathbb{E}e^{it^\top \psi_{n,i}/\sqrt{m}})| \to 0\) 的条件。 - 分位数收敛的连续性:从分布函数的逐点收敛到分位数的收敛,需要分布函数在极限分位数处连续。本文通过 \(\Omega\) 满秩保证极限分布连续。 - order-statistic校正:利用二项分布的分位数给出精确的有限样本校正,避免渐近近似在 \(B\) 较小时失效。 - Bonferroni校正:将多重比较的family-wise error控制在 \(\alpha\) 以内,虽然保守但无需假设候选sketch尺寸间的相关性。

真实例子与应用: - 数据:RAND Health Insurance Experiment(\(n=20190, d=10\),响应为门诊就诊次数)和糖尿病数据集(\(n=442, d=11\)),以及两个合成数据集(\(n=10000, d=20\),条件数 \(10^4\) 和 \(10^2\))。 - 实验设计:固定 \(\lambda = 0.1\),sketch尺寸比 \(m/d \in \{5, 10, 15, 20, 25\}\),\(B = 199\),300次Monte Carlo重复。评估指标为经验覆盖率(实际误差落在报告误差界内的比例)。 - 主要发现: 1. 重拟合bootstrap在 \(m/d \geq 10\) 时覆盖率接近名义水平95%(0.920-0.953),但在 \(m/d = 5\) 时欠覆盖(约0.90)。 2. 线性化bootstrap与重拟合bootstrap的覆盖率差异中位数约1.4个百分点,但计算速度快约2倍。 3. order-statistic校正将覆盖率提升至94.7%-97.7%,代价是误差界增大5%-13%。 4. Bonferroni校正使选择到"误差超容限"的sketch尺寸的概率从约0.04降至约0.007,但中位选择尺寸增大1-2个候选档位。 5. Rademacher sketch的误差界比Gaussian sketch小约3%-8%,与定理1的协方差公式一致。

🔎 结论是否比证明窄: - 明确证明:定理1(渐近正态性)、定理2(bootstrap一致性)、推论1(覆盖概率)、命题2(线性化等价)、命题3(order-statistic校正)、定理3(Bonferroni选择规则)均在固定维数、i.i.d.各向同性sketch下严格证明。 - 泛化声明:作者在讨论中声称"结果可以推广到更一般的sketch分布",但未给出证明。特别是,协方差公式(33)中的 \(\kappa_s\) 项依赖于sketch行坐标的4阶矩,对于非i.i.d.坐标的sketch(如稀疏sketch)是否成立未经验证。 - 未覆盖的情形:(i) 高维比例极限(\(d/n \to \alpha\))——作者明确承认Clarté et al. (2024) 的结果表明bootstrap在此情形下可能失效;(ii) 结构化sketch(SRHT、CountSketch)——作者在scope中排除;(iii) 预测误差而非系数误差——作者只处理了 \(\|\hat{\beta}_{n,m} - \beta_n\|_2\),未处理 \(\|X_n(\hat{\beta}_{n,m} - \beta_n)\|_2\) 或样本外预测误差。 - 数值实验的局限:实验仅覆盖 \(d \leq 40\) 和 \(m/d \leq 25\),未测试更大规模问题;RAND-HIE的响应(就诊次数)是计数变量,可能违反正态性假设,但作者未讨论这一影响。


四、开放问题(点到为止,扎根具体语句)

  1. 高维比例极限下的bootstrap行为:本文的定理1-2在固定维数下成立,但Clarté et al. (2024) [被引文献20] 表明在 \(n/d \to \alpha\) 时bootstrap可能不一致。本文的order-statistic校正和Bonferroni规则在高维下是否仍然有效?——扎根于本文第2.3节"Scope of the theory"中"Proportional high-dimensional regimes can exhibit different bootstrap behavior (Clarté et al., 2024)"的声明。

  2. 结构化sketch的bootstrap:本文仅覆盖i.i.d.各向同性sketch行。SRHT和CountSketch的行之间存在依赖,bootstrap重抽样这些行是否仍能正确近似误差分布?——扎根于第2.3节"extending the method to these structured sketches would require resampling procedures that preserve their dependence structure"。

  3. 预测误差的bootstrap估计:本文只处理了系数误差 \(\|\hat{\beta}_{n,m} - \beta_n\|_2\)。对于预测误差 \(\|X_n(\hat{\beta}_{n,m} - \beta_n)\|_2\) 或样本外预测误差,bootstrap的渐近理论需要重新推导,因为预测误差涉及设计矩阵的谱结构。——扎根于第1节"we estimate the Euclidean error in the coefficient vector"的范围限定。

  4. 自适应sketch尺寸选择的有限样本保证:定理3的Bonferroni规则是渐近的,且要求每个候选尺寸的误差界有至少 \(1-\alpha/K\) 的覆盖概率。当 \(K\) 较大或 \(B\) 较小时,这个条件可能不满足。是否存在有限样本精确的sketch尺寸选择规则?——扎根于第4.3节"the rule in equation (22) is defined for one fixed problem"及定理3的渐近条件。

  5. sketch行依赖结构的建模:本文假设sketch行i.i.d.,但实际中sketch矩阵可能通过共享随机种子或结构化构造引入行间依赖。这种依赖如何影响bootstrap的有效性?——扎根于第3.2节"their common distribution is isotropic"的假设,以及第2.3节对结构化sketch的排除。

提示:要确认上述问题是否为真gap,建议去读以下近期工作的introduction:(a) Clarté et al. (2024) 及其后续关于高维bootstrap的工作;(b) 关于SRHT/CountSketch的统计推断文献(如Ahfock et al. 2021的后续);(c) 关于自适应sketch尺寸选择的算法文献(如Cho et al. 2025的surrogate模型)。如果这些文献的introduction都指向同一个问题,那就是共识性gap;如果它们互相矛盾(例如有的声称bootstrap在高维有效,有的声称无效),那反而是机会。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论