跳转至

Self-Regulating Random Walks for Resilient Decentralized Learning on Graphs

作者: Maximilian Egger, Rawad Bitar, Ghadir Ayache, Antonia Wachter-Zeh, Salim El Rouayheb
来源: IEEE Transactions on Information Theory
主题: 统计计算 / 算法
相关性: 3/10
机构绿灯: Technical University of Munich(US News 前 50,免分进入精读)
链接: 期刊页 · arXiv


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是分布式系统中的随机游走(Random Walk, RW)算法,其根本问题在于:在无中心协调的图结构网络中,如何利用随机游走作为信息传播与计算载体,同时保证系统在面对节点/链路故障时的韧性(resilience)。该方向的核心张力在于——随机游走天然缺乏全局视角,而故障又恰恰是局部事件;如何在"看不见全局"的前提下维持系统的冗余度(即存活的 RW 数量),是该方向要解决的根本问题。当前该方向的成熟度属于应用驱动、理论初探阶段:已有大量 RW 学习算法(如 [2]-[5], [10]),但对其故障韧性缺乏系统性研究。

发展脉络

  • 奠基工作——RW 作为分布式计算范式:作者在引言中明确指出,RW 算法被提出为 Gossip 算法的通信高效替代方案("RW-based learning algorithms are proposed as a communication-efficient alternative to Gossip algorithms [16]-[22]")。这一脉络的起点可追溯到 Gossip 算法([16]-[22])与增量式次梯度方法([8]),它们奠定了"信息沿图边传播"的基本范式。
  • 主要进展——RW 学习算法的多样化:随后出现了多种 RW 变体,包括随机游走梯度下降([4], [9])、加权随机游走 SGD([11])、联邦学习中的 RW 方法([10])等。这些工作主要关注收敛速度与通信复杂度,如 Walkman([9])证明了线性收敛速率并获得了更优的通信复杂度。但作者指出,这些工作均未考虑故障韧性("the lack of failure resilience")。
  • 当前 frontier——异步与鲁棒性:近期工作开始关注异步环境([26])与节点故障([28]),但作者强调,"guaranteeing adaptive resilience to failures has not yet been studied in the literature"——即自适应(无需先验故障统计)的韧性维持是该方向的空白。
  • 本文位置:作者将本文定位为"第一个解决方案"("We propose the first solution to this problem"),即通过分布式估计 RW 数量并动态 fork/terminate 来维持冗余度。

子线索聚类

  1. RW 学习算法的收敛性分析([4], [9], [10], [11], [14]):关注在理想无故障环境下,RW 算法的收敛速率与通信效率。代表工作 Walkman [9] 证明了固定步长下的线性收敛。
  2. Gossip 与分布式优化的网络缩放([3], [16]-[22]):关注网络拓扑(如谱间隙)对算法性能的影响,为 RW 算法提供了理论基准。
  3. 故障与异步鲁棒性([26], [28]):关注延迟、节点失效等非理想因素,但主要针对 Gossip 或一般分布式优化,未涉及 RW 数量维持。
  4. RW 图论性质的解析结果([29], [30], [32]):Tishby 等人的工作给出了随机正则图上 RW 首返时间、首达时间等分布的解析刻画,为本文的假设提供了理论依据。

这个方向在追问的核心问题

  1. 如何在无中心协调下估计存活 RW 的数量? 这是本文的核心技术问题,作者通过每个节点维护"上次见到各 RW 的时间"来局部估计。
  2. 如何在故障发生后快速恢复冗余度,同时避免过度 fork 导致网络过载? 这是反应时间与 overshoot 之间的权衡,是本文理论分析的重点。
  3. 如何不依赖故障统计模型而实现自适应韧性? 作者强调"without making any a priori assumptions about the statistics of failures",这是对传统容错设计(通常假设故障率已知)的突破。

⚠️ 作者的 framing(这是作者的说法)

作者将缺口 frame 为:"guaranteeing adaptive resilience to failures has not yet been studied in the literature despite recent progress on RW-based learning algorithms"——即 RW 学习算法虽已成熟,但故障韧性是空白。作者据此将本文定位为"第一个解决方案"。被淡化的竞争路线包括:(a) 基于 Gossip 的容错方案([16]-[22]),作者仅以"通信效率"为由一笔带过;(b) 基于中心化监控的方案,作者以"Rule 1: No central entity"直接排除。值得研究者去查的问题:是否存在基于 Gossip 的容错方案(如 [28])在特定条件下也能维持 RW 数量?作者未在引言中讨论这一可能性。

张力

未见明显对立引用。被引工作之间在收敛性、通信复杂度等结论上基本一致,未发现相互矛盾的结论。唯一的潜在张力在于:Tishby 等人的解析结果 [29] 针对的是随机正则图,而本文声称算法适用于任意连通图——这一推广是否成立,作者在假设中有所保留(见下文第三节)。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

在展开本文的技术细节之前,先建立统一记号。以下记号贯穿全文:

  • 图与节点:\(G = (V, E)\) 为无向连通图,\(n = |V|\) 为节点数。节点 \(i \in V\) 的度记为 \(\deg(i)\)。
  • 随机游走(RW):系统中有 \(Z_0\) 条初始 RW,每条 RW 携带一个 token(模型参数或计算状态)。每条 RW 有唯一标识符 \(k \in [Z_0]\)。在离散时间步 \(t\),当前持有 RW \(k\) 的节点 \(i\) 以均匀概率从邻居中选择一个节点传递 token。这是可观测的:节点 \(i\) 能感知 RW \(k\) 何时访问自己。
  • 关键随机变量:
  • \(R_i\):RW 在节点 \(i\) 的返回时间(return time),即从节点 \(i\) 离开后再次回到 \(i\) 所需的时间步数。这是不可直接观测的,但可以通过历史访问记录估计其分布。
  • \(L_{i,k}(t)\):节点 \(i\) 上次看到 RW \(k\) 的时间。这是可观测的,每个节点维护一个长度为 \(Z_0\) 的数组。
  • \(Z_t\):时刻 \(t\) 存活的 RW 数量。这是不可观测的(无中心协调),需要估计。
  • \(\hat{\theta}_i(t)\):节点 \(i\) 在时刻 \(t\) 对 \(Z_t/2\) 的估计值。
  • 参数与阈值:
  • \(\lambda_r\):返回时间 \(R_i\) 的指数分布参数(假设 \(R_i \sim \text{Exp}(\lambda_r)\))。
  • \(\lambda_a\):新 fork 的 RW 首次到达某节点的时间参数(假设 \(T_a \sim \text{Exp}(\lambda_a)\))。
  • \(\varepsilon\):fork 阈值,当 \(\hat{\theta}_i(t) < \varepsilon\) 时节点 fork 当前 RW。
  • \(\varepsilon_2\):termination 阈值,当 \(\hat{\theta}_i(t) > \varepsilon_2\) 时节点终止当前 RW。
  • \(p = 1/Z_0\):fork 概率。
  • 模型:本文的统计模型是一个分布式随机过程。每条 RW 在图上独立游走,节点只能观测到 RW 的访问事件。故障(RW 消失)是外生事件,不假设其统计模型。目标是设计控制策略(fork/terminate),使得 \(Z_t\) 维持在 \(Z_0\) 附近。

第二步:最小内核

核心问题:假设图 \(G\) 是 \(n\) 个节点的完全图(\(K_n\)),系统中有 \(Z_0\) 条 RW 在独立游走。在某个时刻,\(D\) 条 RW 同时故障消失。节点如何在不通信的情况下发现故障并恢复冗余度?

最小设定:考虑 \(n\) 个节点的完全图,\(Z_0 = 1\) 条 RW。此时系统退化为单条 RW 在完全图上的游走。节点 \(i\) 的返回时间 \(R_i\) 服从几何分布(离散时间),其均值约为 \(n\)。假设在时刻 \(T_d\),RW 故障消失。

关键观察:在完全图上,若 RW 存活,则每个节点平均每 \(n\) 步会看到 RW 一次。若节点 \(i\) 在超过某个阈值 \(\varepsilon\) 的时间步内没有看到 RW,则它推断 RW 可能已故障,并以概率 \(p = 1/Z_0 = 1\) fork 一条新的 RW。

数学退化:当 \(Z_0 = 1\) 时,估计量 \(\hat{\theta}_i(t) = 1/2 + S(t - L_{i,1}(t))\),其中 \(S(\cdot)\) 是返回时间的生存函数。若 \(R_i \sim \text{Exp}(\lambda_r)\),则 \(S(\tau) = e^{-\lambda_r \tau}\)。节点 \(i\) 在时刻 \(t\) 估计的存活 RW 数量为 \(2\hat{\theta}_i(t) = 1 + 2e^{-\lambda_r (t - L_{i,1}(t))}\)。当 \(t - L_{i,1}(t)\) 很大时,\(e^{-\lambda_r (t - L_{i,1}(t))} \to 0\),估计值趋近于 1,即节点认为 RW 已故障。

为什么这个内核是核心:本文的全部理论分析(Proposition 1-4, Theorem 1-4)都建立在这个"通过返回时间生存函数估计存活 RW 数量"的思想上。完全图 \(K_n\) 是最简单的连通图,其返回时间分布已知(几何分布/指数分布),使得分析可处理。一般图的推广(Theorem 4)只是在这个内核上增加了图结构带来的复杂性(返回时间分布不再是简单的指数分布)。

这个内核揭示了本文的本质:本文不是关于"如何让 RW 更快收敛"的优化问题,而是关于"如何用局部观测(返回时间)做全局推断(存活 RW 数量)"的统计推断问题。作者将分布式系统的容错问题转化为一个生存分析(survival analysis)问题——每个节点对每条 RW 维护一个生存概率估计,并据此做出 fork/terminate 决策。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在无中心协调的图结构网络中,如何设计分布式算法,使得多条随机游走在面临任意故障(突发性、概率性、拜占庭式)时,存活数量 \(Z_t\) 能维持在目标值 \(Z_0\) 附近,避免系统因 RW 数量归零而崩溃。
  2. 核心工具/方法:提出 DecAFork 和 DecAFork+ 两种分布式算法,核心思想是每个节点通过估计 RW 的返回时间分布(生存函数)来推断存活 RW 数量,并在估计值低于阈值时概率性 fork 新 RW;DecAFork+ 额外引入 termination 机制防止过度 fork。
  3. 主要结论:理论上证明了估计量 \(\hat{\theta}_i(t)\) 的期望值跟踪实际 RW 数量(Proposition 1, Theorem 1),给出了反应时间上界(Theorem 2)和 overshoot 上界(Theorem 3, 4);实验表明 DecAFork+ 在多种故障模型下均能将 \(Z_t\) 维持在 \(Z_0\) 附近,且反应速度显著优于基线方法。

关键设定与假设

  • 图假设:图 \(G\) 连通(保证 RW 能访问所有节点)。理论分析主要针对随机正则图(regular graph),因为其返回时间分布有解析结果 [29]。
  • 返回时间分布假设(Assumption 1):返回时间 \(R_i\) 服从指数分布 \(\text{Exp}(\lambda_r)\),首次到达时间 \(T_a\) 服从 \(\text{Exp}(\lambda_a)\)。作者明确说明这是对随机正则图上 RW 行为的近似("justified by recent results on the distribution of first return and first hitting times of RWs on random regular graphs [29], [30]")。
  • 独立性假设:不同 RW 的游走相互独立,且返回时间独立同分布。
  • 初始化假设:所有 \(Z_0\) 条 RW 在故障发生前已运行足够长时间,使得每个节点对每条 RW 都有访问记录。
  • 无通信假设(Rule 2):RW 之间不能直接通信,节点只能通过 RW 的访问事件获取信息。
  • 相比已有文献的放宽/强化:相比 Gossip 算法([16]-[22])需要节点间持续通信,本文放宽为仅依赖 RW 访问事件;相比 [28] 的故障模型假设,本文不假设故障统计模型,这是显著放宽。但强化了"每条 RW 有唯一标识符"的假设——这在实践中可能需要额外的标识机制。

主要结果

结果 1(Proposition 1, Theorem 1):估计量的无偏性

  • 陈述:在 Assumption 1 下,对于无限长时间活跃的 RW,节点 \(i\) 的估计量 \(\hat{\theta}_i(t)\) 满足 \(\mathbb{E}[2\hat{\theta}_i(t)] = Z_t\),即估计量的期望值等于实际存活 RW 数量。
  • 直觉:每条 RW 对 \(\hat{\theta}_i(t)\) 的贡献是其生存函数 \(S(t - L_{i,\ell}(t))\),而生存函数的期望恰好是 1/2(由概率积分变换)。因此,\(Z_t\) 条活跃 RW 的贡献期望为 \(Z_t/2\),加上常数 1/2 后得到 \(Z_t\)。
  • 必要条件:返回时间分布连续且 CDF 可逆;RW 已运行足够长时间。
  • 技术难点:证明的关键在于处理 RW 访问节点 \(i\) 的时间 \(L_{i,\ell}(t)\) 的随机性。作者利用概率积分变换(probability integral transform)[31] 证明 \(S(t - L_{i,\ell}(t))\) 在 \(t - L_{i,\ell}(t)\) 服从 \(R_i\) 分布时均匀分布在 \([0,1]\) 上。

结果 2(Theorem 2):反应时间上界

  • 陈述:在 \(D\) 条 RW 故障后,至少 \(R'\) 条新 RW 被 fork 的时间 \(T_{R'}^D\) 满足 \(\Pr(T_{R'}^D \leq \sum_{R=0}^{R'-1} T_{D-R}) \geq 1 - \delta_\Sigma\),其中 \(T_{D-R}\) 由 \(\delta_{D-R}(T)\) 的表达式给出。
  • 直觉:反应时间取决于两个因素:(i) 节点检测到故障的速度(由返回时间分布决定),(ii) fork 概率 \(p = 1/Z_0\)。定理给出了一个逐次逼近的界:每 fork 一条 RW,系统状态更新一次,反应时间是这些更新时间的和。
  • 必要条件:\(\varepsilon\) 的选择需要满足 \(\varepsilon < \varepsilon_2\),且 \(\varepsilon\) 不能太小(否则检测太慢)也不能太大(否则误报太多)。
  • 技术难点:需要处理故障后估计量 \(\hat{\theta}_i(t)\) 的分布不再是 Irwin-Hall 分布的问题。作者通过将估计量分解为"活跃 RW 贡献 + 故障 RW 贡献"两部分,分别用 Irwin-Hall 分布和缩放 Irwin-Hall 分布来刻画。

结果 3(Theorem 3, Corollary 2):overshoot 上界

  • 陈述:在无故障运行 \(T\) 时间后,RW 数量超过 \(z > Z_0\) 的概率 \(\delta\) 满足 \(\delta \leq p_m^+ T_{m,2} + \sum_{\nu=Z_0}^{m-1} n e^{-\lambda_a T_{\nu,1}} + T_{\nu,1} p_\nu^+\),其中 \(m\) 是满足 \(\sum_{\nu=Z_0}^{m-1} T_{\nu,1} < T\) 的最大整数。
  • 直觉:overshoot 由"连续 fork 事件"驱动。定理通过将时间轴划分为多个阶段,每个阶段对应一次 fork,将 overshoot 概率分解为各阶段 fork 概率的乘积。
  • 必要条件:\(\varepsilon\) 的选择需要使得 \(p_\nu^+\) 随 \(\nu\) 递减,即 fork 概率在 RW 数量增加时下降。
  • 技术难点:需要处理 fork 事件的"连锁反应"——一次 fork 可能导致多个节点同时检测到故障并 fork,从而引发雪崩效应。作者通过引入阈值 \(\kappa_{1,a}\) 的层次结构(Theorem 4)来控制这种连锁反应。

结果 4(Lemma 4, Lemma 5):fork/termination 概率的集中界

  • 陈述:对于活跃 RW 数量为 \(K\) 的系统,fork 概率和 termination 概率分别由 Bennett 不等式给出上界。
  • 直觉:这些界是 Theorem 2-4 的基础,它们保证了估计量 \(\hat{\theta}_i(t)\) 的偏差不会太大,从而 fork/termination 决策的可靠性。
  • 技术难点:需要处理估计量 \(\hat{\theta}_i(t)\) 的方差。作者通过计算 \(\text{Var}[\hat{\theta}_{T_f,T_d}(t)]\)(Lemma 3)来应用 Bennett 不等式。

证明路线与技术技巧

整体路线(以 Theorem 2 为例):

  1. 分解估计量:将 \(\hat{\theta}_i(t)\) 分解为活跃 RW 贡献和故障 RW 贡献两部分。
  2. 刻画活跃 RW 贡献:利用 Proposition 3(Irwin-Hall 分布)描述活跃 RW 的估计量分布。
  3. 刻画故障 RW 贡献:利用 Proposition 4(缩放 Irwin-Hall 分布)描述故障 RW 的估计量分布。
  4. 合并分布:将两部分合并,得到 \(\hat{\theta}_i(t)\) 的完整分布。
  5. 计算 fork 概率:基于 \(\hat{\theta}_i(t) < \varepsilon\) 的条件,计算 fork 概率的精确表达式。
  6. 推导反应时间:将 fork 概率代入几何分布的累积分布函数,得到反应时间的上界。

关键跳跃点:

  • Lemma 1 的证明:这是整个理论分析的基石。作者需要计算一个 RW 从 fork 到被某节点"确认存活"的时间分布。难点在于,这个时间不是简单的返回时间,而是"首次被其他 RW 的访问事件覆盖"的时间。作者通过将问题转化为"两个独立指数随机变量的最小值"来求解。
  • Theorem 4 的证明:这是最复杂的结果。作者需要处理 fork 事件的连锁反应。证明思路是构造一个二叉树,每个节点对应一个 fork 事件,树的深度对应时间步数。通过控制每个节点的 fork 概率,最终得到总体的 overshoot 上界。这个证明技巧类似于分支过程(branching process)的分析。

技术技巧点名:

  • 概率积分变换(Proposition 1):用于证明生存函数的期望为 1/2。
  • Irwin-Hall 分布(Proposition 3):用于描述多个独立均匀随机变量之和的分布。
  • Bennett 不等式(Lemma 4, 5):用于控制 fork/termination 概率的集中性。
  • 分支过程分析(Theorem 4):用于控制 fork 连锁反应导致的 overshoot。
  • 指数分布的无记忆性(Lemma 1):用于简化返回时间分布的计算。

真实例子与应用

本文的"真实例子"主要是数值模拟,没有真实世界数据集。模拟设置如下:

  • 图:随机 8-正则图,\(n \in \{50, 100, 200\}\)。
  • RW 数量:\(Z_0 = 10\)。
  • 故障模型:三种——(1) 突发性故障(在 \(t=2000\) 和 \(t=6000\) 时分别有 5 条和 6 条 RW 同时故障);(2) 概率性故障(每条 RW 每步以概率 \(p_f \in \{0.0002, 0.001\}\) 独立故障);(3) Byzantine 故障(一个节点在 Byzantine 状态时终止所有访问它的 RW)。
  • 基线:Missing Person 算法(简单阈值法)。

关键模拟结果:

  1. 图 1(突发性故障):DecAFork 和 DecAFork+ 均能在故障后迅速恢复 \(Z_t\) 至 \(Z_0\) 附近,而 Missing Person 出现显著 overshoot(\(Z_t\) 峰值超过 20,即 \(2Z_0\))。
  2. 图 2(概率性故障):DecAFork 在 \(p_f = 0.001\) 时无法维持 \(Z_t\)(持续下降),而 DecAFork+ 能稳定在 \(Z_0\) 附近。这说明 termination 机制在持续故障环境下至关重要。
  3. 图 3(Byzantine 故障):DecAFork 在 Byzantine 节点活跃时 \(Z_t\) 急剧下降(即使 \(\varepsilon = 3.25\)),而 DecAFork+ 能维持 \(Z_t\) 在 \(Z_0\) 附近。当 Byzantine 节点停止攻击(No Byz),DecAFork+ 能快速恢复。
  4. 图 4(不同 \(n\)):DecAFork 在 \(n \in \{50, 100, 200\}\) 上表现一致,说明算法对图规模不敏感。
  5. 图 5(\(\varepsilon\) 的 trade-off):\(\varepsilon\) 越小,反应越快但 overshoot 越大;\(\varepsilon\) 越大,overshoot 越小但反应越慢。

模拟想说明什么:模拟验证了理论分析的核心预测——(a) 估计量 \(\hat{\theta}_i(t)\) 能有效跟踪实际 RW 数量;(b) fork/termination 阈值 \(\varepsilon, \varepsilon_2\) 提供了反应时间与 overshoot 之间的可调 trade-off;(c) DecAFork+ 的 termination 机制是应对持续故障和 Byzantine 故障的关键。

🔎 结论是否比证明窄

是,存在多处结论比证明宽的情况:

  1. "任意连通图"的声称:作者在引言和结论中声称算法适用于"any connected graph",但理论分析(Assumption 1)明确假设返回时间服从指数分布,这仅在随机正则图上被证明 [29]。作者在模拟中测试了随机正则图、Erdős–Rényi 图、完全图和幂律图,但没有提供非正则图上的理论保证。结论中的"any connected graph"超出了证明范围。

  2. "任意故障模型"的声称:作者声称算法"does not assume any specific failure model",但理论分析(Theorem 2-4)假设故障是"突发性"的(即故障后 RW 数量从 \(K\) 跳到 \(K-D\),然后保持不变直到恢复)。对于持续概率性故障(\(p_f > 0\)),作者只提供了模拟证据,没有理论保证。事实上,图 2 显示 DecAFork 在 \(p_f = 0.001\) 时无法维持 \(Z_t\),说明理论分析没有覆盖这一情况。

  3. "最优性"的隐含声称:作者在结论中称算法"achieves a favorable trade-off",但没有与任何理论下界比较。没有证明在给定反应时间约束下,overshoot 是最小的;也没有证明在给定 overshoot 约束下,反应时间是最快的。这是一个无下界的最优性声称。

  4. 估计量的收敛速度:Theorem 1 只证明了估计量的期望值等于 \(Z_t\)(无偏性),没有给出方差或高概率界。作者在 Lemma 3 中计算了方差,但没有将其用于构造置信区间或高概率保证。因此,算法在有限时间内的行为缺乏理论刻画。


四、开放问题

以下开放问题均扎根于本文的具体语句:

  1. 非正则图上的理论保证:本文的 Assumption 1 假设返回时间服从指数分布,这在随机正则图上被 [29] 证明。但作者在模拟中测试了 Erdős–Rényi 图和幂律图,且结论声称适用于"any connected graph"。要证明什么:在一般连通图上,返回时间分布的生存函数是否仍能保证估计量 \(\hat{\theta}_i(t)\) 的无偏性(或近似无偏性)?如果不能,需要什么样的图条件(如谱间隙下界)?——扎根于 Assumption 1 和结论段。

  2. 持续故障下的理论分析:Theorem 2-4 只分析了突发性故障(故障后 RW 数量跳变然后稳定)。对于持续概率性故障(\(p_f > 0\)),作者只提供了模拟证据(图 2),且模拟显示 DecAFork 无法维持 \(Z_t\)。要证明什么:在持续故障模型下,\(Z_t\) 的平稳分布是什么?是否存在一个临界故障率 \(p_f^*\),使得 \(Z_t\) 以正概率归零?——扎根于图 2 的讨论和结论段。

  3. 最优性下界:作者证明了反应时间与 overshoot 之间的 trade-off,但没有证明这是最优的。要证明什么:是否存在一个信息论下界,说明任何满足"无中心协调、无 RW 间通信"约束的算法,其反应时间与 overshoot 的乘积至少为某个常数?——扎根于结论段的"favorable trade-off"声称。

  4. 估计量的高概率界:Theorem 1 只证明了无偏性,Lemma 3 计算了方差,但没有给出高概率界。要证明什么:\(\hat{\theta}_i(t)\) 是否满足 Bernstein 型不等式?这能否用于自适应调整 \(\varepsilon\) 和 \(\varepsilon_2\),使得 fork/termination 决策的误报率可控?——扎根于 Lemma 3 和 Lemma 4 的证明。

  5. 与 Gossip 算法的理论比较:作者在引言中声称 RW 算法是 Gossip 的通信高效替代,但没有给出两者在故障韧性下的理论比较。要证明什么:在相同故障模型下,RW 算法与 Gossip 算法的恢复时间、通信开销、overshoot 的定量对比是什么?——扎根于引言中对 Gossip 的讨论。

提示:要确认上述某条是否是真 gap,建议去读该子领域近期约 5 篇论文(如 [23], [28] 及它们引用的工作)的引言——如果多篇都指向"非正则图上的 RW 分析"或"持续故障下的韧性保证",说明这是共识性 gap;如果各篇说法不一,则可能是机会。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论