Wasserstein Ambiguity Set (Wasserstein 模糊集)
大白话:以经验分布为中心、用水传输距离量出半径的一个「分布球」。 球里装的是「真实分布可能长什么样」的合理候选。 它之所以能在生产中落地,是因为半径有有限样本的统计解释——你能直接指定置信水平, 半径由样本量算出来,不用去交叉验证。
定义。 一个 Wasserstein 模糊集是以某个名义 / 经验测度为中心的一族概率分布构成的球, 半径用最优传输中的 p-Wasserstein 度量度量。 它是分布鲁棒优化 (DRO, concepts/models-theory/Distributionally Robust Optimization) 中最常用的数据驱动构造,因为它的半径有有限样本的统计解释。
定义
对于 Polish 空间 (\Xi,\mathcal F) 上的两个概率测度 P_1,P_2 与传输代价 c:\Xi\times\Xi\to\mathbb R_+, p-Wasserstein 距离为
W_p(P_1,P_2) := \left(\inf_{\pi\in\Pi(P_1,P_2)}\ \int_{\Xi\times\Xi} c(\xi_1,\xi_2)^p\ d\pi(\xi_1,\xi_2)\right)^{1/p},
其中 \Pi(P_1,P_2) 是边缘分布为 P_1,P_2 的耦合集合。Wasserstein 模糊集为
\mathcal P_\epsilon := \bigl\{\,P\in\mathcal M(\Xi,\mathcal F)\ :\ W_p(P,P_0)\le \epsilon\,\bigr\},
其中 P_0 是名义分布或经验分布,\epsilon\ge 0 是半径。
为什么用 Wasserstein(而不是 \phi-散度)
Wasserstein 球装着传输代价在某个范围内的全部分布,包括支撑集不同的分布。 \phi-散度球(KL、\chi^2、Hellinger)要求绝对连续,因此无法包含那些在名义分布零质量处放质量的分布。 在量化金融里这点很要紧:经验分布是 N 个观测情景上的点质量之和; \phi-散度球无法对冲观测支撑集之外的新实现,而 Wasserstein 球可以。
Mohajerin Esfahani & Kuhn (2018) 证明:Wasserstein-DRO 的解等价于一个不确定集大小与 \epsilon 成正比的鲁棒优化问题, 因此解的几何结构得以保留。
\epsilon 的有限样本校准(最关键的落地结果)
对样本 \{\hat\xi_i\}_{i=1}^N\sim P^\ast 与经验测度 \hat P_N, Mohajerin Esfahani & Kuhn 证明:在次高斯矩条件与 \Xi\subseteq[0,1]^d 下, 取 \epsilon_N(\beta):= \left(\frac{\log(c/\beta)}{N}\right)^{1/d} 则
\mathbb P^N\Bigl\{\,P^\ast\in\hat{\mathcal P}_{\epsilon_N(\beta)}\,\Bigr\}\ \ge\ 1-\beta.
真实数据生成分布落在 Wasserstein 球内的概率至少是 1-\beta。 \epsilon_N(\beta) 这个公式在 N 与维数 d 上是速率最优的(相差对数因子)。
flowchart TD
A["Sample (xi_1,...,xi_N)"] --> B["Empirical P_N"]
B --> C["Choose confidence 1-beta"]
C --> D["epsilon_N(beta) = (log(c/beta)/N)^(1/d)"]
D --> E["Wasserstein ball P_eps"]
E --> F["Solve DRO over P_eps"]
F --> G["Robust x* with finite-sample guarantee"]
在生产中这意味着量化团队可以直接选定置信水平(比如 95% 或 99%), 让半径成为样本量的确定性函数——不需要对 \epsilon 做交叉验证。 代价是维数 1/d 的诅咒:在 d=50(典型的股票协方差问题)下, \epsilon 只以 N^{-1/50} 的速度衰减,这正是经验测度在 Wasserstein 距离下的收敛速率。
Wasserstein-DRO 的重构
对凸代价 h(x,\xi),Mohajerin Esfahani & Kuhn (2018) 证明下面的无穷维问题
\min_{x\in X}\ \sup_{P:\,W_p(P,\hat P_N)\le\epsilon}\ \mathbb E_P[h(x,\tilde\xi)]
存在一个有限维凸重构:
\min_{x\in X,\ \lambda\ge 0}\ \lambda\epsilon + \frac{1}{N}\sum_{i=1}^N \sup_{\xi\in\Xi}\bigl[h(x,\xi)-\lambda\,c(\xi,\hat\xi_i)^p\bigr]
内层的 sup 在(可能是无穷的)支撑集 \Xi 上取; 对线性 / 二次的 h 与标准的 c(如 \ell_1、\ell_2、\ell_\infty 范数),这个 sup 归约为一个可处理的锥规划。 对偶变量 \lambda 扮演正则化强度的角色——当 \lambda\to\infty 时, Wasserstein 球上的最坏情形坍缩到经验均值,从而恢复标准的 ERM。
量化金融文献中的应用形态
| 出处 | 场景 | 关键结果 |
|---|---|---|
| Mohajerin Esfahani & Kuhn (2018) | 一般情形 | 有限样本 + 渐近相合;奠基性的可落地结果 |
| Gao & Kleywegt (2023) | 任意 Polish 空间 \Xi 上的 Wasserstein | 借助拉格朗日式的强对偶;数据驱动 DRO \to RO 的逼近 |
| Pflug & Pohl (2018) | 任意范数的 1-Wasserstein;组合 | 边缘分布不确定但依赖结构已知的 DRO 组合 |
| Ji & Lejeune (2018) | \ell_1 的 1-Wasserstein;比值型目标 | 用一串凸规划上的二分法求 DRO 夏普与 Omega 比率 |
| Blanchet, Kang, Murthy (2019) | 数据驱动传输代价的 Wasserstein | 用度量学习选 c;改善样本外泛化 |
| Chen, Paschalidis (2018) | Wasserstein + \ell_1 范数代价 | 分布鲁棒的 LAD 回归;把 Huber、分位数与 LASSO 恢复为特例 |
与统计学习的联系(DRO = 正则化)
当支撑集 \Xi 有界且代价为 \ell_2^p 时,Wasserstein-DRO 问题归约为 分布鲁棒的正则化 ERM (Shafieezadeh-Abadeh, Esfahani & Kuhn 2019):
\min_{x\in X}\ \sup_{P:\,W_p(P,\hat P_N)\le\epsilon}\ \mathbb E_P[\ell(x,\tilde\xi)]\ \equiv\ \min_{x\in X}\ \frac{1}{N}\sum_{i=1}^n \ell(x,\hat\xi_i) + \epsilon\,|x|,
其中正则化强度由 \epsilon 控制。这意味着 LASSO、ridge、SVM、正则化逻辑回归全都是某个特定 \epsilon 取值下的隐式 Wasserstein-DRO 解。 DRO 的视角给了正则化强度一个统计解释:\epsilon 是置信半径,而不是一个自由旋钮。
什么时候不该用 Wasserstein 构造
- 厚尾 / 无穷方差的分布:\epsilon_N(\beta) 背后的次高斯假设失效,界很松。
- 名义分布 P_0 本身就是误设的(例如真相是多模态而名义是高斯)。 围绕高斯的 Wasserstein 球即使半径很大也装不下多模态的真相。
- 维数 d 很大:N^{-1/d} 的收敛极其缓慢;基于矩的集合更保守但更稳定。
- 传输代价 c 本身未知:数据驱动的 c 见 Blanchet 等 (2019)。
交叉引用
- concepts/models-theory/Distributionally Robust Optimization —— 父框架
- concepts/risk-portfolio/Robust Optimization —— \epsilon\to\infty 时的极限
- concepts/risk-portfolio/Coherent Risk Measures —— 同一个内层 sup 算子,风险测度的视角
- summaries/201908-distributionally-robust-optimization-review/201908-distributionally-robust-optimization-review —— 全面梳理 Wasserstein DRO 的综述(§5.1.1)
相关页面
- Villani, C. (2009) Optimal Transport: Old and New —— 数学参考。
- Mohajerin Esfahani, P. & Kuhn, D. (2018) "Data-driven distributionally robust optimization using the Wasserstein metric" Math. Programming 181.
- Blanchet, J., Kang, Y. & Murthy, K. (2019) "Data-driven optimal transport cost selection for distributionally robust optimization" —— 用度量学习做数据驱动的 c。