Distributionally Robust Optimization (分布鲁棒优化)
大白话:你手上只有样本或矩的信息,真实的概率分布并不知道。 DRO 不去赌某个具体分布,而是圈出一族「都还算合理的候选分布」(模糊集 \mathcal P), 然后在这个族里按最坏情况做决策。它站在随机优化与鲁棒优化之间。
定义。 分布鲁棒优化 (DRO) 是一种建模框架:决策者最小化最坏情况期望, 其中期望是取在与现有统计信息相容的一族概率分布(模糊集 \mathcal P)上的, 而不是押注某个单一的名义分布。
一般的 DRO 原问题
给定决策 x\in X\subseteq\mathbb R^n 与可测空间 (\Xi,\mathcal F) 上的随机参数 \tilde\xi\in\Omega\subseteq\mathbb R^d,标准的 DRO 问题(Rahimian & Mehrotra 2022, 式 1.5)为
\min_{x\in X}\ \sup_{P\in\mathcal P}\ R_P\!\left[h(x,\tilde\xi)\right]\quad\text{s.t.}\quad \sup_{P\in\mathcal P}\ R_P\!\left[g_j(x,\tilde\xi)\right]\le 0,\ j=1,\dots,m,
其中 R_P[Z] 是随机变量 Z 在概率测度 P 下的(逐分量的)实值泛函。 取 R_P=\mathbb E_P 且模糊集 \mathcal P = \{P_{\text{true}}\} 就回到 经典随机优化; 取 \mathcal P = \{\text{支撑集上的全部分布}\} 就回到 经典鲁棒优化。DRO 是两者之间的连续桥梁。
flowchart LR
A["Stochastic Optimization<br/>(known P)"] -- partial info --> B["DRO<br/>(ambiguity set P)"]
B -- trivial P = all on support --> C["Robust Optimization<br/>(worst-case on support)"]
A -- no info --> C
为什么需要 DRO,三句话说清
- 真实分布未知。 基于样本的均值与协方差估计是有噪声的; 直接把经验矩代进去做「plug-in」期望成本优化,在状态切换下是脆弱的。
- 纯 RO 过于悲观。 在支撑集上最小化最坏成本,会把我们确实拥有的分布信息 (矩、与基线的散度、结构形状)全部浪费掉。
- DRO 是一个系统化的对冲。 \mathcal P 编码了「真相可能合理地落在哪一族分布里」, 内层的 \sup 则量化了在这族分布上的最坏情形。
四个等价性定理(Rahimian & Mehrotra §3)
这些是让 DRO 成为统一理论而非一堆技术的承重结果。
| 定理(论文 §) | 陈述 | 量化金融解读 |
|---|---|---|
| DRO = RO(§3.2,\Xi 有限) | 当样本空间有限时,DRO 的上确界可写成一个有限维 LP,其对偶是经典的 RO 问题。 | 带情景模糊的 DRO 在结构上等价于带预算化不确定的 RO。 |
| DRO = 一致风险(§3.3.1) | 若 \mathcal P 凸且紧,则 \rho_{\mathcal P}(Z):=\sup_{P\in\mathcal P}\mathbb E_P[Z] 是一个一致风险测度(Artzner 等 1999)。 | 「最坏情形」的视角就是一致风险的视角——同样那套公理(单调性、平移不变性、次可加性、正齐次性)都适用。 |
| DRO = 与分布无关的风险(§3.3.1) | 若 \mathcal P 与分布无关(law-invariant),则 \rho_{\mathcal P} 也与之无关;对凸 \mathcal P 这等价于 Ben-Tal & Teboulle 的优化确定性等价表示。 | 在所有共享同一「law」的分布下的最坏期望损失 = 由该族索引的某个一致风险测度。 |
| DRO = 正则化 ERM(§3.4) | Wasserstein 球上的 DRO 是一个正则化的经验风险最小化问题;\phi-散度 DRO 在 \epsilon=\chi^2_{1,N,1-\alpha} 下的渐近展开会加上一项方差惩罚。 | LASSO、SVM、正则化逻辑回归都是隐式的 Wasserstein-DRO 解。
模糊集的构造
量化金融工作中占主导地位的两种构造:
- 经验分布周围的 Wasserstein 球 —— 见 concepts/models-theory/Wasserstein Ambiguity Set。
- 基于矩的集合 —— 通常是置信区域内的均值与协方差,有时也含高阶矩或支撑集。 这就是「Chebyshev / Delage-Ye」一族。
其他构造(\phi-散度、Prohorov、\zeta-结构、核 / 均值嵌入、保形)见 summaries/201908-distributionally-robust-optimization-review/201908-distributionally-robust-optimization-review。
这对组合构造有什么用
一个典型的股票组合 DRO 工作流:
- 经验矩:从滚动窗口的收益算均值 \hat\mu 与协方差 \hat\Sigma。
- 选半径 \epsilon(例如用 Mohajerin Esfahani & Kuhn 2018 的有限样本界)。
- 求解 \min_x\ \sup_{P:\ W_p(P,\hat P_N)\le\epsilon}\ \mathbb E_P[-\tilde r^\top x], 并加上收益下限与杠杆上限约束。
- 得到的是一个「鲁棒化的马科维茨配置」,其最坏期望损失有有限样本的界。
实践中组合场景更偏好 Wasserstein 构造,因为半径有干净的有限样本统计解释; 而基于矩的集合容易给出过度保守的解 (最坏分布往往是在矩区域边界上的两点质量——报童问题见 Scarf 1958)。
DRO 与鲁棒优化的区别:不确定的是分布还是参数
DRO 与鲁棒优化 (RO) 经常被混用,但两者不确定的对象不同:
| 不确定的是 | 决策变量对抗的是什么 | 内层问题 | |
|---|---|---|---|
| RO | 参数 / 扰动:只知道 \xi 落在不确定集 \mathcal U 里,不知道它长什么样 | 某个具体的坏参数实现 | \sup_{\xi\in\mathcal U} h(x,\xi) |
| DRO | 分布:知道样本或矩信息,但不知道真实分布 P | 某个具体的坏分布 | \sup_{P\in\mathcal P} \mathbb E_P[h(x,\tilde\xi)] |
两点实际差别:
- 建模对象不同。RO 的 \mathcal U 建立在收益/损失的取值空间上(区间、盒、椭球、多面体),是"参数能取哪些值"的问题;DRO 的 \mathcal P 建立在概率测度的空间上,是"分布能是哪些"的问题。前者回答"最坏的那次冲击长什么样",后者回答"最坏的那个世界长什么样"。
- 信息使用量不同。RO 只用支撑信息(min/max、上下界),把不确定集内所有实现视为同等可能;DRO 用分布信息(样本、矩、散度距离),因此通常更不保守。这也是两者可以嵌套的原因:当 \mathcal P 包含支撑集上的所有分布("没有信息"的情形)时,DRO 与 RO 重合。
在组合语境里这对应两个不同的问题:前者要回答「如果某只资产的收益比预期低 10%,我的组合会怎样」,后者要回答「如果收益的分布不是我以为的那个,我的组合会怎样」。鲁棒组合优化 一页把「优化端(把误差写成扰动集)」与「估计端(用稳健统计把协方差估准)」的分工一并列出。
模糊集半径该取多大:让置信水平决定,而不是反过来。 DRO 最常见的批评是模糊集半径 \epsilon 是个人工超参,调大则保守、调小则冒进。Duchi, Glynn & Namkoong 2018 给了一个原则性的答案:用广义经验似然为最优值 T_{\text{opt}}(P)=\inf_{x\in X}\mathbb E_P[\ell(x;\xi)] 构造置信区间,由区间覆盖要求倒推半径 \rho(\alpha)=\inf\{\rho' : P(\chi^2_{d_0}\le\rho')\ge 1-\alpha\},这样得到的模糊集自带渐近精确的覆盖率保证。论文进一步证明:分布鲁棒解与样本平均近似(SAA)的解满足本质相同的一致性,所以鲁棒化没有引入额外的估计偏差;而且鲁棒形式的渐近展开中第二项恰好是 SAA 问题的正则项,度量的是目标函数的方差——即「鲁棒化 = 按方差正则化」。这条结论把 DRO 从「额外的保险」改写成有统计依据的方差控制。(d_0 是协方差的秩而非维数,细节见 广义经验似然与鲁棒优化统计。)
一致性线索:DRO 的最坏期望算子在 \mathcal P 凸紧时本身就是一致风险测度(见一致风险测度)。这个结论的源头是 Artzner 等 1999 的情景法表示定理——他们证明相干风险测度 \rho 满足 \rho(X)=\sup_{P}\mathbb E_P[-X/r],即风险可以写成一族概率测度下的最坏期望。DRO 做的是把这一族概率测度换成凸紧模糊集 \mathcal P,并加上数据驱动的构造方式。两条线在"最坏期望 = 相干风险"这一点上会合。
什么时候不该用 DRO
- 决策维度小且成本函数凸。 一个带 \ell_1 或 \ell_2 正则化的更简单 ERM 可能就够了。
- 样本量很小(比如 d=50 时 N<50):要达到有意义的置信水平所需的 Wasserstein 半径太大, 最坏情形基本等同于「支撑集上的全部分布」——也就是说你其实还是退回了 RO。
- 目标高度非凸(例如带组合结构的离散配置)。割面 / 交换法可行但很慢; 若内层 sup 可解,直接用带预算化不确定集的 RO 更好。
交叉引用
- concepts/risk-portfolio/Robust Optimization —— 退化情形:\mathcal P = 支撑集上的全部分布
- concepts/risk-portfolio/Stochastic Optimization —— 退化情形:\mathcal P = \{P_{\text{true}}\}(作为参考列出;尚未建页)
- concepts/risk-portfolio/Coherent Risk Measures —— 凸紧 \mathcal P 时 DRO = 一致风险
- concepts/models-theory/Wasserstein Ambiguity Set —— 最常用的数据驱动构造
- concepts/risk-portfolio/Volatility Targeting —— 一个实用(简单得多)的风险平价层,DRO 给它做了形式化
- concepts/risk-portfolio/Risk Parity —— DRO 涵盖的 ERC 与风险预算视角
- concepts/models-theory/Ferson-Siegel Optimal Weighting —— 相关的非线性信号框架,其理论基础同样植根于一致风险
- summaries/201908-distributionally-robust-optimization-review/201908-distributionally-robust-optimization-review —— 源综述
相关页面
- Artzner et al. 1999 摘要 —— 情景法表示定理,DRO 的公理源头
- Duchi-Glynn-Namkoong 2018 摘要 —— 广义经验似然给出模糊集半径的统计依据(置信水平决定半径)
- 广义经验似然与鲁棒优化统计 —— 构造细节与「鲁棒化 = 按方差正则化」结论
- 鲁棒组合优化 —— 另一条路线:不确定集设在参数/扰动上
- Mohajerin Esfahani, P. & Kuhn, D. (2018) "Data-driven distributionally robust optimization using the Wasserstein metric" — the finite-sample consistency result that makes data-driven Wasserstein DRO deployable.
- Delage, E. & Ye, Y. (2010) "Distributionally robust optimization under moment uncertainty" — the canonical mean-covariance DRO with confidence regions.
- Scarf, H. (1958) "A min-max solution of an inventory problem" — the first DRO problem; newsvendor with mean+covariance.