沃瑟斯坦度量()又称为沃瑟斯坦距离()、坎托罗维奇–鲁宾施泰因度量(),在数学中是指某一给定度量空间M上概率分布之间的距离函数,其名称源于俄裔美国数学家。
直观而言,可以将每个概率分布都看作M上堆积的单位数量的土堆,则沃瑟斯坦度量便是指将一个土堆变成另一土堆的最小代价,可定义为需要移动的土壤量乘以需要移动的平均距离。这一问题于1781年由法国数学家加斯帕尔·蒙日首次正式提出。基于上述土堆类比,该度量在计算机科学中也被称为推土机距离。
“沃瑟斯坦距离”这一名称是苏联数学家于1970年提出的,他在沃瑟斯坦关于描述大型自动机系统的马尔可夫过程的工作中了解到了这一概念。不过早在1939年,另一位苏联数学家列昂尼德·坎托罗维奇就在研究货物的最优运输问题时最早定义了该度量。因此一些学者认为使用“坎托罗维奇度量”或“坎托罗维奇距离”来称呼此度量更为恰当。
定义
对于一个度量空间(M,d),假设M上每个博雷尔概率测度都是拉东测度(即该度量空间为拉东空间)。对有限p\ge1,P_p(M)表示M上所有有p阶矩的概率测度\mu的集合,即M中存在x_0满足
: \int_M d(x, x_0)^{p} \, \mathrm{d} \mu (x)
于是,P_p(M)中两个概率测度\mu和\nu之间的p阶沃瑟斯坦距离可定义为
: W_p (\mu, \nu):=\left( \inf_{\gamma \in \Gamma (\mu, \nu)} \int_{M \times M} d(x, y)^p \, \mathrm{d} \gamma (x, y) \right)^{1/p},
其中\Gamma(\mu,\nu)表示M \times M上所有测度的集合,即\mu与\nu的所有组成的集合。
此外,沃瑟斯坦度量也可等效地定义为
: W_{p} (\mu, \nu) = \left( \inf \operatorname{\mathbf{E}} \big[ d( X, Y )^p \big] \right)^{1/p},
其中\mathbf{E}[Z]表示随机变量Z的期望值,下确界则由随机变量X和Y的所有联合分布确定,它们分别对应边缘分布\mu和\nu。
与最优运输问题的联系
理解上述定义的一种方法是将其与最优运输问题联系起来。对于空间X上的某一质量分布\mu(x),我们希望以某种方式运输其质量,使其转化同一个空间中的另一分布\nu(x),即将“土堆”\mu转换为“土堆”\nu。两者的总质量必须相同,因而可以不失一般性地假设\mu和\nu是总质量为1的概率分布。此外还需假设代价函数
: c(x,y) \mapsto [0,\infty),
表示从点x运输质量到点y的代价。一个从\mu到\nu的运输方案可以用函数\gamma(x,y)来描述,该函数表明从x移动到y的质量。一个运输方案\gamma(x,y)必须满足以下性质
:
\begin{align}
\int \gamma(x,y) \,\mathrm{d} y = \mu(x),\\
\int \gamma(x,y) \,\mathrm{d} x = \nu(y),
\end{align}
前者表示从某一点x移到其他所有点的土堆总质量必须等于最初该点x上的土堆质量,后者则表示从所有点移到某一点y的土堆总质量必须等于最终该点y上的土堆质量。
这一性质相当于要求\gamma是边缘分布\mu与\nu对应的联合概率分布。于是可得到运输方案\gamma的总代价
:
\iint c(x,y) \gamma(x,y) \, \mathrm{d} x \, \mathrm{d} y = \int c(x,y) \, \mathrm{d} \gamma(x,y).
方案\gamma并不是唯一的,所有可能的运输方案中代价最低的方案即为最优运输方案。最优运输方案的代价为
:
C = \inf_{\gamma \in \Gamma(\mu, \nu)} \int c(x,y) \, \mathrm{d} \gamma(x,y).
如果两点之间移动的代价等于两点之间的距离,那么最小代价则与W_1距离等价。
参见
- 動土距離
- 传输理论
- 全变差距离
- 柯尔莫哥洛夫-斯米尔诺夫检验
参考文献
评论 (0)