包络定理(Envelop Theorem)是带参数的最优化问题中的一个定理。这个定理的内容是，参数的值变动时，目标函数的变动只和参数的变动有关，而与自变量（因参数变动而引起）的变动无关。包络定理在最优化领域非常有用。
具体表述
无约束的情形
设f(\mathbf{x}, \boldsymbol{\alpha})是\mathbb{R}^{n+l}上的可微实函数，其中\mathbf{x} \in \mathbb{R}^{n}是自变量，\boldsymbol{\alpha} \in \mathbb{R}^{l}是参数，目标是选择适当的\mathbf{x}以最大化/最小化f。设V(\boldsymbol{\alpha}) = f(\mathbf{x}^, \boldsymbol{\alpha})，其中\mathbf{x}^为f取最大值/最小值时的\mathbf{x}，则包络定理即
:\frac{\mathrm{d} V}{\mathrm{d} \boldsymbol{\alpha}} = \left.\frac{\partial f}{\partial \boldsymbol{\alpha}}\right\vert_{\mathbf{x} = \mathbf{x}^*}。
证明
根据全微分公式有
:\mathrm{d}V = \left.\mathrm{d}f\right\vert_{\mathbf{x}=\mathbf{x}^} = \left.\left(\sum_{i=1}^n\frac{\partial f}{\partial x_i}\mathrm{d}x_i + \sum_{i=1}^l\frac{\partial f}{\partial \alpha_i}\mathrm{d}\alpha_i\right)\right\vert_{\mathbf{x}=\mathbf{x}^}。
因为\mathbf{x}取最值时必有f对x_i的一阶偏导数为零，即
:\left.\frac{\partial f}{\partial \mathbf{x}}\right\vert_{\mathbf{x}=\mathbf{x}^*} = 0，
故可得到
:\mathrm{d}V = \left.\sum_{i=1}^n\frac{\partial f}{\partial \alpha_i}\mathrm{d}\alpha_i\right\vert_{\mathbf{x}=\mathbf{x}^*}，
也即\frac{\mathrm{d} V}{\mathrm{d} \boldsymbol{\alpha}} = \left.\frac{\partial f}{\partial \boldsymbol{\alpha}}\right\vert_{\mathbf{x} = \mathbf{x}^*}成立。
有约束的情形
在无约束的情形下加上m个同样可微的实约束函数g_j(\mathbf{x}, \boldsymbol{\alpha})=0，则包络定理变为
:\frac{\mathrm{d} V}{\mathrm{d} \boldsymbol{\alpha}} = \left.\frac{\partial \mathcal{L}}{\partial \boldsymbol{\alpha}}\right\vert_{\mathbf{x} = \mathbf{x}^*}，
其中\mathcal{L}(\mathbf{x}, \boldsymbol{\lambda}, \boldsymbol{\alpha}) = f(\mathbf{x}, \boldsymbol{\alpha}) + \sum_{j=1}^m \lambda_j(\boldsymbol{\alpha})g_j(\mathbf{x}, \boldsymbol{\alpha})是拉格朗日函数。
证明过程与无约束时类似，只是\mathbf{x}取最值时\frac{\partial f}{\partial x_i} = 0变为\frac{\partial \mathcal{L}}{\partial x_i} = 0。
参考文献
参见
*霍特林引理
*谢泼德引理
*罗伊恒等式
评论 (0)