数学中,特别是泛函分析中,作用于希尔伯特空间X、Y之间的紧算子T: X \rightarrow Y的奇异值是自伴算子T^T(T^表示T的伴随)的非负特征值的平方根。
奇异值是非负实数,一般按递减顺序排列(\sigma_1(T),\ \sigma_2(T),\dots)。最大的奇异值\sigma_1(T)等于T的算子范数(见极小-极大定理)。
矩阵M的奇异值分解可视化。首先,可见蓝色的单位圆盘与2个标准基向量;然后,可见M的作用:将圆盘扭曲为椭圆。SVD将M分解为3个简单变换:旋转V^、沿旋转轴的缩放Σ及第二次旋转 U。Σ是对角矩阵(本例中是方阵),对角线上包含M*的奇异值,代表椭圆半轴长度\sigma_1,\ \sigma_2。]]
作用于欧氏空间\Reals ^n的T的奇异值有简单的几何解释:单位n球在T变换下的像是椭球,其半轴长度是T的奇异值(图中提供了\R^2的例子)。
奇异值是正规矩阵A的特征值的绝对值,由谱定理可得A的单位对角化:A = U\Lambda U^。因此有\sqrt{A^ A} = \sqrt{U \Lambda^ \Lambda U^} = U \left| \Lambda \right| U^*。
研究的希尔伯特空间算子的大多数范数都是用奇异值定义的。例如,樊𰋀-k-范数是前k个奇异值的和,迹范数是所有奇异值的和,沙滕范数是奇异值的p次幂之和的p次根。注意每种范数都只定义在一类特殊的算子上,因此奇异值有助于算子的分类。
有限维情形,矩阵总可以分解为\mathbf{U\Sigma V^},其中\mathbf{U}、\mathbf{V^}是酉矩阵,\mathbf{\Sigma}是矩形对角矩阵,奇异值在对角线上。这就是奇异值分解。
基本性质
对A \in \mathbb{C}^{m \times n}、i = 1,2, \ldots, \min \{m,n\}。
应用特征值的最小-最大定理。这里U: \dim(U) = i是\mathbb{C}^n的i维子空间。
:\begin{align}
\sigma_i(A) &= \min_{\dim(U)=n-i+1} \max_{\underset{\| x \|_2 = 1}{x \in U}} \left\| Ax \right\|_2. \\
\sigma_i(A) &= \max_{\dim(U)=i} \min_{\underset{\| x \|_2 = 1}{x \in U}} \left\| Ax \right\|_2.
\end{align}
矩阵转置和共轭不会改变奇异值。
:\sigma_i(A) = \sigma_i\left(A^\textsf{T}\right) = \sigma_i\left(A^*\right).
对任意酉矩阵U \in \mathbb{C}^{m \times m}, V \in \mathbb{C}^{n \times n}
:\sigma_i(A) = \sigma_i(UAV).
与特征值的关系:
:\sigma_i^2(A) = \lambda_i\left(AA^\right) = \lambda_i\left(A^A\right).
与迹的关系:
:\sum_{i=1}^n \sigma_i^2=\text{tr}\ A^\ast A.
若A^\top A满秩,则奇异值的积是\sqrt{\det A^\top A}。
若A A^\top满秩,则奇异值的积是\sqrt{\det A A^\top}。
若A满秩,则奇异值的积是|\det A|。
关于奇异值的不等式
另见
子矩阵的奇异值
对A \in \mathbb{C}^{m \times n},
令B表示删除了某一行或某一列的A。则\sigma_{i+1}(A) \leq \sigma_i (B) \leq \sigma_i(A)
令B表示删除了某一行和某一列的A。则\sigma_{i+2}(A) \leq \sigma_i (B) \leq \sigma_i(A)
令B表示A的(m-k)\times(n-l)子矩阵,则\sigma_{i+k+l}(A) \leq \sigma_i (B) \leq \sigma_i(A)
A + B的奇异值
对A, B \in \mathbb{C}^{m \times n}
\sum_{i=1}^{k} \sigma_i(A + B) \leq \sum_{i=1}^{k} (\sigma_i(A) + \sigma_i(B)), \quad k=\min \{m,n\}
\sigma_{i+j-1}(A + B) \leq \sigma_i(A) + \sigma_j(B). \quad i,j\in\mathbb{N},\ i + j - 1 \leq \min \{m,n\}
AB的奇异值
对A, B \in \mathbb{C}^{n \times n}
\begin{align}
\prod_{i=n}^{i=n-k+1} \sigma_i(A) \sigma_i(B) &\leq \prod_{i=n}^{i=n-k+1} \sigma_i(AB) \\
\prod_{i=1}^k \sigma_i(AB) &\leq \prod_{i=1}^k \sigma_i(A) \sigma_i(B), \\
\sum_{i=1}^k \sigma_i^p(AB) &\leq \sum_{i=1}^k \sigma_i^p(A) \sigma_i^p(B),
\end{align}
\sigma_n(A) \sigma_i(B) \leq \sigma_i (AB) \leq \sigma_1(A) \sigma_i(B) \quad i = 1, 2, \ldots, n.
对A, B \in \mathbb{C}^{m \times n}
2 \sigma_i(A B^) \leq \sigma_i \left(A^ A + B^* B\right), \quad i = 1, 2, \ldots, n.
奇异值与特征值
对A \in \mathbb{C}^{n \times n}.
见 \lambda_i \left(A + A^*\right) \leq 2 \sigma_i(A), \quad i = 1, 2, \ldots, n.
假设\left|\lambda_1(A)\right| \geq \cdots \geq \left|\lambda_n(A)\right|,则对k = 1, 2, \ldots, n:
外尔定理 \prod_{i=1}^k \left|\lambda_i(A)\right| \leq \prod_{i=1}^{k} \sigma_i(A).
对p>0。 \sum_{i=1}^k \left|\lambda_i^p(A)\right| \leq \sum_{i=1}^{k} \sigma_i^p(A).
历史
奇异值这一概念由埃哈德·施密特(1907)提出,当时称奇异值为“特征值”。“奇异值”的名称由史密斯于1937年首次使用。1957年,Allahverdiev证明了第n个奇异值的如下特征:
: \sigma_n(T) = \inf\big\{\, \|T-L\| : L\text{的秩}
这种表述使奇异值概念可以推广到巴拿赫空间的算子。
注意还有更一般的s-数(s-number)概念,也包括盖尔范德和柯尔莫哥洛夫宽。
另见
*条件数
*庞加莱分离定理
*舒尔–霍恩定理
*奇异值分解
参考文献
评论 (0)