协方差

在機率論與統計學中，共變異數（）用於衡量随机变量間的相關程度。

定義
{{Math theorem
| name = 定義
| math_statement =

設 \Omega 為样本空间， P 是定義在 \Omega 的事件族 \Sigma 上的機率。（換句話說， (\Omega,\,\Sigma,\, P) 是個機率空間）

若 X 与 Y 是定義在 \Omega 上的兩個实数随机变量， 期望值分别为：

: \operatorname{E}(X)
= \int_{\Omega} X \,dP
= \mu

: \operatorname{E}(Y)
= \int_{\Omega} Y \,dP
=\nu
則兩者間的协方差定义为：

: \operatorname{cov}(X, Y) = \operatorname{E}[(X - \mu) (Y - \nu)]
}}

根據測度積分的線性性質，上面的原始定義可以進一步簡化為：

: \begin{align}
\operatorname{cov}(X, Y)
&= \int_{\Omega}(X - \mu) (Y - \nu)\,dP \\
&= \int_{\Omega} X \cdot Y\, dP - \mu \int_{\Omega} Y \,dP - \nu \int_{\Omega} X \,dP + \mu\nu \\
&= \operatorname{E}(X \cdot Y) - \mu\nu
\end{align}
协方差矩阵
协方差的定義可以推廣到兩列隨機變數之間

{{Math theorem
| name = 定義
| math_statement =

設 (\Omega,\,\Sigma,\, P) 是機率空間， X = \{x_i\}^{m}_{i=1} 与 Y = \{y_j\}^{n}_{j=1} 是定義在 \Omega 上的兩列实数随机变量序列（也可視為有序对或行向量
若二者对应的期望值分别为：

: E(x_i)
= \int_{\Omega} x_i \,dP
= \mu_i

: E(y_j)
= \int_{\Omega} y_j \,dP
= \nu_j
則这两列隨機变量间的协方差定义成一個 m\times n 矩阵

: \operatorname{\mathbf{cov}}(X, Y)
:= {\left[\,\operatorname{cov}(x_i, y_j)\,\right]}_{m \times n}

}}

以上的定義，以矩形來表示就是：
: \operatorname{\mathbf{cov}}(X, Y)
:=
\begin{bmatrix}
\operatorname{cov}(x_1, y_1) & \dots & \operatorname{cov}(x_1, y_n) \\
\vdots & \ddots & \vdots \\
\operatorname{cov}(x_m, y_1) & \dots & \operatorname{cov}(x_m, y_n)
\end{bmatrix}
=\begin{bmatrix}
\operatorname{E}(x_1 y_1)-\mu_1\nu_1 & \dots & \operatorname{E}(x_1 y_n)-\mu_1\nu_n \\
\vdots & \ddots & \vdots \\
\operatorname{E}(x_m y_1)-\mu_m\nu_1 & \dots & \operatorname{E}(x_m y_n)-\mu_m\nu_n
\end{bmatrix}
性質
統計獨立
{{Math theorem|math_statement=若隨機變數 X 和 Y 是相互独立的，則
: \operatorname{cov}(X, Y) = 0}}

計算性質
如果X与Y是实数随机变量，a与b是常数，那么根据协方差的定义可以得到：

: \operatorname{cov}(X, X) = \operatorname{var}(X)，
: \operatorname{cov}(X, Y) = \operatorname{cov}(Y, X)，
: \operatorname{cov}(aX, bY) = ab\, \operatorname{cov}(X, Y)，
: \operatorname{cov}(X+Y, Z) = \operatorname{cov}(X, Z)+{cov}(Y, Z)，

对于随机变量序列X_1, \ldots, X_n与Y_1, \ldots, Y_m，有

: \operatorname{cov}\left(\sum_{i=1}^n {X_i}, \sum_{j=1}^m{Y_j}\right) = \sum_{i=1}^n{\sum_{j=1}^m{\operatorname{cov}\left(X_i, Y_j\right)}}，

对于随机变量序列X_1, \ldots, X_n，有

:\operatorname{var}\left(\sum_{i=1}^n X_i \right) = \sum_{i=1}^n \operatorname{var}(X_i) + 2\sum_{i,j\,:\,i。

相關係數
取决于协方差的相关性\eta
: \eta = \dfrac{\operatorname{cov}(X, Y)}{\sqrt{\operatorname{var}(X) \cdot \operatorname{var}(Y)}} \ ,
更准确地说是线性相关性，是一个衡量线性独立的无量纲数，其取值在[-1,1]之间。相关性\eta=1时称为“完全线性相关”（相关性\eta=-1时称为“完全线性负相关”），此时将Y_i对X_i作Y-X 散点图，将得到一组精确排列在直线上的点；相关性数值介于－1到1之间时，其绝对值越接近1表明线性相关性越好，作散点图得到的点的排布越接近一条直线。

相关性为0（因而协方差也为0）的两个随机变量又被称为是不相关的，或者更准确地说叫作“线性无关”、“线性不相关”，这仅仅表明X与Y两随机变量之间没有线性相关性，并非表示它们之间一定没有任何内在的（非线性）函数关系，和前面所说的“X、Y二者并不一定是统计独立的”说法一致。

参见

• 變異數
• 自协方差
• 协方差矩阵
• 协方差函数
• 误差传播