巴苏定理
在统计学中，巴苏定理（Basu's Theorem）指出任何有界完全的充分统计量与任何辅助统计量独立。 这是Debabrata Basu于1955年发现的结论。 定理陈述 设P_\theta是可测空间(X, \Sigma)上的一族分布。如果T是\theta的充分且有界完全的统计量，A是关于\theta的辅助统计量，那么T独立于A。 证明 对任意博雷尔集B，构造函数h_B(T)\equiv P_\theta(A\in B|T)-P_\th…
标签：#统计定理
共 13 篇文章
史拉斯基定理
在概率論，史拉斯基定理將實數列極限的若干代數性質推廣到隨機變量序列。 定理得名自尤金·史拉斯基。史拉斯基定理有時歸功於哈拉爾德·克拉梅爾。 敘述 設(X_n), (Y_n)為隨機純量、向量或矩陣序列。若(X_n)依分佈收斂至随机元素X，且(Y_n)依概率收斂至常數c，則 (X_n + Y_n) \ \xrightarrow{d}\ X + c ; (X_nY_n) \ \xrightarrow{d}\ Xc ; (X_n/Y_n) \ …
渐近等同分割特性
在信息论中，渐近等同分割特性（，簡稱AEP）是随机源输出样本的普遍性质，它是数据压缩理论中典型集概念的基础。 简言之，该定理指出：尽管随机过程可能产生多种结果序列，但实际出现的结果极大概率来自一个松散定义的集合——该集合中所有结果成为现实的可能性基本均等（这是大数定律与遍历理论的推论）。尽管存在某些单个结果的概率高于此集合中的任意结果，但集合内庞大的结果数量几乎保证了最终结果必将源自该集合。克莱默大偏差定理为理解该特性提供了一种直观路径…
香农极限
香农极限（或称向農容量）指的是在信道上进行无差错传输的理論最大传输速率，是香农定理在有限頻寬的頻道上的理論。換句話說，當訊號傳輸速率尚未達到向農極限時，可以找到零錯誤率的編碼方法。 {{Equation box 1 |indent = |title= |equation = C = B \log_2 \left( 1+\frac{S}{N} \right) |cellpadding= 6 |border |border colour =…
大數法則
的过程来展示大数定律。随着投掷次数的增加，所有结果的均值趋于3.5（骰子點數的期望值）。不同时候做的这个实验会在投掷次數较小的时候（左部）会表现出不同的形状，当次數变得很大（右部）的时候，它们将会非常相似。|thumb|right|400 px]] 在數學與統計學中，大数定律（）又称-{zh-hans:大数法则; zh-hant:大數定律;}-、大数律，是描述相当多次数重复实验的结果的定律。根据这个定律知道，樣本數量越多，則其算术平均值…
伊藤引理
在随机分析中，伊藤引理（Ito's lemma）是一条非常重要的性质。發現者為日本數學家伊藤清，他指出了对于一个随机过程的函数作微分的规则。 伊藤引理较早版本 第一引理 对于布朗运动 W_t 和二次可导函数f(x)，以下等式成立： :df(W_t) = f'(W_t)dW_t + \frac{1}{2} f(W_t)dt 其中過程： :dtdt = 0 , dtdW_t = dW_tdt = 0 , dW_tdW_t = dt 其主要可…
中心极限定理
中心极限定理（英语：central limit theorem，簡作 CLT）是概率论中的一组定理。在概率论中，中心极限定理 (CLT) 確定的为，在许多情况下，对于独立并同样分布的随机变量，即使原始变量本身不是正态分布，标准化样本均值的抽样分布也趋向于标准正态分布。这组定理是数理统计学和误差分析的理论基础，指出了大量随机变量之和近似服从正态分布的条件。 历史 Tijms (2004, p.169) 写到： 棣莫佛-拉普拉斯定理 棣莫佛…
K-L变换
K-L轉換（）是建立在統計特性基礎上的一種轉換，它是均方差（MSE, Mean Square Error）意義下的最佳轉換，因此在資料壓縮技術中佔有重要的地位。 K-L轉換名称来自Kari Karhunen和Michel Loève。 K-L轉換是對輸入的向量x，做一個正交變換，使得輸出的向量得以去除數據的相關性。 然而，K-L轉換雖然具有均方差(MSE)意義下的最佳轉換，但必須事先知道輸入的訊號，並且需經過一些繁雜的數學運算，例如协方…
高斯-马尔可夫定理
高斯-馬可夫定理（），在統計學中陳述的是在线性回归模型中，如果线性模型满足高斯马尔可夫假定，则回归系数的“最佳线性无偏估计”（BLUE，）就是普通最小二乘法估计。最佳估计是指相较于其他估计量有更小方差的估计量，同时把对估计量的寻找限制在所有可能的线性无偏估计量中。此外，误差也不一定需要满足独立同分布或正态分布。 本定理主要以卡爾·弗里德里希·高斯和安德烈·马尔可夫命名，虽然高斯的贡献要远比马尔可夫的重要。高斯以独立正态分布的假设推导出了…
连续映射定理
概率论中，连续映射定理（）指出连续函数保持极限，即使其参数是一列随机变量。 海涅定义下的连续函数是指将收敛数列映为收敛数列的函数：如果 x_n\rightarrow x 那么 g(x_n)\rightarrow g(x)。连续映射定理指出，如果把确定的数列\{x_n\}替换为一列随机变量\{x_n\}，把通常的收敛定义替换为某种随机变量的收敛定义，那么这个命题依然成立。 这个定理第一次由证明，因此有时又被称作Mann–Wald定理。 敍…
贝叶斯定理
貝葉斯定理（）是概率論中的一個定理，描述在已知一些条件下，某事件的发生機率。比如，如果已知某種健康問題与寿命有关，使用贝叶斯定理则可以通过得知某人年龄，来更加准确地计算出某人有某種健康問題的機率。 通常，事件A在事件B已發生的條件下发生的機率，與事件B在事件A已發生的條件下发生的機率是不一樣的。然而，這兩者是有確定的關係的，貝葉斯定理就是這種關係的陳述。貝葉斯公式的一個用途，即透過已知的三個機率而推出第四個機率。贝叶斯定理跟隨機變量的條…
拉奥-布莱克韦尔定理
在统计学中，拉奥-布莱克韦尔定理(Rao–Blackwell theorem)，有时称为拉奥-布莱克韦尔定理-柯尔莫果洛夫定理，是一项结果，它描述了如何将任意粗糙的估计量转化为通过均方误差准则或任何一种类似准则优化的估计量。 定理指出，如果g(X)是某个参数θ的任何一种估计量，那么在给定充分统计量T(X)的条件下，g(X)的条件期望通常比g(X)本身更好地估计了θ，而且从来不会更糟。有时，可以非常容易地构造一个非常粗糙的估计量g(X)，…
重对数律
在概率论中，重对数律(LIL)用来描述一个随机游走的振幅。其最早为Aleksandr Y. Khinchin在1924年所叙述；之后Andrey N. Kolmogorov在1929年给出了另一个叙述。由于定理中出现了二重对数，故名。 内容 令\{ Y_n \}是一列独立同分布的随机变量，其期望为0，方差为1；且记S_n = Y_1 + \ldots + Y_n，那么： \limsup_{n \to \infty} \frac{S_n}…