来源：‣（第二章｜信号检测和参数估计 → 4. CRB：给出下界，未必给出能达到它的方法）

迁移说明：从正式 Notes 的对应小节迁入。保留核心正文、公式与推导；原插图、附件及交互式折叠请从来源链接查看。内容待校对。

4. CRB：给出下界，未必给出能达到它的方法

在满足正则条件、信息有限且为正时，对 A 的无偏估计满足

$$ \operatorname{Var}_A(\hat A)\ge\frac1{I(A)}. $$

高斯均值例子中，下界是 $\sigma^2/N$，样本均值恰好达到它。因此这一模型中再换无偏算法，也不能把方差降得更低。 使用时要依次检查：概率模型是什么；估计量是否无偏；正则条件与信息可逆性是否成立；最后才讨论等号。最大似然的驻点条件 $\ell'=0$ 不保证无偏，也不保证达到 CRB。

证明：正则条件、得分期望与柯西不等式

采用一组常用充分条件：参数在开区间内，密度支持域不随参数改变，可交换所需的求导与积分，相关二阶矩存在，$0<I(A)<\infty$。于是

$$ \mathbb E_A[u]=\int\partial_Ap(\mathbf x;A)d\mathbf x =\partial_A\int p(\mathbf x;A)d\mathbf x=0. $$

无偏估计量不显含未知参数，对 $\mathbb E_A[\hat A]=A$ 求导：

$$ 1=\int\hat A(\mathbf x)\partial_Ap(\mathbf x;A)d\mathbf x =\mathbb E_A[\hat A u]=\operatorname{Cov}_A(\hat A,u). $$

柯西–施瓦茨不等式给出

$$ 1\le\operatorname{Var}_A(\hat A)\operatorname{Var}_A(u) =\operatorname{Var}_A(\hat A)I(A). $$

等号要求 $\hat A-A=u/I(A)$ 几乎处处成立，而且右边最终必须能表示为不含未知 A 的同一个估计规则。 再对 $\mathbb E_A[u]=0$ 求导，得到 $\mathbb E_A[\partial_Au+u^2]=0$，从而 $I=-\mathbb E_A[\ell'']$。支持域随参数变化（如 $U(0,A)$）时，不能直接忽略边界项套用这些步骤。

以上正则条件和信息不等式可对照 Berkeley：Score Function and Fisher Information。