来源：‣（第一章｜随机信号处理 → 1.1 概率质量、概率密度与矩）
迁移说明：从正式 Notes 的对应小节迁入。保留核心正文、公式与推导；原插图、附件及交互式折叠请从来源链接查看。内容待校对。
离散随机变量用概率质量函数 PMF，连续（严格说：绝对连续）随机变量用概率密度函数 PDF。共同的分布描述是 CDF：
$$ F_X(x)=\Pr(X\le x),\qquad p_i=\Pr(X=x_i),\qquad \Pr(a<X\le b)=\int_a^b f_X(x)\,dx. $$
绝对连续分布的单点概率为 0，密度值不是单点概率。离散分布也可以形式上写成冲激之和，但这不是普通函数意义的 PDF：
$$ f_X(x)=\sum_i p_i\delta(x-x_i),\qquad \sum_i p_i=1. $$
默认下文基础概率部分讨论实随机变量。均值、二阶矩、方差与协方差：
$$ \mu_X=\mathbb EX,\quad m_2=\mathbb EX^2,\quad \sigma_X^2=\mathbb E(X-\mu_X)^2=m_2-\mu_X^2. $$
$$ \operatorname{Cov}(X,Y)=\mathbb E[(X-\mu_X)(Y-\mu_Y)],\qquad \rho_{XY}=\frac{\operatorname{Cov}(X,Y)}{\sigma_X\sigma_Y}. $$
相关系数要求两者方差非零。随机变量的“内积”可取 $\mathbb E[XY]$；中心化变量的标准差对应模长，方差对应模长平方。
相关系数只衡量线性相关，范围在 −1 到 1；接近 0 不代表任意意义上的独立。±1 对应中心化变量几乎处处成比例。
应用：比较不同量纲变量时用归一化相关；积累已知信号的能量时常用未归一化相关。原速记“外操作不如内操作”对应柯西–施瓦茨，正式证明见 Maths。
证明与计算｜相关系数界与等号条件
$$ |\mathbb E[XY]|^2\le \mathbb E[X^2]\,\mathbb E[Y^2]. $$
对中心化变量使用它，得到 $|\operatorname{Cov}(X,Y)|\le\sigma_X\sigma_Y$，所以 $|\rho_{XY}|\le1$。等号对应两个中心化变量几乎处处线性相关。原记“外操作不如内操作”只能作提醒，不能代替这个适用条件明确的不等式。
证明与计算｜柯西–施瓦茨与相关系数界的证明
令 U、V 为实平方可积随机变量，且 E[V²]>0。取 c=E[UV]/E[V²]，利用平方非负：