柯西-施瓦兹不等式：从内积空间到概率论的应用
柯西-施瓦兹不等式：从内积空间到概率论的应用
柯西-施瓦兹不等式是数学中一个非常重要的不等式，广泛应用于线性代数、泛函分析、概率论等多个领域。它不仅在理论研究中占有重要地位，也在实际问题中有着广泛的应用。本文将从内积空间的角度，详细介绍柯西-施瓦兹不等式的一般形式、几何解释、证明方法及其在不同空间中的具体表现形式。
一、一般形式
首先介绍内积的概念。这里仅考虑实线性空间上的内积。设V是实线性空间，在其上定义内积运算$(\cdot,\cdot): V \times V \to \mathbb{R}$，即对于任意$x,y \in V$，存在唯一的元素$(x,y) \in \mathbb{R}$与之对应，称为$x$与$y$的内积，且满足以下性质：
- $(x,x) \geq 0$ 且 $(x,x) = 0 \Leftrightarrow x = 0$
- $(x,y) = (y,x)$
- $(ax,z) = a(x,z),,a \in \mathbb{R}$
- $(x+y,z) = (x,z) + (y,z)$
柯西-施瓦兹不等式表述如下：
$$(a,b)^2 \leq (a,a)(b,b)$$
二、解释
根据内积定义，可以定义向量的长度：$|x| = \sqrt{(x,x)}$。
对不等式两边开根号，得到：
$$\vert(a,b)\vert \leq |a||b|$$
不妨设$b \neq 0$（$b=0$时不等式显然成立）。因为$|b| \neq 0$，所以可以将不等式两边同时除以$|b|$，得到：
$$\frac{\vert(a,b)\vert}{|b|} \leq |a|$$
这时可以看出，左侧是在比较两个向量的长度。为了更直观地理解，假设$b \neq 0$，可以将其扩充为空间中的一组正交基，然后对向量$a$进行正交分解，如图所示：
（注：这是一个侧视图）
则$a$可以表示为$a = kb + u$，其中$u$与$b$垂直，即$(u,b) = 0$。两边同时与$b$作内积，得到：
$$(a,b) = k(b,b) + 0$$
则$a = \frac{(a,b)}{(b,b)}b + u$。令$v = \frac{(a,b)}{(b,b)}b$，则$v$的长度为：
$$|v| = \frac{\vert(a,b)\vert}{|b|}$$
所以，不等式可以这样理解：向量$a$在向量$b$方向上投影的长度小于等于向量$a$自身的长度。
三、证明
证法1：
$$|a|^2 = (a,a) = (kb+u,kb+u) = (kb,kb) + 2k(b,u) + (u,u) = (kb,kb) + (u,u) = (v,v) + (u,u) = |v|^2 + |u|^2 \geq |v|^2$$
因此：
$$|a|^2 \geq |v|^2, \quad |a| \geq |v|$$
所以：
$$|a| \geq \frac{\vert(a,b)\vert}{|b|}$$
不等式成立。
证法2：
若$a = 0$，不等式显然成立；否则，考虑：
$$(ta+b,ta+b) = (a,a)t^2 + 2(a,b)t + (b,b) \geq 0$$
将其看作是关于$t$的二次函数，则有：
$$\Delta = 4(a,b)^2 - 4(a,a)(b,b) \leq 0$$
所以：
$$(a,b)^2 \leq (a,a)(b,b)$$
当且仅当$ta+b = 0$时，“=”成立。
四、特殊形式
- 在$\mathbb{R}^n$中：
设$a = (a_1, a_2, \cdots, a_n), b = (b_1, b_2, \cdots, b_n), a, b \in \mathbb{R}^n$，则：
$$(a,b)^2 = \left(\sum_{i=1}^{n}a_ib_i\right)^2 \leq \left(\sum_{i=1}^{n}a_i^2\right)\left(\sum_{i=1}^{n}b_i^2\right) = (a,a)(b,b)$$
当且仅当$a = \lambda b$时，“=”成立。
- 在$l^2$中：
设$a = (a_1, a_2, \cdots), b = (b_1, b_2, \cdots), a, b \in l^2$，即：
$$\left(\sum_{i=1}^{\infty} \vert a_i\vert^2\right)^{\frac{1}{2}} < \infty, \quad \left(\sum_{i=1}^{\infty} \vert b_i\vert^2\right)^{\frac{1}{2}} < \infty$$
则：
$$(a,b)^2 = \left(\sum_{i=1}^{\infty}a_ib_i\right)^2 \leq \left(\sum_{i=1}^{\infty}a_i^2\right)\left(\sum_{i=1}^{\infty}b_i^2\right) = (a,a)(b,b)$$
当且仅当$a = \lambda b$时，“=”成立。
- 在$L^2[a,b]$中：
设$f, g \in L^2[a,b]$，即：
$$\int_{[a,b]}f^2(x)dx < \infty, \quad \int_{[a,b]}g^2(x)dx < \infty$$
则：
$$(f,g)^2 = \left(\int_{[a,b]}f(x)g(x)dx\right)^2 \leq \left(\int_{[a,b]}f^2(x)dx\right)\left(\int_{[a,b]}g^2(x)dx\right) = (f,f)(g,g)$$
当且仅当$tf(x) + g(x) \equiv 0$时，“=”成立。
- 在概率空间中：
设$\xi_1, \xi_2$为两个随机变量，则：
$$(E(\xi_1\xi_2))^2 \leq E(\xi_1^2)E(\xi_2^2)$$
当且仅当$P\lbrace t\xi_1+\xi_2=0\rbrace=1$时，“=”成立。