【AI数学基础】线性代数：内积和范数

创作时间:

作者:

@小白创作中心

【AI数学基础】线性代数：内积和范数

引用

CSDN

https://blog.csdn.net/qq_30204431/article/details/144945647

本文主要面向AI领域的工科生，从代数和几何两个角度系统地介绍了线性代数中的内积和范数概念。文章内容较为基础，适合对线性代数有基本了解但需要系统复习或深入理解的读者。

2. 内积和范数

2.1 内积的定义

从代数的角度来说，内积是两个向量之间的一种运算，其结果是一个实数。

设由两个n维向量：

$$
\mathbf{x}=\left[\begin{array}{c}
x_{1} \
x_{2} \
\cdots \
x_{n}
\end{array}\right], \quad
\mathbf{y}=\left[\begin{array}{c}
y_{1} \
y_{2} \
\cdots \
y_{n}
\end{array}\right]
$$

令

$$
\mathbf{x} \cdot \mathbf{y}=x_{1} y_{1}+x_{2} y_{2}+\cdots+x_{n} y_{n}
$$

则$\mathbf{x} \cdot \mathbf{y}$为向量$\mathbf{x}$和向量$\mathbf{y}$的内积。

内积具有下列性质（其中$\mathbf{x},\mathbf{y},\mathbf{z}$为n维向量，$\lambda$为实数）：

$\mathbf{x}\cdot\mathbf{y}=\mathbf{y}\cdot\mathbf{x}$
$(\lambda\mathbf{x})\cdot\mathbf{y}=\mathbf{x}\cdot(\lambda\mathbf{y})$
$(\mathbf{x}+\mathbf{y})\cdot\mathbf{z}=\mathbf{x}\cdot\mathbf{z}+\mathbf{y}\cdot\mathbf{z}$
当$\mathbf{x}=\mathbf{0}$时，$\mathbf{x}\cdot\mathbf{x}=0$；当$\mathbf{x}\ne\mathbf{0}$时，$\mathbf{x}\cdot\mathbf{x}>0$

2.2 范数的定义

2.2.1 范数的定义

范数定义了向量空间里的距离，范数能将一组实数列表（向量）映射成一个实数，它的出现使得向量之间的比较称为了可能。（其实就是向量的长度）

如果向量$x\in\mathbb{R}^{n}$的某个实值函数$f(x)=||x||$满足：

正定性：$||x||\geqslant 0$且$||x||=0$当且仅当$x=0$
齐次性：对任意实数$\alpha$，都有$||\alpha x||=|\alpha|\cdot||x||$
三角不等式：对任意$x,y\in\mathbb{R}^{n}$，都有$||x+y||\leqslant||x||+||y||$

满足上述三条性质，则称$||x||$为$\mathbb{R}^{n}$上的一个向量范数。

2.2.2 常见的范数

常用的向量范数有：

L1范数：也叫曼哈顿距离，其公式为$|x|{1}=\sum\limits{i}\left|x_{i}\right|$，它是一个向量中所有元素的绝对值之和；
L2范数：也叫欧几里得距离，其公式为$|x|{2}=\sqrt{\sum\limits{i} x_{i}^{2}}$，对一个向量中所有元素取平方和，然后再开方。