凸函数 (Convex Function)

凸函数 (Convex Function)

引用

CSDN

1.

https://blog.csdn.net/xy_optics/article/details/142885257

凸函数是数学优化理论中的一个核心概念，广泛应用于机器学习、深度学习等领域。本文将从定义、图示到闭凸函数的扩展，全面介绍凸函数的基本知识。

1. 凸函数定义

凸函数是指在其图像上的任意两个点之间画一条线，这条线始终不会低于函数图像。其数学定义为：对于任何两个点 (x) 和 (y)，以及 (\lambda \in [0,1])，有：

[f(\lambda x + (1-\lambda)y) \leq \lambda f(x) + (1-\lambda) f(y)]

凸函数的例子包括：(e^{ax})、(-\log(x))以及当 (a \geq 1) 时的 (x^{|a|})。

凸函数的正式定义强调，任意两个点的加权平均值必须大于或等于它们中间点的函数值。简而言之：

• 函数在区间中点处的值不大于两端点函数值的算术平均值。

数学表达式为：

[f\left(\frac{x + y}{2}\right) \leq \frac{f(x) + f(y)}{2}]

其中，(x) 和 (y) 是区间的两个端点，(\frac{x + y}{2}) 是中点。

2. 凸函数和非凸函数的图示

凸函数的图形可以通过在曲线上画点之间的连线来识别。如果连线始终位于曲线之上或与曲线重合，那么函数是凸的。相反，非凸函数的图形中，连线会有部分低于曲线。

3. 闭凸函数

闭函数是指其上方图像（即在函数图像上方的点集）（epigraph）构成闭合集的凸函数。通常应用于闭合域上的连续函数。