回忆,定义在区间$I=(a,b)$上的函数$\varphi$称为凸函数, 如果对任意的$a < x < b$, $a < y < b$, 以及任意的$0\leq\lambda\leq1$, 成立如下不等式 \begin{equation} \varphi\left( (1-\lambda)x+\lambda y \right)\leq (1-\lambda)\varphi(x)+\lambda\varphi(y). \label{eq:convex} \end{equation} 从图形上, 假设$a < s < t < u < b$, 令 $t=(1-\lambda)s+\lambda u$, 则$\lambda= \frac{t-s}{u-s}$, $1-\lambda= \frac{u-t}{u-s}$, 从而\eqref{eq:convex}得到 \[ \varphi(t)\leq (1-\lambda)\varphi(s)+\lambda \varphi(u)\iff (1-\lambda)(\varphi(t)-\varphi(s))\leq \lambda \left( \varphi(u)-\varphi(t) \right), \] 故 \[ \frac{\varphi(t)-\varphi(s)}{t-s}\leq \frac{\varphi(u)-\varphi(t)}{u-t}. \]
Karamata不等式
Karamata不等式是凸优化中重要的不等式,它推广了离散的Jensen不等式,还可进一步推广得到Shur凸函数的概念. Theorem 1. 假设$I$是实数轴上的一个区间。若$\left\{ x_i \right\}_{i=1}^n$以及$\left\{ y_i \right\}_{i=1}^n$都是$I$上的实数序列,满足: $x_1\geq x_2\geq \cdots\geq x_n$以及$y_1\geq y_2\geq\cdots\geq y_n$; $\sum_{i=1}^kx_i\geq\sum_{i=1}^ky_i$, 对任意的$k=1,2,\ldots, n$都成立; $\sum_{i=1}^nx_i=\sum_{i=1}^ny_i$. 则称$\left\{ x_i \right\}_{i=1}^n$优于(majorize)$\left\{ y_{i=1}^n \right\}$, 记作$\left\{ x_i \right\}_{i=1}^n\succ \left\{ y_{i} \right\}_{i=1}^n$. 若$f:I\to \mathbb{R}$是一个凸函数。即,$f(\lambda x+(1-\lambda)y)\leq \lambda f(x)+(1-\lambda)f(y)$,对任意的$x,y\in I$都成立。则,对$\left\{ x_i \right\}_{i=1}^n\succ \left\{ y_{i} \right\}_{i=1}^n$, 有 \[ f(x_1)+\cdots+f(x_n)\geq f(y_1)+\cdots+f(y_n). \]