如何判断一个优化问题是不是基于凸优化化问题

这套笔记是跟着七月算法四月班嘚学习而记录的主要记一下我再学习机器学习的时候一些概念比较模糊的地方,具体课程参考七月算法官网:


除了利用凸函数原始定义、Hessian半正萣等进行证明以外有没有什么更快捷简便的方法来判断目标函数是否为凸呢?

1、什么时候KKT条件可以成为充要条件

2、什么时候局部最优解可以成为全局最优解

上面两个问题答案显然就是基于凸优化化问题

3、一般的优化问题与基于凸优化化问题的分沝岭不在于问题本身是线性还是非线性的,有约束还是无约束的核心问题在于这个问题是凸还是非凸。如果该问题是凸问题那么这个問题就已经解决了。

本图片出自于也就是集合中任意两点的线段都在这个集合内则为凸集。

4、基于凸优化化问题的约束条件也就是可荇域必须为凸集

本图片出自于也就是弦在函数之上

本图片出自于,也就是如果函数可导该函数的二阶Hessian矩阵半正定,那么这个函数就是凸函数

本图片出自于其实就是二阶导数大于0,对于矩阵来说就是Hessian矩阵半正定;

5、凸函数和凸集的关系

本图片出自于即满足目标函数为凸函數可行域为凸集条件的则为基于凸优化化问题

其中等式h(x)为线性函数,这样才能满足h(x)为凸集可以将一个非凸问题近似为一个基于凸优化化問题将解作为牛顿法等的初始值,通常采用内点法

我要回帖

更多关于 基于凸优化 的文章

 

随机推荐