凸優(yōu)化指的是,如果得到了局部最優(yōu)锚国,那么這個局部最優(yōu)就是全局最優(yōu)腕巡。
講凸優(yōu)化就涉及到凸函數(shù)和凸集合
集合C內(nèi)任意兩點(diǎn)間的線段也均在集合C內(nèi),則稱集合C為凸集血筑,比如(盜圖):
凸集非凸集
所以 比如 像是 一階的 就是一個凸集
再講一下凸函數(shù):
凸函數(shù)的數(shù)學(xué)定義:
凸函數(shù)定義
凸函數(shù)的幾何含義:
函數(shù)任意兩點(diǎn)A1和A2之間的部分位于弦A1A2的下方或曲線任一點(diǎn)切線上方绘沉,不嚴(yán)謹(jǐn)一個說法:割線始終位于兩點(diǎn)間函數(shù)曲線的上方。
凸函數(shù)幾何定義
在講到凸優(yōu)化:
實(shí)際建模中判斷一個最優(yōu)化問題是不是凸優(yōu)化問題一般看以下幾點(diǎn):
- 目標(biāo)函數(shù)f如果不是凸函數(shù)豺总,則不是凸優(yōu)化問題
- 決策變量x中包含離散變量(0-1變量或整數(shù)變量)车伞,則不是凸優(yōu)化問題
- 約束條件寫成g(x)\le0時,g如果不是凸函數(shù)喻喳,則不是凸優(yōu)化問題
所以總結(jié)一下另玖。
我們在求解的時候,思路上都是找一個局部最優(yōu)解表伦,或者說是通過迭代運(yùn)算谦去,找目標(biāo)函數(shù)值下降的解,直到兩個解之間幾乎沒有變化蹦哼,我們就認(rèn)為找到了局部最優(yōu)解哪轿。當(dāng)求解線性規(guī)劃時,線性規(guī)劃的函數(shù)和約束都是凸函數(shù)翔怎,那么我們通過算法找到了這么一個解窃诉,那就是全局最優(yōu)解杨耙。