一掘而、梯度下降法 梯度下降法 考慮無約束優(yōu)化問題: 其中辱挥, 為可微凸函數(shù),且 躺彬。 記: 梯度下降法迭代格式為: 其中, 為搜索步長倍权, 為初始迭代點...
MCMC幾何問題框架可推導(dǎo)許多凸優(yōu)化理論悯仙。 定義:設(shè) 為 中非空子集: 極小公共點問題 (minimal common problem): ...
共軛函數(shù) 定義:擴展實值函數(shù) 的共軛函數(shù) 定義如下: 二次共軛函數(shù) 定義:擴展實值函數(shù) 的二次共軛函數(shù) 是其共軛函數(shù) 的共軛函數(shù),定義...
極點 定義:設(shè) 為非空凸集 中向量召庞,若對 中任意不同于 的 ,以及任意標(biāo)量 来破,使得 均不成立篮灼,則稱 為集合 的極點或頂點 (ext...
凸集的回收方向和回收錐 定義:設(shè)集合 為非空凸集,若向量 滿足對于 及 有 成立徘禁,則稱 是 的回收方向(recession dir...
一诅诱、論述題 簡述超平面分離、嚴(yán)格超平面分離送朱、以及正常超平面分離定義以及成立條件娘荡。 分離超平面定理設(shè) 和 是 中的非空凸集,若 和 不相...
凸函數(shù) 假設(shè)為一個凸集驶沼,如果對于任意的都有成立炮沐,我們就稱為是實值凸函數(shù)(real-valued convex function)。 如果上面的小...
凸集性質(zhì)以及凸包 凸集:假設(shè)集合回怜,如果對于和大年,有成立,則稱集合為凸集(convex set),或稱是凸的玉雾。約定空集也是凸集翔试。 如上圖所示,我們可...
本文介紹冪平均函數(shù)以及由他得出的冪均值不等式复旬。 引理:Jensen不等式【琴生不等式】 假設(shè)是區(qū)間上的凸函數(shù)遏餐,我們有如下結(jié)論: 反之,如果是一個...