一权旷、梯度下降法 梯度下降法 考慮無(wú)約束優(yōu)化問(wèn)題: 其中宝踪, 為可微凸函數(shù)宝冕,且 。 記: 梯度下降法迭代格式為: 其中智末, 為搜索步長(zhǎng), 為初始迭代點(diǎn)...
MCMC幾何問(wèn)題框架可推導(dǎo)許多凸優(yōu)化理論。 定義:設(shè) 為 中非空子集: 極小公共點(diǎn)問(wèn)題 (minimal common problem): ...
共軛函數(shù) 定義:擴(kuò)展實(shí)值函數(shù) 的共軛函數(shù) 定義如下: 二次共軛函數(shù) 定義:擴(kuò)展實(shí)值函數(shù) 的二次共軛函數(shù) 是其共軛函數(shù) 的共軛函數(shù)里逆,定義...
極點(diǎn) 定義:設(shè) 為非空凸集 中向量用爪,若對(duì) 中任意不同于 的 原押,以及任意標(biāo)量 ,使得 均不成立偎血,則稱 為集合 的極點(diǎn)或頂點(diǎn) (ext...
凸集的回收方向和回收錐 定義:設(shè)集合 為非空凸集诸衔,若向量 滿足對(duì)于 及 有 成立,則稱 是 的回收方向(recession dir...
一颇玷、論述題 簡(jiǎn)述超平面分離笨农、嚴(yán)格超平面分離、以及正常超平面分離定義以及成立條件帖渠。 分離超平面定理設(shè) 和 是 中的非空凸集谒亦,若 和 不相...
凸函數(shù) 假設(shè)為一個(gè)凸集,如果對(duì)于任意的都有成立阿弃,我們就稱為是實(shí)值凸函數(shù)(real-valued convex function)诊霹。 如果上面的小...
凸集性質(zhì)以及凸包 凸集:假設(shè)集合,如果對(duì)于和渣淳,有成立脾还,則稱集合為凸集(convex set),或稱是凸的。約定空集也是凸集入愧。 如上圖所示鄙漏,我們可...
本文介紹冪平均函數(shù)以及由他得出的冪均值不等式嗤谚。 引理:Jensen不等式【琴生不等式】 假設(shè)是區(qū)間上的凸函數(shù),我們有如下結(jié)論: 反之怔蚌,如果是一個(gè)...