發(fā)簡(jiǎn)信
IP屬地：上海
-
EM算法詳解作為N大機(jī)器學(xué)習(xí)方法的一員，EM算法在各種書(shū)籍煞额、博客一喘、網(wǎng)上視頻上被描述或者介紹，每次看完總感覺(jué)很多地方含糊不清涛碑，不能讓一個(gè)初學(xué)者（有一定統(tǒng)計(jì)概率...
-
無(wú)約束優(yōu)化方法-一階導(dǎo)數(shù)（最速下降法）
利用導(dǎo)數(shù)信息的方法皆為間接方法精堕。在無(wú)約束優(yōu)化法最開(kāi)始介紹時(shí)，提到迭代形式的優(yōu)化方法關(guān)鍵步驟是確定搜索方向和步長(zhǎng)锌唾。間接方法更為關(guān)注搜索方向的確定锄码，...
-
無(wú)約束優(yōu)化方法-直接方法（Downhill Simplex）
Downhill simplex 方法又稱(chēng)為Nelder-Mead算法、Amoeba方法晌涕，由Spendley滋捶、Hext和Himsworth于19...
-
無(wú)約束優(yōu)化方法-直接方法（Powell與改進(jìn)Powell）在坐標(biāo)輪換法中，可知其收斂速度慢余黎，且受到等值線(xiàn)的形狀的影像重窟。原因可歸結(jié)為其搜索方向總是平行于坐標(biāo)軸，不適應(yīng)函數(shù)的變換情況惧财。針對(duì)這樣的問(wèn)題巡扇，共軛方...
-
無(wú)約束優(yōu)化方法-直接方法（坐標(biāo)輪換法）無(wú)約束最優(yōu)化方法的一般步驟可以總結(jié)如下： 選擇初始點(diǎn)，這一點(diǎn)越靠近局部極小點(diǎn)越好垮衷；已取得某設(shè)計(jì)點(diǎn)厅翔，選擇一個(gè)設(shè)計(jì)方向，沿此方向搜索搀突，函數(shù)值需是下降...
-
優(yōu)化方法基礎(chǔ)系列-非精確的一維搜索技術(shù)選擇最優(yōu)步長(zhǎng)的精確搜索方法往往計(jì)算量大刀闷，特別是當(dāng)?shù)c(diǎn)遠(yuǎn)離最優(yōu)解時(shí)，效率很低仰迁，而且很多最優(yōu)化算法的收斂速度并不依賴(lài)于精確的一維搜索過(guò)程甸昏。這促使一...
-
優(yōu)化方法基礎(chǔ)系列-精確的一維搜索技術(shù)
在學(xué)習(xí)各種優(yōu)化方法之前，我們需要先從簡(jiǎn)單的一維優(yōu)化問(wèn)題開(kāi)始徐许，即只有單一變量的優(yōu)化問(wèn)題施蜜，解決這類(lèi)問(wèn)題的方法可稱(chēng)為一維搜索技術(shù)，亦可稱(chēng)為線(xiàn)性所搜（L...
-
優(yōu)化方法基礎(chǔ)系列-優(yōu)化問(wèn)題分類(lèi)最優(yōu)化問(wèn)題可以按照優(yōu)化問(wèn)題的狀態(tài)來(lái)進(jìn)行分類(lèi)雌隅，可分了兩類(lèi)翻默，即靜態(tài)問(wèn)題和動(dòng)態(tài)問(wèn)題缸沃。本優(yōu)化方法系列主要從靜脈問(wèn)題方面進(jìn)行記錄，總結(jié)與概述冰蘑。主要目的是便...