基礎(chǔ)-5:人人都應(yīng)該懂點(diǎn)的隨機(jī)算法

概述

隨機(jī)算法是當(dāng)前工業(yè)界和學(xué)術(shù)界都比較熱的一個(gè)話題吆豹,從機(jī)器學(xué)習(xí)显歧、數(shù)據(jù)挖掘到現(xiàn)在熱得發(fā)燙的深度學(xué)習(xí)蒙挑,無一沒有隨機(jī)算法的影子。隨機(jī)算法起源于人類天性:賭博肾扰,最初用來解決一些不確定問題畴嘶,現(xiàn)在已逐漸發(fā)展為一門獨(dú)立的學(xué)科,深入到工程領(lǐng)域各學(xué)科集晚。本文以一個(gè)簡(jiǎn)單的例子對(duì)基本的隨機(jī)算法作簡(jiǎn)單介紹,深入了解請(qǐng)研讀隨機(jī)算法

尋寶問題

尋寶問題描述如下:

假設(shè)有10個(gè)山頭区匣,其中3個(gè)山頭里面分別有價(jià)值10個(gè)金幣寶藏偷拔,每個(gè)山頭都有1個(gè)精靈守護(hù)蒋院,要進(jìn)山尋寶,必須給精靈3個(gè)金幣莲绰,當(dāng)在一個(gè)山頭找到寶藏后欺旧,精靈不允許繼續(xù)再尋寶,哪個(gè)山頭有寶藏未知蛤签,是否應(yīng)該尋寶辞友,采用何種策略尋寶?

因?yàn)槊總€(gè)山里面是否有寶藏是未知的震肮,不妨對(duì)這10個(gè)山里面是否有寶藏進(jìn)行編號(hào)称龙,設(shè)為{0, 0, 0, 1, 0, 0, 1, 0, 0, 1},其中的0表示沒有寶藏戳晌,1表示有寶藏鲫尊。

因?yàn)閷毑匚粗凑帐裁礃拥捻樞蛟L問山頭也是未知的沦偎。在這種情況下疫向,有兩種方案:

  • 情況1: 給山頭排個(gè)序,然后依次訪問豪嚎;
  • 情況2: 隨機(jī)訪問搔驼;

對(duì)于情況1,假設(shè)排序?yàn)閜=<0, 0, 0, 1, 0, 0, 1, 0, 0, 1>侈询,則挖到寶藏會(huì)虧本2個(gè)金幣舌涨。也就是說,一旦確定了訪問山頭的次序妄荔,并且這個(gè)次序是一個(gè)虧本的次序泼菌,則必然虧本。

對(duì)于情況2啦租,隨機(jī)訪問有是什么樣子呢哗伯?在這里不作具體的數(shù)學(xué)分析(分析也比較簡(jiǎn)單,利用離散均勻分布篷角,計(jì)算期望)焊刹。隨機(jī)訪問一般有兩種算法,一種是lasvegas算法恳蹲,一種是monter carlo算法虐块,隨機(jī)算法的本質(zhì)是算法的某一步驟中引入隨機(jī)函數(shù)確定的某個(gè)值,從而導(dǎo)致不同相同的輸入可能得到不同的結(jié)果嘉蕾。

lasvegas算法針對(duì)尋寶問題的代碼為:

func LasVegas(input []int, key int) int {
    retCount := 0
    r := rand.New(rand.NewSource(time.Now().UnixNano()))

    idxs := make([]int, 0)
    for i, _ := range input {
        idxs = append(idxs, i)
    }

    for count := 0; count < len(input); count++ {
        // 從未選擇的山頭中選擇一個(gè)
        i := r.Intn(len(idxs))
        retCount++
        if input[idxs[i]] == key {
            fmt.Println("===========")
            return 10 - 3*retCount
        }
        idxs = lefts(idxs, idxs[i])
    }
    return 0 - 3*retCount
}

分析上面的代碼贺奠,lasvegas算法的本質(zhì)是只要存在解(在本例的尋寶中),會(huì)一直嘗試错忱,直到得到正確解儡率。也就是:只要存在解挂据,lasvegas算法最終一定會(huì)得到解。

如果尋寶問題中儿普,山頭數(shù)量足夠多崎逃,而寶藏山頭特別少,則按照lasvegas算法可能會(huì)虧損特別嚴(yán)重眉孩,得不償失个绍,因此,monter carlo算法對(duì)嘗試的次數(shù)作了限制浪汪,這本質(zhì)上就是一種嘗試-止損原則巴柿,即先確定一個(gè)止損位,按照在止損范圍內(nèi)嘗試獲利吟宦。其代碼為:

func MC(input []int, upperTryNum int, key int) int {
    retCount := 0
    r := rand.New(rand.NewSource(time.Now().UnixNano()))

    idxs := make([]int, 0)
    for i, _ := range input {
        idxs = append(idxs, i)
    }

    for count := 0; count < len(input); count++ {
        if retCount <= upperTryNum {
            retCount++
            i := r.Intn(len(idxs))
            if input[i] == key {
                return 10 - 3*retCount
            }

            idxs = lefts(idxs, idxs[i])
        }
    }

    return 0 - upperTryNum
}

其中的upperTryNum就是嘗試的次數(shù)篮洁。

通常情況下,Monte Carlo不一定會(huì)得到解殃姓,但是其損失是可以預(yù)見袁波。針對(duì)尋寶這個(gè)例子,在本人機(jī)器上分別運(yùn)行10次蜗侈,其獲益金幣數(shù)結(jié)果為(每次運(yùn)行結(jié)果都不同):
lvs(lasvegas): [4 1 -2 4 -8 7 7 7 4 1] , mcs(monter carlo): [4 7 7 7 7 7 7 1 7 7]

大家可以在自己的機(jī)器上觀測(cè)運(yùn)行結(jié)果( https://github.com/bjutJohnson/Algorithms/tree/master/src/probabilistic ) 篷牌,可以把嘗試次數(shù)設(shè)置得更多一些,然后結(jié)合數(shù)學(xué)期望進(jìn)行分析踏幻。

小結(jié)

隨機(jī)算法雖然起源于不確定性問題枷颊,但是對(duì)于規(guī)模龐大的確定性問題如圍棋、解密度空間稀疏等该面,都有與之相應(yīng)的解決方案夭苗,特別是求解次優(yōu)解的情況。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末隔缀,一起剝皮案震驚了整個(gè)濱河市题造,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌猾瘸,老刑警劉巖界赔,帶你破解...
    沈念sama閱讀 212,718評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異牵触,居然都是意外死亡淮悼,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,683評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門揽思,熙熙樓的掌柜王于貴愁眉苦臉地迎上來袜腥,“玉大人,你說我怎么就攤上這事钉汗∏萍罚” “怎么了锡宋?”我有些...
    開封第一講書人閱讀 158,207評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵儡湾,是天一觀的道長(zhǎng)特恬。 經(jīng)常有香客問我,道長(zhǎng)徐钠,這世上最難降的妖魔是什么癌刽? 我笑而不...
    開封第一講書人閱讀 56,755評(píng)論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮尝丐,結(jié)果婚禮上显拜,老公的妹妹穿的比我還像新娘钓辆。我一直安慰自己凶朗,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,862評(píng)論 6 386
  • 文/花漫 我一把揭開白布刑桑。 她就那樣靜靜地躺著失息,像睡著了一般譬淳。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上盹兢,一...
    開封第一講書人閱讀 50,050評(píng)論 1 291
  • 那天邻梆,我揣著相機(jī)與錄音,去河邊找鬼绎秒。 笑死浦妄,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的见芹。 我是一名探鬼主播剂娄,決...
    沈念sama閱讀 39,136評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼玄呛!你這毒婦竟也來了阅懦?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,882評(píng)論 0 268
  • 序言:老撾萬榮一對(duì)情侶失蹤把鉴,失蹤者是張志新(化名)和其女友劉穎故黑,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體庭砍,經(jīng)...
    沈念sama閱讀 44,330評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡场晶,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,651評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了怠缸。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片诗轻。...
    茶點(diǎn)故事閱讀 38,789評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖揭北,靈堂內(nèi)的尸體忽然破棺而出扳炬,到底是詐尸還是另有隱情吏颖,我是刑警寧澤,帶...
    沈念sama閱讀 34,477評(píng)論 4 333
  • 正文 年R本政府宣布恨樟,位于F島的核電站半醉,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏劝术。R本人自食惡果不足惜缩多,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,135評(píng)論 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望养晋。 院中可真熱鬧衬吆,春花似錦、人聲如沸绳泉。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,864評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)零酪。三九已至冒嫡,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間蛾娶,已是汗流浹背灯谣。 一陣腳步聲響...
    開封第一講書人閱讀 32,099評(píng)論 1 267
  • 我被黑心中介騙來泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留蛔琅,地道東北人胎许。 一個(gè)月前我還...
    沈念sama閱讀 46,598評(píng)論 2 362
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像罗售,于是被迫代替她去往敵國(guó)和親辜窑。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,697評(píng)論 2 351

推薦閱讀更多精彩內(nèi)容

  • 回溯算法 回溯法:也稱為試探法寨躁,它并不考慮問題規(guī)模的大小穆碎,而是從問題的最明顯的最小規(guī)模開始逐步求解出可能的答案,并...
    fredal閱讀 13,636評(píng)論 0 89
  • 在上一篇文章寫到了EM算法的收斂性證明以后便匆匆的結(jié)尾,然后我出去玩了幾天,玩的爽了,回來開始繼續(xù)補(bǔ)之前的flag...
    云時(shí)之間閱讀 3,115評(píng)論 2 8
  • 一. 增強(qiáng)學(xué)習(xí)簡(jiǎn)介 1.1 什么是增強(qiáng)學(xué)習(xí)职恳? 機(jī)器學(xué)習(xí)的算法可以分為三類:監(jiān)督學(xué)習(xí)所禀,非監(jiān)督學(xué)習(xí)和增強(qiáng)學(xué)習(xí)。 增強(qiáng)學(xué)...
    阿阿阿阿毛閱讀 31,116評(píng)論 0 25
  • 中午放钦,班里幾個(gè)孩子過來幫忙分試卷色徘,十一二歲的孩子,熱情開朗操禀,天真活潑褂策,聊著的聊著,話題就扯到了早戀上。也許出于對(duì)我...
    青蔓閱讀 187評(píng)論 0 0
  • 純瑩一一北原瑩子閱讀 197評(píng)論 0 1