人工智能應用案例學習-AlphaGo

接上文繼續(xù)拓展AlphaGo算法學習矩父。

MTCS(Monte Carlo tree search)圖

黃士杰(Aja Huang)使用MCTS融合策略和評價函數(shù)v(s)?的策略是:使用P(s)作為初始分開局铣卡,每局選擇分數(shù)最高的方案落子,到第L步后偏竟,改用Pfast(s)把剩下的棋局走完煮落,同時調(diào)v(sL),評估局面的獲勝概率踊谋,按照如下規(guī)則更新整個樹的分數(shù):

新分數(shù)=調(diào)整后的初始分+0.5?通過模擬得到的贏棋概率+0.5?局面評估分

前兩項和原來一樣蝉仇,如果待更新的節(jié)點就是葉子節(jié)點,局面評估分就是v(sL)殖蚕,如果是待更新的節(jié)點是上級節(jié)點轿衔,局面評估分是該葉子節(jié)點v(s)?的平均值。

如果v(s)?是表示大局觀睦疫,Pfast(s)表示快速演算害驹,那么上面的方法就是二者的并重,并且黃士杰團隊已經(jīng)用實驗證明0.5 0.5的權重對陣其他權重有95%的勝率笼痛。

借用詳解AlphaGo VS 樊麾 對局走下某一步的計算過程回顧整個過程:

詳解AlphaGo走某一步棋的過程1

a圖使用局部評估函數(shù)計算出s 狀態(tài)下其他落子點的勝率裙秋。

b圖MCTS中使用局部評估函數(shù)加 Phuman(s)?得出的結果琅拌。

c圖MCTS中使用Phuman(s)(復合算法)和Phuman?fast(s)走子走到底的結果缨伊。

詳解AlphaGo走某一步棋的過程2

d圖深度卷積神經(jīng)網(wǎng)絡使用策略函數(shù)計算出來的結果。

e圖使用新分數(shù)和相關流程計算出的落子概率进宝。

f圖演示了AlphaGo和樊麾對弈的計算過程刻坊,AlphaGo執(zhí)黑,樊麾執(zhí)白党晋。紅圈是AlphaGo實際落子額地方谭胚。1,2未玻,3和后面的數(shù)字表示他想象中的之后樊麾下一步落子的地方灾而。白色方框是樊麾的實際落子。在復盤時扳剿,樊麾認為1的走法更好(這說明在樊麾落子后AlphaGo也在進行計算)旁趟。

總結:整個AlphaGo使用的算法是基于深度卷積神經(jīng)網(wǎng)絡、MCTS庇绽、強化學習自對弈找出所面對不同棋盤狀態(tài)的最佳下棋棋法锡搜,這個過程經(jīng)歷了先模仿學習人類歷史棋譜,但是發(fā)現(xiàn)無法超越人類老師瞧掺,接下來開始自己對弈探索更多人類沒有走過的棋法耕餐,類似人類的自我嘗鮮發(fā)掘新棋法,當掌握此技能之后就青出于藍而勝于藍辟狈,在自我學習的過程為何要用到MCTS肠缔,主要是降低搜索空間,因為圍棋的狀態(tài)是巨量無法遍歷的,通過網(wǎng)絡搜索桩砰,找到一個解釋比較清晰的版本:圍棋究竟有多少變化拓春?大家公認有兩種算法,其一亚隅,一盤棋下完硼莽,每個點都可能有三種情況,黑煮纵、白懂鸵、空,所以圍棋的變化是3的361次方行疏,但是匆光,這是唯結果論,因為即使每一種對局結果酿联,都有n種不同的過程可以到達终息;我們更傾向于第二種算法,即第一步有361個點可以選擇贞让,第二步有360個點……以此類推周崭,所以圍棋的變化是361×360×359×……2×1,即361階乘喳张!這里還有兩個問題续镇,過程中產(chǎn)生禁入點,會減少一部分變化销部,而打劫的時候摸航,同一個點會落子多次,又會增加很多變化舅桩,可以認為兩者互相抵消酱虎,另外,由于棋盤是4方對稱的擂涛,所以結果還要除以4读串,為了討論方便,一般可以忽略除以4這個問題歼指。假如不考慮這些細枝末節(jié)爹土,361階乘這個結果還是基本可信的。 361階乘到底有多大踩身?大約1.43乘以10的768次方胀茵,即1后面有768個零!這個數(shù)字遠遠超出人類的想象挟阻,要知道琼娘,即使人類已知宇宙中的原子數(shù)量峭弟,也不過是10的80次方。

從上面可以看出類似AlphaGo的人工智能真正的技術核心關鍵是計算能力脱拼、業(yè)務抽象能力瞒瘸、恰當?shù)钠ヅ渌惴ǎ@三者缺一不可熄浓,也就是王煜全老師說的人工智能三要素算力+算法+數(shù)據(jù)情臭,我這里把數(shù)據(jù)換成業(yè)務建模能力是基于能產(chǎn)生數(shù)據(jù)的前提來說的,所以從AlphaGo學習可以看到赌蔑,王煜全老師說的人工智能平臺是屬于大公司的機會是完全正確的俯在,因為算力不是普通小公司能解決的,以及為何英偉達為何有高估值娃惯,是因為建立起了計算能力門檻跷乐,假設未來量子計算的真正到來了,可以想象會是人工智能應用的強大助推劑趾浅,又或者找到了比MCTS更好的縮減計算策略愕提。

?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市皿哨,隨后出現(xiàn)的幾起案子浅侨,更是在濱河造成了極大的恐慌,老刑警劉巖往史,帶你破解...
    沈念sama閱讀 206,311評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件仗颈,死亡現(xiàn)場離奇詭異佛舱,居然都是意外死亡椎例,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評論 2 382
  • 文/潘曉璐 我一進店門请祖,熙熙樓的掌柜王于貴愁眉苦臉地迎上來订歪,“玉大人,你說我怎么就攤上這事肆捕∷⒔” “怎么了?”我有些...
    開封第一講書人閱讀 152,671評論 0 342
  • 文/不壞的土叔 我叫張陵慎陵,是天一觀的道長眼虱。 經(jīng)常有香客問我,道長席纽,這世上最難降的妖魔是什么捏悬? 我笑而不...
    開封第一講書人閱讀 55,252評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮润梯,結果婚禮上过牙,老公的妹妹穿的比我還像新娘甥厦。我一直安慰自己,他們只是感情好寇钉,可當我...
    茶點故事閱讀 64,253評論 5 371
  • 文/花漫 我一把揭開白布刀疙。 她就那樣靜靜地躺著,像睡著了一般扫倡。 火紅的嫁衣襯著肌膚如雪谦秧。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,031評論 1 285
  • 那天撵溃,我揣著相機與錄音油够,去河邊找鬼。 笑死征懈,一個胖子當著我的面吹牛石咬,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播卖哎,決...
    沈念sama閱讀 38,340評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼鬼悠,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了亏娜?” 一聲冷哼從身側響起焕窝,我...
    開封第一講書人閱讀 36,973評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎维贺,沒想到半個月后它掂,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,466評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡溯泣,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,937評論 2 323
  • 正文 我和宋清朗相戀三年虐秋,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片垃沦。...
    茶點故事閱讀 38,039評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡客给,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出肢簿,到底是詐尸還是另有隱情靶剑,我是刑警寧澤,帶...
    沈念sama閱讀 33,701評論 4 323
  • 正文 年R本政府宣布池充,位于F島的核電站桩引,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏收夸。R本人自食惡果不足惜坑匠,卻給世界環(huán)境...
    茶點故事閱讀 39,254評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望咱圆。 院中可真熱鬧笛辟,春花似錦功氨、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至围来,卻和暖如春跺涤,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背监透。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工桶错, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人胀蛮。 一個月前我還...
    沈念sama閱讀 45,497評論 2 354
  • 正文 我出身青樓院刁,卻偏偏與公主長得像,于是被迫代替她去往敵國和親粪狼。 傳聞我的和親對象是個殘疾皇子退腥,可洞房花燭夜當晚...
    茶點故事閱讀 42,786評論 2 345

推薦閱讀更多精彩內(nèi)容

  • 這篇文章以比較通俗的語言簡單介紹了AlphaGo的工作原理,可以先看看了解大概再榄,會發(fā)現(xiàn)AlphaGo也沒有那么神秘...
    Founting閱讀 13,046評論 0 7
  • 本文系《文工團》約稿困鸥,禁止一切形式的未授權轉載嗅蔬,謝謝合作。這篇是約稿的第二版疾就,第一版可以點這里澜术。 圍棋,是一項中國...
    LostAbaddon閱讀 2,566評論 7 10
  • 來源:TalkingData furion推薦 參考:Nature虐译;DeepMind瘪板;新智元 【作者】葉杰生 De...
    銳眼看世界閱讀 1,497評論 0 0
  • He deals the cards as a meditation 他出牌前沉思冥想And those he p...
    隱劍鬼吊閱讀 1,614評論 2 2
  • 【0628今日話題-朱朱的餐具】看完這張圖片吴趴,針對男女思維差異漆诽,你怎么看? ————————— 了解彼此間的差異锣枝,...
    朱朱的餐具閱讀 167評論 1 1