第14章 循環(huán)神經(jīng)網(wǎng)絡(luò)
來(lái)源:ApacheCN《Sklearn 與 TensorFlow 機(jī)器學(xué)習(xí)實(shí)用指南》翻譯項(xiàng)目
校對(duì):@飛龍
擊球手擊出壘球冈涧,你會(huì)開始預(yù)測(cè)球的軌跡并立即開始奔跑。你追蹤著它,不斷調(diào)整你的移動(dòng)步伐谎碍,最終在觀眾的一片雷鳴聲中抓到它氏捞。無(wú)論是在聽完朋友的話語(yǔ)還是早餐時(shí)預(yù)測(cè)咖啡的味道名斟,你時(shí)刻在做的事就是在預(yù)測(cè)未來(lái)犀呼。在本章中贮尖,我們將討論循環(huán)神經(jīng)網(wǎng)絡(luò) -- 一類預(yù)測(cè)未來(lái)的網(wǎng)絡(luò)(當(dāng)然,是到目前為止)打月。它們可以分析時(shí)間序列數(shù)據(jù)队腐,諸如股票價(jià)格,并告訴你什么時(shí)候買入和賣出奏篙。在自動(dòng)駕駛系統(tǒng)中柴淘,他們可以預(yù)測(cè)行車軌跡,避免發(fā)生交通意外秘通。更一般地說(shuō)为严,它們可在任意長(zhǎng)度的序列上工作,而不是截止目前我們討論的只能在固定長(zhǎng)度的輸入上工作的網(wǎng)絡(luò)肺稀。舉個(gè)例子第股,它們可以把語(yǔ)句,文件话原,以及語(yǔ)音范本作為輸入夕吻,使得它們?cè)谥T如自動(dòng)翻譯,語(yǔ)音到文本或者情感分析(例如繁仁,讀取電影評(píng)論并提取評(píng)論者關(guān)于該電影的感覺(jué))的自然語(yǔ)言處理系統(tǒng)中極為有用梭冠。
更近一步,循環(huán)神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)能力使得它們具備令人驚訝的創(chuàng)造力改备。你同樣可以要求它們?nèi)ヮA(yù)測(cè)一段旋律的下幾個(gè)音符控漠,然后隨機(jī)選取這些音符的其中之一并演奏它。然后要求網(wǎng)絡(luò)給出接下來(lái)最可能的音符悬钳,演奏它盐捷,如此周而復(fù)始。在你知道它之前默勾,你的神經(jīng)網(wǎng)絡(luò)將創(chuàng)作一首諸如由谷歌 Magenta 工程所創(chuàng)造的《The one》的歌曲碉渡。類似的,循環(huán)神經(jīng)網(wǎng)絡(luò)可以生成語(yǔ)句母剥,圖像標(biāo)注以及更多滞诺。目前結(jié)果還不能準(zhǔn)確得到莎士比亞或者莫扎特的作品,但誰(shuí)知道幾年后他們能生成什么呢环疼?
在本章中习霹,我們將看到循環(huán)神經(jīng)網(wǎng)絡(luò)背后的基本概念,他們所面臨的主要問(wèn)題(換句話說(shuō)炫隶,在第11章中討論的消失/爆炸的梯度)淋叶,以及廣泛用于反抗這些問(wèn)題的方法:LSTM 和 GRU cell(單元)。如同以往伪阶,沿著這個(gè)方式煞檩,我們將展示如何用 TensorFlow 實(shí)現(xiàn)循環(huán)神經(jīng)網(wǎng)絡(luò)处嫌。最終我們將看看及其翻譯系統(tǒng)的架構(gòu)。