Siri:一個(gè)基于深度卷積網(wǎng)絡(luò)的個(gè)人語(yǔ)音助手

用戶喊一聲“Hey,Siri”就可以叫出Siri,Siri識(shí)別器使用的就是深度卷積網(wǎng)絡(luò)账劲,這個(gè)網(wǎng)絡(luò)負(fù)責(zé)把你聲音特征轉(zhuǎn)換成發(fā)音相似度最高的詞漏健,所以這個(gè)網(wǎng)絡(luò)會(huì)計(jì)算一個(gè)相似度,當(dāng)你喊出“Hey,Siri”的時(shí)候秸应,如果這個(gè)相似度夠高虑凛,Siri就會(huì)被啟動(dòng)。

iPhone上的Siri流程

Siri流程如下圖所示:

Siri流程

整個(gè)系統(tǒng)有幾部分組成软啼。Siri最重要的就是云識(shí)別桑谍,數(shù)據(jù)包會(huì)被上傳到服務(wù)器中,服務(wù)器進(jìn)行自動(dòng)解析祸挪,包括語(yǔ)音識(shí)別锣披、自然語(yǔ)言解析和不同的信息服務(wù),然后將模型數(shù)據(jù)傳給識(shí)別器中贿条,識(shí)別器再將結(jié)果傳給Siri客戶端雹仿,由客戶端完成工作。

"Hey,Siri"語(yǔ)音識(shí)別器

iPhone或者Apple Watch上的麥克風(fēng)將你的語(yǔ)音轉(zhuǎn)換成音波整以,頻率為每秒16000胧辽,一種識(shí)別機(jī)制將輸入的音波樣本轉(zhuǎn)換成序列化的架構(gòu),每一個(gè)代表0.01秒的聲音圖譜公黑,每次約20個(gè)(0.2s)樣本被送到聲音模型(一個(gè)可以將聲音樣本轉(zhuǎn)換成聲音序列集合的深度卷積網(wǎng)絡(luò))中邑商。

說(shuō)到這個(gè)神經(jīng)網(wǎng)絡(luò),主要是由矩陣乘法和非線性邏輯組成的帆调。每一個(gè)隱藏層都是神經(jīng)網(wǎng)絡(luò)在訓(xùn)練將輸入的語(yǔ)音轉(zhuǎn)換成聲音模型時(shí)所發(fā)掘的中間狀態(tài)奠骄,最后由SoftMax函數(shù)來(lái)結(jié)尾。整個(gè)網(wǎng)絡(luò)結(jié)構(gòu)如下圖所示:

DNN結(jié)構(gòu)

當(dāng)Siri識(shí)別器運(yùn)行時(shí)系統(tǒng)會(huì)選擇每一個(gè)隱藏層的單位個(gè)數(shù)來(lái)適應(yīng)計(jì)算資源的大小番刊,有32個(gè)含鳞,或者128個(gè),或者192個(gè)芹务,個(gè)數(shù)的多少由內(nèi)存和性能約束蝉绷。iPhone上有兩個(gè)網(wǎng)絡(luò),一個(gè)用于初始化并識(shí)別枣抱,另外一個(gè)用于檢查熔吗,第二個(gè)網(wǎng)絡(luò)使用的單位要遠(yuǎn)遠(yuǎn)多于第一個(gè)網(wǎng)絡(luò)。

神經(jīng)網(wǎng)絡(luò)在訓(xùn)練并進(jìn)行反饋時(shí)用的是以下公式:


其中Fi,t?為模型第i個(gè)的相似度最終得分佳晶,qi,t?為模型原來(lái)輸出的值桅狠,si?為停留在i的損失,mi?為從i移走的損失。(有點(diǎn)像反向傳播神經(jīng)網(wǎng)絡(luò)的味道爸械)公式可以用下圖形象的表示:

每一個(gè)積累的相似度得分都是由前一個(gè)序列提供并帶上帶標(biāo)簽的咨堤,并經(jīng)過(guò)最大值操作。最終的相似度得分是由N個(gè)這樣的序列合起來(lái)計(jì)算出來(lái)的漩符。這個(gè)相似度得分就是文章開(kāi)頭所說(shuō)的用于啟動(dòng)Siri客戶端的那個(gè)得分一喘。

Siri識(shí)別器的反應(yīng)速度和性能

Siri識(shí)別器的首要目標(biāo)是盡可能快,而不是盡可能準(zhǔn)確嗜暴,所以需要盡可能減少內(nèi)存占用和處理器占用凸克。為了避免主處理器一天啥事不干,就用來(lái)監(jiān)聽(tīng)“Hey,Siri”闷沥,蘋(píng)果使用了AOP(Always On Processor萎战,一個(gè)低功耗的處理器)處理器來(lái)運(yùn)行識(shí)別器和較小的神經(jīng)網(wǎng)絡(luò),當(dāng)相似度得分達(dá)到了啟動(dòng)Siri的門(mén)檻以后狐赡,AOP處理器會(huì)喚醒主處理器來(lái)運(yùn)行較大的那個(gè)神經(jīng)網(wǎng)絡(luò)進(jìn)行解析(也就是咱們平常用Siri定鬧鐘撞鹉,鍛煉等事件)。一般AOP處理器的神經(jīng)網(wǎng)絡(luò)是5層*32個(gè)隱藏單位颖侄,主處理器是5層*192個(gè)單位。

在Apple Watch上遇到了更大的問(wèn)題享郊,那就是電池要比手機(jī)小得多览祖,手表上用的是一個(gè)網(wǎng)絡(luò)的Siri識(shí)別器,這個(gè)識(shí)別器的神經(jīng)網(wǎng)絡(luò)大小介于iPhone 的那兩個(gè)(一大一小)之間炊琉,這個(gè)Siri識(shí)別器只在屏幕處于喚醒狀態(tài)下才進(jìn)行工作展蒂。

Siri識(shí)別器個(gè)人化

為了避免別人說(shuō)“Hey,Siri”然后打開(kāi)你的Siri這種尷尬場(chǎng)景出現(xiàn),每次在開(kāi)機(jī)時(shí)候會(huì)讓你說(shuō)五次“Hey,Siri”苔咪。目的何在锰悼?就是為了獲得你的聲音特征來(lái)訓(xùn)練Siri識(shí)別器的神經(jīng)網(wǎng)絡(luò),儲(chǔ)存為樣本团赏。這樣產(chǎn)生了用于將聲音圖譜轉(zhuǎn)化成固定長(zhǎng)度的向量的時(shí)間信息箕般,這個(gè)信息是通過(guò)平均每一次你說(shuō)“Hey,Siri”下的序列得到的。既然是固定舔清,也就是說(shuō)丝里,別人的聲音轉(zhuǎn)化過(guò)來(lái)肯定不是你轉(zhuǎn)化過(guò)來(lái)的那個(gè)長(zhǎng)度的向量,所以自然而然体谒,別人也就不能啟動(dòng)你的Siri客戶端杯聚,從而保證了個(gè)人化這個(gè)目標(biāo)。

Siri識(shí)別器訓(xùn)練成果

直接上圖吧

Siri識(shí)別器訓(xùn)練誤差百分比
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末抒痒,一起剝皮案震驚了整個(gè)濱河市幌绍,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖傀广,帶你破解...
    沈念sama閱讀 222,000評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件颁独,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡主儡,警方通過(guò)查閱死者的電腦和手機(jī)奖唯,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,745評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)糜值,“玉大人丰捷,你說(shuō)我怎么就攤上這事〖呕悖” “怎么了病往?”我有些...
    開(kāi)封第一講書(shū)人閱讀 168,561評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)骄瓣。 經(jīng)常有香客問(wèn)我停巷,道長(zhǎng),這世上最難降的妖魔是什么榕栏? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 59,782評(píng)論 1 298
  • 正文 為了忘掉前任畔勤,我火速辦了婚禮,結(jié)果婚禮上扒磁,老公的妹妹穿的比我還像新娘庆揪。我一直安慰自己,他們只是感情好妨托,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,798評(píng)論 6 397
  • 文/花漫 我一把揭開(kāi)白布缸榛。 她就那樣靜靜地躺著,像睡著了一般兰伤。 火紅的嫁衣襯著肌膚如雪内颗。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 52,394評(píng)論 1 310
  • 那天敦腔,我揣著相機(jī)與錄音均澳,去河邊找鬼。 笑死会烙,一個(gè)胖子當(dāng)著我的面吹牛负懦,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播柏腻,決...
    沈念sama閱讀 40,952評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼纸厉,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了五嫂?” 一聲冷哼從身側(cè)響起颗品,我...
    開(kāi)封第一講書(shū)人閱讀 39,852評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤肯尺,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后躯枢,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體则吟,經(jīng)...
    沈念sama閱讀 46,409評(píng)論 1 318
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,483評(píng)論 3 341
  • 正文 我和宋清朗相戀三年锄蹂,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了氓仲。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,615評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡得糜,死狀恐怖敬扛,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情朝抖,我是刑警寧澤啥箭,帶...
    沈念sama閱讀 36,303評(píng)論 5 350
  • 正文 年R本政府宣布,位于F島的核電站治宣,受9級(jí)特大地震影響急侥,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜侮邀,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,979評(píng)論 3 334
  • 文/蒙蒙 一坏怪、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧绊茧,春花似錦陕悬、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,470評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)胧卤。三九已至唯绍,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間枝誊,已是汗流浹背况芒。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,571評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留叶撒,地道東北人绝骚。 一個(gè)月前我還...
    沈念sama閱讀 49,041評(píng)論 3 377
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像祠够,于是被迫代替她去往敵國(guó)和親压汪。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,630評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容