語(yǔ)音副語(yǔ)言信息識(shí)別與多模態(tài)行為信號(hào)分析

報(bào)告摘要

????作為語(yǔ)言的聲音表現(xiàn)形式揖闸,語(yǔ)音不僅包含了語(yǔ)言語(yǔ)義信息手素,同時(shí)也傳達(dá)了說(shuō)話人荒澡,語(yǔ)種喻旷,性別囊蓝,年齡膝舅,情感拥知,信道山卦,嗓音梅猿,病理氓辣,生理,心理等多種豐富的副語(yǔ)言語(yǔ)音屬性信息袱蚓。把以上這些副語(yǔ)言語(yǔ)音屬性識(shí)別問(wèn)題整體來(lái)看钞啸,其核心都是針對(duì)不定時(shí)長(zhǎng)文本無(wú)關(guān)的句子層面語(yǔ)音信號(hào)的有監(jiān)督學(xué)習(xí)問(wèn)題,只是要識(shí)別的屬性標(biāo)注有不同。我將從特征提取体斩,建立模型梭稚,魯棒性處理,分類器設(shè)計(jì)等幾個(gè)步驟介紹我們近期的研究絮吵,然后也將介紹我們最近基于端到端深度學(xué)習(xí)框架去開展多種不同的副語(yǔ)言語(yǔ)音屬性識(shí)別的研究弧烤。最后,我將介紹我們組在多模態(tài)行為信號(hào)分析與理解方面的工作蹬敲。我們聯(lián)合多模態(tài)信號(hào)處理與機(jī)器學(xué)習(xí)對(duì)表情暇昂,動(dòng)作,語(yǔ)音伴嗡,眼動(dòng)急波,生理等數(shù)據(jù)進(jìn)行聯(lián)合分析,將醫(yī)生主觀的行為觀察轉(zhuǎn)化為客觀的可量化的描述指標(biāo)瘪校,用于孤獨(dú)癥輔助診斷以及療效評(píng)估澄暮。

報(bào)告人簡(jiǎn)介

????李明,昆山杜克大學(xué)電子與計(jì)算機(jī)工程副教授阱扬,美國(guó)杜克大學(xué)電子與計(jì)算機(jī)工程系客座教授泣懊。2005年獲南京大學(xué)通信工程專業(yè)學(xué)士學(xué)位,2008年獲中科院聲學(xué)所信號(hào)與信息處理專業(yè)碩士學(xué)位价认,2013年畢業(yè)于美國(guó)南加州大學(xué)電子工程系嗅定,獲工學(xué)博士學(xué)位。2013-2017年任教于中山大學(xué)卡內(nèi)基梅隆大學(xué)聯(lián)合工程學(xué)院及電子與信息工程學(xué)院用踩,副教授渠退,博士生導(dǎo)師。研究方向包括音頻語(yǔ)音信息處理脐彩,多模態(tài)行為信號(hào)分析等多個(gè)方向碎乃。已發(fā)表學(xué)術(shù)論文80 余篇,其中SCI期刊論文19篇惠奸。曾擔(dān)任多個(gè)知名學(xué)術(shù)會(huì)議的科學(xué)委員會(huì)成員(ICASSP, INTERSPEECH, ODYSSEY and ISCSLP)以及多個(gè)知名學(xué)術(shù)期刊的審稿人(IEEE TPA

MI梅誓,TASLP, TIFS, CIM, TETC, TAC, SPL及Speech Communication等),擔(dān)任Interspeech2016及2018說(shuō)話人識(shí)別領(lǐng)域主席佛南。榮獲了2009年Body Computing Slam Contest 第一名梗掰,IEEE DCOSS 2009 會(huì)議最佳論文獎(jiǎng)。指導(dǎo)學(xué)生獲得ISCSLP2016最佳學(xué)生論文獎(jiǎng)嗅回,于2011年和2012年連續(xù)兩次獲得了INTERSPEECH speaker state challenge 第一名及穗。2016年被授予IBM Faculty Award。


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App


圖片發(fā)自簡(jiǎn)書App

總結(jié):

????目前隨著人工智能绵载、大數(shù)據(jù)埂陆,機(jī)器學(xué)習(xí)的發(fā)展苛白,多使用神經(jīng)網(wǎng)絡(luò)來(lái)處理,做成端到端(黑箱)焚虱,即放進(jìn)原始數(shù)據(jù)购裙,輸出結(jié)果,這種方式也能達(dá)到經(jīng)典的統(tǒng)計(jì)模型方法鹃栽,但神經(jīng)網(wǎng)絡(luò)具體原理躏率,目前還沒(méi)能解釋的令人滿意。

? ? 人臉識(shí)別一般用開源的caffe和TensorFlow來(lái)搭建

? ? 數(shù)據(jù)很值錢谍咆,有的企業(yè)專門賣數(shù)據(jù)禾锤,比如錄的語(yǔ)音的標(biāo)記(有些地方需要人工標(biāo)記)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市摹察,隨后出現(xiàn)的幾起案子恩掷,更是在濱河造成了極大的恐慌,老刑警劉巖供嚎,帶你破解...
    沈念sama閱讀 217,185評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件黄娘,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡克滴,警方通過(guò)查閱死者的電腦和手機(jī)逼争,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)劝赔,“玉大人誓焦,你說(shuō)我怎么就攤上這事∽琶保” “怎么了杂伟?”我有些...
    開封第一講書人閱讀 163,524評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)仍翰。 經(jīng)常有香客問(wèn)我赫粥,道長(zhǎng),這世上最難降的妖魔是什么予借? 我笑而不...
    開封第一講書人閱讀 58,339評(píng)論 1 293
  • 正文 為了忘掉前任越平,我火速辦了婚禮,結(jié)果婚禮上灵迫,老公的妹妹穿的比我還像新娘秦叛。我一直安慰自己,他們只是感情好瀑粥,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,387評(píng)論 6 391
  • 文/花漫 我一把揭開白布挣跋。 她就那樣靜靜地躺著,像睡著了一般利凑。 火紅的嫁衣襯著肌膚如雪浆劲。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,287評(píng)論 1 301
  • 那天哀澈,我揣著相機(jī)與錄音牌借,去河邊找鬼。 笑死割按,一個(gè)胖子當(dāng)著我的面吹牛膨报,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播适荣,決...
    沈念sama閱讀 40,130評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼现柠,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了弛矛?” 一聲冷哼從身側(cè)響起够吩,我...
    開封第一講書人閱讀 38,985評(píng)論 0 275
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎丈氓,沒(méi)想到半個(gè)月后周循,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,420評(píng)論 1 313
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡万俗,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,617評(píng)論 3 334
  • 正文 我和宋清朗相戀三年湾笛,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片闰歪。...
    茶點(diǎn)故事閱讀 39,779評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡嚎研,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出库倘,到底是詐尸還是另有隱情临扮,我是刑警寧澤,帶...
    沈念sama閱讀 35,477評(píng)論 5 345
  • 正文 年R本政府宣布于樟,位于F島的核電站公条,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏迂曲。R本人自食惡果不足惜靶橱,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,088評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望路捧。 院中可真熱鬧关霸,春花似錦、人聲如沸杰扫。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,716評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)章姓。三九已至佳遣,卻和暖如春识埋,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背零渐。 一陣腳步聲響...
    開封第一講書人閱讀 32,857評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工窒舟, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人诵盼。 一個(gè)月前我還...
    沈念sama閱讀 47,876評(píng)論 2 370
  • 正文 我出身青樓惠豺,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親风宁。 傳聞我的和親對(duì)象是個(gè)殘疾皇子洁墙,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,700評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容