音頻Audio模塊

一数冬、概述
音頻(AUDIO)模塊包括四個(gè)子模塊:

  • 音頻輸入(AI)搀庶;
  • 音頻輸出(AO)拐纱;
  • 音頻編碼(AENC);
  • 音頻解碼(ADEC)
    音頻輸入和輸出模塊通過(guò)對(duì)芯片音頻接口的控制實(shí)現(xiàn)音頻輸入輸出功能戳玫。
    音頻編碼和解碼模塊提供對(duì)G711、 G726咕宿、 ADPCM格式的音頻編解碼功能,并支持錄制和播放LPCM格式的
    原始音頻文件.

二府阀、音頻輸入(AI) 和 音頻輸出(AO)
2.1 音頻接口和 AI、 AO 設(shè)備

音頻輸入輸出接口簡(jiǎn)稱為AIO( Audio Input/Output)接口试浙,用于和Audio Codec對(duì)接董瞻,完成聲音的錄制和播放田巴。
AIO接口分為兩種類型:只支持輸入或只支持輸出钠糊。

當(dāng)為輸入類型時(shí)壹哺,又稱為AIP抄伍;
當(dāng)為輸出類型時(shí)管宵,又稱為AOP
AI設(shè)備:在海思媒體處理軟件中截珍,將音頻輸入(AI)接口抽象為 AI設(shè)備箩朴;
AO設(shè)備:在海思媒體處理軟件中岗喉,負(fù)責(zé)抽象音頻接口輸出功能的單元炸庞;

SS528芯片內(nèi)部集成 1 個(gè) AIO钱床, 包含 2 個(gè) AIP(Audio Input Port)和 2 個(gè) AOP(Audio Output Port),也就是有2個(gè)AI設(shè)備燕雁、2個(gè)AO設(shè)備诞丽。

2.2 錄音和播放原理
錄音:采集聲音拐格,轉(zhuǎn)換成數(shù)字信號(hào)并保存起來(lái)的過(guò)程,一般有如下三個(gè)過(guò)程:

  • 原始音頻信號(hào)一般是模擬信號(hào)的形式的捏浊,通過(guò)Audio Codec,按一定采樣率和采樣精度轉(zhuǎn)換為數(shù)字信號(hào)。
  • Audio Codec以I2S時(shí)序或PCM時(shí)序的方式浊洞,將數(shù)字信號(hào)傳輸給AI設(shè)備。
  • 芯片利用DMA將AI設(shè)備中的音頻數(shù)據(jù)搬移到內(nèi)存中法希,完成錄音操作


    錄音.png

播放:將保存的數(shù)字信號(hào)的聲音取出,轉(zhuǎn)換成模擬信號(hào)輸出的過(guò)程:

  • 芯片利用 DMA 將內(nèi)存中的數(shù)據(jù)傳輸?shù)?AO 設(shè)備苫亦。
  • AO設(shè)備通過(guò) I2S 時(shí)序或 PCM 時(shí)序向 Audio Codec 發(fā)送數(shù)據(jù)毛肋。
  • Audio Codec 完成數(shù)字信號(hào)到模擬信號(hào)的轉(zhuǎn)換過(guò)程屋剑,并輸出模擬信號(hào)润匙。
播放.png

2.3 AI唉匾、AO 通道
AIO在不同協(xié)議時(shí),支持的AI巍膘、 AO多路復(fù)用模式有差異,不同的解決方案也不相同典徘。
AI蟀苛、 AO可以在AI/AO設(shè)備最大支持的比特范圍內(nèi)逮诲,按采樣精度拆分AI和AO通道,并按照時(shí)序上的順序幽告,依次視為AiChn0梅鹦、 AiChn1等或AoChn0、 AoChn1等冗锁。例如:SS528的AIO最大支持左右聲道各160bit齐唆,可以拆分為16bit 20通道,也可以拆分32bit 10通道等等冻河。
SS528V100 AIO 最大支持 AI箍邮、 AO 通道數(shù)如下圖:

AI叨叙、AO 通道.png

SS528V100/SS524V100上音頻AI支持的最大通道數(shù)為20通道, I2S模式下AO支持的最大通道數(shù)為8通道(每根數(shù)據(jù)線支持2通道擂错,受I2S數(shù)據(jù)線數(shù)量限制,最大僅4通道有效), PCM模式下AO支持的最大通道數(shù)為1通道剑鞍。多通道情況下, AI蚁署、 AO視通道排列中相對(duì)應(yīng)的兩通道為立體聲輸入輸出。

2.4 重采樣
重采樣:將一個(gè)音頻信號(hào)從一個(gè)采樣率轉(zhuǎn)換為另一個(gè)采樣率光戈。

音頻輸入和音頻輸出模塊支持對(duì)音頻數(shù)據(jù)實(shí)施重采樣。

  • 如果啟用AI重采樣功能田度,則在 ss_mpi_ai_get_frame獲取數(shù)據(jù)返回前,內(nèi)部將會(huì)先執(zhí)行重采樣處理镇饺,再返回處理后的數(shù)據(jù)。
  • 如果啟用了AO重采樣功能奸笤,則音頻數(shù)據(jù)在發(fā)送給AO之前,內(nèi)部先執(zhí)行重采樣處理监右,處理完成后再發(fā)送給AO通道進(jìn)行播放。

音頻重采樣支持任意兩種不同采樣率( 64k健盒、 96k除外)之間的重采樣,也支持64kHz下采樣到8kHz或16kHz扣癣。

  • 重采樣支持的輸入采樣率為: 8kHz, 11.025kHz父虑, 12kHz,16kHz士嚎, 22.05kHz, 24kHz莱衩, 32kHz, 44.1kHz膳殷, 48kHz九火, 64kHz,
  • 不支持的輸入采樣率: 96kHz岔激;
  • 支持的輸出采樣率為: 8kHz, 11.025kHz是掰, 12kHz, 16kHz键痛,22.05kHz, 24kHz絮短, 32kHz, 44.1kHz丁频, 48kHz;
  • 不支持的輸出采樣率: 64kHz席里,96kHz;
  • 重采樣僅支持處理單聲道

三奖磁、音頻編碼和解碼

海思SS528的音頻編碼、解碼都是用軟件的咖为,而非硬件。
SDK音頻的編碼類型G711案疲、 G726、 ADPCM_DVI4褐啡、 ADPCM_ORG_DVI4鳖昌、ADPCM_IMA均使用CPU軟件編解碼备畦。
所有的解碼功能都基于獨(dú)立封裝的音頻解碼庫(kù)许昨,核心解碼器工作在用戶態(tài),使用CPU軟件解碼糕档。
SDK支持通過(guò)SYS模塊的綁定接口拌喉,將一個(gè)AI通道綁定到AENC通道,實(shí)現(xiàn)錄音編碼功能尿背;
也可以將一個(gè)ADEC通道綁定到AO通道,實(shí)現(xiàn)解碼播放功能田藐。

3.2 音頻編解碼協(xié)議


音頻編解碼協(xié)議說(shuō)明.png

表中列出來(lái)的編碼協(xié)議,僅支持對(duì)單個(gè)聲道的音頻幀進(jìn)行編碼汽久,如果送給編碼通道的是立體聲音頻幀,則只會(huì)對(duì)左聲道數(shù)據(jù)進(jìn)行編碼景醇,編碼出來(lái)的碼流只帶左聲道數(shù)據(jù)。

3.3 語(yǔ)音幀結(jié)構(gòu)
使用語(yǔ)音編解碼庫(kù)進(jìn)行G711啡直、 G726、 ADPCM格式的編碼酒觅,編碼后的碼流遵循以下表格中描述的幀結(jié)構(gòu),即在每幀碼流數(shù)據(jù)的凈荷數(shù)據(jù)之前填充有4個(gè)字節(jié)的幀頭舷丹;使用語(yǔ)音編解碼庫(kù)進(jìn)行以上格式的解碼時(shí),需要讀取相應(yīng)的幀頭信息颜凯。

幀頭中的數(shù)據(jù)凈荷長(zhǎng)度(單位:short)字段計(jì)算公式:
數(shù)據(jù)凈荷長(zhǎng)度 = (每幀采樣點(diǎn)數(shù) – 輸入預(yù)測(cè)采樣點(diǎn)數(shù))/壓縮率 + 輸出預(yù)測(cè)幀頭長(zhǎng)度。

下圖是語(yǔ)音幀結(jié)構(gòu):


語(yǔ)音幀結(jié)構(gòu).png
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末症概,一起剝皮案震驚了整個(gè)濱河市早芭,隨后出現(xiàn)的幾起案子彼城,更是在濱河造成了極大的恐慌退个,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,126評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件语盈,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡刀荒,警方通過(guò)查閱死者的電腦和手機(jī)棘钞,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)宜猜,“玉大人,你說(shuō)我怎么就攤上這事宝恶。” “怎么了垫毙?”我有些...
    開(kāi)封第一講書人閱讀 152,445評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)综芥。 經(jīng)常有香客問(wèn)我,道長(zhǎng)膀藐,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書人閱讀 55,185評(píng)論 1 278
  • 正文 為了忘掉前任额各,我火速辦了婚禮,結(jié)果婚禮上虾啦,老公的妹妹穿的比我還像新娘。我一直安慰自己傲醉,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,178評(píng)論 5 371
  • 文/花漫 我一把揭開(kāi)白布硬毕。 她就那樣靜靜地躺著,像睡著了一般吐咳。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上藐守,一...
    開(kāi)封第一講書人閱讀 48,970評(píng)論 1 284
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼惠啄。 笑死慎恒,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的融柬。 我是一名探鬼主播,決...
    沈念sama閱讀 38,276評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼越除,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了外盯?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書人閱讀 36,927評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤孩擂,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后箱熬,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,400評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡城须,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,883評(píng)論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了砰琢。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 37,997評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡氯析,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出掩缓,到底是詐尸還是另有隱情,我是刑警寧澤遵岩,帶...
    沈念sama閱讀 33,646評(píng)論 4 322
  • 正文 年R本政府宣布,位于F島的核電站尘执,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏誊锭。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,213評(píng)論 3 307
  • 文/蒙蒙 一丧靡、第九天 我趴在偏房一處隱蔽的房頂上張望籽暇。 院中可真熱鬧,春花似錦戒悠、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 30,204評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)累盗。三九已至,卻和暖如春幅骄,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背拆座。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 31,423評(píng)論 1 260
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留挪凑,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,423評(píng)論 2 352
  • 正文 我出身青樓躏碳,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親菇绵。 傳聞我的和親對(duì)象是個(gè)殘疾皇子肄渗,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,722評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • VO( Video Output咬最,視頻輸出)模塊主動(dòng)從內(nèi)存相應(yīng)位置讀取視頻和圖形數(shù)據(jù),并通過(guò)相應(yīng)的顯示設(shè)備輸出視頻...
    xqiiitan閱讀 13評(píng)論 0 0
  • 神奇的一周永乌,太好記了,這周快結(jié)束了翅雏,就記錄一下,今天是2024-11-15(農(nóng)歷10月15星期五)另一種紀(jì)年方式:...
    墨客202210zds閱讀 55評(píng)論 0 3
  • 作為既沒(méi)有錢又沒(méi)有勢(shì)的普通大眾望几,留給我們的只有勤奮思考,努力賺錢,不要有太多的幻想衙伶,當(dāng)自己墜落的谷底的時(shí)候研侣,不會(huì)有...
    北方的胡楊閱讀 33評(píng)論 0 1
  • 今天去游泳,感慨好看的皮囊千千萬(wàn)萬(wàn)甸各,有趣的靈魂萬(wàn)里挑一芬沉。我們每個(gè)人都頂著一副皮囊,從稚嫩到成熟到衰老阁猜。皮囊是外在的...
    39adf5bcb9ad閱讀 22評(píng)論 0 0
  • 勇“網(wǎng)”直前,追“球”卓越 ——成都銀杏酒店管理學(xué)院外國(guó)語(yǔ)學(xué)院志愿者在國(guó)際賽事中綻放光彩 2024年9月17日至2...
    余挽yyy閱讀 20評(píng)論 0 0