音視頻系列之iOS: 音頻采集 AudioUnit

AudioUnit是什么? 它是ios端進(jìn)行音視頻采集的框架朝卒,最全证逻,最屌的!但是缺點(diǎn)就是學(xué)習(xí)成本大抗斤,但是大沒(méi)關(guān)系囚企,既然您已經(jīng)看到這里丈咐,想必就是想搞音視頻,這點(diǎn)小的困難應(yīng)該能克服的洞拨。


我這邊就先看怎么用扯罐,用完在講講具體的是什么東西比較好,這也是我一向?qū)W習(xí)新東西的習(xí)慣和方法烦衣,這個(gè)世界上的理論很多歹河,真理也很多,我們可以選擇接收和不接受花吟,如果你看看下面的實(shí)現(xiàn)結(jié)果如果不滿意就可以直接關(guān)閉秸歧,如果有興趣可以歡迎一直看下去咯!

廢話不多說(shuō)了衅澈,我也沒(méi)時(shí)間了键菱,直接介紹:

操作流程:

no1:?描述音頻元件:?kAudioUnitType_Output。kAudioUnitSubType_RemoteIO/kAudioUnitManufacturerApple? ?這個(gè)知道就行今布,不需要了解

no2: 使用AudioComponentFindNext : 這個(gè)就當(dāng)作是生產(chǎn)AudioUnit 的工廠

no3 :?AudioComponentInstanceNew: 顧名思義经备,就是Audio Unit 的實(shí)例

no4:??AudioUnitSetProperty函數(shù)為錄制和回放開啟IO

no5: 使用 AudioStreamBasicDescription 結(jié)構(gòu)體描述音頻格式,并使用AudioUnitSetProperty進(jìn)行設(shè)置

no6:?使用 AudioUnitSetProperty 設(shè)置音頻錄制與放播的回調(diào)函數(shù)

no7:?分配緩沖區(qū)

no8: 初始化Audio Unit

no9: 啟動(dòng)Audio? Unit


理論:

Core Audio

數(shù)字音頻處理的基礎(chǔ)設(shè)施部默,它是應(yīng)用程序用來(lái)處理音頻的一組軟件框架侵蒙,所有關(guān)于iOS音頻開發(fā)的接口都是由Core Audio來(lái)提供或者經(jīng)過(guò)它提供的接口來(lái)進(jìn)行封裝的。Apple官方對(duì)Core Audio的框架分層圖示如下:



OutputOnlyWithRenderCallback_2x.png

較復(fù)雜的構(gòu)建

輸入端有兩路音頻流傅蹂,都是通過(guò)rendercallback方式抓取數(shù)據(jù)纷闺,其中一路音頻流直接給入到Mixer Unit中,另一路先經(jīng)過(guò)EQ Unit處理后給入到Mixer Unit中份蝴,

OutputOnlyWithRenderCallbackExtended_2x.png

Tips

1. 多線程及內(nèi)存管理

盡可能的避免render callback方法內(nèi)做加鎖及處理耗時(shí)較高的操作犁功,這樣可以最大限度的提升實(shí)時(shí)性能,如果播放數(shù)據(jù)或者采集數(shù)據(jù)存在不同線程讀寫的情況婚夫,必需要加鎖保護(hù)浸卦,推薦pthread相關(guān)lock方法性能比其它鎖要高

音頻的輸入輸出一般都是一個(gè)持續(xù)的過(guò)程,在采集與播放的callback中案糙,應(yīng)盡量復(fù)用buffer及避免多次buffer拷貝限嫌,而不是每次回調(diào)都重新申請(qǐng)和釋放,在適當(dāng)?shù)奈恢眉由螥autoreleasepool避免長(zhǎng)時(shí)間運(yùn)行內(nèi)存不斷上漲

2. 格式

Core Audio Type中定義了AudioStreamBasicDescription結(jié)構(gòu)侍筛,Audio Unit及其它很多音頻API對(duì)格式的配置都需要用到它萤皂,根據(jù)需要將該結(jié)構(gòu)的信息填充正確,下面是44.1K,stereo,16bit的填充例子

audioDescription.mSampleRate = 44100;

audioDescription.mChannelsPerFrame = 2;

audioDescription.mBitsPerChannel = 16;

audioDescription.mFramesPerPacket = 1;

audioDescription.mFormatID = kAudioFormatLinearPCM;

audioDescription.mFormatFlags = kLinearPCMFormatFlagIsSignedInteger | kAudioFormatFlagIsPacked;

audioDescription.mBytesPerFrame = (audioDescription.mBitsPerChannel/8) * audioDescription.mChannelsPerFrame;

audioDescription.mBytesPerPacket = audioDescription.mBytesPerFrame ;

蘋果官方建議在整個(gè)Audio Processing Graph或者Unit之間盡量以相同的音頻格式流通匣椰,盡管Audio Unit的輸入輸出可以不同裆熙。另外在Unit之間輸入輸出連接點(diǎn)要保持一致。

3. 音質(zhì)

在使用過(guò)程中,Audio Unit的format是可以動(dòng)態(tài)改變的入录,但存在一種情況蛤奥,Unit在銷毀前最好恢復(fù)到默認(rèn)創(chuàng)建時(shí)的format,否則在銷毀后再重建Unit后僚稿,可能出現(xiàn)播放音質(zhì)變差(音量變小凡桥,聲音粗糙)的情況。

在使用VoiceProcessing I/O Unit過(guò)程蚀同,遇到在有些iphone上開啟揚(yáng)聲器后缅刽,Unit從Mic采集過(guò)來(lái)的數(shù)據(jù)為空或者噪音的情況,從APP STORE中下載了其它的VOIP類型的APP也同樣存在該問(wèn)題蠢络,后來(lái)將AudioUnitSubType改成RemoteIO類型后衰猛,問(wèn)題消失,懷疑蘋果在VoiceProcessing Unit上對(duì)回聲消除功能的處理上有bug

4. AudioSession

既然使用了音頻特性刹孔,就會(huì)用到AudioSession啡省,隨著功能需求跟進(jìn),與它相關(guān)的問(wèn)題也瞞多的髓霞,比如路由管理(聽筒揚(yáng)聲器卦睹、線控耳機(jī)、藍(lán)牙耳機(jī))方库,打斷處理(interruption结序、iphone call)等,這里以Audio Unit為主薪捍,就不對(duì)它進(jìn)行詳細(xì)描述了笼痹,需要注意的是

音頻的路由變更(用戶挺拔耳機(jī)配喳,或者代碼調(diào)用強(qiáng)制切換)涉及到iOS硬件上輸入和輸出設(shè)備的改變酪穿,I/O類型Unit的采集和播放線程在切換過(guò)程中會(huì)阻塞一定時(shí)間(200ms左右),如果是語(yǔ)音對(duì)講類對(duì)實(shí)時(shí)性要求較高的應(yīng)用場(chǎng)景要考慮丟包策略晴裹。

在APP前臺(tái)工作時(shí)被济,iPhone來(lái)電或者用戶主動(dòng)切換到其它音頻類APP后,要及時(shí)處理音頻的打斷機(jī)制涧团,在恰當(dāng)?shù)臅r(shí)機(jī)停止及恢復(fù)Unit的工作只磷,由于iOS平臺(tái)對(duì)資源的獨(dú)占方式,iPhone在通話等操作時(shí)泌绣,APP中的Unit是無(wú)法初始化或者繼續(xù)工作的钮追。

作者:MasonFu

鏈接:http://www.reibang.com/p/5d18180c69b8

來(lái)源:簡(jiǎn)書

著作權(quán)歸作者所有。商業(yè)轉(zhuǎn)載請(qǐng)聯(lián)系作者獲得授權(quán)阿迈,非商業(yè)轉(zhuǎn)載請(qǐng)注明出處元媚。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子刊棕,更是在濱河造成了極大的恐慌炭晒,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,123評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件甥角,死亡現(xiàn)場(chǎng)離奇詭異网严,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)嗤无,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,031評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門震束,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人当犯,你說(shuō)我怎么就攤上這事驴一。” “怎么了灶壶?”我有些...
    開封第一講書人閱讀 156,723評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵肝断,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我驰凛,道長(zhǎng)胸懈,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,357評(píng)論 1 283
  • 正文 為了忘掉前任恰响,我火速辦了婚禮趣钱,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘胚宦。我一直安慰自己首有,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,412評(píng)論 5 384
  • 文/花漫 我一把揭開白布枢劝。 她就那樣靜靜地躺著井联,像睡著了一般。 火紅的嫁衣襯著肌膚如雪您旁。 梳的紋絲不亂的頭發(fā)上烙常,一...
    開封第一講書人閱讀 49,760評(píng)論 1 289
  • 那天,我揣著相機(jī)與錄音鹤盒,去河邊找鬼蚕脏。 笑死,一個(gè)胖子當(dāng)著我的面吹牛侦锯,可吹牛的內(nèi)容都是我干的驼鞭。 我是一名探鬼主播,決...
    沈念sama閱讀 38,904評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼尺碰,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼挣棕!你這毒婦竟也來(lái)了汇竭?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,672評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤穴张,失蹤者是張志新(化名)和其女友劉穎细燎,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體皂甘,經(jīng)...
    沈念sama閱讀 44,118評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡玻驻,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,456評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了偿枕。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片璧瞬。...
    茶點(diǎn)故事閱讀 38,599評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖渐夸,靈堂內(nèi)的尸體忽然破棺而出嗤锉,到底是詐尸還是另有隱情,我是刑警寧澤墓塌,帶...
    沈念sama閱讀 34,264評(píng)論 4 328
  • 正文 年R本政府宣布瘟忱,位于F島的核電站,受9級(jí)特大地震影響苫幢,放射性物質(zhì)發(fā)生泄漏访诱。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,857評(píng)論 3 312
  • 文/蒙蒙 一韩肝、第九天 我趴在偏房一處隱蔽的房頂上張望触菜。 院中可真熱鬧,春花似錦哀峻、人聲如沸涡相。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,731評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)催蝗。三九已至,卻和暖如春喻旷,著一層夾襖步出監(jiān)牢的瞬間生逸,已是汗流浹背牢屋。 一陣腳步聲響...
    開封第一講書人閱讀 31,956評(píng)論 1 264
  • 我被黑心中介騙來(lái)泰國(guó)打工且预, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人烙无。 一個(gè)月前我還...
    沈念sama閱讀 46,286評(píng)論 2 360
  • 正文 我出身青樓锋谐,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親截酷。 傳聞我的和親對(duì)象是個(gè)殘疾皇子涮拗,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,465評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容

  • 本例需求:將Mic采集的PCM轉(zhuǎn)成AAC,可得到兩種不同數(shù)據(jù),本例采用AudioQueue/AudioUnit兩種...
    小東邪啊閱讀 18,823評(píng)論 67 54
  • 斜眼旁觀天下事就漾, 橫眉冷對(duì)千夫指呐能。 我本熱血少年郎, 天塌地陷又何妨抑堡! 龍奪海洋鷹霸天摆出, 有我在時(shí)誰(shuí)爭(zhēng)先, 看我他...
    渭熙閱讀 154評(píng)論 0 0
  • 姑姑和姑父都是年過(guò)七旬的人了首妖,現(xiàn)在家里還養(yǎng)著三頭牛偎漫,管著三個(gè)菜園子,還有十五畝農(nóng)田有缆!雖說(shuō)春種秋收的時(shí)候表哥會(huì)回來(lái)...
    佑我天風(fēng)閱讀 351評(píng)論 1 1
  • 好久沒(méi)有在秋天的晚上九點(diǎn)左右象踊,騎著自行車吹著舒適的晚風(fēng),帶著一天完成的工作目標(biāo)愜意的騎車回去棚壁。要資源時(shí)被拒絕被接受...
    Fineyoga施佳閱讀 633評(píng)論 0 1