iOS Media音視頻框架

音頻

Core Audio Overview
Multimedia Programming Guide

Core Audio

AudioToolbox

Record or play audio, convert formats, parse audio streams, and configure your audio session.

功能

音頻轉(zhuǎn)換服務(wù) AudioConverterService

用于各種線性 PCM 音頻格式之間的轉(zhuǎn)換次乓。也可以用于線性 PCM 與各種壓縮音頻格式的轉(zhuǎn)換吗购,比如將 PCM 音頻流編碼壓縮為 AAC 音頻格式则拷,減少數(shù)據(jù)量。AudioConverter 直接使用硬件進(jìn)行編碼操作向叉,支持AAC,MP3,ALAC音頻編碼格式糖权。

音頻隊列服務(wù) AudioQueueService

提供一個緩沖隊列用來管理音頻流,一般用于錄音或者音頻播放。

音頻文件服務(wù) AudioFileStream

主要用于解析音頻流和音頻流的讀寫铜幽。

系統(tǒng)聲音服務(wù) SystemSoundService

用來直接播放少于30秒的音頻文件,非常簡單快捷究孕。

  • AudioQueue 和 AudioFileStream 結(jié)合配合使用可以實現(xiàn)網(wǎng)絡(luò)音頻流的播放功能啥酱。

Audio Queue Services Programming Guide

AudioToolbox

AudioUnit

Add sophisticated audio manipulation and processing capabilities to your app. Create audio unit extensions that generate or modify audio in a host app.

iOS 中的所有音頻技術(shù)都建立在 AudioUnit 之上。只有當(dāng)您需要最高程度的控制厨诸,性能或靈活性镶殷,或者只需直接使用音頻單元即可獲得特定功能(如聲學(xué)回聲消除)時,在項目中直接使用音頻單元是正確的選擇微酬。

iOS中的音頻框架

功能

具有低延遲的同時音頻I / O(輸入和輸出)绘趋,例如用于VoIP(互聯(lián)網(wǎng)協(xié)議語音)應(yīng)用。
  • 一般用于對低延遲要求高的情況颗管,比如直播推送端的錄音功能陷遮。
響應(yīng)回放合成聲音,例如用于音樂游戲或合成樂器
使用特定的音頻單元功能垦江,例如聲學(xué)回聲消除帽馋,混合或音調(diào)均衡
一種處理鏈架構(gòu),可讓您將音頻處理模塊組合成靈活的網(wǎng)絡(luò)。這是iOS中唯一提供此功能的音頻API绽族。

About Audio Unit Hosting

Core Audio

Use specialized data types to interact with audio streams, complex buffers, and audiovisual timestamps.

包含所有音頻框架服務(wù)使用的通用的音頻格式數(shù)據(jù)類型姨涡。

視頻

AVFoundation

Work with audiovisual assets, control device cameras, process audio, and configure system audio interactions.

AVFoundation

功能

AVAsset

Asset表示一個音頻或者視頻媒體資源,支持網(wǎng)絡(luò)資源吧慢。

  • 可以獲取到音視頻的track涛漂。
  • AVAssetImageGenerator 可以獲取到視頻中的某一幀圖像。
視頻音頻照片捕獲

提供AVCapture相關(guān)的工具類實現(xiàn)捕獲功能检诗,支持直接生成音頻匈仗,圖片和視頻文件。同時也支持獲取實時捕獲的數(shù)據(jù)流逢慌。

  • 捕獲實時的數(shù)據(jù)流悠轩,通過CoreImage 進(jìn)行濾鏡處理,之后通過OpenGL 或者 Metal 渲染涕癣,可以實現(xiàn)拍照實時濾鏡的功能哗蜈。包括直播推流端推送視頻數(shù)據(jù)流。
AVPlayer

AVPlayer 用于音視頻的播放坠韩,支持網(wǎng)絡(luò)文件的播放×读校可以實現(xiàn)一些簡單的播放功能只搁。

AVAudioSession

與系統(tǒng)音頻進(jìn)行交互,例如修改當(dāng)前音頻功能的模式俭尖,監(jiān)聽其他應(yīng)用的音頻播放氢惋。

音頻
  • AVAudioPlayer用于播放本地音頻文件。
  • AVAudioRecorder用于實現(xiàn)簡單的錄音功能稽犁,只能保存到本地文件焰望,不能操作音頻流。
  • AVAudioConverter 用于多種音頻流格式的轉(zhuǎn)換已亥。
多媒體組合

提供 AVComposition 相關(guān)類用于多個源的音頻和視頻流的組合熊赖。

  • 給一個視頻音頻替換其他的聲音文件。
  • 多個視頻合成單個視頻虑椎,單個視頻分割為多個視頻震鹉。
  • 多個音頻文件混合,分割捆姜。
音視頻導(dǎo)出

AVAssetReader 相關(guān)類用于本地音視頻流的讀取传趾,支持多個流組合讀取包括 AVComposition 生成的流。

  • 通過 AVAssetReader 獲取視頻流泥技,通過 Core Image 實現(xiàn)視頻播放實時濾鏡的功能浆兰。
    AVAssetWriter 相關(guān)類用于將音視頻流寫入到本地文件,支持多個流同時寫入。
Speech Synthesis

可以將文字轉(zhuǎn)為音頻播放簸呈。

AVFoundation Programming Guide

AVkit

Create view-level services for media playback, complete with user controls, chapter navigation, and support for subtitles and closed captioning.

AVPlayer 相關(guān)類提供音視頻播放的功能宽涌。基于 AVFoundation 實現(xiàn)蝶棋,繼承自 UIKit卸亮,可以直接添加到 UIKit視圖中使用。

AVKit

Core Audio Kit

Add user interfaces to audio units.

Core Audio Kit

Core Media

Represent time-based audio-visual assets with essential data types.

提供一些基礎(chǔ)數(shù)據(jù)類型在多個音視頻框架中共用玩裙。

Core Media

Core Video

Process digital video—including manipulation of individual frames—using a pipeline-based API and support for both Metal and OpenGL.

提供一個使用視頻幀的渲染管道兼贸,支持 OpenGL 和 Metal 渲染。
  • 將視頻流通過 OpenGL 或者 Metal 進(jìn)行實時渲染吃溅,需要通過 Core Video的工具類對視頻流進(jìn)行 Texture轉(zhuǎn)換溶诞。

Core Video

Media Player

Add the ability to find and play songs, audio podcasts, audio books, and more from within your app.

主要用于播放 iOS 音樂庫中的音樂.

Media Player

VideoToolbox

Work directly with hardware-accelerated video encoding and decoding capabilities.

提供直接使用硬件加速的視頻編碼和解碼功能

硬件編解碼就是使用 GPU 進(jìn)行編解碼。相對 CPU 軟解碼决侈,GPU 可以很少的占用 CPU 資源螺垢,速度快,更省電赖歌。支持 H.264 和 H.265 視頻編碼標(biāo)準(zhǔn)枉圃。

VideoToolbox

PhotoKit

Work with image and video assets managed by the Photos app, including those from iCloud Photos and Live Photos.

功能

訪問系統(tǒng)相冊和視頻

PhotoKit

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市庐冯,隨后出現(xiàn)的幾起案子孽亲,更是在濱河造成了極大的恐慌,老刑警劉巖展父,帶你破解...
    沈念sama閱讀 216,496評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件返劲,死亡現(xiàn)場離奇詭異,居然都是意外死亡栖茉,警方通過查閱死者的電腦和手機(jī)篮绿,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,407評論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來吕漂,“玉大人亲配,你說我怎么就攤上這事√涤椋” “怎么了弃榨?”我有些...
    開封第一講書人閱讀 162,632評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長梨睁。 經(jīng)常有香客問我鲸睛,道長,這世上最難降的妖魔是什么坡贺? 我笑而不...
    開封第一講書人閱讀 58,180評論 1 292
  • 正文 為了忘掉前任官辈,我火速辦了婚禮箱舞,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘拳亿。我一直安慰自己晴股,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 67,198評論 6 388
  • 文/花漫 我一把揭開白布肺魁。 她就那樣靜靜地躺著电湘,像睡著了一般。 火紅的嫁衣襯著肌膚如雪鹅经。 梳的紋絲不亂的頭發(fā)上寂呛,一...
    開封第一講書人閱讀 51,165評論 1 299
  • 那天,我揣著相機(jī)與錄音瘾晃,去河邊找鬼贷痪。 笑死,一個胖子當(dāng)著我的面吹牛蹦误,可吹牛的內(nèi)容都是我干的劫拢。 我是一名探鬼主播,決...
    沈念sama閱讀 40,052評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼强胰,長吁一口氣:“原來是場噩夢啊……” “哼舱沧!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起哪廓,我...
    開封第一講書人閱讀 38,910評論 0 274
  • 序言:老撾萬榮一對情侶失蹤狗唉,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后涡真,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,324評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡肾筐,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,542評論 2 332
  • 正文 我和宋清朗相戀三年哆料,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片吗铐。...
    茶點故事閱讀 39,711評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡东亦,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出唬渗,到底是詐尸還是另有隱情典阵,我是刑警寧澤,帶...
    沈念sama閱讀 35,424評論 5 343
  • 正文 年R本政府宣布镊逝,位于F島的核電站壮啊,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏撑蒜。R本人自食惡果不足惜歹啼,卻給世界環(huán)境...
    茶點故事閱讀 41,017評論 3 326
  • 文/蒙蒙 一玄渗、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧狸眼,春花似錦藤树、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,668評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至微王,卻和暖如春屡限,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背骂远。 一陣腳步聲響...
    開封第一講書人閱讀 32,823評論 1 269
  • 我被黑心中介騙來泰國打工囚霸, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人激才。 一個月前我還...
    沈念sama閱讀 47,722評論 2 368
  • 正文 我出身青樓拓型,卻偏偏與公主長得像,于是被迫代替她去往敵國和親瘸恼。 傳聞我的和親對象是個殘疾皇子劣挫,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,611評論 2 353

推薦閱讀更多精彩內(nèi)容

  • 1、通過CocoaPods安裝項目名稱項目信息 AFNetworking網(wǎng)絡(luò)請求組件 FMDB本地數(shù)據(jù)庫組件 SD...
    陽明先生_X自主閱讀 15,979評論 3 119
  • 今天上午收到一封郵件东帅,是阿里巴巴淘寶大學(xué)的一位培訓(xùn)專家压固,他在網(wǎng)上找到了我,并想邀請我為韓國的商家們做培訓(xùn)靠闭,仔細(xì)看了...
    茶山閱讀 124評論 0 1
  • 【打卡】D15帐我、35-viv曉慧 1:早起打卡? 2:?聽微課《自信三部曲》 3.?聽李躍兒微課 @a【主理寶寶】...
    Viv曉慧閱讀 267評論 0 0
  • 暑假第42天,周日愧膀。 很難得拦键,全家人睡懶覺,全都9:40才起來檩淋。睡懶覺的感覺真好芬为,所以孩子那么...
    記得祝福閱讀 294評論 0 1
  • 《望來者 是你》 我遇到過很多人, 卻始終沒有如你一般的人; 我曾心儀過很多人蟀悦, 但始終都...
    白歡歡閱讀 146評論 0 0