直播-編碼

編碼分為硬編碼和軟編碼。

硬解碼:由顯卡核心GPU來對高清視頻進行解碼工作饲常,CPU占用率很低锤躁,畫質效果比軟解碼略差一點搁料,需要對播放器進行設置。

優(yōu)點:播放流暢、低功耗

缺點:受視頻格式限制郭计、功耗大霸琴、畫質沒有軟解碼好

軟解碼:由CPU負責解碼進行播放

優(yōu)點:不受視頻格式限制、畫質略好于硬解

缺點:會占用過高的資源拣宏、對于高清視頻可能沒有硬解碼流暢(主要看CPU的能力)


下面我們具體說說硬解碼吧

蘋果在iOS 8.0系統(tǒng)之前沈贝,沒有開放系統(tǒng)的硬件編碼解碼功能杠人,不過Mac OS系統(tǒng)一直有勋乾,被稱為Video ToolBox的框架來處理硬件的編碼和解碼,終于在iOS 8.0后嗡善,蘋果將該框架引入iOS系統(tǒng)辑莫。

由此,開發(fā)者便可以在iOS里面罩引,調用Video Toolbox框架提供的接口各吨,來對視頻進行硬件編解碼的工作,為VOIP視頻通話袁铐,視頻流播放等應用的視頻編解碼提供了便利揭蜒。

(PS:按照蘋果WWDC2014 513《direct access to media encoding and decoding》的描述,蘋果之前提供的AVFoundation框架也使用硬件對視頻進行硬編碼和解碼剔桨,但是編碼后直接寫入文件屉更,解碼后直接顯示。Video Toolbox框架可以得到編碼后的幀結構洒缀,也可以得到解碼后的原始圖像瑰谜,因此具有更大的靈活性做一些視頻圖像處理。)

一树绩,VideoToolbox基本數(shù)據(jù)結構萨脑。

Video Toolbox視頻編解碼前后需要應用的數(shù)據(jù)結構進行說明。

(1)CVPixelBuffer:編碼前和解碼后的圖像數(shù)據(jù)結構饺饭。

(2)CMTime渤早、CMClock和CMTimebase:時間戳相關。時間以64-bit/32-bit的形式出現(xiàn)瘫俊。

(3)CMBlockBuffer:編碼后蛛芥,結果圖像的數(shù)據(jù)結構。

(4)CMVideoFormatDescription:圖像存儲方式军援,編解碼器等格式描述仅淑。

(5)CMSampleBuffer:存放編解碼前后的視頻圖像的容器數(shù)據(jù)結構。

1.1視頻H264編解碼前后數(shù)據(jù)結構示意圖

如圖1.1所示胸哥,編解碼前后的視頻圖像均封裝在CMSampleBuffer中涯竟,如果是編碼后的圖像,以CMBlockBuffe方式存儲;解碼后的圖像庐船,以CVPixelBuffer存儲银酬。CMSampleBuffer里面還有另外的時間信息CMTime和視頻描述信息CMVideoFormatDesc。

二筐钟,硬解碼使用方法揩瞪。

通過如圖2.1所示的一個典型應用,來說明如何使用硬件解碼接口篓冲。該應用場景是從網(wǎng)絡處傳來H264編碼后的視頻碼流李破,最后顯示在手機屏幕上。

1壹将,將H264碼流轉換成編碼前的CMSampleBuffer嗤攻。

由圖1.1所示,解碼前的CMSampleBuffer = CMTime + FormatDesc + CMBlockBuffer诽俯。需要從H264的碼流里面提取出以上的三個信息妇菱。最后組合成CMSampleBuffer,提供給硬解碼接口來進行解碼工作暴区。

H264的碼流由NALU單元組成闯团,NALU單元包含視頻圖像數(shù)據(jù)和H264的參數(shù)信息。其中視頻圖像數(shù)據(jù)就是CMBlockBuffer仙粱,而H264的參數(shù)信息則可以組合成FormatDesc房交。具體來說參數(shù)信息包含SPS(Sequence Parameter Set)和PPS(Picture Parameter Set)。圖2.2顯示一個H264碼流的結構缰盏。

2.2 H264碼流結構

(1)提取sps和pps生成format description涌萤。

a,每個NALU的開始碼是0x00 00 01口猜,按照開始碼定位NALU负溪。

b,通過類型信息找到sps和pps并提取济炎,開始碼后第一個byte的后5位川抡,7代表sps,8代表pps须尚。

c崖堤,CMVideoFormatDescriptionCreateFromH264ParameterSets函數(shù)來構建CMVideoFormatDescriptionRef。



(2)提取視頻圖像數(shù)據(jù)生成CMBlockBuffer耐床。

a密幔,通過開始碼,定位到NALU撩轰。

b胯甩,確定類型為數(shù)據(jù)后昧廷,將開始碼替換成NALU的長度信息(4 Bytes)。

c偎箫,CMBlockBufferCreateWithMemoryBlock接口構造CMBlockBufferRef木柬。

(3)根據(jù)需要,生成CMTime信息淹办。(實際測試時眉枕,加入time信息后,有不穩(wěn)定的圖像怜森,不加入time信息反而沒有速挑,需要進一步研究,這里建議不加入time信息)

根據(jù)上述得到CMVideoFormatDescriptionRef塔插、CMBlockBufferRef和可選的時間信息梗摇,使用CMSampleBufferCreate接口得到CMSampleBuffer數(shù)據(jù)這個待解碼的原始的數(shù)據(jù)拓哟。見下圖的H264數(shù)據(jù)轉換示意圖想许。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市断序,隨后出現(xiàn)的幾起案子流纹,更是在濱河造成了極大的恐慌,老刑警劉巖违诗,帶你破解...
    沈念sama閱讀 212,816評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件漱凝,死亡現(xiàn)場離奇詭異,居然都是意外死亡诸迟,警方通過查閱死者的電腦和手機茸炒,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,729評論 3 385
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來阵苇,“玉大人壁公,你說我怎么就攤上這事∩鹣睿” “怎么了紊册?”我有些...
    開封第一講書人閱讀 158,300評論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長快耿。 經(jīng)常有香客問我囊陡,道長,這世上最難降的妖魔是什么掀亥? 我笑而不...
    開封第一講書人閱讀 56,780評論 1 285
  • 正文 為了忘掉前任撞反,我火速辦了婚禮,結果婚禮上搪花,老公的妹妹穿的比我還像新娘遏片。我一直安慰自己垛膝,他們只是感情好,可當我...
    茶點故事閱讀 65,890評論 6 385
  • 文/花漫 我一把揭開白布丁稀。 她就那樣靜靜地躺著吼拥,像睡著了一般。 火紅的嫁衣襯著肌膚如雪线衫。 梳的紋絲不亂的頭發(fā)上凿可,一...
    開封第一講書人閱讀 50,084評論 1 291
  • 那天,我揣著相機與錄音授账,去河邊找鬼枯跑。 笑死,一個胖子當著我的面吹牛白热,可吹牛的內容都是我干的敛助。 我是一名探鬼主播,決...
    沈念sama閱讀 39,151評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼屋确,長吁一口氣:“原來是場噩夢啊……” “哼纳击!你這毒婦竟也來了?” 一聲冷哼從身側響起攻臀,我...
    開封第一講書人閱讀 37,912評論 0 268
  • 序言:老撾萬榮一對情侶失蹤焕数,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后刨啸,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體堡赔,經(jīng)...
    沈念sama閱讀 44,355評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,666評論 2 327
  • 正文 我和宋清朗相戀三年设联,在試婚紗的時候發(fā)現(xiàn)自己被綠了善已。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,809評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡离例,死狀恐怖换团,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情粘招,我是刑警寧澤啥寇,帶...
    沈念sama閱讀 34,504評論 4 334
  • 正文 年R本政府宣布,位于F島的核電站洒扎,受9級特大地震影響辑甜,放射性物質發(fā)生泄漏。R本人自食惡果不足惜袍冷,卻給世界環(huán)境...
    茶點故事閱讀 40,150評論 3 317
  • 文/蒙蒙 一磷醋、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧胡诗,春花似錦邓线、人聲如沸淌友。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,882評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽震庭。三九已至,卻和暖如春你雌,著一層夾襖步出監(jiān)牢的瞬間器联,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,121評論 1 267
  • 我被黑心中介騙來泰國打工婿崭, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留拨拓,地道東北人。 一個月前我還...
    沈念sama閱讀 46,628評論 2 362
  • 正文 我出身青樓氓栈,卻偏偏與公主長得像渣磷,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子授瘦,可洞房花燭夜當晚...
    茶點故事閱讀 43,724評論 2 351

推薦閱讀更多精彩內容