編碼分為硬編碼和軟編碼。
硬解碼:由顯卡核心GPU來對高清視頻進行解碼工作饲常,CPU占用率很低锤躁,畫質效果比軟解碼略差一點搁料,需要對播放器進行設置。
優(yōu)點:播放流暢、低功耗
缺點:受視頻格式限制郭计、功耗大霸琴、畫質沒有軟解碼好
軟解碼:由CPU負責解碼進行播放
優(yōu)點:不受視頻格式限制、畫質略好于硬解
缺點:會占用過高的資源拣宏、對于高清視頻可能沒有硬解碼流暢(主要看CPU的能力)
下面我們具體說說硬解碼吧
蘋果在iOS 8.0系統(tǒng)之前沈贝,沒有開放系統(tǒng)的硬件編碼解碼功能杠人,不過Mac OS系統(tǒng)一直有勋乾,被稱為Video ToolBox的框架來處理硬件的編碼和解碼,終于在iOS 8.0后嗡善,蘋果將該框架引入iOS系統(tǒng)辑莫。
由此,開發(fā)者便可以在iOS里面罩引,調用Video Toolbox框架提供的接口各吨,來對視頻進行硬件編解碼的工作,為VOIP視頻通話袁铐,視頻流播放等應用的視頻編解碼提供了便利揭蜒。
(PS:按照蘋果WWDC2014 513《direct access to media encoding and decoding》的描述,蘋果之前提供的AVFoundation框架也使用硬件對視頻進行硬編碼和解碼剔桨,但是編碼后直接寫入文件屉更,解碼后直接顯示。Video Toolbox框架可以得到編碼后的幀結構洒缀,也可以得到解碼后的原始圖像瑰谜,因此具有更大的靈活性做一些視頻圖像處理。)
一树绩,VideoToolbox基本數(shù)據(jù)結構萨脑。
Video Toolbox視頻編解碼前后需要應用的數(shù)據(jù)結構進行說明。
(1)CVPixelBuffer:編碼前和解碼后的圖像數(shù)據(jù)結構饺饭。
(2)CMTime渤早、CMClock和CMTimebase:時間戳相關。時間以64-bit/32-bit的形式出現(xiàn)瘫俊。
(3)CMBlockBuffer:編碼后蛛芥,結果圖像的數(shù)據(jù)結構。
(4)CMVideoFormatDescription:圖像存儲方式军援,編解碼器等格式描述仅淑。
(5)CMSampleBuffer:存放編解碼前后的視頻圖像的容器數(shù)據(jù)結構。
圖1.1視頻H264編解碼前后數(shù)據(jù)結構示意圖
如圖1.1所示胸哥,編解碼前后的視頻圖像均封裝在CMSampleBuffer中涯竟,如果是編碼后的圖像,以CMBlockBuffe方式存儲;解碼后的圖像庐船,以CVPixelBuffer存儲银酬。CMSampleBuffer里面還有另外的時間信息CMTime和視頻描述信息CMVideoFormatDesc。
二筐钟,硬解碼使用方法揩瞪。
通過如圖2.1所示的一個典型應用,來說明如何使用硬件解碼接口篓冲。該應用場景是從網(wǎng)絡處傳來H264編碼后的視頻碼流李破,最后顯示在手機屏幕上。
1壹将,將H264碼流轉換成編碼前的CMSampleBuffer嗤攻。
由圖1.1所示,解碼前的CMSampleBuffer = CMTime + FormatDesc + CMBlockBuffer诽俯。需要從H264的碼流里面提取出以上的三個信息妇菱。最后組合成CMSampleBuffer,提供給硬解碼接口來進行解碼工作暴区。
H264的碼流由NALU單元組成闯团,NALU單元包含視頻圖像數(shù)據(jù)和H264的參數(shù)信息。其中視頻圖像數(shù)據(jù)就是CMBlockBuffer仙粱,而H264的參數(shù)信息則可以組合成FormatDesc房交。具體來說參數(shù)信息包含SPS(Sequence Parameter Set)和PPS(Picture Parameter Set)。圖2.2顯示一個H264碼流的結構缰盏。
圖2.2 H264碼流結構
(1)提取sps和pps生成format description涌萤。
a,每個NALU的開始碼是0x00 00 01口猜,按照開始碼定位NALU负溪。
b,通過類型信息找到sps和pps并提取济炎,開始碼后第一個byte的后5位川抡,7代表sps,8代表pps须尚。
c崖堤,CMVideoFormatDescriptionCreateFromH264ParameterSets函數(shù)來構建CMVideoFormatDescriptionRef。
(2)提取視頻圖像數(shù)據(jù)生成CMBlockBuffer耐床。
a密幔,通過開始碼,定位到NALU撩轰。
b胯甩,確定類型為數(shù)據(jù)后昧廷,將開始碼替換成NALU的長度信息(4 Bytes)。
c偎箫,CMBlockBufferCreateWithMemoryBlock接口構造CMBlockBufferRef木柬。
(3)根據(jù)需要,生成CMTime信息淹办。(實際測試時眉枕,加入time信息后,有不穩(wěn)定的圖像怜森,不加入time信息反而沒有速挑,需要進一步研究,這里建議不加入time信息)
根據(jù)上述得到CMVideoFormatDescriptionRef塔插、CMBlockBufferRef和可選的時間信息梗摇,使用CMSampleBufferCreate接口得到CMSampleBuffer數(shù)據(jù)這個待解碼的原始的數(shù)據(jù)拓哟。見下圖的H264數(shù)據(jù)轉換示意圖想许。