前言
H264是新一代的編碼標準讳嘱,以高壓縮高質量和支持多種網(wǎng)絡的流媒體傳輸著稱柱嫌,在編碼方面推掸,我理解的他的理論依據(jù)是:參照一段時間內圖像的統(tǒng)計結果表明沽甥,在相鄰幾幅圖像畫面中声邦, 一般有差別的像素只有10%以內的點,亮度差值變化不超過2%,而色度差值的變化只有1%以內摆舟。所以對于一段變化不大圖像畫面翔忽,我們可以先編碼出一個完整 的圖像幀A英融,隨后的B幀就不編碼全部圖像,只寫入與A幀的差別歇式,這樣B幀的大小就只有完整幀的1/10或更小胡野!B幀之后的C幀如果變化不大材失,我們可以繼續(xù) 以參考B的方式編碼C幀,這樣循環(huán)下去硫豆。這段圖像我們稱為一個序列(序列就是有相同特點的一段數(shù)據(jù))龙巨,當某個圖像與之前的圖像變化很大,無法參考前面的幀 來生成熊响,那我們就結束上一個序列旨别,開始下一段序列,也就是對這個圖像生成一個完整幀A1汗茄,隨后的圖像就參考A1生成秸弛,只寫入與A1的差別內容。
在H264協(xié)議里定義了三種幀洪碳,完整編碼的幀叫I幀递览,參考之前的I幀生成的只包含差異部分編碼的幀叫P幀,還有一種參考前后的幀編碼的幀叫B幀瞳腌。
H264采用的核心算法是幀內壓縮和幀間壓縮绞铃,幀內壓縮是生成I幀的算法,幀間壓縮是生成B幀和P幀的算法嫂侍。
序列的說明
在H264中圖像以序列為單位進行組織儿捧,一個序列是一段圖像編碼后的數(shù)據(jù)流,以I幀開始挑宠,到下一個I幀結束菲盾。
一個序列的第一個圖像叫做 IDR 圖像(立即刷新圖像),IDR 圖像都是 I 幀圖像痹栖。H.264 引入 IDR 圖像是為了解碼的重同步亿汞,當解碼器解碼到 IDR 圖像時,立即將參考幀隊列清空揪阿,將已解碼的數(shù)據(jù)全部輸出或拋棄疗我,重新查找參數(shù)集,開始一個新的序列南捂。這樣吴裤,如果前一個序列出現(xiàn)重大錯誤,在這里可以獲得重新同步的機會溺健。IDR圖像之后的圖像永遠不會使用IDR之前的圖像的數(shù)據(jù)來解碼麦牺。
一個序列就是一段內容差異不太大的圖像編碼后生成的一串數(shù)據(jù)流。當運動變化比較少時,一個序列可以很長剖膳,因為運動變化少就代表圖像畫面的內容變動很小魏颓,所 以就可以編一個I幀,然后一直P幀吱晒、B幀了甸饱。當運動變化多時,可能一個序列就比較短了仑濒,比如就包含一個I幀和3叹话、4個P幀。
三種幀的說明
- I幀:幀內編碼幀 墩瞳,I幀表示關鍵幀驼壶,你可以理解為這一幀畫面的完整保留;解碼時只需要本幀數(shù)據(jù)就可以完成(因為包含完整畫面)
- I幀特點:
1.它是一個全幀壓縮編碼幀喉酌。它將全幀圖像信息進行JPEG壓縮編碼及傳輸;
2.解碼時僅用I幀的數(shù)據(jù)就可重構完整圖像;
3.I幀描述了圖像背景和運動主體的詳情;
4.I幀不需要參考其他畫面而生成;
5.I幀是P幀和B幀的參考幀(其質量直接影響到同組中以后各幀的質量);
6.I幀是幀組GOP的基礎幀(第一幀),在一組中只有一個I幀;
7.I幀不需要考慮運動矢量;
8.I幀所占數(shù)據(jù)的信息量比較大热凹。
- P幀:前向預測編碼幀。P幀表示的是這一幀跟之前的一個關鍵幀(或P幀)的差別瞭吃,解碼時需要用之前緩存的畫面疊加上本幀定義的差別碌嘀,生成最終畫面。(也就是差別幀歪架,P幀沒有完整畫面數(shù)據(jù)股冗,只有與前一幀的畫面差別的數(shù)據(jù))
P幀的預測與重構: P幀是以I幀為參考幀,在I幀中找出P幀“某點”的預測值和運動矢量,取預測差值和運動矢量一起傳送。在接收端根據(jù)運動矢量從I幀中找出P幀“某點”的預測值并與差值相加以得到P幀“某點”樣值,從而可得到完整的P幀和蚪。
P幀特點:
1.P幀是I幀后面相隔1~2幀的編碼幀;
2.P幀采用運動補償?shù)姆椒▊魉退c前面的I或P幀的差值及運動矢量(預測誤差);
3.解碼時必須將I幀中的預測值與預測誤差求和后才能重構完整的P幀圖像;
4.P幀屬于前向預測的幀間編碼止状。它只參考前面最靠近它的I幀或P幀;
5.P幀可以是其后面P幀的參考幀,也可以是其前后的B幀的參考幀;
6.由于P幀是參考幀,它可能造成解碼錯誤的擴散;
7.由于是差值傳送,P幀的壓縮比較高。B幀:雙向預測內插編碼幀攒霹。B幀是雙向差別幀怯疤,也就是B幀記錄的是本幀與前后幀的差別(具體比較復雜,有4種情況催束,但我這樣說簡單些)集峦,換言之,要解碼B 幀抠刺,不僅要取得之前的緩存畫面塔淤,還要解碼之后的畫面,通過前后畫面的與本幀數(shù)據(jù)的疊加取得最終的畫面速妖。B幀壓縮率高高蜂,但是解碼時CPU會比較累。
B幀的預測與重構
B幀以前面的I或P幀和后面的P幀為參考幀,“找出”B幀“某點”的預測值和兩個運動矢量,并取預測差值和運動矢量傳送罕容。接收端根據(jù)運動矢量在兩個參考幀中“找出(算出)”預測值并與差值求和,得到B幀“某點”樣值,從而可得到完整的B幀备恤。B幀特點
1.B幀是由前面的I或P幀和后面的P幀來進行預測的;
2.B幀傳送的是它與前面的I或P幀和后面的P幀之間的預測誤差及運動矢量;
3.B幀是雙向預測編碼幀;
4.B幀壓縮比最高,因為它只反映丙參考幀間運動主體的變化情況,預測比較準確;
5.B幀不是參考幀,不會造成解碼錯誤的擴散稿饰。
注: I、B露泊、P各幀是根據(jù)壓縮算法的需要喉镰,是人為定義的,它們都是實實在在的物理幀。一般來說滤淳,I幀的壓縮率是7(跟JPG差不多)梧喷,P幀是20,B幀可 以達到50脖咐。可見使用B幀能節(jié)省大量空間汇歹,節(jié)省出來的空間可以用來保存多一些I幀屁擅,這樣在相同碼率下,可以提供更好的畫質产弹。
壓縮算法的說明
h264的壓縮方法:
1.分組:把幾幀圖像分為一組(GOP派歌,也就是一個序列),為防止運動變化,幀數(shù)不宜取多。
2.定義幀:將每組內各幀圖像定義為三種類型,即I幀痰哨、B幀和P幀;
3.預測幀:以I幀做為基礎幀,以I幀預測P幀,再由I幀和P幀預測B幀;
4.數(shù)據(jù)傳輸:最后將I幀數(shù)據(jù)與預測的差值信息進行存儲和傳輸胶果。
幀內(Intraframe)壓縮也稱為空間壓縮(Spatial compression)。當壓縮一幀圖像時斤斧,僅考慮本幀的數(shù)據(jù)而不考慮相鄰幀之間的冗余信息早抠,這實際上與靜態(tài)圖像壓縮類似。幀內一般采用有損壓縮算法撬讽,由于幀內壓縮是編碼一個完整的圖像蕊连,所以可以獨立的解碼、顯示游昼。幀內壓縮一般達不到很高的壓縮甘苍,跟編碼jpeg差不多。
幀間(Interframe)壓縮的原理是:相鄰幾幀的數(shù)據(jù)有很大的相關性烘豌,或者說前后兩幀信息變化很小的特點载庭。也即連續(xù)的視頻其相鄰幀之間具有冗余信 息,根據(jù)這一特性,壓縮相鄰幀之間的冗余量就可以進一步提高壓縮量廊佩,減小壓縮比囚聚。幀間壓縮也稱為時間壓縮(Temporal compression),它通過比較時間軸上不同幀之間的數(shù)據(jù)進行壓縮罐寨。幀間壓縮一般是無損的靡挥。幀差值(Frame differencing)算法是一種典型的時間壓縮法,它通過比較本幀與相鄰幀之間的差異鸯绿,僅記錄本幀與其相鄰幀的差值跋破,這樣可以大大減少數(shù)據(jù)量簸淀。
順便說下有損(Lossy )壓縮和無損(Lossy less)壓縮。無損壓縮也即壓縮前和解壓縮后的數(shù)據(jù)完全一致毒返。多數(shù)的無損壓縮都采用RLE行程編碼算法租幕。有損壓縮意味著解壓縮后的數(shù)據(jù)與壓縮前的數(shù)據(jù)不 一致。在壓縮的過程中要丟失一些人眼和人耳所不敏感的圖像或音頻信息,而且丟失的信息不可恢復拧簸。幾乎所有高壓縮的算法都采用有損壓縮,這樣才能達到低數(shù)據(jù) 率的目標劲绪。丟失的數(shù)據(jù)率與壓縮比有關,壓縮比越小,丟失的數(shù)據(jù)越多,解壓縮后的效果一般越差盆赤。此外,某些有損壓縮算法采用多次重復壓縮的方式,這樣還會引 起額外的數(shù)據(jù)丟失