音視頻-幀、DTS肌割、PTS

采樣率卧蜓、比特率、幀率

  • 采樣率:每秒鐘的采樣次數(shù)把敞,聲音/畫面越高越連貫弥奸,單位為Hz
  • 比特率:在視頻領(lǐng)域又稱碼率,每秒傳送的bit數(shù)奋早,越高則傳的數(shù)據(jù)越多且畫質(zhì)越清晰盛霎,單位為bps(bit per second)赠橙,MediaFormat.KEY_BIT_RATE
  • 碼流率/碼率/采樣率:單位時間使用的數(shù)據(jù)流量,單位kb/s愤炸。該值越大期揪,則精度越高,畫面質(zhì)量越高规个,體積越大
  • 幀率/幀速率:每秒鐘刷新的圖片幀數(shù)凤薛,單位fps(frame per second)。該值越高诞仓,動畫越流暢缤苫,越逼真。MediaFormat.KEY_FRAME_RATE

  • 視頻播放是一幀一幀的畫面按照時間順序呈現(xiàn)出來的
  • 為保證傳輸墅拭,會對視頻進行壓縮活玲,所以,每一幀并不都完整
  • 視頻幀分為:I幀帜矾、P幀翼虫、B幀

I幀:幀內(nèi)編碼幀,不依賴前后幀
P幀:幀間預(yù)測編碼幀屡萤,需參考前面的I幀才能進行編碼珍剑。表示當(dāng)前幀與前一個I幀或者P幀的差別,解碼時需要用之前緩存的畫面疊加上本幀定義的差別死陆,生成最終畫面招拙。
B幀:雙向預(yù)測編碼幀湖苞,記錄的是本幀與前后幀的差別镜盯。解碼時不僅要取得之前的緩存畫面,還要解碼之后的畫面川背,通過前后畫面與本幀數(shù)據(jù)的疊加取得最終畫面领虹。

I幀只考慮本幀规哪;P幀記錄與前一幀(前一個I幀或者P幀)的差別;B幀記錄的是前一幀及后一幀的差別

問題

1. B幀或P幀提前到達塌衰,必然會導(dǎo)致視頻無法解碼诉稍,如何解決?
2. 三種幀之間的解碼依賴關(guān)系如何最疆?
3.三種幀解碼順序如何杯巨?解碼順序和顯示順序有何關(guān)聯(lián)?

說明

采集階段:
假定攝像頭采集幀順序為a b c d e努酸。
最終編碼結(jié)果是:a編碼成I幀服爷,b、c、d編碼成B幀仍源,e編碼成P幀心褐。

編碼階段:
1 先編碼a,編成I幀
2 b笼踩、c檬寂、d編碼成B幀,先緩存并記錄采集時間點戳表,后續(xù)作為PTS基準(zhǔn)
3 編碼e,編成P幀 (注意:e雖先編碼昼伴,DTS相對b匾旭、c、d靠前圃郊,但采集時間晚价涝,因此PTS大于b、c持舆、d) 
4 編碼b色瘩、c、d逸寓,編成B幀

存儲階段:
編碼后立即經(jīng)過mux寫文件居兆,所以存儲順序和編碼順序是一致的,編碼順序(DTS)為:
a(I)   e(P)   b(B)   c(B)   d(B)

解碼階段:
a為I幀竹伸,e為P幀需要以a為基準(zhǔn)才能解碼泥栖,b、c勋篓、d為B幀需要以a和e為基準(zhǔn)才能解碼吧享,所以最后解碼順序為:
a   e   b   c   d

顯示階段:
幀的解碼順序由DTS決定,但幀的顯示順序由PTS決定譬嚣,該順序即為采集順序钢颂,因此,顯示順序為:
a   b   c   d   e

DTS拜银、PTS

  • DTS(Decoding Time Stamp):解碼時間戳殊鞭,用于告訴播放器該在什么時候解碼這一幀的數(shù)據(jù)。
  • PTS(Presentation Time Stamp):顯示時間戳盐股,用于告訴播放器該在什么時候顯示這一幀的數(shù)據(jù)钱豁。
  • 當(dāng)視頻流中無B幀時,通常DTS和PTS的順序是一致的
  • 音頻中無B幀疯汁,所以音頻的DTS和PTS順序是一致的

音視頻同步牲尺,通常需要選擇一個參考時鐘,參考時鐘上的時間是線性遞增的,編碼音視頻流時依據(jù)參考時鐘上的時間給每一幀數(shù)據(jù)打上時間戳谤碳。播放時溃卡,讀取數(shù)據(jù)幀上的時間戳,同時參考當(dāng)前參考時鐘上的時間來安排播放蜒简。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末瘸羡,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子搓茬,更是在濱河造成了極大的恐慌犹赖,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,214評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件卷仑,死亡現(xiàn)場離奇詭異峻村,居然都是意外死亡,警方通過查閱死者的電腦和手機锡凝,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評論 2 382
  • 文/潘曉璐 我一進店門粘昨,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人窜锯,你說我怎么就攤上這事张肾。” “怎么了锚扎?”我有些...
    開封第一講書人閱讀 152,543評論 0 341
  • 文/不壞的土叔 我叫張陵吞瞪,是天一觀的道長。 經(jīng)常有香客問我工秩,道長尸饺,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,221評論 1 279
  • 正文 為了忘掉前任助币,我火速辦了婚禮浪听,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘眉菱。我一直安慰自己迹栓,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 64,224評論 5 371
  • 文/花漫 我一把揭開白布俭缓。 她就那樣靜靜地躺著克伊,像睡著了一般。 火紅的嫁衣襯著肌膚如雪华坦。 梳的紋絲不亂的頭發(fā)上愿吹,一...
    開封第一講書人閱讀 49,007評論 1 284
  • 那天,我揣著相機與錄音惜姐,去河邊找鬼犁跪。 笑死椿息,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的坷衍。 我是一名探鬼主播寝优,決...
    沈念sama閱讀 38,313評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼枫耳!你這毒婦竟也來了乏矾?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 36,956評論 0 259
  • 序言:老撾萬榮一對情侶失蹤迁杨,失蹤者是張志新(化名)和其女友劉穎钻心,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體铅协,經(jīng)...
    沈念sama閱讀 43,441評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡扔役,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,925評論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了警医。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,018評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡坯钦,死狀恐怖预皇,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情婉刀,我是刑警寧澤吟温,帶...
    沈念sama閱讀 33,685評論 4 322
  • 正文 年R本政府宣布,位于F島的核電站突颊,受9級特大地震影響鲁豪,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜律秃,卻給世界環(huán)境...
    茶點故事閱讀 39,234評論 3 307
  • 文/蒙蒙 一爬橡、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧棒动,春花似錦糙申、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至粱锐,卻和暖如春疙挺,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背怜浅。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評論 1 261
  • 我被黑心中介騙來泰國打工铐然, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 45,467評論 2 352
  • 正文 我出身青樓锦爵,卻偏偏與公主長得像舱殿,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子险掀,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,762評論 2 345

推薦閱讀更多精彩內(nèi)容

  • 教程一:視頻截圖(Tutorial 01: Making Screencaps) 首先我們需要了解視頻文件的一些基...
    90后的思維閱讀 4,654評論 0 3
  • 視頻壓縮中沪袭,每幀代表一幅靜止的圖像。而在實際壓縮時樟氢,會采取各種算法減少數(shù)據(jù)的容量冈绊,其中IPB就是最常見的。 簡單地...
    wo不懂閱讀 7,779評論 0 16
  • 視頻 視頻的播放過程可以簡單理解為一幀一幀的畫面按照時間順序呈現(xiàn)出來的過程,就像在一個本子的每一頁畫上畫碴开,然后快速...
    霜之幽語閱讀 1,741評論 0 5
  • 基礎(chǔ)知識 1毅该、碼流(碼率) 碼流(Data Rate)是指視頻文件在單位時間內(nèi)使用的數(shù)據(jù)流量,也叫碼率或碼流率潦牛,通...
    zjjcc閱讀 18,598評論 1 14
  • [TOC] 音視頻&流媒體 是什么促使我要寫這一篇音視頻入門文章眶掌?那是因為和一妹子打賭碼率的概念,結(jié)果輸了巴碗;對一個...
    AllenWu閱讀 4,794評論 1 25