android 音視頻基礎知識普及

推流端? 采集 處理 編碼 推流

服務端? 轉碼 錄制 截圖 鑒黃

播放端? 拉流 解碼 渲染

互動系統(tǒng) 聊天 禮物 點贊

1fps = 1280*720*1.5bit =1382400bit = 172800byte = 172KB

1秒 = 30fps = 5160KB = 5M

1秒5m數(shù)據(jù)量就可以看了

H264 = 172K+30 P幀 = 500K

編碼壓縮數(shù)據(jù)空間太示,減少傳輸空間

H264 空間 時間? 編碼? 視覺? 4個冗余

NALU 網(wǎng)絡提取層單元

sps 圖片序列 pps 圖片信息 I幀 幀內(nèi) P幀 前向 B幀 雙向

GOP 兩個I幀圖像組 秒開原理

H264主流 H265 VP8 VP9

音頻編碼:sac ppm wav ogg

視頻編碼:fav ts avi等

推流協(xié)議:

rtmp 最廣泛? cdn 簡單 基礎tcp 傳輸成本高

webrtc w3c 基于udp? cdn支持差

ump 定制化空間大 成本高 cdn 不友好

優(yōu)化:保證音頻傳送 調(diào)整碼率 fps 分辨率? 減少數(shù)據(jù)

服務端: 轉碼 錄制截圖 點播 分發(fā)協(xié)議分發(fā)到客戶端

拉流: rump http-flv hls

解碼:編碼逆過程 提取原始數(shù)據(jù)

渲染

交互: 聊天 禮物

常用工具:

推流 OBS Studio

播放端 cutv 測試工具

softe aac /h264bsanalyzer /flvparse /yuvplayer

直播sdk:

阿里云 騰訊云 金山云 ucloud 七牛云

rtmp 實時消息傳輸: tcp/ip 應用層協(xié)議? 推送/直播? 基本數(shù)據(jù)單元為消息

1B 消息類型? 2B 長度? 3B 時間 4B? 流id 消息體

傳輸時 消息回被拆分成消息塊 chunk chunk header + chunk data

flv: 大塊音視頻 加入標記頭信息? 延遲表現(xiàn)和大規(guī)模并發(fā)成熟

HLS:分成5-10s 用m3u8索引管理 用于朋友圈分享?

m3u8索引: 直播信號源--視頻編碼器(后臺視頻處理)--流切片器--各種ts媒體文件(分發(fā)模塊)--索引文件(數(shù)據(jù)庫)--客戶端

cdn網(wǎng)絡 為了解決用戶訪問資源慢出現(xiàn)的技術

邊緣節(jié)點? 二級節(jié)點(大城市) 源站

搭建流媒體服務:

準備流媒體服務器 linux max 編譯安裝nginx服務? 配置rtmp服務并啟動nginx服務

聲音三要素:音調(diào) 音量 音色

音頻量化(模數(shù)轉換):模擬數(shù)據(jù) 采樣? 量化 編碼? 數(shù)字信號? == 0101001110

碼率 = 采樣率(1.6w/44.1/48k)x 采樣大小(8位-電話/16位-常見) x 聲道數(shù)(單/雙)

音頻壓縮: 有損消除冗余數(shù)據(jù)? 哈夫曼無損編碼

音頻編碼: 時域轉頻域---心里聲學模型---量化編碼---比特流格式化---比特流

音頻編解碼 : opus(口 耳 實時互動 最快)? aac(直播用 次快)? speed(回音 降噪等)? g.711(固話)

aac : 取代mp3 加入 sir ps 技術?

aac lc 128k / aac he v2 64k /? aac he v2 32k/

aac 格式 : adif 從頭開始解碼,用在磁盤文件中? adts 每一幀都有一個同步字祭务,可以在任何位置解碼

aac 編碼庫 : libfdk_aac > ffmpeg aac >libfaac> libvo_aacenc

H264: I幀 關鍵 幀內(nèi)壓縮? / p幀 向前參考1幀 / B幀 雙向參考幀

sps: 序列參數(shù)集/pps:圖像參數(shù)集

GOF: 一組幀數(shù)? p幀丟失 會花屏卡頓

視頻編碼器: x264/x265 /open h264(svc)/vp8/vp9

h264 壓縮技術-編碼原理: 幀內(nèi)預測壓縮镀迂,空域冗余數(shù)據(jù)/幀間預測壓縮掸宛,時域冗余數(shù)據(jù)/dcp整數(shù)離散余炫變換,傅立葉變換/cabac壓縮

h264結構:視頻序列--圖像--片--宏塊--子快

h264編碼分層:nal 視頻數(shù)據(jù)網(wǎng)絡抽象層--vcl 視頻數(shù)據(jù)編碼層

碼率:sodb 原始比特流 / rbsp sodb最后補1 / ebsp 起始碼增加一個起始位0x03 /? nalu nal+ebsp

nal unit = nalu 頭部 + 一個切片(頭/數(shù)據(jù)) 切片

yuv格式:4:4:4/4:4:2/4:2:0 (平坦編碼 /半平坦編碼)

最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末招拙,一起剝皮案震驚了整個濱河市唧瘾,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌别凤,老刑警劉巖饰序,帶你破解...
    沈念sama閱讀 206,214評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異规哪,居然都是意外死亡求豫,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評論 2 382
  • 文/潘曉璐 我一進店門诉稍,熙熙樓的掌柜王于貴愁眉苦臉地迎上來徘溢,“玉大人撑蒜,你說我怎么就攤上這事。” “怎么了切诀?”我有些...
    開封第一講書人閱讀 152,543評論 0 341
  • 文/不壞的土叔 我叫張陵灾挨,是天一觀的道長药薯。 經(jīng)常有香客問我薄料,道長,這世上最難降的妖魔是什么仍源? 我笑而不...
    開封第一講書人閱讀 55,221評論 1 279
  • 正文 為了忘掉前任心褐,我火速辦了婚禮,結果婚禮上笼踩,老公的妹妹穿的比我還像新娘逗爹。我一直安慰自己,他們只是感情好嚎于,可當我...
    茶點故事閱讀 64,224評論 5 371
  • 文/花漫 我一把揭開白布掘而。 她就那樣靜靜地躺著挟冠,像睡著了一般。 火紅的嫁衣襯著肌膚如雪镣屹。 梳的紋絲不亂的頭發(fā)上圃郊,一...
    開封第一講書人閱讀 49,007評論 1 284
  • 那天价涝,我揣著相機與錄音女蜈,去河邊找鬼。 笑死色瘩,一個胖子當著我的面吹牛伪窖,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播居兆,決...
    沈念sama閱讀 38,313評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼覆山,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了泥栖?” 一聲冷哼從身側響起簇宽,我...
    開封第一講書人閱讀 36,956評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎吧享,沒想到半個月后魏割,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,441評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡钢颂,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,925評論 2 323
  • 正文 我和宋清朗相戀三年钞它,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片殊鞭。...
    茶點故事閱讀 38,018評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡遭垛,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出操灿,到底是詐尸還是另有隱情锯仪,我是刑警寧澤,帶...
    沈念sama閱讀 33,685評論 4 322
  • 正文 年R本政府宣布趾盐,位于F島的核電站卵酪,受9級特大地震影響,放射性物質發(fā)生泄漏谤碳。R本人自食惡果不足惜溃卡,卻給世界環(huán)境...
    茶點故事閱讀 39,234評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望蜒简。 院中可真熱鬧瘸羡,春花似錦、人聲如沸搓茬。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至峻村,卻和暖如春麸折,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背粘昨。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評論 1 261
  • 我被黑心中介騙來泰國打工垢啼, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人张肾。 一個月前我還...
    沈念sama閱讀 45,467評論 2 352
  • 正文 我出身青樓芭析,卻偏偏與公主長得像,于是被迫代替她去往敵國和親吞瞪。 傳聞我的和親對象是個殘疾皇子馁启,可洞房花燭夜當晚...
    茶點故事閱讀 42,762評論 2 345

推薦閱讀更多精彩內(nèi)容

  • 直播流程: 1、 采集視頻芍秆、音頻攝像頭 NV21 camera麥克風 pcm數(shù)據(jù)2惯疙、 視頻處理美顏、水印妖啥、濾鏡3霉颠、...
    書文換酒錢閱讀 1,398評論 0 1
  • 什么是視頻直播? 直播就是將每一幀數(shù)據(jù)(Vide/Audio/Data Frame)迹栓,打上時序標簽(Timesta...
    Paul_Cent閱讀 4,523評論 0 1
  • 直播的過程包括:采集掉分、處理、編碼克伊、封包酥郭、推流、傳輸愿吹、轉碼不从、分發(fā)、拉流犁跪、解碼椿息、播放。每一個環(huán)境都會有很多的坑坷衍,都需要...
    Paul_Cent閱讀 1,209評論 0 0
  • CDN全稱為Content Delivery Network即內(nèi)容分發(fā)網(wǎng)絡寝优,是一個策略性部署的整體系統(tǒng),主要解決由...
    Paul_Cent閱讀 448評論 0 1
  • [TOC] 音視頻&流媒體 是什么促使我要寫這一篇音視頻入門文章枫耳?那是因為和一妹子打賭碼率的概念乏矾,結果輸了;對一個...
    AllenWu閱讀 4,794評論 1 25