通過webrtc的研究厌蔽,webrtc中默認(rèn)只支持了VP8,VP9兩種軟編解碼方式密末,不過硬編解碼,可以支持h264旷档,但是對(duì)于android或者說windows來說狠轻,是有很多機(jī)型需要適配h264,目前一些播放器大多也是以h264為主(例如flv,mp4等格式)彬犯,所以在android開發(fā)上,如何讓webrtc支持h264呢查吊?
首先我們分析如何在android上系統(tǒng)的支持h264編解碼谐区,h264編解碼分為軟編解碼和硬編解碼,對(duì)于硬編解碼逻卖,是Android系統(tǒng)自帶的MediaCodec.class提供編解碼方法宋列,默認(rèn)支持了vp8,vp9和h264,不過對(duì)于硬編解碼评也,webrtc對(duì)不同機(jī)型設(shè)置了白名單炼杖,也就是默認(rèn)只支持OMX.qcom.?和?OMX.Exynos灭返,這樣在測試的過程中,你會(huì)發(fā)現(xiàn)大多數(shù)機(jī)型都無法使用硬編解碼坤邪,這樣就需要添加OMX.hisi.熙含、OMX.MTK.,添加位置在HardwareVideoEncoderFactory.jav中的boolean isHardwareSupportedIncurrentSdk...()方法中艇纺;
上面修改了硬編解碼的白名單怎静,h264的軟編解碼,編碼器采用了openh264黔衡,解碼器采用了ffmpeg,這兩部分代碼都在src/thirdparty中蚓聘,編譯腳本分為單獨(dú)編譯各個(gè)模塊,和webrtc總的編譯模塊盟劫,webrtc.gni中的rtc_use_h264 = proprietary_codecs && !is_android && !is_ios && !(is_win && !is_clang),默認(rèn)情況下proprietary_codecs為false夜牡,所以需要修改proprtetary_codecs為true,后面的是平臺(tái)相關(guān)的,根據(jù)平臺(tái)侣签,去掉自己平臺(tái)的模塊塘装,修改true的方式可以直接設(shè)置為true,或者在編譯gnargs="proprietary_codecs=true"設(shè)置硝岗,這樣openh264可以啟動(dòng)編譯氢哮,至于ffmpeg,默認(rèn)是啟動(dòng)編譯了型檀,但是對(duì)于h264的解碼代碼部分冗尤,未加入編譯腳本中,所以進(jìn)入到third_party/ffmpeg/ffmpeg_generated.gni配置文件中胀溺,將所有關(guān)于h264的源文件添加編譯裂七,同樣,這里是分平臺(tái)相關(guān)的仓坞,里面已經(jīng)實(shí)現(xiàn)了很多關(guān)于音頻或者其他ffmepg的實(shí)現(xiàn)背零,添加內(nèi)容太多,我舉一個(gè)例子if ((is_mac && ffmpeg_branding == "Chrome")|| (is_android) || (is_win && ffmpeg_branding == "Chrome") || (use_linux_config && ffmpeg_branding == "Chrome") || (use_linux_config && ffmpeg_branding == "ChromeOS")) {
??ffmpeg_c_sources += [
????"libavcodec/cabac.c",
????"libavcodec/h2645_parse.c",
????"libavcodec/h264_cabac.c",
????"libavcodec/h264_cavlc.c",
????"libavcodec/h264_direct.c",
????"libavcodec/h264_loopfilter.c",
????"libavcodec/h264_mb.c",
????"libavcodec/h264_parse.c",
????"libavcodec/h264_parser.c",
????"libavcodec/h264_picture.c",
????"libavcodec/h264_ps.c",
????"libavcodec/h264_refs.c",
????"libavcodec/h264_sei.c",
????"libavcodec/h264_slice.c",
????"libavcodec/h264chroma.c",
????"libavcodec/h264data.c",
????"libavcodec/h264dec.c",
????"libavcodec/h264dsp.c",
????"libavcodec/h264idct.c",
????"libavcodec/h264qpel.c",
????"libavcodec/startcode.c",
??]
}
這就是一個(gè)關(guān)于h264的解析的源文件无埃,以前只有is_win和is_mac的判斷徙瓶,需要加入is_android也編譯源代碼,這就是為什么pc添加h264只需要添加一個(gè)編譯屬性即可嫉称,因?yàn)閮?nèi)部默認(rèn)實(shí)現(xiàn)了h264的編譯侦镇,同理,加上所有的h264的編譯源文件织阅,后面在測試中發(fā)現(xiàn)壳繁,新的版本av_register_all在注冊(cè)解碼器的時(shí)候發(fā)生error,這是舊版本沒有的,后面發(fā)現(xiàn)闹炉,新版本采用的ffmpeg是4.2,去掉了此方法蒿赢,改為靜態(tài)編譯,所以需要添加third_party/ffmpeg/chromium/config/Chromium/android/{ABI}/libavcodec/parser_list.c?和?third_party/ffmpeg/chromium/config/Chromium/android/{ABI}/libavcodec/codec_list.c?分別添加 h264 的 parser 和 decoder渣触,至此羡棵,h264的編解碼器都已經(jīng)集成到webrtc的編譯中
在pc中默認(rèn)是提供了h264的調(diào)用接口,那么android中沒有向jni和java層實(shí)現(xiàn)昵观,所以晾腔,下一步,實(shí)現(xiàn)底層的h264接口:
1.參照sdk/android/src/java/org/webrtc/VP8Decoder.java或者VP9Decoder.java啊犬,編寫出H264Decoder.java,這個(gè)是java調(diào)用jni的接口
2.參照sdk/android/jni/vp8codec.cc還活著vp9codec.cc實(shí)現(xiàn)h264codec.cc灼擂,編寫出jni調(diào)用底層c++的接口
3.在src/sdk/android/BUILD.gn中,將添加的h264文件添加到編譯腳本中
以上修改就完成了webrtc支持h264的軟編解碼全部流程:
Webrtc自帶提供的編譯后的結(jié)果是一個(gè)aar文件觉至,aar中包括了.so和jar等其他資源文件剔应,我通過jar的分析,在webrtc源碼中找到所有編譯的java源文件语御,然后移植到android studio進(jìn)行開發(fā)峻贮,這樣方便調(diào)試,至于底層c++代碼应闯,可以通過pc修改后移植進(jìn)去