本文轉(zhuǎn)自:FFmpeg 入門(2):輸出視頻到屏幕 | www.samirchen.com
SDL
我們這里使用 SDL 來渲染視頻到屏幕。SDL 是 Simple Direct Layer 的縮寫,是一個優(yōu)秀的跨平臺多媒體庫,你可以從 http://www.libsdl.org 下載 SDL 的庫。
SDL 有很多可以將圖像繪制都屏幕的方法匈辱,其中有一個專門用于將視頻渲染到屏幕進(jìn)行播放,即 YUV overlay。
YUV(其實(shí)這里叫 YCbCr 更準(zhǔn)確)是不同于 RGB 的另一種存儲原始圖像數(shù)據(jù)的方式断楷。簡單來講,Y 是表示「亮度」崭别,U 和 V 表示「色度」冬筒,YUV 的關(guān)鍵是在于它的亮度信號 Y 和色度信號 U、V 是分離的茅主。那就是說即使只有 Y 信號分量而沒有 U舞痰、V 分量,我們?nèi)匀豢梢员硎境鰣D像诀姚,只不過圖像是黑白灰度圖像响牛。在YCbCr 中 Y 是指亮度分量,Cb 指藍(lán)色色度分量,而 Cr 指紅色色度分量呀打。
SDL 的 YUV overlay 可以接收一組 YUV 數(shù)據(jù)然后顯示它论衍。它支持 4 種不同的 YUV 格式,其中 「YV12」 是最快的聚磺。另一種 YUV 格式是 「YUV420P」也叫 「I420」坯台,基本上和 「YV12」 是一樣的,就是把 U 和 V 數(shù)組換了一下位置瘫寝。
- YV12:亮度(行×列) + U(行×列/4) + V(行×列/4)
- I420:亮度(行×列) + V(行×列/4) + U(行×列/4)
更多 YUV420P 相關(guān)的信息蜒蕾,可以看這里:Chroma subsampling。
這里我們要做的是將上一個教程中的 SaveFrame()
函數(shù)去掉焕阿,換成渲染視頻的邏輯咪啡。這里我們需要了解下給如何使用 SDL 庫,首先我們需要 include SDL 庫并初始化它:
#include <SDL.h>
#include <SDL_thread.h>
if (SDL_Init(SDL_INIT_VIDEO | SDL_INIT_AUDIO | SDL_INIT_TIMER)) {
fprintf(stderr, "Could not initialize SDL - %s\n", SDL_GetError());
exit(1);
}
SDL_Init()
函數(shù)用來配置我們要用的功能特性暮屡,SDL_GetError()
是一個調(diào)試用的函數(shù)撤摸,用于輸出錯誤信息。
創(chuàng)建顯示界面
現(xiàn)在我們需要屏幕上的一塊界面來渲染媒體視頻褒纲,在 SDL 里這個界面叫做 SDL_Surface
:
SDL_Surface *screen = NULL;
// Make a screen to put our video.
#ifndef __DARWIN__
screen = SDL_SetVideoMode(pCodecCtx->width, pCodecCtx->height, 0, 0);
#else
screen = SDL_SetVideoMode(pCodecCtx->width, pCodecCtx->height, 24, 0);
#endif
if (!screen) {
fprintf(stderr, "SDL: could not set video mode - exiting\n");
exit(1);
}
上面的代碼中 SDL_SetVideoMode()
函數(shù)使用我們給定的寬高創(chuàng)建了一塊界面准夷,其中第三個參數(shù)是表示每個像素的比特?cái)?shù),如果為 0 則表示使用當(dāng)前的顯示一樣的設(shè)置莺掠。但是在 OS X 上 0 是無效的衫嵌,這里在 OS X 上設(shè)為 24。
接著彻秆,我們創(chuàng)建 YUV overlay 來輸出我們的視頻楔绞,同時這里我們使用 SwsContext
來將圖像轉(zhuǎn)換為 YUV420 格式:
struct SwsContext *sws_ctx = NULL;
SDL_Overlay *bmp = NULL;
// Allocate a place to put our YUV image on that screen.
bmp = SDL_CreateYUVOverlay(pCodecCtx->width, pCodecCtx->height, SDL_YV12_OVERLAY, screen);
sws_ctx = sws_getContext(pCodecCtx->width, pCodecCtx->height, pCodecCtx->pix_fmt, pCodecCtx->width, pCodecCtx->height, AV_PIX_FMT_YUV420P, SWS_BILINEAR, NULL, NULL, NULL);
如我們前面所說,用 FFmpeg 從視頻中獲得 YUV420P 的數(shù)據(jù)唇兑,用 SDL 支持的 YV12 來進(jìn)行渲染酒朵。
顯示圖像
現(xiàn)在我們要開始顯示圖像了,直接來看當(dāng)我們獲得完整的一幀圖像時的代碼:這里我們要創(chuàng)建一個 AVFrame
并將它的 data
和 linesize
的一組指針指向 YUV overlay:
// Did we get a video frame?
if (frameFinished) {
SDL_LockYUVOverlay(bmp);
AVFrame pict;
pict.data[0] = bmp->pixels[0];
pict.data[1] = bmp->pixels[2];
pict.data[2] = bmp->pixels[1];
pict.linesize[0] = bmp->pitches[0];
pict.linesize[1] = bmp->pitches[2];
pict.linesize[2] = bmp->pitches[1];
// Convert the image into YUV format that SDL uses.
sws_scale(sws_ctx, (uint8_t const * const *)pFrame->data, pFrame->linesize, 0, pCodecCtx->height, pict.data, pict.linesize);
SDL_UnlockYUVOverlay(bmp);
}
由于我們需要向 YUV overlay 寫入數(shù)據(jù)扎附,這時候我們先給它加鎖蔫耽。AVFrame
這個結(jié)構(gòu)體的 data
數(shù)組中存儲的是 4 個通道指針,可以指向不同的通道帕棉,由于我們這里處理的 YUV420P 只有 Y针肥、Cb、Cr 這 3 個通道香伴,所以這里只有 3 組數(shù)據(jù)慰枕。處理其他格式時可能會遇到有 4 個通道數(shù)據(jù)的,比如 alpha 通道之類的即纲。linesize
是每個通道的數(shù)據(jù)尺寸具帮。在 YUV overlay 中與 data 和 linesize 對應(yīng)的是 pixels
和 pitches
(在 SDL 里 pitches 指的是一個 line 的數(shù)據(jù)的寬度)。我們這里做的便是將 pict.data
的 3 個數(shù)組指針指向 YUV overlay 對應(yīng)的數(shù)據(jù)。這樣一來蜂厅,當(dāng)我們向 pict
中寫入數(shù)據(jù)時匪凡,其實(shí)我們是寫到了 YUV overlay 中,overlay 中的內(nèi)存則已經(jīng)是分配好了的掘猿。我們在前面通過 sws_ctx
設(shè)置了目標(biāo)格式為 AV_PIX_FMT_YUV420P
病游,接著我們用 sws_scale()
函數(shù)來完成轉(zhuǎn)換。
渲染圖像
接著我們要做的就是調(diào)用 SDL_DisplayYUVOverlay()
函數(shù)讓 SDL 來渲染我們給它的數(shù)據(jù)稠通,這時我們需要傳入一個矩形區(qū)域數(shù)據(jù)告訴它從哪個點(diǎn)開始渲染衬衬,以及對應(yīng)的寬度和高度。SDL 會幫我們做好縮放改橘,并能夠使用 GPU 來使圖像渲染更快滋尉。
SDL_Rect rect;
if (frameFinished) {
/* ... code ... */
// Convert the image into YUV format that SDL uses.
sws_scale(sws_ctx, (uint8_t const * const *)pFrame->data, pFrame->linesize, 0, pCodecCtx->height, pict.data, pict.linesize);
SDL_UnlockYUVOverlay(bmp);
rect.x = 0;
rect.y = 0;
rect.w = pCodecCtx->width;
rect.h = pCodecCtx->height;
SDL_DisplayYUVOverlay(bmp, &rect);
}
// Free the packet that was allocated by av_read_frame.
av_packet_unref(&packet);
到這里,我們的視頻就可以顯示了飞主。
接下來狮惜,我們來看看 SDL 的另一個功能:事件系統(tǒng)。SDL 的事件系統(tǒng)使得你可以接收用戶的輸入碌识,從而完成一些控制操作碾篡,在多線程編程時這個尤其有用。在這里丸冕,我們處理一個簡單的 SDL_QUIT
事件耽梅,讓我們可以退出程序。
SDL_Event event;
SDL_PollEvent(&event);
switch (event.type) {
case SDL_QUIT:
printf("SDL_QUIT\n");
SDL_Quit();
exit(0);
break;
default:
break;
}
以上便是我們這節(jié)教程的全部內(nèi)容胖烛,其中的完整代碼你可以從這里獲得:https://github.com/samirchen/TestFFmpeg
編譯執(zhí)行
你可以使用下面的命令編譯它:
$ gcc -o tutorial02 tutorial02.c -lavutil -lavformat -lavcodec -lswscale -lz -lm `sdl-config --cflags --libs`
找一個視頻文件,你可以這樣執(zhí)行一下試試:
$ tutorial02 myvideofile.mp4