GPUImage詳細解析(十一)美顏+人臉識別

前言

一個群友用琨君的美顏錄制和訊飛離線人臉識別SDK做了一個demo沐序,功能是錄制視頻,要求有美顏,并且能識別人臉并放置貼圖溯泣。但是遇到一個問題:
錄制過程能過進行人臉識別,也有美顏效果榕茧;
但是錄制的視頻垃沦,有美顏效果,但沒有貼圖用押;

在幫忙查找bug的過程中肢簿,發(fā)現代碼寫得略復雜,不便于學習。
于是池充,抽空把核心代碼抽離出來桩引,做成了本次的demo

效果如下

正文

核心邏輯

demo的流程圖如下


GPUImage詳細解析(三)- 實時美顏濾鏡的基礎上收夸,引入了IFlyFaceDetector類坑匠,用GPUImageUIElement來繪制人臉識別后的貼圖,并用GPUImageAddBlendFilter把美顏后的圖像(GPUImageBeautifyFilter)和貼圖(GPUImageUIElement)合并卧惜,傳給GPUImageMovieWriter寫入文件厘灼。

人臉識別相關

IFlyFaceDetector
IFlyFaceDetector是訊飛提供的本地人臉檢測類,可以人臉檢測咽瓷、視頻流檢測功能设凹。
初始化代碼如下

    self.faceDetector = [IFlyFaceDetector sharedInstance];
    if(self.faceDetector){
        [self.faceDetector setParameter:@"1" forKey:@"detect"];
        [self.faceDetector setParameter:@"1" forKey:@"align"];
    }

demo會用到IFlyFaceDetector對NSData的識別接口


/**
 *  檢測frame視頻幀中的人臉
 *
 *  @param frame   視頻幀數據
 *  @param width  視頻幀圖像寬
 *  @param height 視頻幀圖像高
 *  @param dir    圖像的方向
 *
 *  @return json格式人臉數組,沒有檢測到人臉則返回空
 */
- (NSString*)trackFrame:(NSData*)frame withWidth:(int)width height:(int)height direction:(int)dir;

CanvasView
CanvasView是群友提供demo中的繪制貼圖類茅姜,可以對頭部闪朱、眼睛、鼻子匈睁、嘴巴监透、面部進行貼圖,本demo會用到headMap頭部貼圖航唆。

//頭部貼圖
@property (nonatomic,strong) UIImage *  headMap;
//眼睛貼圖
@property (nonatomic,strong) UIImage * eyesMap;
//鼻子貼圖
@property (nonatomic,strong) UIImage * noseMap;
//嘴巴貼圖
@property (nonatomic,strong) UIImage * mouthMap;
//面部貼圖
@property (nonatomic,strong) UIImage * facialTextureMap;

GPUImage相關

GPUImageAddBlendFilter
繼承類GPUImageTwoInputFilter用于合并兩個圖像胀蛮,公式如下:

    float r; // 顏色的紅色分量
     if (overlay.r * base.a + base.r * overlay.a >= overlay.a * base.a) {
         r = overlay.a * base.a + overlay.r * (1.0 - base.a) + base.r * (1.0 - overlay.a);
     } else {
         r = overlay.r + base.r;
     }

GPUImageUIElement
GPUImageUIElement繼承GPUImageOutput類,作為響應鏈的源頭糯钙。
通過CoreGraphics把UIView渲染到圖像粪狼,并通過glTexImage2D綁定到outputFramebuffer指定的紋理,最后通知targets紋理就緒任岸。

demo中的作用是把CanvasView轉成紋理再榄,并傳遞給GPUImageAddBlendFilter。

遇到的問題

1享潜、貼圖無法出現在錄制的視頻中

啟動群友提供的demo困鸥,預覽正常,錄制的視頻確實沒有貼圖剑按;
檢查響應鏈代碼疾就,發(fā)現代碼的實現存在一個問題:
預覽的幀和寫入視頻的幀不是相同的,GPUImageUIElement的輸出的結果是直接指向合并的filter艺蝴,合并后的圖像直接輸給writer寫入文件猬腰;屏幕的貼圖預覽效果是因為canvasView直接被addsubview到視圖層中。
懷疑是GPUImageUIElement繪制的紋理的為空猜敢。通過檢查GPU的紋理姑荷,GPUImageUIElement對應紋理id的紋理預覽為正常盒延,排除這個問題。
檢查美顏filter的輸出鼠冕,同樣正常添寺。
檢查合并filter的輸出,發(fā)現貼圖消失懈费。
定位到是合并filter的問題畦贸,檢查著色器代碼,正常楞捂。
檢查初始化代碼薄坏,找到問題所在:

群友把合并的filter的mix=0.0;導致合并的filter只取第一個的圖像寨闹。

小結胶坠,在查找bug的過程,因為demo較為復雜繁堡,花費了較多時間熟悉代碼沈善;通過Xcode的工具,可以較快定位大多數GPUImage 的問題椭蹄。

2闻牡、貼圖沒有隨著臉移動

測試本demo的過程中,出現過貼圖固定住不動的情況绳矩。
通過檢查人臉識別的輸出結果罩润,確定人臉識別的輸出是正常;
檢查canvasView的更新翼馆,發(fā)現問題:
canvasView沒有更新割以。

解決方案是把canvasView添加到視圖層。
但不知道是否為[self.viewCanvas setNeedsDisplay];造成的影響应媚。

總結

demo在這里严沥,代碼較短。
因為是每幀識別中姜,所以CPU的消耗較高消玄。
如果是實際應用,可以考慮3~5幀左右做一次人臉識別丢胚。
還有另外一個簡單的思路:把輸入從攝像頭變成視頻翩瓜,對視頻進行逐幀人臉識別并吧貼圖合并到視頻中。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末嗜桌,一起剝皮案震驚了整個濱河市奥溺,隨后出現的幾起案子辞色,更是在濱河造成了極大的恐慌骨宠,老刑警劉巖浮定,帶你破解...
    沈念sama閱讀 206,126評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現場離奇詭異层亿,居然都是意外死亡桦卒,警方通過查閱死者的電腦和手機,發(fā)現死者居然都...
    沈念sama閱讀 88,254評論 2 382
  • 文/潘曉璐 我一進店門匿又,熙熙樓的掌柜王于貴愁眉苦臉地迎上來方灾,“玉大人,你說我怎么就攤上這事碌更≡3ィ” “怎么了?”我有些...
    開封第一講書人閱讀 152,445評論 0 341
  • 文/不壞的土叔 我叫張陵痛单,是天一觀的道長嘿棘。 經常有香客問我,道長旭绒,這世上最難降的妖魔是什么鸟妙? 我笑而不...
    開封第一講書人閱讀 55,185評論 1 278
  • 正文 為了忘掉前任,我火速辦了婚禮挥吵,結果婚禮上重父,老公的妹妹穿的比我還像新娘。我一直安慰自己忽匈,他們只是感情好房午,可當我...
    茶點故事閱讀 64,178評論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著丹允,像睡著了一般歪沃。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上嫌松,一...
    開封第一講書人閱讀 48,970評論 1 284
  • 那天沪曙,我揣著相機與錄音,去河邊找鬼萎羔。 笑死液走,一個胖子當著我的面吹牛,可吹牛的內容都是我干的贾陷。 我是一名探鬼主播缘眶,決...
    沈念sama閱讀 38,276評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼髓废!你這毒婦竟也來了巷懈?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 36,927評論 0 259
  • 序言:老撾萬榮一對情侶失蹤慌洪,失蹤者是張志新(化名)和其女友劉穎顶燕,沒想到半個月后凑保,有當地人在樹林里發(fā)現了一具尸體,經...
    沈念sama閱讀 43,400評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡涌攻,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 35,883評論 2 323
  • 正文 我和宋清朗相戀三年欧引,在試婚紗的時候發(fā)現自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片恳谎。...
    茶點故事閱讀 37,997評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡芝此,死狀恐怖,靈堂內的尸體忽然破棺而出因痛,到底是詐尸還是另有隱情婚苹,我是刑警寧澤,帶...
    沈念sama閱讀 33,646評論 4 322
  • 正文 年R本政府宣布鸵膏,位于F島的核電站租副,受9級特大地震影響,放射性物質發(fā)生泄漏较性。R本人自食惡果不足惜用僧,卻給世界環(huán)境...
    茶點故事閱讀 39,213評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望赞咙。 院中可真熱鬧责循,春花似錦、人聲如沸攀操。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽速和。三九已至歹垫,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間颠放,已是汗流浹背排惨。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評論 1 260
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留碰凶,地道東北人暮芭。 一個月前我還...
    沈念sama閱讀 45,423評論 2 352
  • 正文 我出身青樓,卻偏偏與公主長得像欲低,于是被迫代替她去往敵國和親辕宏。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 42,722評論 2 345

推薦閱讀更多精彩內容

  • 發(fā)現 關注 消息 iOS 第三方庫砾莱、插件瑞筐、知名博客總結 作者大灰狼的小綿羊哥哥關注 2017.06.26 09:4...
    肇東周閱讀 12,022評論 4 62
  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 171,498評論 25 707
  • 陽光透過密林中的縫隙 照在地上 像是撒在地上的繁星 漫步于叢林 一種寧靜怡然的心緒 偶爾 天空飄下一片落葉 似蝴蝶...
    馬桶左便器閱讀 134評論 1 2
  • 情人別后 永遠不再來 也許有一天 我的意中人會乘著七彩祥云來找我 但也許 那個人 永遠都不會來 我已經做好了不被所...
    Min亦菲閱讀 188評論 0 1
  • 為了我們的那點執(zhí)念 第二事業(yè)部——李冬杰 2017年,是孤注一擲的一年腊瑟。今年聚假,自己有如下3...
    superdayou1980閱讀 408評論 0 0