多目標跟蹤之SORT,deep-SORT

與單目標跟蹤不同,多目標跟蹤是會產生新目標進入與舊目標消失昆著。在單目標跟蹤中瘟斜,我們往往會使用給定的初始框缸夹,在后續(xù)視頻幀中對初始框內的物體進行位置預測。而多目標跟蹤算法螺句,大部分都是不考慮初始框的虽惭。

在多目標跟蹤領域,常用的跟蹤策略是TBD(Tracking-by-Detection蛇尚,主流)和DFT(Detection-Free Tracking)芽唇。TBD,也可叫DBT(Detection-Based-Tracking)取劫。即在每一幀進行目標檢測匆笤,再利用目標檢測的結果來進行目標跟蹤,這一步我們一般稱之為數據關聯(lián)(Data Assoiation)谱邪。

跟蹤也可分為Online和offliine炮捧。在Online跟蹤中,我們只能使用當前幀及之前幀的信息來進行當前幀的跟蹤惦银。而在Offline跟蹤中則沒有了這個限制咆课,我們對每一幀的預測,都可以使用整個視頻的信息扯俱,這樣更容易獲得一個全局最優(yōu)解书蚪。

多目標跟蹤中常見名詞

  • Trajectory(軌跡):一條軌跡對應這一個目標在一個時間段內的位置序列
  • Tracklet(軌跡段):形成Trajectory過程中的軌跡片段。完整的Trajectory是由屬于同一物理目標的Tracklets構成的蘸吓。
  • ID switch(ID切換):又稱ID sw.善炫。對于同一個目標,由于跟蹤算法誤判库继,導致其ID發(fā)生切換的次數稱為ID sw.箩艺。跟蹤算法中理想的ID switch應該為0窜醉。

多目標跟蹤數據標簽格式
<frame>, <id>, <bb_left>, <bb_top>, <bb_width>, <bb_height>, <conf>, <x>, <y>, <z>
其中二維情況下,x,y,z設為-1艺谆,表示忽略榨惰;三維情況下,bbox忽略静汤。

與MOT相關的方向

SORT

目標狀態(tài)x=[u,v,s(面積),r(長寬比琅催,假設不變),\hat{u},\hat{v},\hat{s}].

在進行目標跟蹤時僅僅使用了檢測框的位置和大小進行目標的運動估計和數據關聯(lián),沒有使用任何被跟蹤目標的外觀特征或者任何的重識別的算法,所以當目標跟丟時虫给,就找不回來藤抡,只能通過檢測去重新更新ID。
為了解決動作預測和數據關聯(lián)抹估,使用了兩個十分高效的算法卡爾曼濾波和匈牙利算法缠黍。

  • 卡爾曼濾波:將預測值和測量值進行結合,對系統(tǒng)狀態(tài)進行最優(yōu)估計的算法药蜻。
  • 匈牙利算法(KM算法):假設有N個人和N個任務瓷式,每個任務可以任意分配給不同的人,已知每個人完成每個任務要花費的代價不盡相同语泽,合理分配使得總的代價最小贸典。代價矩陣用預測和檢測的框之間的IOU。

流程:檢測器得到detecions踱卵,卡爾曼濾波預測→ 計算代價矩陣→ 使用匈牙利算法將預測后的tracks和當前幀中的detecions進行IOU匹配 → 卡爾曼濾波更新廊驼。

軌跡創(chuàng)建:檢測的目標與其他軌跡的IOU都低于閾值。
軌跡刪除:T_{lost}幀沒檢測出颊埃,則刪除蔬充。

deepSORT:

目標狀態(tài)[u,v,r,h,x^*,y^*,r^*,h^*], 即bounding box的位置和大小,以及對應的速度信息班利。

基于外觀信息和馬氏距離的代價矩陣
馬氏距離,表示第j個detection和第i條軌跡之間的運動匹配度榨呆,S_i表示由卡爾曼計算的協(xié)方差矩陣罗标。

外觀信息,r_j表示特征描述子积蜻,|r_j|=1.R_i存放了第i個軌跡的100個特征描述子闯割。計算第j個detection和第i條軌跡之間的最小余弦距離。

級聯(lián)匹配





T_n表示在最近的n幀沒有與檢測結果匹配上竿拆。由小到大對消失時間相同的軌跡進行匹配宙拉,保證了對最近出現的軌跡賦予最大的優(yōu)先權。
最后丙笋,使用之前SORT算法中的IOU關聯(lián)去匹配n=1的unconfirmed(在連續(xù)若干幀(論文中是3幀)中是否連續(xù)匹配成功谢澈,是的話則認為是新軌跡產生煌贴,標注為'confirmed')和unmatched的軌跡。
級聯(lián)匹配

參考論文:
SORT:https://arxiv.org/pdf/1602.00763.pdf
deepSORT:https://arxiv.org/pdf/1703.07402.pdf
參考文章:
https://zhuanlan.zhihu.com/p/97449724?from_voters_page=true
https://zhuanlan.zhihu.com/p/59148865
https://blog.csdn.net/cdknight_happy/article/details/79731981
參考代碼:
https://github.com/abewley/sort
https://github.com/nwojke/deep_sort

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末锥忿,一起剝皮案震驚了整個濱河市牛郑,隨后出現的幾起案子,更是在濱河造成了極大的恐慌敬鬓,老刑警劉巖淹朋,帶你破解...
    沈念sama閱讀 206,968評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現場離奇詭異钉答,居然都是意外死亡础芍,警方通過查閱死者的電腦和手機,發(fā)現死者居然都...
    沈念sama閱讀 88,601評論 2 382
  • 文/潘曉璐 我一進店門数尿,熙熙樓的掌柜王于貴愁眉苦臉地迎上來仑性,“玉大人,你說我怎么就攤上這事砌创÷哺祝” “怎么了?”我有些...
    開封第一講書人閱讀 153,220評論 0 344
  • 文/不壞的土叔 我叫張陵嫩实,是天一觀的道長刽辙。 經常有香客問我,道長甲献,這世上最難降的妖魔是什么宰缤? 我笑而不...
    開封第一講書人閱讀 55,416評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮晃洒,結果婚禮上慨灭,老公的妹妹穿的比我還像新娘。我一直安慰自己球及,他們只是感情好氧骤,可當我...
    茶點故事閱讀 64,425評論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著吃引,像睡著了一般筹陵。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上镊尺,一...
    開封第一講書人閱讀 49,144評論 1 285
  • 那天朦佩,我揣著相機與錄音,去河邊找鬼庐氮。 笑死语稠,一個胖子當著我的面吹牛,可吹牛的內容都是我干的弄砍。 我是一名探鬼主播仙畦,決...
    沈念sama閱讀 38,432評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼输涕,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了议泵?” 一聲冷哼從身側響起占贫,我...
    開封第一講書人閱讀 37,088評論 0 261
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎先口,沒想到半個月后型奥,有當地人在樹林里發(fā)現了一具尸體,經...
    沈念sama閱讀 43,586評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡碉京,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,028評論 2 325
  • 正文 我和宋清朗相戀三年厢汹,在試婚紗的時候發(fā)現自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片谐宙。...
    茶點故事閱讀 38,137評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡烫葬,死狀恐怖,靈堂內的尸體忽然破棺而出凡蜻,到底是詐尸還是另有隱情搭综,我是刑警寧澤,帶...
    沈念sama閱讀 33,783評論 4 324
  • 正文 年R本政府宣布划栓,位于F島的核電站兑巾,受9級特大地震影響,放射性物質發(fā)生泄漏忠荞。R本人自食惡果不足惜蒋歌,卻給世界環(huán)境...
    茶點故事閱讀 39,343評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望委煤。 院中可真熱鬧堂油,春花似錦、人聲如沸碧绞。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,333評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽讥邻。三九已至寓免,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間计维,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,559評論 1 262
  • 我被黑心中介騙來泰國打工撕予, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留鲫惶,地道東北人。 一個月前我還...
    沈念sama閱讀 45,595評論 2 355
  • 正文 我出身青樓实抡,卻偏偏與公主長得像欠母,于是被迫代替她去往敵國和親欢策。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 42,901評論 2 345

推薦閱讀更多精彩內容