State Refinement for LSTM towards Pedestrian Trajectory Prediction

sumary

Research Objective

In crowd scenarios, predicte trajectory of pedestrains with social behaviors.
擁擠環(huán)境下墨榄,基于社會(huì)行為的行人軌跡預(yù)測(cè)

Backgroud and Problem

  • These behaviors have been well investigated by plenty of studies, while it is hard to be fully expressed by hand-craft rules.
    這些行為已經(jīng)被之前的工作很好的研究庆猫,然而它難以被手工設(shè)計(jì)的規(guī)則充分表現(xiàn)出來(lái)停局。
  • Recent studies based on LSTM networks have shown great ability to learn social behaviors. However, many of these methods rely on previous neighboring hidden states but ignore the important current intention of the neighbors.
    最近的一些基于LSTM網(wǎng)絡(luò)的研究展示了學(xué)習(xí)社會(huì)行為的強(qiáng)大的能力稚茅,然而拷邢,這些方法依賴(lài)先前的隱藏狀態(tài),而忽視了最重要的當(dāng)前鄰居的意圖忽洛。
    ---------------------------------
  • In order to address this issue, we propose a data-driven state refinement module for LSTM network (SRLSTM), which activates the utilization of the current intention of neighbors, and jointly and iteratively refines the current states of all participants in the crowd through a message passing mechanism.
    為了處理這個(gè)問(wèn)題,我打算設(shè)計(jì)一種SRLSTM網(wǎng)絡(luò)环肘,它進(jìn)行了當(dāng)前鄰居意圖的利用欲虚。

Methods

To effectively extract the social effect of neighbors, we further introduce a social-aware information selection mechanism consisting of an element-wise motion gate and a pedestrian-wise attention to select useful message from neighboring pedestrians.
為了有效率的提取鄰近行人的信息,我們?cè)O(shè)計(jì)了SR模塊悔雹。

  • 使用單層感知機(jī)將輸入向量嵌入成32維
  • 設(shè)置LSTM隱藏層為64維
  • 設(shè)置滑動(dòng)時(shí)間步長(zhǎng)為20欣喧,觀測(cè)8,預(yù)測(cè)12
  • min-batch 所有的相同時(shí)間段的行人軌跡
  • Adam優(yōu)化器訓(xùn)練300輪 學(xué)習(xí)率設(shè)置為0.001
  • SR層基本參數(shù)都設(shè)置好了唆阿,只訓(xùn)練 額外的重定義層

component of model

MG 動(dòng)作檢測(cè)
PA 行人注意力
許多個(gè) 表示重定義層
鄰近區(qū)域的范圍 用超參數(shù)來(lái)進(jìn)行標(biāo)定
(這些都是可以添加的模塊锈锤,其中 MG PA NS=10,L=2,c/p=c效果是最好的)

1.Problem formulation

擁擠環(huán)境下的行人軌跡預(yù)測(cè)

2.V-LSTM

考慮所有行人之間的關(guān)系但是忽略了他們之間的相互作用

3. SR-LSTM

位置距離信息 (學(xué)習(xí)參數(shù))得到 r
r h h 的得到 u 多個(gè)u得到 (阿爾法)
rhh 得到 g 感知門(mén)

Evaluation

Experimental results on two public datasets, i.e. ETH and UCY牙咏,we
achieve state-of-the-art results.
在兩個(gè)公共數(shù)據(jù)集(ETH嘹裂、UCY)上的實(shí)驗(yàn)結(jié)果顯示我們的取得了最好的結(jié)果。

1.Dataset

ETH 和 UCY 包含了豐富的社會(huì)交互信息寄狼,包括五個(gè)數(shù)據(jù)集ETH-univ, ETH-hotel, UCY-zara01,UCY-zara02 and UCY-univ,包含了1536個(gè)行人一共伊磺,和上千條軌跡。

1.Data Processing

  • Rela / Nabs 相對(duì)位置移動(dòng) 絕對(duì)位置移動(dòng)
  • UEF 幀率校正
  • RR 隨機(jī)調(diào)整方向

2.component of model(在網(wǎng)絡(luò)添加一些有效果的模塊)

MG 動(dòng)作檢測(cè)
PA 行人注意力
許多個(gè) 表示重定義層
鄰近區(qū)域的范圍 用超參數(shù)來(lái)進(jìn)行標(biāo)定
(這些都是可以添加的模塊屑埋,其中 MG PA NS=10痰滋,L=2,c/p=c效果是最好的)
(得到最終最好的網(wǎng)絡(luò)模型,與之前的網(wǎng)絡(luò)模型進(jìn)行比較)

3.Evaluation method

leave-one-out
MAD 所有時(shí)間步軌跡偏差的平均值
FAD 最近的一個(gè)點(diǎn)的軌跡偏差
軌跡序列間隔是o.4ms敲街,觀測(cè)步長(zhǎng)是8,預(yù)測(cè)步長(zhǎng)是12


度量方法

4.Implementation details

超參數(shù)

(得到最優(yōu)的自己的模型)

5. comparison with existing works

Social-LSTM
SGAN
Sophie
V-LSTM


SR-LSTM

message passing:進(jìn)行當(dāng)前狀態(tài)的重新表示

6. Qualitative Results

feature refinement from current state
從當(dāng)前狀態(tài)的特征重定義

7.xxxx

motion gate 感知他和他的鄰近行人之間的隱藏特征信息
Pedestrian-wise attention(這個(gè)行人所注意的是哪些信息)
social-aware information selection mechanism 就是由這兩部分組成的

Conclusion

This result demonstrates the effectiveness of our proposed SR-LSTM.
這個(gè)結(jié)果證明了我們方法的有效性逻恐。
** 當(dāng)前所有行人的隱藏特征 **
我們狀態(tài)細(xì)化模塊進(jìn)行了特征的提取峻黍,它自適應(yīng)的定義當(dāng)前行人們的特征基于信息傳遞機(jī)制, an element-wise motion gate and a pedestrian-wise attention姆涩,選取每個(gè)行人的有用的信息。

Notes

Reference

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末轻局,一起剝皮案震驚了整個(gè)濱河市洪鸭,隨后出現(xiàn)的幾起案子仑扑,更是在濱河造成了極大的恐慌,老刑警劉巖镇饮,帶你破解...
    沈念sama閱讀 218,941評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件储藐,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡钙勃,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,397評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)蔚携,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)克饶,“玉大人酝蜒,你說(shuō)我怎么就攤上這事矾湃。” “怎么了邀跃?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,345評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵坞嘀,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我丽涩,道長(zhǎng),這世上最難降的妖魔是什么矢渊? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,851評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮移必,結(jié)果婚禮上毡鉴,老公的妹妹穿的比我還像新娘秒赤。我一直安慰自己,他們只是感情好入篮,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,868評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布幌甘。 她就那樣靜靜地躺著,像睡著了一般锅风。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上肮帐,一...
    開(kāi)封第一講書(shū)人閱讀 51,688評(píng)論 1 305
  • 那天漱逸,我揣著相機(jī)與錄音游沿,去河邊找鬼饰抒。 笑死诀黍,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的眯勾。 我是一名探鬼主播,決...
    沈念sama閱讀 40,414評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼也颤,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼郁轻!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起好唯,我...
    開(kāi)封第一講書(shū)人閱讀 39,319評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎蜕提,沒(méi)想到半個(gè)月后靶端,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體谎势,經(jīng)...
    沈念sama閱讀 45,775評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡它浅,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,945評(píng)論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了姐霍。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,096評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡胯府,死狀恐怖恨胚,靈堂內(nèi)的尸體忽然破棺而出骂因,到底是詐尸還是另有隱情赃泡,我是刑警寧澤,帶...
    沈念sama閱讀 35,789評(píng)論 5 346
  • 正文 年R本政府宣布俄烁,位于F島的核電站,受9級(jí)特大地震影響页屠,放射性物質(zhì)發(fā)生泄漏蓖柔。R本人自食惡果不足惜辰企,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,437評(píng)論 3 331
  • 文/蒙蒙 一牢贸、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧潜索,春花似錦、人聲如沸帮辟。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,993評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至并炮,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間逃魄,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,107評(píng)論 1 271
  • 我被黑心中介騙來(lái)泰國(guó)打工伍俘, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留勉躺,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,308評(píng)論 3 372
  • 正文 我出身青樓妨退,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親咬荷。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,037評(píng)論 2 355