使用GAN實現(xiàn)可變形醫(yī)學圖像配準DEFORMABLE MEDICAL IMAGE REGISTRATION USING GENERATIVE ADVERSARIAL NETWORKS

題目 :使用GAN實現(xiàn)可變形醫(yī)學圖像配準

傳統(tǒng)的深度學習配準方法都采用迭代方法,作者采用GAN實現(xiàn)了一種端到端的多模態(tài)圖像配準方法,消除了傳統(tǒng)方法耗時的迭代直接生成有變形場的配準圖像。
前人工作:
Sokooti et. al.[6]提出RegNet,它使用經(jīng)過模擬變形訓(xùn)練的CNNs為一對單一模態(tài)圖像生成位移向量場。
Vos et. al. [7][提出了一種可變形圖像配準網(wǎng)絡(luò)(dir - net),它以一對固定圖像和一對運動圖像為輸入赦肃,非迭代地輸出變換后的圖像。訓(xùn)練是完全無監(jiān)督的公浪,不像以前的方法他宛,它沒有經(jīng)過已知配準轉(zhuǎn)換的訓(xùn)練
前人工作中需要改進的地方:
1)使用空間對應(yīng)的patches 來進行預(yù)測轉(zhuǎn)換,但是在低對比度醫(yī)學圖像中尋找相應(yīng)的patches是不容易的欠气,可能會對配準任務(wù)產(chǎn)生不利影響
2)多模態(tài)配準由于其固有的尋找空間對應(yīng)斑塊的問題厅各,使得其配準方法具有挑戰(zhàn)性

  1. 使用基于強度的代價函數(shù)限制了基于DL的圖像配準框架的優(yōu)勢
    主要創(chuàng)新點:
    1)利用GANs進行多模態(tài)醫(yī)學圖像配準,可以恢復(fù)更復(fù)雜的變形范圍
    2)損失函數(shù)的改進预柒,加入VGG队塘,SSIM損失和變形場可逆性(deformation field reversibility變形場可逆性袁梗,emmm感覺怪怪的)
    對于多模態(tài)配準,我們使用cGANs來保證生成的輸出圖像(即憔古,轉(zhuǎn)換后的浮動圖像)與浮動圖像具有相同的特征(強度分布)遮怜,而與參考圖像(不同模態(tài))具有相似的位置『枋校可以通過在圖像生成的損失函數(shù)中加入適當?shù)募s束來實現(xiàn)锯梁。此外,我們加強變形一致性焰情,以獲得真實的變形場涝桅。這可以防止不切實際的配準,并允許任何圖像作為參考或浮動圖像烙样。不需要對網(wǎng)絡(luò)進行再訓(xùn)練,就可以從不屬于訓(xùn)練集的模式中注冊新的測試圖像對蕊肥。

網(wǎng)絡(luò)結(jié)構(gòu):

Fig. 1. (a) Generator Network; (b) Discriminator network. n64s1 denotes 64 feature maps (n) and stride (s) 1 for each convolutional layer.

生成網(wǎng)絡(luò):




配準后的圖像為I_trans
待配準的圖像為I_Flt
固定圖像為I_Ref
I_trans 應(yīng)該和I_Flt有相同的強度分布谒获,和I_Ref有相同的結(jié)構(gòu)信息
NMI(ITrans, IRef)表示IRef和IT rans之間的歸一化互信息(NMI)(normalized mutual information)再多模態(tài)配準任務(wù)中常使用
SSIM(IT rans, IRef)表示結(jié)構(gòu)相似度指標(SSIM)[13],基于邊緣分布等計算圖像相似度
保證結(jié)構(gòu)相似性
V GG(IT rans, IRef)是使用預(yù)訓(xùn)練V GG - 16網(wǎng)絡(luò)的Relu 4 - 1層全部512個feature map的兩幅圖像之間的L2距離
VGG損失提高了魯棒性壁却,因為成本函數(shù)考慮了在不同尺度上捕獲信息的多個特征映射

對抗損失

image.png
循環(huán)一致性損失
image.png

實驗:

實驗一:colour fundus images and fluorescein angiography (FA) images 彩色眼底圖像和熒光素血管造影(FA)圖像

評價標準:
registration error (ErrDef) :應(yīng)用變形場和恢復(fù)變形場之間的配準誤差
95 percentile Hausdorff Distance (HD95):配準前后95% Hausdorff距離
mean absolute surface distance(MAD):配準前后的平均絕對表面距離
mean square error (MSE):配準后的FA圖像與原始未變形的FA圖像對比批狱。


表1。對比視網(wǎng)膜圖像配準前后不同方法的平均性能展东。Time表示配準一個測試映像對所需的時間(以秒為單位)赔硫。

Fig. 2. Example results for retinal fundus and FA registration. (a) Color fundus image; (b) Original FA image; (c) ground truth difference image before simulated deformation; (d) Deformed FA image or the floating image; Difference image (e) before registration; after registration using (f) GANReg; (g) DIRNet; (f) Elastix .

實驗二:心臟圖像配準

Fig. 3. Example results for cardiac RV registration. Superimposed contours of the ground truth (red) and deformed segmentation mask of moving image (green): (a) before registration; after registration using (b) GANReg; (c) DIRNet; (d) Elastix.
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市盐肃,隨后出現(xiàn)的幾起案子爪膊,更是在濱河造成了極大的恐慌,老刑警劉巖砸王,帶你破解...
    沈念sama閱讀 221,548評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件推盛,死亡現(xiàn)場離奇詭異,居然都是意外死亡谦铃,警方通過查閱死者的電腦和手機耘成,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,497評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來驹闰,“玉大人瘪菌,你說我怎么就攤上這事∴诶剩” “怎么了师妙?”我有些...
    開封第一講書人閱讀 167,990評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長骡显。 經(jīng)常有香客問我疆栏,道長曾掂,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,618評論 1 296
  • 正文 為了忘掉前任壁顶,我火速辦了婚禮珠洗,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘若专。我一直安慰自己许蓖,他們只是感情好,可當我...
    茶點故事閱讀 68,618評論 6 397
  • 文/花漫 我一把揭開白布调衰。 她就那樣靜靜地躺著膊爪,像睡著了一般。 火紅的嫁衣襯著肌膚如雪嚎莉。 梳的紋絲不亂的頭發(fā)上米酬,一...
    開封第一講書人閱讀 52,246評論 1 308
  • 那天,我揣著相機與錄音趋箩,去河邊找鬼赃额。 笑死,一個胖子當著我的面吹牛叫确,可吹牛的內(nèi)容都是我干的跳芳。 我是一名探鬼主播,決...
    沈念sama閱讀 40,819評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼竹勉,長吁一口氣:“原來是場噩夢啊……” “哼飞盆!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起次乓,我...
    開封第一講書人閱讀 39,725評論 0 276
  • 序言:老撾萬榮一對情侶失蹤吓歇,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后檬输,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體照瘾,經(jīng)...
    沈念sama閱讀 46,268評論 1 320
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,356評論 3 340
  • 正文 我和宋清朗相戀三年丧慈,在試婚紗的時候發(fā)現(xiàn)自己被綠了析命。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,488評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡逃默,死狀恐怖鹃愤,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情完域,我是刑警寧澤软吐,帶...
    沈念sama閱讀 36,181評論 5 350
  • 正文 年R本政府宣布,位于F島的核電站吟税,受9級特大地震影響凹耙,放射性物質(zhì)發(fā)生泄漏姿现。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,862評論 3 333
  • 文/蒙蒙 一肖抱、第九天 我趴在偏房一處隱蔽的房頂上張望备典。 院中可真熱鬧,春花似錦意述、人聲如沸提佣。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,331評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽拌屏。三九已至,卻和暖如春术荤,著一層夾襖步出監(jiān)牢的瞬間倚喂,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,445評論 1 272
  • 我被黑心中介騙來泰國打工瓣戚, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留务唐,地道東北人。 一個月前我還...
    沈念sama閱讀 48,897評論 3 376
  • 正文 我出身青樓带兜,卻偏偏與公主長得像,于是被迫代替她去往敵國和親吨灭。 傳聞我的和親對象是個殘疾皇子刚照,可洞房花燭夜當晚...
    茶點故事閱讀 45,500評論 2 359

推薦閱讀更多精彩內(nèi)容