生信-使用gdc-client下載數(shù)據(jù)

正八經(jīng)的官網(wǎng): https://gdc.cancer.gov/access-data/gdc-data-transfer-tool

image.png

注:windows歉胶、redhat茴恰、ubuntu竖配、mac的都可以下載使用

windows用戶安裝使用

windows用戶,下載的是一個(gè)gdc-client.exe文件

1.存放exe與txt

例如里逆,我隨便找一個(gè)文件夾进胯,文件夾地址是:E:\workspace\gdc,我把源文件(txt)與客戶端exe放在如下:


image.png

2. 打開命令行

可以使用快捷鍵原押,ctrl+r胁镐,輸入cmd進(jìn)入;或者點(diǎn)左下角诸衔,查找或者輸入一下運(yùn)行


查找運(yùn)行

ctrl+r 輸入cmd

進(jìn)入控制臺(tái) / 命令行

3.正片開始

# cd表示進(jìn)入這個(gè)文件夾
cd E:\workspace\gdc
# windows就是啰嗦盯漂,如果不是c盤,還要額外輸入磁盤標(biāo)識(shí)
cd E
# 接著執(zhí)行下載指令
gdc-client.exe download -m gdc_manifest.txt
參考截圖

緩慢下載中笨农。就缆。 估計(jì)是因?yàn)镚DC是國外服務(wù)器,距離遠(yuǎn)谒亦,下載速度會(huì)慢很多竭宰,耐心點(diǎn),掛一夜估計(jì)就好了(10分鐘可能才下3mb左右)


我是分割線:2019年12月18日01:38:02


性能優(yōu)化

研究了一下下載工具份招,詳細(xì)看了使用文檔切揭,寫了配置文件做了改良。

1.痛點(diǎn)

發(fā)現(xiàn)下載也會(huì)斷锁摔,而且很卡廓旬,如果掛一夜,突然在還沒入夜就斷了那其實(shí)也達(dá)不到想要目的谐腰。孕豹。可靠性太低
吐槽:很多用戶怔蚌、博主只是吐槽慢巩步,老是斷,很多時(shí)候沒有往下想桦踊,開發(fā)者是不是早就想到這些問題椅野,已經(jīng)做好了預(yù)測,做了很多騷操作籍胯,滿足大家的需要竟闪,只不過很多人都不會(huì)深入理解。
所以利用官方文檔的幫助杖狼,利用他提供的配置文件的方式進(jìn)行下載配置炼蛤。

2.默認(rèn)配置

(可以輸入命令gdc-client.exe settings download)

[download]
no_auto_retry = False
no_file_md5sum = False
save_interval = 1073741824
retry_amount = 1
n_processes = 4
no_annotations = False
no_related_files = False
http_chunk_size = 1048576
no_segment_md5sum = False
server = https://api.gdc.cancer.gov
wait_time = 5.0
no_verify = False
dir = .
如圖

3.改良后的配方

[download]
no_auto_retry = False
no_file_md5sum = False
save_interval = 1073741824
retry_amount = 6
n_processes = 4
no_annotations = False
no_related_files = False
http_chunk_size = 4096
no_segment_md5sum = False
server = https://api.gdc.cancer.gov
wait_time = 25.0
no_verify = True
dir = .    

其實(shí)很簡單,看了配置文件蝶涩,用邏輯分析一下就知道怎么配置了理朋,主要可以配置的是http_chunk_size絮识、wait_time、retry_amount嗽上、no_verify次舌、n_processes
解釋一下(個(gè)人理解,可能有出入兽愤,專業(yè)的看官網(wǎng)):
1. http_chunk_size:這是每一次http請(qǐng)求的數(shù)據(jù)塊大小彼念,如果越大,等待時(shí)間越長浅萧,可能就會(huì)超時(shí)逐沙,就pa斷了,所以為了保證每一次請(qǐng)求數(shù)據(jù)塊都能順利到達(dá)本地洼畅,就調(diào)小一點(diǎn)(這一步相當(dāng)關(guān)鍵了)
2. wait_time:http請(qǐng)求的等待時(shí)間吩案,如果超過這個(gè)等待時(shí)間,也會(huì)pa斷了土思,所以這一步就可以調(diào)大一丟丟
3. retry_amount:重試次數(shù)务热,比如說超過等待時(shí)間,就會(huì)再重新嘗試訪問己儒,嘗試訪問次數(shù)超過崎岂,pa斷了,所以這一步也可以調(diào)大一丟丟
4. no_verify:不做校驗(yàn)闪湾,(不知道它底層用什么做校驗(yàn)的)冲甘,為了求速度,不做校驗(yàn)(想保證數(shù)據(jù)完整性就不要改這個(gè)啦)
5. n_processes:配置和CPU大小一致就行了

4.啟動(dòng)命令

制定dtt配置文件:將改良后的配方保存到txt與exe同級(jí)目錄途样,命名為gdc-client.dtt


制定dtt配置文件

同級(jí)目錄

注意:這里dtt作為后綴沒什么特殊的江醇,官網(wǎng)只是建議,這里也跟著這么定義罷了何暇。

在控制臺(tái)輸入

gdc-client.exe download --config gdc-client.dtt -m gdc_manifest.txt

經(jīng)過上面的配方陶夜,就會(huì)發(fā)現(xiàn)這個(gè)工具還是挺好用滴~ 而且下載后的數(shù)據(jù)更快、更穩(wěn)定~
卡頓裆站?不存在的条辟。

image.png

next:有了這些gdc原始數(shù)據(jù),我們還需要進(jìn)行加工宏胯,轉(zhuǎn)化為能夠方便處理數(shù)據(jù)的格式羽嫡,詳見使用R語言將gdc數(shù)據(jù)轉(zhuǎn)化為基因表達(dá)矩陣

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市肩袍,隨后出現(xiàn)的幾起案子杭棵,更是在濱河造成了極大的恐慌,老刑警劉巖氛赐,帶你破解...
    沈念sama閱讀 218,682評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件魂爪,死亡現(xiàn)場離奇詭異先舷,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)甫窟,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,277評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門密浑,熙熙樓的掌柜王于貴愁眉苦臉地迎上來蛙婴,“玉大人粗井,你說我怎么就攤上這事〗滞迹” “怎么了浇衬?”我有些...
    開封第一講書人閱讀 165,083評(píng)論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長餐济。 經(jīng)常有香客問我耘擂,道長,這世上最難降的妖魔是什么絮姆? 我笑而不...
    開封第一講書人閱讀 58,763評(píng)論 1 295
  • 正文 為了忘掉前任醉冤,我火速辦了婚禮,結(jié)果婚禮上篙悯,老公的妹妹穿的比我還像新娘蚁阳。我一直安慰自己,他們只是感情好鸽照,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,785評(píng)論 6 392
  • 文/花漫 我一把揭開白布螺捐。 她就那樣靜靜地躺著,像睡著了一般矮燎。 火紅的嫁衣襯著肌膚如雪定血。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,624評(píng)論 1 305
  • 那天诞外,我揣著相機(jī)與錄音澜沟,去河邊找鬼。 笑死峡谊,一個(gè)胖子當(dāng)著我的面吹牛茫虽,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播靖苇,決...
    沈念sama閱讀 40,358評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼席噩,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了贤壁?” 一聲冷哼從身側(cè)響起悼枢,我...
    開封第一講書人閱讀 39,261評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎脾拆,沒想到半個(gè)月后馒索,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體莹妒,經(jīng)...
    沈念sama閱讀 45,722評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評(píng)論 3 336
  • 正文 我和宋清朗相戀三年绰上,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了旨怠。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,030評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡蜈块,死狀恐怖鉴腻,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情百揭,我是刑警寧澤爽哎,帶...
    沈念sama閱讀 35,737評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站器一,受9級(jí)特大地震影響课锌,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜祈秕,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,360評(píng)論 3 330
  • 文/蒙蒙 一渺贤、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧请毛,春花似錦志鞍、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,941評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至兼丰,卻和暖如春玻孟,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背鳍征。 一陣腳步聲響...
    開封第一講書人閱讀 33,057評(píng)論 1 270
  • 我被黑心中介騙來泰國打工黍翎, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人艳丛。 一個(gè)月前我還...
    沈念sama閱讀 48,237評(píng)論 3 371
  • 正文 我出身青樓匣掸,卻偏偏與公主長得像,于是被迫代替她去往敵國和親氮双。 傳聞我的和親對(duì)象是個(gè)殘疾皇子碰酝,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,976評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容