正八經(jīng)的官網(wǎng): https://gdc.cancer.gov/access-data/gdc-data-transfer-tool
注:windows歉胶、redhat茴恰、ubuntu竖配、mac的都可以下載使用
windows用戶安裝使用
windows用戶,下載的是一個(gè)gdc-client.exe文件
1.存放exe與txt
例如里逆,我隨便找一個(gè)文件夾进胯,文件夾地址是:E:\workspace\gdc,我把源文件(txt)與客戶端exe放在如下:
2. 打開命令行
可以使用快捷鍵原押,ctrl+r胁镐,輸入cmd進(jìn)入;或者點(diǎn)左下角诸衔,查找或者輸入一下運(yùn)行
3.正片開始
# cd表示進(jìn)入這個(gè)文件夾
cd E:\workspace\gdc
# windows就是啰嗦盯漂,如果不是c盤,還要額外輸入磁盤標(biāo)識(shí)
cd E
# 接著執(zhí)行下載指令
gdc-client.exe download -m gdc_manifest.txt
緩慢下載中笨农。就缆。 估計(jì)是因?yàn)镚DC是國外服務(wù)器,距離遠(yuǎn)谒亦,下載速度會(huì)慢很多竭宰,耐心點(diǎn),掛一夜估計(jì)就好了(10分鐘可能才下3mb左右)
我是分割線:2019年12月18日01:38:02
性能優(yōu)化
研究了一下下載工具份招,詳細(xì)看了使用文檔切揭,寫了配置文件做了改良。
1.痛點(diǎn)
發(fā)現(xiàn)下載也會(huì)斷锁摔,而且很卡廓旬,如果掛一夜,突然在還沒入夜就斷了那其實(shí)也達(dá)不到想要目的谐腰。孕豹。可靠性太低
吐槽:很多用戶怔蚌、博主只是吐槽慢巩步,老是斷,很多時(shí)候沒有往下想桦踊,開發(fā)者是不是早就想到這些問題椅野,已經(jīng)做好了預(yù)測,做了很多騷操作籍胯,滿足大家的需要竟闪,只不過很多人都不會(huì)深入理解。
所以利用官方文檔的幫助杖狼,利用他提供的配置文件的方式進(jìn)行下載配置炼蛤。
2.默認(rèn)配置
(可以輸入命令gdc-client.exe settings download)
[download]
no_auto_retry = False
no_file_md5sum = False
save_interval = 1073741824
retry_amount = 1
n_processes = 4
no_annotations = False
no_related_files = False
http_chunk_size = 1048576
no_segment_md5sum = False
server = https://api.gdc.cancer.gov
wait_time = 5.0
no_verify = False
dir = .
3.改良后的配方
[download]
no_auto_retry = False
no_file_md5sum = False
save_interval = 1073741824
retry_amount = 6
n_processes = 4
no_annotations = False
no_related_files = False
http_chunk_size = 4096
no_segment_md5sum = False
server = https://api.gdc.cancer.gov
wait_time = 25.0
no_verify = True
dir = .
其實(shí)很簡單,看了配置文件蝶涩,用邏輯分析一下就知道怎么配置了理朋,主要可以配置的是http_chunk_size絮识、wait_time、retry_amount嗽上、no_verify次舌、n_processes
解釋一下(個(gè)人理解,可能有出入兽愤,專業(yè)的看官網(wǎng)):
1. http_chunk_size:這是每一次http請(qǐng)求的數(shù)據(jù)塊大小彼念,如果越大,等待時(shí)間越長浅萧,可能就會(huì)超時(shí)逐沙,就pa斷了,所以為了保證每一次請(qǐng)求數(shù)據(jù)塊都能順利到達(dá)本地洼畅,就調(diào)小一點(diǎn)(這一步相當(dāng)關(guān)鍵了)
2. wait_time:http請(qǐng)求的等待時(shí)間吩案,如果超過這個(gè)等待時(shí)間,也會(huì)pa斷了土思,所以這一步就可以調(diào)大一丟丟
3. retry_amount:重試次數(shù)务热,比如說超過等待時(shí)間,就會(huì)再重新嘗試訪問己儒,嘗試訪問次數(shù)超過崎岂,pa斷了,所以這一步也可以調(diào)大一丟丟
4. no_verify:不做校驗(yàn)闪湾,(不知道它底層用什么做校驗(yàn)的)冲甘,為了求速度,不做校驗(yàn)(想保證數(shù)據(jù)完整性就不要改這個(gè)啦)
5. n_processes:配置和CPU大小一致就行了
4.啟動(dòng)命令
制定dtt配置文件:將改良后的配方保存到txt與exe同級(jí)目錄途样,命名為gdc-client.dtt
注意:這里dtt作為后綴沒什么特殊的江醇,官網(wǎng)只是建議,這里也跟著這么定義罷了何暇。
在控制臺(tái)輸入
gdc-client.exe download --config gdc-client.dtt -m gdc_manifest.txt
經(jīng)過上面的配方陶夜,就會(huì)發(fā)現(xiàn)這個(gè)工具還是挺好用滴~ 而且下載后的數(shù)據(jù)更快、更穩(wěn)定~
卡頓裆站?不存在的条辟。
next:有了這些gdc原始數(shù)據(jù),我們還需要進(jìn)行加工宏胯,轉(zhuǎn)化為能夠方便處理數(shù)據(jù)的格式羽嫡,詳見使用R語言將gdc數(shù)據(jù)轉(zhuǎn)化為基因表達(dá)矩陣