Wget的用法

原文鏈接:https://blog.csdn.net/core5277/article/details/83365580

wget是在Linux下開(kāi)發(fā)的開(kāi)放源代碼的軟件状知,作者是Hrvoje Niksic,后來(lái)被移植到包括Windows在內(nèi)的各個(gè)平臺(tái)上欺冀。它有以下功能和特點(diǎn):

(1)支持?jǐn)帱c(diǎn)下傳功能树绩;這一點(diǎn),也是網(wǎng)絡(luò)螞蟻和FlashGet當(dāng)年最大的賣點(diǎn)隐轩,現(xiàn)在,Wget也可以使用此功能渤早,那些網(wǎng)絡(luò)不是太好的用戶可以放心了职车;
  (2)同時(shí)支持FTP和HTTP下載方式鹊杖;盡管現(xiàn)在大部分軟件可以使用HTTP方式下載悴灵,但是,有些時(shí)候骂蓖,仍然需要使用FTP方式下載軟件积瞒;
  (3)支持代理服務(wù)器登下;對(duì)安全強(qiáng)度很高的系統(tǒng)而言茫孔,一般不會(huì)將自己的系統(tǒng)直接暴露在互聯(lián)網(wǎng)上,所以被芳,支持代理是下載軟件必須有的功能缰贝;
  (4)設(shè)置方便簡(jiǎn)單畔濒;可能剩晴,習(xí)慣圖形界面的用戶已經(jīng)不是太習(xí)慣命令行了,但是,命令行在設(shè)置上其實(shí)有更多的優(yōu)點(diǎn)赞弥,最少毅整,鼠標(biāo)可以少點(diǎn)很多次,也不要擔(dān)心是否錯(cuò)點(diǎn)鼠標(biāo)绽左;
 〉考怠(5)程序小,完全免費(fèi)妇菱;程序小可以考慮不計(jì)承粤,因?yàn)楝F(xiàn)在的硬盤實(shí)在太大了;完全免費(fèi)就不得不考慮了闯团,即使網(wǎng)絡(luò)上有很多所謂的免費(fèi)軟件辛臊,但是,這些軟件的廣告卻不是我們喜歡的房交;

wget雖然功能強(qiáng)大彻舰,但是使用起來(lái)還是比較簡(jiǎn)單的,基本的語(yǔ)法是:wget [參數(shù)列表] URL候味。下面就結(jié)合具體的例子來(lái)說(shuō)明一下wget的用法刃唤。

1、下載整個(gè)http或者ftp站點(diǎn)白群。
wget http://place.your.url/here
這個(gè)命令可以將http://place.your.url/here 首頁(yè)下載下來(lái)尚胞。使用-x會(huì)強(qiáng)制建立服務(wù)器上一模一樣的目錄,如果使用-nd參數(shù)帜慢,那么服務(wù)器上下載的所有內(nèi)容都會(huì)加到本地當(dāng)前目錄笼裳。

wget -r http://place.your.url/here
這個(gè)命令會(huì)按照遞歸的方法,下載服務(wù)器上所有的目錄和文件粱玲,實(shí)質(zhì)就是下載整個(gè)網(wǎng)站躬柬。這個(gè)命令一定要小心使用,因?yàn)樵谙螺d的時(shí)候抽减,被下載網(wǎng)站指向的所有地址同樣會(huì)被下載允青,因此,如果這個(gè)網(wǎng)站引用了其他網(wǎng)站卵沉,那么被引用的網(wǎng)站也會(huì)被下載下來(lái)颠锉!基于這個(gè)原因,這個(gè)參數(shù)不常用偎箫∧炯恚可以用-l number參數(shù)來(lái)指定下載的層次。例如只下載兩層淹办,那么使用-l 2眉枕。

要是您想制作鏡像站點(diǎn),那么可以使用-m參數(shù),例如:wget -m http://place.your.url/here
這時(shí)wget會(huì)自動(dòng)判斷合適的參數(shù)來(lái)制作鏡像站點(diǎn)速挑。此時(shí)谤牡,wget會(huì)登錄到服務(wù)器上,讀入robots.txt并按robots.txt的規(guī)定來(lái)執(zhí)行姥宝。

2翅萤、斷點(diǎn)續(xù)傳。
當(dāng)文件特別大或者網(wǎng)絡(luò)特別慢的時(shí)候腊满,往往一個(gè)文件還沒(méi)有下載完套么,連接就已經(jīng)被切斷,此時(shí)就需要斷點(diǎn)續(xù)傳碳蛋。wget的斷點(diǎn)續(xù)傳是自動(dòng)的胚泌,只需要使用-c參數(shù),例如:
wget -c http://the.url.of/incomplete/file
使用斷點(diǎn)續(xù)傳要求服務(wù)器支持?jǐn)帱c(diǎn)續(xù)傳肃弟。-t參數(shù)表示重試次數(shù)玷室,例如需要重試100次,那么就寫(xiě)-t 100笤受,如果設(shè)成-t 0穷缤,那么表示無(wú)窮次重試,直到連接成功箩兽。-T參數(shù)表示超時(shí)等待時(shí)間津肛,例如-T 120,表示等待120秒連接不上就算超時(shí)汗贫。

3快耿、批量下載。
如果有多個(gè)文件需要下載芳绩,那么可以生成一個(gè)文件,把每個(gè)文件的URL寫(xiě)一行撞反,例如生成文件download.txt妥色,然后用命令:wget -i download.txt
這樣就會(huì)把download.txt里面列出的每個(gè)URL都下載下來(lái)。(如果列的是文件就下載文件遏片,如果列的是網(wǎng)站嘹害,那么下載首頁(yè))

4、選擇性的下載吮便。
可以指定讓wget只下載一類文件笔呀,或者不下載什么文件。例如:
wget -m --reject=gif http://target.web.site/subdirectory
表示下載http://target.web.site/subdirectory髓需,但是忽略gif文件许师。--accept=LIST 可以接受的文件類型,--reject=LIST拒絕接受的文件類型。

5微渠、密碼和認(rèn)證搭幻。
wget只能處理利用用戶名/密碼方式限制訪問(wèn)的網(wǎng)站,可以利用兩個(gè)參數(shù):
--http-user=USER設(shè)置HTTP用戶
--http-passwd=PASS設(shè)置HTTP密碼
對(duì)于需要證書(shū)做認(rèn)證的網(wǎng)站逞盆,就只能利用其他下載工具了檀蹋,例如curl。

6云芦、利用代理服務(wù)器進(jìn)行下載俯逾。
如果用戶的網(wǎng)絡(luò)需要經(jīng)過(guò)代理服務(wù)器,那么可以讓wget通過(guò)代理服務(wù)器進(jìn)行文件的下載舅逸。此時(shí)需要在當(dāng)前用戶的目錄下創(chuàng)建一個(gè).wgetrc文件桌肴。文件中可以設(shè)置代理服務(wù)器:
http-proxy = 111.111.111.111:8080
ftp-proxy = 111.111.111.111:8080
分別表示http的代理服務(wù)器和ftp的代理服務(wù)器。如果代理服務(wù)器需要密碼則使用:
--proxy-user=USER設(shè)置代理用戶
--proxy-passwd=PASS設(shè)置代理密碼
這兩個(gè)參數(shù)堡赔。
使用參數(shù)--proxy=on/off 使用或者關(guān)閉代理识脆。
wget還有很多有用的功能,需要用戶去挖掘善已。

附錄:

命令格式:
  wget [參數(shù)列表] [目標(biāo)軟件灼捂、網(wǎng)頁(yè)的網(wǎng)址]

-V,--version 顯示軟件版本號(hào)然后退出;
  -h,--help顯示軟件幫助信息换团;
  -e,--execute=COMMAND 執(zhí)行一個(gè) “.wgetrc”命令

-o,--output-file=FILE 將軟件輸出信息保存到文件悉稠;
  -a,--append-output=FILE將軟件輸出信息追加到文件;
  -d,--debug顯示輸出信息艘包;
  -q,--quiet 不顯示輸出信息的猛;
  -i,--input-file=FILE 從文件中取得URL;

-t,--tries=NUMBER 是否下載次數(shù)(0表示無(wú)窮次)
  -O --output-document=FILE下載文件保存為別的文件名
  -nc, --no-clobber 不要覆蓋已經(jīng)存在的文件
  -N,--timestamping只下載比本地新的文件
  -T,--timeout=SECONDS 設(shè)置超時(shí)時(shí)間
  -Y,--proxy=on/off 關(guān)閉代理

-nd,--no-directories 不建立目錄
  -x,--force-directories 強(qiáng)制建立目錄

--http-user=USER設(shè)置HTTP用戶
  --http-passwd=PASS設(shè)置HTTP密碼
  --proxy-user=USER設(shè)置代理用戶
  --proxy-passwd=PASS設(shè)置代理密碼

-r,--recursive 下載整個(gè)網(wǎng)站想虎、目錄(小心使用)
  -l,--level=NUMBER 下載層次

-A,--accept=LIST 可以接受的文件類型
  -R,--reject=LIST拒絕接受的文件類型
  -D,--domains=LIST可以接受的域名
  --exclude-domains=LIST拒絕的域名
  -L,--relative 下載關(guān)聯(lián)鏈接
  --follow-ftp 只下載FTP鏈接
  -H,--span-hosts 可以下載外面的主機(jī)
  -I,--include-directories=LIST允許的目錄
  -X,--exclude-directories=LIST 拒絕的目錄

中文文檔名在平常的情況下會(huì)被編碼卦尊, 但是在 --cut-dirs 時(shí)又是正常的,
wget -r -np -nH --cut-dirs=3 ftp://host/test/
測(cè)試.txt
wget -r -np -nH -nd ftp://host/test/
%B4%FA%B8%D5.txt
wget "ftp://host/test/*"
%B4%FA%B8%D5.txt

由於不知名的原因舌厨,可能是為了避開(kāi)特殊檔名岂却, wget 會(huì)自動(dòng)將抓取檔名的部分用 encode_string 處理過(guò), 所以該 patch 就把被 encode_string 處理成 "%3A" 這種東西裙椭, 用 decode_string 還原成 ":"躏哩, 并套用在目錄與檔案名稱的部分,decode_string 是 wget 內(nèi)建的函式揉燃。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末扫尺,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子炊汤,更是在濱河造成了極大的恐慌正驻,老刑警劉巖弊攘,帶你破解...
    沈念sama閱讀 216,372評(píng)論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異拨拓,居然都是意外死亡肴颊,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門渣磷,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)婿着,“玉大人,你說(shuō)我怎么就攤上這事醋界【顾危” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,415評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵形纺,是天一觀的道長(zhǎng)丘侠。 經(jīng)常有香客問(wèn)我,道長(zhǎng)逐样,這世上最難降的妖魔是什么蜗字? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,157評(píng)論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮脂新,結(jié)果婚禮上挪捕,老公的妹妹穿的比我還像新娘。我一直安慰自己争便,他們只是感情好级零,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,171評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著滞乙,像睡著了一般奏纪。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上斩启,一...
    開(kāi)封第一講書(shū)人閱讀 51,125評(píng)論 1 297
  • 那天序调,我揣著相機(jī)與錄音,去河邊找鬼兔簇。 笑死炕置,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的男韧。 我是一名探鬼主播,決...
    沈念sama閱讀 40,028評(píng)論 3 417
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼默垄,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼此虑!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起口锭,我...
    開(kāi)封第一講書(shū)人閱讀 38,887評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤朦前,失蹤者是張志新(化名)和其女友劉穎介杆,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體韭寸,經(jīng)...
    沈念sama閱讀 45,310評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡春哨,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,533評(píng)論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了恩伺。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片赴背。...
    茶點(diǎn)故事閱讀 39,690評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖晶渠,靈堂內(nèi)的尸體忽然破棺而出凰荚,到底是詐尸還是另有隱情,我是刑警寧澤褒脯,帶...
    沈念sama閱讀 35,411評(píng)論 5 343
  • 正文 年R本政府宣布便瑟,位于F島的核電站,受9級(jí)特大地震影響番川,放射性物質(zhì)發(fā)生泄漏到涂。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,004評(píng)論 3 325
  • 文/蒙蒙 一颁督、第九天 我趴在偏房一處隱蔽的房頂上張望践啄。 院中可真熱鬧,春花似錦适篙、人聲如沸往核。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,659評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)聂儒。三九已至,卻和暖如春硫痰,著一層夾襖步出監(jiān)牢的瞬間衩婚,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,812評(píng)論 1 268
  • 我被黑心中介騙來(lái)泰國(guó)打工效斑, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留非春,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,693評(píng)論 2 368
  • 正文 我出身青樓缓屠,卻偏偏與公主長(zhǎng)得像奇昙,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子敌完,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,577評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容

  • Linux wget是一個(gè)下載文件的工具储耐,它用在命令行下。對(duì)于Linux用戶是必不可少的工具滨溉,尤其對(duì)于網(wǎng)絡(luò)管理員什湘,...
    土豆西瓜胡蘿卜閱讀 44,308評(píng)論 0 6
  • 學(xué)習(xí)wget GNU Wget is a free utility for non-interactive dow...
    jeffleefree閱讀 2,069評(píng)論 0 1
  • wget是一個(gè)從網(wǎng)絡(luò)上自動(dòng)下載文件的自由工具长赞。它支持HTTP,HTTPS和FTP協(xié)議闽撤,可以使用HTTP代理.wge...
    Aieru閱讀 856評(píng)論 0 1
  • 很多年之前我就想很多年之后成為優(yōu)秀的自己得哆,結(jié)果很多年以后我又在想很多年之后成為優(yōu)秀的自己。很多很多年過(guò)去了...
    風(fēng)上柒閱讀 346評(píng)論 2 9
  • 早早和小伙伴約好,今天結(jié)伴到黃河入喝柔#口游玩乐设。7:00從晨陽(yáng)學(xué)校西門出發(fā),8點(diǎn)整順利到達(dá)景區(qū)绎巨。 一下...
    雪兒_7d5f閱讀 677評(píng)論 0 0