curl 命令,是一個(gè)利用URL規(guī)則在命令行下工作的文件傳輸工具鲤屡。
curl 支持文件的上傳和下載孝治,所以是綜合傳輸工具列粪,但按傳統(tǒng)栅螟,習(xí)慣稱curl為下載工具。
作為一款強(qiáng)力工具篱竭,curl支持包括HTTP、HTTPS步绸、FTP等眾多協(xié)議掺逼,還支持 GET、POST瓤介、cookies吕喘、認(rèn)證、從指定偏移處下載部分文件刑桑、用戶代理字符串氯质、限速、文件大小祠斧、進(jìn)度條等特征闻察,還可以做網(wǎng)頁(yè)處理流程和數(shù)據(jù)檢索自動(dòng)化。
在進(jìn)行web后臺(tái)程序開(kāi)發(fā)測(cè)試過(guò)程中琢锋,常常會(huì)需要發(fā)送url進(jìn)行測(cè)試辕漂,使用curl可以方便地模擬出符合需求的url命令
curl 語(yǔ)法:curl [options...] <url> # curl (選項(xiàng)) (參數(shù))
示例1:curl -m 30 --retry 3 https://proxy.mimvp.com/ip.php // curl 爬取網(wǎng)頁(yè),獲取本機(jī)外網(wǎng)ip
示例2:curl -m 30 --retry 3 -x https://120.77.176.179:8888 https://proxy.mimvp.com/ip.php // curl 通過(guò)代理IP爬取網(wǎng)頁(yè)吴超,獲取本機(jī)外網(wǎng)ip
更多示例:https://proxy.mimvp.com/demo2.php (Shell curl wget)
使用curl發(fā)送GET請(qǐng)求:curl protocol://ip:port/url?args
curl https://proxy.mimvp.com/login?user=admin&passwd=12345678
使用curl發(fā)送POST請(qǐng)求: (推薦)
curl -d "key1=value1&key2=value2&key3=value3" protocol://ip:port/path
示例1:curl -d 'post_data=i_love_mimvp.com' https://proxy.mimvp.com/ip.php // 測(cè)試 post 钉嘹,發(fā)送什么數(shù)據(jù)就返回什么數(shù)據(jù),如 'i_love_mimvp.com'
示例2:curl -d "user=admin&passwd=12345678" https://proxy.mimvp.com/login // 測(cè)試 post 鲸阻,模擬發(fā)送登錄的用戶名和密碼
這種方法是參數(shù)直接在header里面的跋涣,如需將輸出指定到文件可以通過(guò)重定向進(jìn)行操作.
curl -H "Content-Type:application/json" -X POST -d 'json data' URL
示例1:curl -H "Content-Type:application/json" -X POST -d '{"post_data":"i_love_mimvp.com"}' 'https://proxy.mimvp.com/ip.php'
示例2:curl -H "Content-Type:application/json" -X POST -d '{"user": "admin", "passwd":"12345678"}' https://proxy.mimvp.com/login
curl 應(yīng)用實(shí)例
1. 文件下載
curl命令可以用來(lái)執(zhí)行下載、發(fā)送各種HTTP請(qǐng)求鸟悴,指定HTTP頭部等操作陈辱。
如果系統(tǒng)沒(méi)有curl可以使用 yum install curl 安裝,也可以下載安裝遣臼。
curl是將下載文件輸出到stdout性置,將進(jìn)度信息輸出到stderr,不顯示進(jìn)度信息使用 --silent 選項(xiàng)揍堰。
curl URL --silent
這條命令是將下載文件輸出到終端鹏浅,所有下載的數(shù)據(jù)都被寫入到stdout。
使用選項(xiàng)-O將下載的數(shù)據(jù)寫入到文件屏歹,必須使用文件的絕對(duì)地址:
curl http://man.linuxde.net/text.iso --silent -O
選項(xiàng)-o將下載數(shù)據(jù)寫入到指定名稱的文件中隐砸,并使用--progress顯示進(jìn)度條:(常用)
curl http://man.linuxde.net/test.iso -o filename.iso --progress
######################################### 100.0%
2. 斷點(diǎn)續(xù)傳
curl能夠從特定的文件偏移處繼續(xù)下載,它可以通過(guò)指定一個(gè)便宜量來(lái)下載部分文件:
curl URL/File -C 偏移量
#偏移量是以字節(jié)為單位的整數(shù)蝙眶,如果讓curl自動(dòng)推斷出正確的續(xù)傳位置使用-C -:
curl -C -URL
3. curl設(shè)置引用來(lái)源頁(yè)(常用)
參照頁(yè)是位于HTTP頭部中的一個(gè)字符串季希,用來(lái)表示用戶是從哪個(gè)頁(yè)面到達(dá)當(dāng)前頁(yè)面的褪那,
如果用戶點(diǎn)擊網(wǎng)頁(yè)A中的某個(gè)連接,那么用戶就會(huì)跳轉(zhuǎn)到B網(wǎng)頁(yè)式塌,網(wǎng)頁(yè)B頭部的參照頁(yè)字符串就包含網(wǎng)頁(yè)A的URL博敬。
使用--referer選項(xiàng)指定參照頁(yè)字符串:
curl --referer http://www.baidu.com https://proxy.mimvp.com
4. curl設(shè)置cookies(常用)
使用 --cookie "COKKIES" 選項(xiàng)來(lái)指定cookie,多個(gè)cookie使用分號(hào)分隔:
curl https://proxy.mimvp.com --cookie "user=root;pass=123456"
將cookie另存為一個(gè)文件峰尝,使用 --cookie-jar 選項(xiàng):
curl URL --cookie-jar cookie_file
5. curl 設(shè)置用戶代理字符串(常用)
有些網(wǎng)站訪問(wèn)會(huì)提示只能使用IE瀏覽器來(lái)訪問(wèn)偏窝,這是因?yàn)檫@些網(wǎng)站設(shè)置了檢查用戶代理,
可以使用curl把用戶代理設(shè)置為IE武学,這樣就可以訪問(wèn)了祭往。
使用 --user-agent 或者-A選項(xiàng):
curl URL --user-agent "Mozilla/5.0"
curl URL -A "Mozilla/5.0"
其他HTTP頭部信息也可以使用curl來(lái)發(fā)送,使用-H"頭部信息" 傳遞多個(gè)頭部信息火窒,例如:
curl -H "Host:proxy.mimvp.com" -H "accept-language:zh-cn" URL
6. curl的帶寬控制和下載配額
使用--limit-rate限制curl的下載速度:
curl URL --limit-rate 50k
命令中用k(千字節(jié))和m(兆字節(jié))指定下載速度限制硼补。
使用 --max-filesize 指定可下載的最大文件大小:
curl URL --max-filesize bytes
如果文件大小超出限制熏矿,命令則返回一個(gè)非0退出碼已骇,如果命令正常則返回0。
7. curl 進(jìn)行認(rèn)證
使用curl選項(xiàng) -u 可以完成HTTP或者FTP的認(rèn)證曲掰,可以指定密碼疾捍,也可以不指定密碼在后續(xù)操作中輸入密碼:
curl -u user:pwd http://proxy.mimvp.com
curl -u user http://proxy.mimvp.com
8. curl 只打印響應(yīng)頭部信息(常用)
通過(guò) -I 或者 -head 可以只打印出HTTP頭部信息:
yg-mac:~ homer$ curl -I https://proxy.mimvp.com
HTTP/1.1 200 OK
Server: nginx
Date: Thu, 31 May 2018 03:51:08 GMT
Content-Type: text/html; charset=UTF-8
Connection: keep-alive
Vary: Accept-Encoding
Set-Cookie: PHPSESSID=d4kf789gvurb10p7g5pcqd80o6; path=/
Expires: Thu, 19 Nov 1981 08:52:00 GMT
Cache-Control: no-store, no-cache, must-revalidate, post-check=0, pre-check=0
Pragma: no-cache
Vary: proxys-bj
curl 參數(shù)說(shuō)明
-a/--append 上傳文件時(shí),附加到目標(biāo)文件
-A/--user-agent <string> 設(shè)置用戶代理發(fā)送給服務(wù)器
-anyauth 可以使用“任何”身份驗(yàn)證方法
-b/--cookie <name=string/file> cookie字符串或文件讀取位置
--basic 使用HTTP基本驗(yàn)證
-B/--use-ascii 使用ASCII /文本傳輸
-c/--cookie-jar <file> 操作結(jié)束后把cookie寫入到這個(gè)文件中
-C/--continue-at <offset> 斷點(diǎn)續(xù)轉(zhuǎn)
-d/--data <data> HTTP POST方式傳送數(shù)據(jù)
--data-ascii <data> 以ascii的方式post數(shù)據(jù)
--data-binary <data> 以二進(jìn)制的方式post數(shù)據(jù)
--negotiate 使用HTTP身份驗(yàn)證
--digest 使用數(shù)字身份驗(yàn)證
--disable-eprt 禁止使用EPRT或LPRT
--disable-epsv 禁止使用EPSV
-D/--dump-header <file> 把header信息寫入到該文件中
--egd-file <file> 為隨機(jī)數(shù)據(jù)(SSL)設(shè)置EGD socket路徑
--tcp-nodelay 使用TCP_NODELAY選項(xiàng)
-e/--referer 來(lái)源網(wǎng)址
-E/--cert <cert[:passwd]> 客戶端證書(shū)文件和密碼 (SSL)
--cert-type <type> 證書(shū)文件類型 (DER/PEM/ENG) (SSL)
--key <key> 私鑰文件名 (SSL)
--key-type <type> 私鑰文件類型 (DER/PEM/ENG) (SSL)
--pass <pass> 私鑰密碼 (SSL)
--engine <eng> 加密引擎使用 (SSL). "--engine list" for list
--cacert <file> CA證書(shū) (SSL)
--capath <directory> CA目錄 (made using c_rehash) to verify peer against (SSL)
--ciphers <list> SSL密碼
--compressed 要求返回是壓縮的形勢(shì) (using deflate or gzip)
--connect-timeout <seconds> 設(shè)置最大請(qǐng)求時(shí)間
--create-dirs 建立本地目錄的目錄層次結(jié)構(gòu)
--crlf 上傳是把LF轉(zhuǎn)變成CRLF
-f/--fail 連接失敗時(shí)不顯示http錯(cuò)誤
--ftp-create-dirs 如果遠(yuǎn)程目錄不存在栏妖,創(chuàng)建遠(yuǎn)程目錄
--ftp-method [multicwd/nocwd/singlecwd] 控制CWD的使用
--ftp-pasv 使用 PASV/EPSV 代替端口
--ftp-skip-pasv-ip 使用PASV的時(shí)候,忽略該IP地址
--ftp-ssl 嘗試用 SSL/TLS 來(lái)進(jìn)行ftp數(shù)據(jù)傳輸
--ftp-ssl-reqd 要求用 SSL/TLS 來(lái)進(jìn)行ftp數(shù)據(jù)傳輸
-F/--form <name=content> 模擬http表單提交數(shù)據(jù)
--form-string <name=string> 模擬http表單提交數(shù)據(jù)
-g/--globoff 禁用網(wǎng)址序列和范圍使用{}和[]
-G/--get 以get的方式來(lái)發(fā)送數(shù)據(jù)
-H/--header <line> 自定義頭信息傳遞給服務(wù)器
--ignore-content-length 忽略的HTTP頭信息的長(zhǎng)度
-i/--include 輸出時(shí)包括protocol頭信息
-I/--head 只顯示請(qǐng)求頭信息
-j/--junk-session-cookies 讀取文件進(jìn)忽略session cookie
--interface <interface> 使用指定網(wǎng)絡(luò)接口/地址
--krb4 <level> 使用指定安全級(jí)別的krb4
-k/--insecure 允許不使用證書(shū)到SSL站點(diǎn)
-K/--config 指定的配置文件讀取
-l/--list-only 列出ftp目錄下的文件名稱
--limit-rate <rate> 設(shè)置傳輸速度
--local-port<NUM> 強(qiáng)制使用本地端口號(hào)
-m/--max-time <seconds> 設(shè)置最大傳輸時(shí)間
--max-redirs <num> 設(shè)置最大讀取的目錄數(shù)
--max-filesize <bytes> 設(shè)置最大下載的文件總量
-M/--manual 顯示全手動(dòng)
-n/--netrc 從netrc文件中讀取用戶名和密碼
--netrc-optional 使用 .netrc 或者 URL來(lái)覆蓋-n
--ntlm 使用 HTTP NTLM 身份驗(yàn)證
-N/--no-buffer 禁用緩沖輸出
-o/--output 把輸出寫到該文件中
-O/--remote-name 把輸出寫到該文件中乱豆,保留遠(yuǎn)程文件的文件名
-p/--proxytunnel 使用HTTP代理
--proxy-anyauth 選擇任一代理身份驗(yàn)證方法
--proxy-basic 在代理上使用基本身份驗(yàn)證
--proxy-digest 在代理上使用數(shù)字身份驗(yàn)證
--proxy-ntlm 在代理上使用ntlm身份驗(yàn)證
-P/--ftp-port <address> 使用端口地址,而不是使用PASV
-q 作為第一個(gè)參數(shù)吊趾,關(guān)閉 .curlrc
-Q/--quote <cmd> 文件傳輸前宛裕,發(fā)送命令到服務(wù)器
-r/--range <range> 檢索來(lái)自HTTP/1.1或FTP服務(wù)器字節(jié)范圍
--range-file 讀取(SSL)的隨機(jī)文件
-R/--remote-time 在本地生成文件時(shí)论泛,保留遠(yuǎn)程文件時(shí)間
--retry <num> 傳輸出現(xiàn)問(wèn)題時(shí)揩尸,重試的次數(shù)
--retry-delay <seconds> 傳輸出現(xiàn)問(wèn)題時(shí),設(shè)置重試間隔時(shí)間
--retry-max-time <seconds> 傳輸出現(xiàn)問(wèn)題時(shí)屁奏,設(shè)置最大重試時(shí)間
-s/--silent 靜默模式岩榆。不輸出任何東西
-S/--show-error 顯示錯(cuò)誤
--socks4 <host[:port]> 用socks4代理給定主機(jī)和端口
--socks5 <host[:port]> 用socks5代理給定主機(jī)和端口
--stderr <file>
-t/--telnet-option <OPT=val> Telnet選項(xiàng)設(shè)置
--trace <file> 對(duì)指定文件進(jìn)行debug
--trace-ascii <file> Like --跟蹤但沒(méi)有hex輸出
--trace-time 跟蹤/詳細(xì)輸出時(shí),添加時(shí)間戳
-T/--upload-file <file> 上傳文件
--url <URL> Spet URL to work with
-u/--user <user[:password]> 設(shè)置服務(wù)器的用戶和密碼
-U/--proxy-user <user[:password]> 設(shè)置代理用戶名和密碼
-w/--write-out [format] 什么輸出完成后
-x/--proxy <host[:port]> 在給定的端口上使用HTTP代理
-X/--request <command> 指定什么命令
-y/--speed-time 放棄限速所要的時(shí)間坟瓢,默認(rèn)為30
-Y/--speed-limit 停止傳輸速度的限制勇边,速度時(shí)間