項目上線之后血巍,或者在測試環(huán)境,經(jīng)常會有bug讓我們?nèi)ヅ挪楹托薷募溃@個時候,我們需要在linux系統(tǒng)中使用一些命令幫我我們解決問題铐尚。今天和大家談?wù)刧rep命令拨脉。
今天遇到這樣一個問題,線上的一個問題宣增,在一個月之后發(fā)現(xiàn)的玫膀,但是log的配置文件只保留最近七天的日子,這樣爹脾,查看一個月前的單日回滾的日志文件就沒有可能帖旨。但是tomcat等應(yīng)用服務(wù)器有個統(tǒng)一放日志的地方,比如catalina.out文件灵妨,放了所有的日志解阅,所以只能從這個文件入手查找bug的日志。
grep詳解
簡介
grep (global search regular expression(RE) and print out the line,全面搜索正則表達(dá)式并把行打印出來)是一種強大的文本搜索工具泌霍,它能使用正則表達(dá)式搜索文本货抄,并把匹配的行打印出來。
Unix的grep家族包括grep朱转、egrep和fgrep蟹地。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的擴(kuò)展藤为,支持更多的re元字符怪与, fgrep就是fixed grep或fast grep,它們把所有的字母都看作單詞缅疟,也就是說分别,正則表達(dá)式中的元字符表示回其自身的字面意義遍愿,不再特殊。linux使用GNU版本的grep耘斩。它功能更強沼填,可以通過-G、-E括授、-F命令行選項來使用egrep和fgrep的功能倾哺。
功能:輸入文件的每一行中查找字符串。
基本用法:
grep [-acinv] [--color=auto] [-A n] [-B n] '搜尋字符串' 文件名
參數(shù)說明:
-a:將二進(jìn)制文檔以文本方式處理
-c:顯示匹配次數(shù)
-i:忽略大小寫差異
-n:在行首顯示行號
-A:After的意思刽脖,顯示匹配字符串后n行的數(shù)據(jù)
-B:before的意思,顯示匹配字符串前n行的數(shù)據(jù)
-v:顯示沒有匹配行-A:After的意思忌愚,顯示匹配部分之后n行-B:before的意思曲管,顯示匹配部分之前n行
grep可用于shell腳本,因為grep通過返回一個狀態(tài)值來說明搜索的狀態(tài)硕糊,如果模板搜索成功院水,則返回0,如果搜索不成功简十,則返回1檬某,如果搜索的文件不存在,則返回2螟蝙。我們利用這些返回值就可進(jìn)行一些自動化的文本處理工作恢恼。
1.命令格式:
grep [option] pattern file
2.命令功能:
用于過濾/搜索的特定字符∫饶可使用正則表達(dá)式能多種命令配合使用场斑,使用上十分靈活。
3.命令參數(shù):
-a --text #不要忽略二進(jìn)制的數(shù)據(jù)牵署。
-A<顯示行數(shù)> --after-context=<顯示行數(shù)> #除了顯示符合范本樣式的那一列之外漏隐,并顯示該行之后的內(nèi)容。
-b --byte-offset #在顯示符合樣式的那一行之前奴迅,標(biāo)示出該行第一個字符的編號青责。
-B<顯示行數(shù)> --before-context=<顯示行數(shù)> #除了顯示符合樣式的那一行之外,并顯示該行之前的內(nèi)容取具。
-c --count #計算符合樣式的列數(shù)脖隶。
-C<顯示行數(shù)> --context=<顯示行數(shù)>或-<顯示行數(shù)> #除了顯示符合樣式的那一行之外,并顯示該行之前后的內(nèi)容者填。
-d <動作> --directories=<動作> #當(dāng)指定要查找的是目錄而非文件時浩村,必須使用這項參數(shù),否則grep指令將回報信息并停止動作占哟。
-e<范本樣式> --regexp=<范本樣式> #指定字符串做為查找文件內(nèi)容的樣式心墅。
-E --extended-regexp #將樣式為延伸的普通表示法來使用酿矢。
-f<規(guī)則文件> --file=<規(guī)則文件> #指定規(guī)則文件,其內(nèi)容含有一個或多個規(guī)則樣式怎燥,讓grep查找符合規(guī)則條件的文件內(nèi)容瘫筐,格式為每行一個規(guī)則樣式。
-F --fixed-regexp #將樣式視為固定字符串的列表铐姚。
-G --basic-regexp #將樣式視為普通的表示法來使用策肝。
-h --no-filename #在顯示符合樣式的那一行之前,不標(biāo)示該行所屬的文件名稱隐绵。
-H --with-filename #在顯示符合樣式的那一行之前之众,表示該行所屬的文件名稱。
-i --ignore-case #忽略字符大小寫的差別依许。
-l --file-with-matches #列出文件內(nèi)容符合指定的樣式的文件名稱棺禾。
-L --files-without-match #列出文件內(nèi)容不符合指定的樣式的文件名稱。
-n --line-number #在顯示符合樣式的那一行之前峭跳,標(biāo)示出該行的列數(shù)編號膘婶。
-q --quiet或--silent #不顯示任何信息。
-r --recursive #此參數(shù)的效果和指定“-d recurse”參數(shù)相同蛀醉。
-s --no-messages #不顯示錯誤信息悬襟。
-v --revert-match #顯示不包含匹配文本的所有行。
-V --version #顯示版本信息拯刁。
-w --word-regexp #只顯示全字符合的列脊岳。
-x --line-regexp #只顯示全列符合的列。
-y #此參數(shù)的效果和指定“-i”參數(shù)相同垛玻。
4.規(guī)則表達(dá)式:
grep的規(guī)則表達(dá)式:
^ 錨定行的開始 如:'^grep'匹配所有以grep開頭的行逸绎。
$ 錨定行的結(jié)束 如:'grep$'匹配所有以grep結(jié)尾的行。
. 匹配一個非換行符的字符 如:'gr.p'匹配gr后接一個任意字符夭谤,然后是p棺牧。
匹配零個或多個先前字符 如:'grep'匹配所有一個或多個空格后緊跟grep的行。
.* 一起用代表任意字符
[] 匹配一個指定范圍內(nèi)的字符朗儒,如'[Gg]rep'匹配Grep和grep添忘。
[^] 匹配一個不在指定范圍內(nèi)的字符烟零,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一個字母開頭土砂,緊跟rep的行龙亲。
(..) 標(biāo)記匹配字符,如'(love)'恳不,love被標(biāo)記為1檩小。
< 錨定單詞的開始,如:'<grep'匹配包含以grep開頭的單詞的行烟勋。
> 錨定單詞的結(jié)束规求,如'grep>'匹配包含以grep結(jié)尾的單詞的行筐付。
x{m} 重復(fù)字符x,m次阻肿,如:'0{5}'匹配包含5個o的行瓦戚。
x{m,} 重復(fù)字符x,至少m次,如:'o{5,}'匹配至少有5個o的行丛塌。
x{m,n} 重復(fù)字符x较解,至少m次,不多于n次赴邻,如:'o{5,10}'匹配5--10個o的行印衔。
\w 匹配文字和數(shù)字字符,也就是[A-Za-z0-9]姥敛,如:'G\w*p'匹配以G后跟零個或多個文字或數(shù)字字符当编,然后是p。
\W \w的反置形式徒溪,匹配一個或多個非單詞字符,如點號句號等金顿。
\b 單詞鎖定符臊泌,如: '\bgrep\b'只匹配grep。
POSIX字符:
為了在不同國家的字符編碼中保持一至揍拆,POSIX(The Portable Operating System Interface)增加了特殊的字符類渠概,如[:alnum:]是[A-Za-z0-9]的另一個寫法。要把它們放到[]號內(nèi)才能成為正則表達(dá)式嫂拴,如[A- Za-z0-9]或[[:alnum:]]播揪。在linux下的grep除fgrep外,都支持POSIX的字符類筒狠。
[:alnum:] #文字?jǐn)?shù)字字符
[:alpha:] #文字字符
[:digit:] #數(shù)字字符
[:graph:] #非空字符(非空格猪狈、控制字符)
[:lower:] #小寫字符
[:cntrl:] #控制字符
[:print:] #非空字符(包括空格)
[:punct:] #標(biāo)點符號
[:space:] #所有空白字符(新行,空格辩恼,制表符)
[:upper:] #大寫字符
[:xdigit:] #十六進(jìn)制數(shù)字(0-9雇庙,a-f,A-F)
5.使用實例:
實例1:查找指定進(jìn)程
命令:
ps -ef|grep svn
輸出:
[root@localhost ~]# ps -ef|grep svn
root 4943 1 0 Dec05 ? 00:00:00 svnserve -d -r /opt/svndata/grape/
root 16867 16838 0 19:53 pts/0 00:00:00 grep svn
[root@localhost ~]#
說明:
第一條記錄是查找出的進(jìn)程灶伊;第二條結(jié)果是grep進(jìn)程本身疆前,并非真正要找的進(jìn)程。
實例2:查找指定進(jìn)程個數(shù)
命令:
ps -ef|grep svn -c
ps -ef|grep -c svn
輸出:
[root@localhost ~]# ps -ef|grep svn -c
2
[root@localhost ~]# ps -ef|grep -c svn
2
[root@localhost ~]#
說明:
實例3:從文件中讀取關(guān)鍵詞進(jìn)行搜索
命令:
cat test.txt | grep -f test2.txt
輸出:
[root@localhost test]# cat test.txt
hnlinux
peida.cnblogs.com
ubuntu
ubuntu linux
redhat
Redhat
linuxmint
[root@localhost test]# cat test2.txt
linux
Redhat
[root@localhost test]# cat test.txt | grep -f test2.txt
hnlinux
ubuntu linux
Redhat
linuxmint
[root@localhost test]#
說明:
輸出test.txt文件中含有從test2.txt文件中讀取出的關(guān)鍵詞的內(nèi)容行
實例3:從文件中讀取關(guān)鍵詞進(jìn)行搜索 且顯示行號
命令:
cat test.txt | grep -nf test2.txt
輸出:
[root@localhost test]# cat test.txt
hnlinux
peida.cnblogs.com
ubuntu
ubuntu linux
redhat
Redhat
linuxmint
[root@localhost test]# cat test2.txt
linux
Redhat
[root@localhost test]# cat test.txt | grep -nf test2.txt
1:hnlinux
4:ubuntu linux
6:Redhat
7:linuxmint
[root@localhost test]#
說明:
輸出test.txt文件中含有從test2.txt文件中讀取出的關(guān)鍵詞的內(nèi)容行聘萨,并顯示每一行的行號
實例5:從文件中查找關(guān)鍵詞
命令:
grep 'linux' test.txt
輸出:
[root@localhost test]# grep 'linux' test.txt
hnlinux
ubuntu linux
linuxmint
[root@localhost test]# grep -n 'linux' test.txt
1:hnlinux
4:ubuntu linux
7:linuxmint
[root@localhost test]#
說明:
實例6:從多個文件中查找關(guān)鍵詞
命令:
grep 'linux' test.txt test2.txt
輸出:
[root@localhost test]# grep -n 'linux' test.txt test2.txt
test.txt:1:hnlinux
test.txt:4:ubuntu linux
test.txt:7:linuxmint
test2.txt:1:linux
[root@localhost test]# grep 'linux' test.txt test2.txt
test.txt:hnlinux
test.txt:ubuntu linux
test.txt:linuxmint
test2.txt:linux
[root@localhost test]#
說明:
多文件時竹椒,輸出查詢到的信息內(nèi)容行時,會把文件的命名在行最前面輸出并且加上":"作為標(biāo)示符
實例7:grep不顯示本身進(jìn)程
命令:
ps aux|grep [s]sh
ps aux | grep ssh | grep -v "grep"
輸出:
[root@localhost test]# ps aux|grep ssh
root 2720 0.0 0.0 62656 1212 ? Ss Nov02 0:00 /usr/sbin/sshd
root 16834 0.0 0.0 88088 3288 ? Ss 19:53 0:00 sshd: root@pts/0
root 16901 0.0 0.0 61180 764 pts/0 S+ 20:31 0:00 grep ssh
[root@localhost test]# ps aux|grep [s]sh]
[root@localhost test]# ps aux|grep [s]sh
root 2720 0.0 0.0 62656 1212 ? Ss Nov02 0:00 /usr/sbin/sshd
root 16834 0.0 0.0 88088 3288 ? Ss 19:53 0:00 sshd: root@pts/0
[root@localhost test]# ps aux | grep ssh | grep -v "grep"
root 2720 0.0 0.0 62656 1212 ? Ss Nov02 0:00 /usr/sbin/sshd
root 16834 0.0 0.0 88088 3288 ? Ss 19:53 0:00 sshd: root@pts/0
說明:
實例8:找出已u開頭的行內(nèi)容
命令:
cat test.txt |grep ^u
輸出:
[root@localhost test]# cat test.txt |grep ^u
ubuntu
ubuntu linux
[root@localhost test]#
說明:
實例9:輸出非u開頭的行內(nèi)容
命令:
cat test.txt |grep [u]
輸出:
[root@localhost test]# cat test.txt |grep [u]
hnlinux
peida.cnblogs.com
redhat
Redhat
linuxmint
[root@localhost test]#
說明:
實例10:輸出以hat結(jié)尾的行內(nèi)容
命令:
cat test.txt |grep hat$
輸出:
[root@localhost test]# cat test.txt |grep hat$
redhat
Redhat
[root@localhost test]#
說明:
實例11:輸出ip地址
命令:
ifconfig eth0|grep -E "([0-9]{1,3}\.){3}[0-9]"
輸出:
[root@localhost test]# ifconfig eth0|grep "[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}"
inet addr:192.168.120.204 Bcast:192.168.120.255 Mask:255.255.255.0
[root@localhost test]# ifconfig eth0|grep -E "([0-9]{1,3}.){3}[0-9]"
inet addr:192.168.120.204 Bcast:192.168.120.255 Mask:255.255.255.0
[root@localhost test]#
說明:
實例12:顯示包含ed或者at字符的內(nèi)容行
命令:
cat test.txt |grep -E "ed|at"
輸出:
[root@localhost test]# cat test.txt |grep -E "peida|com"
peida.cnblogs.com
[root@localhost test]# cat test.txt |grep -E "ed|at"
redhat
Redhat
[root@localhost test]#
說明:
實例13:顯示當(dāng)前目錄下面以.txt 結(jié)尾的文件中的所有包含每個字符串至少有7個連續(xù)小寫字符的字符串的行
命令:
grep '[a-z]{7}' *.txt
輸出:
[root@localhost test]# grep '[a-z]{7}' *.txt
test.txt:hnlinux
test.txt:peida.cnblogs.com
test.txt:linuxmint
[root@localhost test]#
實例14:日志文件過大米辐,不好查看胸完,我們要從中查看自己想要的內(nèi)容书释,或者得到同一類數(shù)據(jù),比如說沒有404日志信息的
命令:
grep '.' access1.log|grep -Ev '404' > access2.log
grep '.' access1.log|grep -Ev '(404|/photo/|/css/)' > access2.log
grep '.' access1.log|grep -E '404' > access2.log
輸出:
[root@localhost test]# grep “.”access1.log|grep -Ev “404” > access2.log
說明:上面3句命令前面兩句是在當(dāng)前目錄下對access1.log文件進(jìn)行查找舶吗,找到那些不包含404的行征冷,把它們放到access2.log中,后面去掉’v’,即是把有404的行放入access2.log