awk是處理文本文件的一個應(yīng)用程序待讳,幾乎所有 Linux 系統(tǒng)都自帶這個程序。
它依次處理文件的每一行随闺,并讀取里面的每一個字段双妨。對于日志淮阐、CSV 那樣的每行格式相同的文本文件,awk可能是最方便的工具刁品。
awk其實(shí)不僅僅是工具軟件泣特,還是一種編程語言。不過挑随,本文只介紹它的命令行用法状您,對于大多數(shù)場合,應(yīng)該足夠用了。
一膏孟、基本用法
awk的基本用法就是下面的形式眯分。
# 格式
$ awk 動作 文件名
# 示例
$ awk '{print $0}' demo.txt
上面示例中,demo.txt是awk所要處理的文本文件柒桑。前面單引號內(nèi)部有一個大括號弊决,里面就是每一行的處理動作print $0。其中魁淳,print是打印命令飘诗,$0代表當(dāng)前行,因此上面命令的執(zhí)行結(jié)果界逛,就是把每一行原樣打印出來昆稿。
awk也可以處理標(biāo)準(zhǔn)輸入(stdin)。
$ echo 'this is a test' | awk '{print $0}'
this is a test
上面代碼中仇奶,print $0就是把標(biāo)準(zhǔn)輸入this is a test貌嫡,重新打印了一遍。
awk會根據(jù)空格和制表符该溯,將每一行分成若干字段,依次用$1别惦、$2狈茉、$3代表第一個字段、第二個字段掸掸、第三個字段等等氯庆。
$ echo 'this is a test' | awk '{print $3}'
a
上面代碼中,$3代表this is a test的第三個字段a扰付。
下面堤撵,為了便于舉例,我們把/etc/passwd文件保存成demo.txt羽莺。
這個文件的字段分隔符是冒號(:)实昨,所以要用-F參數(shù)指定分隔符為冒號。然后盐固,才能提取到它的第一個字段荒给。
$ awk -F ':' '{ print $1 }' demo.txt
root
daemon
bin
sys
sync
二、變量
除了$ + 數(shù)字表示某個字段刁卜,awk還提供其他一些變量志电。
變量NF表示當(dāng)前行有多少個字段,因此$NF就代表最后一個字段蛔趴。
$ echo 'this is a test' | awk '{print $NF}'
test
$(NF-1)代表倒數(shù)第二個字段挑辆。
$ awk -F ':' '{print $1, $(NF-1)}' demo.txt
root /root
daemon /usr/sbin
bin /bin
sys /dev
sync /bin
上面代碼中,print命令里面的逗號,表示輸出的時候鱼蝉,兩個部分之間使用空格分隔茉继。
變量NR表示當(dāng)前處理的是第幾行。
$ awk -F ':' '{print NR ") " $1}' demo.txt
1) root
2) daemon
3) bin
4) sys
5) sync
上面代碼中蚀乔,print命令里面烁竭,如果原樣輸出字符,要放在雙引號里面吉挣。
awk的其他內(nèi)置變量如下派撕。
FILENAME:當(dāng)前文件名
FS:字段分隔符,默認(rèn)是空格和制表符睬魂。
RS:行分隔符终吼,用于分割每一行,默認(rèn)是換行符氯哮。
OFS:輸出字段的分隔符际跪,用于打印時分隔字段,默認(rèn)為空格喉钢。
ORS:輸出記錄的分隔符姆打,用于打印時分隔記錄,默認(rèn)為換行符肠虽。
OFMT:數(shù)字輸出的格式幔戏,默認(rèn)為%.6g。
三税课、函數(shù)
awk還提供了一些內(nèi)置函數(shù)闲延,方便對原始數(shù)據(jù)的處理。
函數(shù)toupper()用于將字符轉(zhuǎn)為大寫韩玩。
$ awk -F ':' '{ print toupper($1) }' demo.txt
ROOT
DAEMON
BIN
SYS
SYNC
上面代碼中垒玲,第一個字段輸出時都變成了大寫。
其他常用函數(shù)如下找颓。
tolower():字符轉(zhuǎn)為小寫合愈。
length():返回字符串長度。
substr():返回子字符串叮雳。
sin():正弦想暗。
cos():余弦。
sqrt():平方根帘不。
rand():隨機(jī)數(shù)说莫。
awk內(nèi)置函數(shù)的完整列表,可以查看手冊寞焙。
四储狭、條件
awk允許指定輸出條件互婿,只輸出符合條件的行。
輸出條件要寫在動作的前面辽狈。
$ awk '條件 動作' 文件名
$ awk -F ':' '/usr/ {print $1}' demo.txt
root
daemon
bin
sys
上面代碼中慈参,print命令前面是一個正則表達(dá)式,只輸出包含usr的行刮萌。
下面的例子只輸出奇數(shù)行驮配,以及輸出第三行以后的行。
# 輸出奇數(shù)行
$ awk -F ':' 'NR % 2 == 1 {print $1}' demo.txt
root
bin
sync
# 輸出第三行以后的行
$ awk -F ':' 'NR >3 {print $1}' demo.txt
sys
sync
下面的例子輸出第一個字段等于指定值的行着茸。
$ awk -F ':' '$1 == "root" {print $1}' demo.txt
root
$ awk -F ':' '$1 == "root" || $1 == "bin" {print $1}' demo.txt
root
bin
五壮锻、if 語句
awk提供了if結(jié)構(gòu),用于編寫復(fù)雜的條件涮阔。
$ awk -F ':' '{if ($1 > "m") print $1}' demo.txt
root
sys
sync
上面代碼輸出第一個字段的第一個字符大于m的行猜绣。
if結(jié)構(gòu)還可以指定else部分。
$ awk -F ':' '{if ($1 > "m") print $1; else print "---"}' demo.txt
root
---
---
sys
sync