awk簡介

awk是一種編程語言，用于在linux/unix下對文本和數(shù)據(jù)進行處理烧颖。數(shù)據(jù)可以來自標準輸入、一個或多個文件葵袭，或其它命令的輸出隧饼。它支持用戶自定義函數(shù)和動態(tài)正則表達式等先進功能，是linux/unix下的一個強大編程工具助币。它在命令行中使用浪听，但更多是作為腳本來使用。awk的處理文本和數(shù)據(jù)的方式是這樣的眉菱，它逐行掃描文件迹栓，從第一行到最后一行，尋找匹配的特定模式的行俭缓，并在這些行上進行你想要的操作克伊。如果沒有指定處理動作，則把匹配的行顯示到標準輸出(屏幕)华坦，如果沒有指定模式答毫，則所有被操作所指定的行都被處理。awk分別代表其作者姓氏的第一個字母季春。因為它的作者是三個人，分別是Alfred Aho消返、Brian Kernighan载弄、Peter Weinberger。gawk是awk的GNU版本撵颊，它提供了Bell實驗室和GNU的一些擴展宇攻。下面介紹的awk是以GUN的gawk為例的，在linux系統(tǒng)中已把awk鏈接到gawk倡勇，所以下面全部以awk進行介紹逞刷。

awk命令格式和選項

awk的語法有兩種形式

awk [options] 'script' var=value file(s)
awk [options] -f scriptfile var=value file(s)

命令選項

模式和操作

awk腳本是由==模式和操作==組成的：==pattern {action}==
如：$ awk '/root/' test，或$ awk '$3 < 100' test
模式和操作都是可選的友绝，如果沒有模式堤尾，則action應(yīng)用到全部記錄，如果沒有action迁客，則輸出匹配全部記錄郭宝。默認情況下，每一個輸入行都是一條記錄掷漱，但用戶可通過RS變量指定不同的分隔符進行分隔粘室。

模式

模式可以是以下任意一個：

• /正則表達式/：使用通配符的擴展集。
• 關(guān)系表達式：可以用下面運算符表中的關(guān)系運算符進行操作卜范，可以是字符串或數(shù)字的比較衔统，如$2>%1選擇第二個字段比第一個字段長的行。
• 模式匹配表達式：用運算符~(匹配)和~!(不匹配)海雪。
• 模式：指定一個行的范圍锦爵。該語法不能包括BEGIN和END模式。
• BEGIN：讓用戶指定在第一條輸入記錄被處理之前所發(fā)生的動作奥裸，通诚障疲可在這里設(shè)置全局變量。
• END：讓用戶在最后一條輸入記錄被讀取之后發(fā)生的動作湾宙。

操作

操作由一人或多個命令樟氢、函數(shù)冈绊、表達式組成，之間由換行符或分號隔開埠啃，并位于大括號內(nèi)死宣。主要有四部份：

• 變量或數(shù)組賦值
• 輸出命令
• 內(nèi)置函數(shù)
• 控制流命令

awk的環(huán)境變量

awk運算符

記錄和域

記錄

awk把每一個以換行符結(jié)束的行稱為一個記錄畏线。
==記錄分隔符==：默認的輸入和輸出的分隔符都是回車，保存在內(nèi)建變量ORS和RS中良价。

$0變量：它指的是整條記錄寝殴，將輸出test文件中的所有記錄，如
$ awk '{print $0}' test
變量NR：一個計數(shù)器明垢，每處理完一條記錄蚣常，NR的值就增加1。將輸出test文件中所有記錄痊银，并在記錄前顯示記錄號
$ awk '{print NR,$0}' test

域

==記錄中每個單詞稱做“域”==抵蚊，默認情況下以空格或tab分隔。awk可跟蹤域的個數(shù)溯革，并在內(nèi)建變量NF中保存該值贞绳。將打印test文件中第一和第三個以空格分開的列(域)
$ awk '{print $1,$3}' test

域分隔符

==內(nèi)建變量FS保存輸入域分隔符的值==，默認是空格或tab致稀。我們可以通過-F命令行選項修改FS的值冈闭。如
$ awk -F: '{print $1,$5}' test
可以同時使用多個域分隔符，這時應(yīng)該把分隔符寫成放到方括號中抖单，如
$awk -F'[:\t]' '{print $1,$3}' test
表示以空格萎攒、冒號和tab作為分隔符。
輸出域的分隔符默認是一個空格矛绘，保存在OFS中躺酒。如
$ awk -F: '{print $1,$5}' test
$1和$5間的逗號就是OFS的值。

gawk專用正則表達式元字符

一般通用的元字符集就不講了供汛，以下幾個是gawk專用的，不適合unix版本的awk涌穆。

POSIX字符集

可參考我的Grep學(xué)習(xí)筆記

范圍模板

范圍模板匹配從==第一個模板的第一次出現(xiàn)到第二個模板的第一次出現(xiàn)之間所有行==。如果有一個模板沒出現(xiàn)涩惑，則匹配到開頭或末尾仁期。如:
$ awk '/root/,/mysql/' test
顯示root第一次出現(xiàn)到mysql第一次出現(xiàn)之間的所有行。

示例

一個驗證passwd文件有效性的例子

$ cat /etc/passwd | awk -F: '\ 
    NF != 7{\ 
        printf("line %d,does not have 7 fields:%s\n",NR,$0)}\ 
    $1 !~ /[A-Za-z0-9]/{printf("line %d,non alpha and numeric user id:%d: %s\n,NR,$0)}\ 
    $2 == "*" {printf("line %d, no password: %s\n",NR,$0)}'

1. cat把結(jié)果輸出給awk境氢，awk把域之間的分隔符設(shè)為冒號蟀拷。
2. 如果域的數(shù)量(NF)不等于7，就執(zhí)行下面的程序萍聊。
3. printf打印字符串"line ?? does not have 7 fields"问芬，并顯示該條記錄。
4. 如果第一個域沒有包含任何字母和數(shù)字寿桨，printf打印“no alpha and numeric user id" 此衅，并顯示記錄數(shù)和記錄。
5. 如果第二個域是一個星號亭螟，就打印字符串“no passwd”挡鞍，緊跟著顯示記錄數(shù)和記錄本身。

幾個實例

$ awk '{print $3}' test

截取第三域(列)的內(nèi)容

$ awk '/^(no|so)/' test

打印所有以模式no或so開頭的行

$ awk '/^[ns]/{print $1}' test

如果記錄以n或s開頭预烙，就打印這個記錄

$ awk '$1 ~/[0-9][0-9]$/(print $1}' test

如果第一個域以兩個數(shù)字結(jié)束就打印這個記錄

$ awk '$1 == 100 || $2 < 50' test

如果第一個或等于100或者第二個域小于50墨微，則打印該行

$ awk '$1 != 10' test

如果第一個域不等于10就打印該行

$ awk '/test/{print $1 + 10}' test

如果記錄包含正則表達式test，則第一個域加10并打印出來

$ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test

如果第一個域大于5則打印問號后面的表達式值扁掸，否則打印冒號后面的表達式值

$ awk '/^root/,/^mysql/' test

打印以正則表達式root開頭的記錄到以正則表達式mysql開頭的記錄范圍內(nèi)的所有記錄翘县。如果找到一個新的正則表達式root開頭的記錄最域，則繼續(xù)打印直到下一個以正則表達式mysql開頭的記錄為止，或到文件末尾

awk編程

變量

在awk中锈麸，變量不需要定義就可以直接使用镀脂，變量類型可以是數(shù)字或字符串。
賦值格式：Variable = expression忘伞，如
$ awk '$1 ~/test/{count = $2 + $3; print count}' test
上式的作用是,awk先掃描第一個域薄翅，一旦test匹配，就把第二個域的值加上第三個域的值氓奈，并把結(jié)果賦值給變量count翘魄，最后打印出來。

awk可以在命令行中給變量賦值探颈，然后將這個變量傳輸給awk腳本熟丸。如
$ awk -F: -f awkscript month=4 year=2004 test
上式的month和year都是自定義變量，分別被賦值為4和2004伪节。在awk腳本中光羞，這些變量使用起來就象是在腳本中建立的一樣。注意怀大，如果參數(shù)前面出現(xiàn)test纱兑，那么在BEGIN語句中的變量就不能被使用。

域變量也可被賦值和修改化借，如
$ awk '{$2 = 100 + $1; print }' test
上式表示潜慎，如果第二個域不存在，awk將計算表達式100加$1的值蓖康，并將其賦值給$2铐炫，如果第二個域存在，則用表達式的值覆蓋$2原來的值蒜焊。再例如：
$ awk '$1 == "root"{$1 ="test";print}' test
如果第一個域的值是“root”倒信，則把它賦值為“test”，注意泳梆，字符串一定要用雙引號鳖悠。

內(nèi)建變量的使用。變量列表在前面已列出优妙，現(xiàn)在舉個例子說明一下乘综。
$ awk -F: '{IGNORECASE=1; $1 == "MARY"{print NR,$1,$2,$NF}'test
把IGNORECASE設(shè)為1代表忽略大小寫，打印第一個域是mary的記錄數(shù)套硼、第一個域卡辰、第二個域和最后一個域。

BEGIN模塊

BEGIN模塊后緊跟著動作塊，==這個動作塊在awk處理任何輸入文件之前執(zhí)行==看政。所以它可以在沒有任何輸入的情況下進行測試朴恳。它==通常用來改變內(nèi)建變量的值==，如OFS,RS和FS等允蚣，以及打印標題。如：
$ awk 'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test
上式表示呆贿，在處理輸入文件以前嚷兔，域分隔符(FS)被設(shè)為冒號，輸出文件分隔符(OFS)被設(shè)置為制表符做入，輸出記錄分隔符(ORS)被設(shè)置為兩個換行符冒晰。$ awk 'BEGIN{print "TITLE TEST"}只打印標題。

END模塊

END不匹配任何的輸入文件竟块，但是執(zhí)行動作塊中的所有動作壶运，它==在整個輸入文件處理完成后被執(zhí)行==。如
$ awk 'END{print "The number of records is" NR}' test
上式將打印所有被處理的記錄數(shù)浪秘。

重定向和管道

==awk可使用shell的重定向符進行重定向輸出==蒋情，如：
$ awk '$1 = 100 {print $1 > "output_file" }' test
上式表示如果第一個域的值等于100，則把它輸出到output_file中耸携。也可以用>>來重定向輸出棵癣，但不清空文件，只做追加操作夺衍。

輸出重定向需用到getline函數(shù)狈谊。getline從標準輸入、管道或者當前正在處理的文件之外的其他輸入文件獲得輸入沟沙。它負責(zé)從輸入獲得下一行的內(nèi)容河劝，并給NF,NR和FNR等內(nèi)建變量賦值。如果得到一條記錄矛紫，getline函數(shù)返回1赎瞎，如果到達文件的末尾就返回0，如果出現(xiàn)錯誤含衔，例如打開文件失敗煎娇，就返回-1。如：
$ awk 'BEGIN{ "date" | getline d; print d}' test
執(zhí)行l(wèi)inux的date命令贪染，并通過管道輸出給getline缓呛，然后再把輸出賦值給自定義變量d，并打印它杭隙。
$ awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}' test
執(zhí)行shell的date命令哟绊，并通過管道輸出給getline，然后getline從管道中讀取并將輸入賦值給d痰憎，split函數(shù)把變量d轉(zhuǎn)化成數(shù)組mon票髓，然后打印數(shù)組mon的第二個元素攀涵。
$ awk 'BEGIN{while( "ls" | getline) print}'
命令ls的輸出傳遞給geline作為輸入，循環(huán)使getline從ls的輸出中讀取一行洽沟，并把它打印到屏幕以故。這里沒有輸入文件，因為BEGIN塊在打開輸入文件前執(zhí)行裆操，所以可以忽略輸入文件怒详。

$ awk 'BEGIN{printf "What is your name?"; getline name < "/dev/tty" } $1 ~name {print "Found" name on line ", NR "."} END{print "See you," name "."} test

在屏幕上打印”What is your name?",并等待用戶應(yīng)答。當一行輸入完畢后踪区，getline函數(shù)從終端接收該行輸入昆烁，并把它儲存在自定義變量name中。如果第一個域匹配變量name的值缎岗，print函數(shù)就被執(zhí)行静尼，END塊打印See you和name的值。
$ awk 'BEGIN{while (getline < "/etc/passwd" > 0) lc++; print lc}'
awk將逐行讀取文件/etc/passwd的內(nèi)容传泊，在到達文件末尾前鼠渺，計數(shù)器lc一直增加，當?shù)侥┪矔r或渤，打印lc的值系冗。注意，如果文件不存在薪鹦，getline返回-1掌敬，如果到達文件的末尾就返回0，如果讀到一行池磁，就返回1奔害，所以命令 while (getline < "/etc/passwd")在文件不存在的情況下將陷入無限循環(huán)，因為返回-1表示邏輯真地熄。

可以在awk中打開一個管道华临，且同一時刻只能有一個管道存在。通過close()可關(guān)閉管道端考。如：
$ awk '{print $1, $2 | "sort" }' test END {close("sort")}
awd把print語句的輸出通過管道作為linux命令sort的輸入,END塊執(zhí)行關(guān)閉管道操作雅潭。

system函數(shù)可以在awk中執(zhí)行l(wèi)inux的命令。如：$ awk 'BEGIN{system("clear")'却特。

fflush函數(shù)用以刷新輸出緩沖區(qū)扶供，如果沒有參數(shù)，就刷新標準輸出的緩沖區(qū)裂明，如果以空字符串為參數(shù)椿浓，如fflush(""),則刷新所有文件和管道的輸出緩沖區(qū)。

條件語句

awk中的條件語句是從C語言中借鑒過來的，可控制程序的流程扳碍。

if語句

格式：
        {if (expression){
                statement; statement; ...
            }
        }
        
$ awk '{if ($1 <$2) print $2 "too high"}' test   
$ awk '{if ($1 < $2) {count++; print "ok"}}' test

if/else語句提岔，用于雙重判斷。

格式：
        {if (expression){
                   statement; statement; ...
            }
        else{
                   statement; statement; ...
            }
        }
$ awk '{if ($1 > 100) print $1 "bad" ; else print "ok"}' test
$ awk '{if ($1 > 100){ count++; print $1} else {count--; print $2}' test

if/else else if語句笋敞，用于多重判斷碱蒙。

格式：
        {if (expression){
                    statement; statement; ...
                   }
        else if (expression){
                    statement; statement; ...
                   }
        else if (expression){
                    statement; statement; ...
                   }
        else {
                   statement; statement; ...
             }
        }

循環(huán)

awk有三種循環(huán):==while循環(huán)；for循環(huán)夯巷；special for循環(huán)==

$ awk '{ i = 1; while ( i <= NF ) { print NF,$i; i++}}' test
$ awk '{for (i = 1; i<NF; i++) print NF,$i}' test

==breadk continue語句==

• break用于在滿足條件的情況下跳出循環(huán)
• continue用于在滿足條件的情況下忽略后面的語句振亮，直接返回循環(huán)的頂端

如：

{for ( x=3; x<=NF; x++) 
            if ($x<0){print "Bottomed out!"; break}}
{for ( x=3; x<=NF; x++)
            if ($x==0){print "Get next item"; continue}}

next語句從輸入文件中讀取一行，然后從頭開始執(zhí)行awk腳本鞭莽。如：

{ if ($1 ~/test/){next}
  else {print}
}

exit語句用于結(jié)束awk程序，但不會略過END塊麸祷。退出狀態(tài)為0代表成功澎怒，非零值表示出錯。

數(shù)組

awk中的數(shù)組的下標可以是數(shù)字和字母阶牍，稱為==關(guān)聯(lián)數(shù)組==喷面。

下標與關(guān)聯(lián)數(shù)組

用變量作為數(shù)組下標。如：
$ awk {name[x++]=$2};END{for(i=0;i<NR;i++) print i,name[i]}' test
數(shù)組name中的下標是一個自定義變量x走孽，awk初始化x的值為0惧辈，在每次使用后增加1。第二個域的值被賦給name數(shù)組的各個元素磕瓷。在END模塊中盒齿，for循環(huán)被用于循環(huán)整個數(shù)組，從下標為0的元素開始困食，打印那些存儲在數(shù)組中的值边翁。因為下標是關(guān)健字，所以它不一定從0開始硕盹，可以從任何值開始符匾。

special for循環(huán)==用于讀取關(guān)聯(lián)數(shù)組中的元素==。格式如下：

{for (item in arrayname){
         print arrayname[item]
    }
}

$ awk '/^tom/{name[NR]=$1}; END{for(i in name){print name[i]}}' test

打印有值的數(shù)組元素瘩例。打印的順序是隨機的啊胶。

• 用字符串作為下標。如：count["test"]
• 用域值作為數(shù)組的下標垛贤。

一種新的for循環(huán)方式焰坪，for (index_value in array) statement。如:

$ awk '{count[$1]++} END{for(name in count) print name,count[name]}' test

該語句將打印$1中字符串出現(xiàn)的次數(shù)南吮。它首先以第一個域作數(shù)組count的下標琳彩，第一個域變化，索引就變化。

delete函數(shù)用于刪除數(shù)組元素露乏。如：

$ awk '{line[x++]=$1} END{for(x in line) delete(line[x])}' test 

分配給數(shù)組line的是第一個域的值碧浊，所有記錄處理完成后，special for循環(huán)將刪除每一個元素瘟仿。

awk的內(nèi)建函數(shù)

字符串函數(shù)

==sub函數(shù)==匹配記錄中最大箱锐、最靠左邊的子字符串的正則表達式，并用替換字符串替換這些字符串劳较。如果沒有指定目標字符串就默認使用整個記錄驹止。替換只發(fā)生在第一次匹配的時候。格式如下：

sub (regular expression, substitution string):
sub (regular expression, substitution string, target string)

實例：

$ awk '{ sub(/test/, "mytest"); print }' testfile
$ awk '{ sub(/test/, "mytest"); $1}; print }' testfile

第一個例子在整個記錄中匹配观蜗，替換只發(fā)生在第一次匹配發(fā)生的時候臊恋。如要在整個文件中進行匹配需要用到gsub
第二個例子在整個記錄的第一個域中進行匹配，替換只發(fā)生在第一次匹配發(fā)生的時候墓捻。

==gsub函數(shù)==作用如sub抖仅，但它在整個文檔中進行匹配。格式如下：

gsub (regular expression, substitution string)  
gsub (regular expression, substitution string, target string)  

實例：

$ awk '{ gsub(/test/, "mytest"); print }' testfile  
$ awk '{ gsub(/test/, "mytest"), $1 }; print }' testfile  

第一個例子在整個文檔中匹配test砖第，匹配的都被替換成mytest撤卢。
第二個例子在整個文檔的第一個域中匹配，所有匹配的都被替換成mytest梧兼。

==index函數(shù)==返回子字符串第一次被匹配的位置放吩，偏移量從位置1開始。格式如下：

index(string, substring)  

實例：

$ awk '{ print index("test", "mytest") }' testfile  

實例返回test在mytest的位置羽杰，結(jié)果應(yīng)該是3渡紫。

==length函數(shù)==返回記錄的字符數(shù)。格式如下：

length( string )
length

實例：

$ awk '{ print length( "test" ) }'   
$ awk '{ print length }' testfile  

第一個實例返回test字符串的長度忽洛。
第二個實例返回testfile文件中第條記錄的字符數(shù)腻惠。

==substr函數(shù)==返回從位置1開始的子字符串，如果指定長度超過實際長度欲虚，就返回整個字符串集灌。格式如下：

substr( string, starting position )  
substr( string, starting position, length of string )  

實例：

$ awk '{ print substr( "hello world", 7,11 ) }'   

上例截取了world子字符串。

==match函數(shù)==返回在字符串中正則表達式位置的索引复哆，如果找不到指定的正則表達式則返回0欣喧。match函數(shù)會設(shè)置內(nèi)建變量RSTART為字符串中子字符串的開始位置，RLENGTH為到子字符串末尾的字符個數(shù)梯找。substr可利用這些變量來截取字符串唆阿。函數(shù)格式如下：

match( string, regular expression )  

實例：

$ awk '{start=match("this is a test",/[a-z]+$/); print start}'  
$ awk '{start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }'  

第一個實例打印以連續(xù)小寫字符結(jié)尾的開始位置，這里是11锈锤。
第二個實例還打印RSTART和RLENGTH變量驯鳖，這里是11(start)闲询，11(RSTART)，4(RLENGTH)浅辙。

==toupper和tolower函數(shù)==可用于字符串大小間的轉(zhuǎn)換扭弧，該功能只在gawk中有效。格式如下：

toupper( string )  
tolower( string )  

實例：

$ awk '{ print toupper("test"), tolower("TEST") }'  

==split函數(shù)==可按給定的分隔符把字符串分割為一個數(shù)組记舆。如果分隔符沒提供鸽捻，則按當前FS值進行分割。格式如下：

split( string, array, field separator )  
split( string, array )  

實例：

$ awk '{ split( "20:18:00", time, ":" ); print time[2] }'  

上例把時間按冒號分割到time數(shù)組內(nèi)泽腮，并顯示第二個數(shù)組元素18御蒲。

時間函數(shù)

systime函數(shù)返回從1970年1月1日開始到當前時間(不計閏年)的整秒數(shù)。格式如下：
systime()
實例：$ awk '{ now = systime(); print now }'
strftime函數(shù)使用C庫中的strftime函數(shù)格式化時間诊赊。格式如下：
systime( [format specification][,timestamp] )

日期和時間格式說明符

實例：

$ awk '{ now=strftime( "%D", systime() ); print now }'  
$ awk '{ now=strftime("%m/%d/%y"); print now }' 

內(nèi)建數(shù)學(xué)函數(shù)

自定義函數(shù)

在awk中還可自定義函數(shù)痰滋，格式如下：

function name ( parameter, parameter, parameter, ... ) {  
    statements  
    return expression # the return statement and expression are optional  
}