1.1 什么是正則表達式
正則表達式是一種特殊的字符串模式,用于匹配一組字符串,就好比用模具做產(chǎn)品,而正則就是這個模具退疫,定義一種規(guī)則去匹配符合規(guī)則的字符。
1.2 元字符介紹
"^" :^會匹配行或者字符串的起始位置鸽素,有時還會匹配整個文檔的起始位置褒繁。
"會匹配行或字符串的結(jié)尾
"\b" :不會消耗任何字符只匹配一個位置,常用于匹配單詞邊界 如 我想從字符串中"This is Regex"匹配單獨的單詞 "is" 正則就要寫成 "\bis\b"
\b 不會匹配is 兩邊的字符馍忽,但它會識別is 兩邊是否為單詞的邊界
"\d": 匹配數(shù)字棒坏,例如要匹配一個固定格式的電話號碼以0開頭前4位后7位,如0737-5686123 正則:^0\d\d\d-\d\d\d\d\d\d\d$ 這里只是為了介紹"\d"字符遭笋,實際上有更好的寫法會在 下面介紹坝冕。
"\w":匹配字母,數(shù)字瓦呼,下劃線.
例如我要匹配"a2345BCD__TTz" 正則:"\w+" 這里的"+"字符為一個量詞指重復(fù)的次數(shù)喂窟,稍后會詳細介紹。
"\s":匹配空格
例如字符 "a b c" 正則:"\w\s\w\s\w" 一個字符后跟一個空格央串,如有字符間有多個空格直接把"\s" 寫成 "\s+" 讓空格重復(fù)
".":匹配除了換行符以外的任何字符
這個算是"\w"的加強版了"\w"不能匹配 空格 如果把字符串加上空格用"\w"就受限了磨澡,看下用 "."是如何匹配字符"a23 4 5 B C D__TTz" 正則:".+"
"[abc]": 字符組 匹配包含括號內(nèi)元素的字符
這個比較簡單了只匹配括號內(nèi)存在的字符,還可以寫成[a-z]匹配a至z的所以字母就等于可以用來控制只能輸入英文了质和。
1.3幾種反義
寫法很簡單改成大寫就行了稳摄,意思與原來的相反,這里就不舉例子了
"\W" 匹配任意不是字母侦另,數(shù)字秩命,下劃線 的字符
"\S" 匹配任意不是空白符的字符
"\D" 匹配任意非數(shù)字的字符
"\B" 匹配不是單詞開頭或結(jié)束的位置
"[^abc]" 匹配除了abc以外的任意字符
1.4 量詞
先解釋關(guān)于量詞所涉及到的重要的三個概念
貪婪(貪心) 如"*"字符 貪婪量詞會首先匹配整個字符串尉共,嘗試匹配時褒傅,它會選定盡可能多的內(nèi)容弃锐,如果 失敗則回退一個字符,然后再次嘗試回退的過程就叫做回溯殿托,它會每次回退一個字符霹菊,直到找到匹配的內(nèi)容或者沒有字符可以回退。相比下面兩種貪婪量詞對資源的消耗是最大的支竹。
懶惰(勉強) 如 "?" 懶惰量詞使用另一種方式匹配旋廷,它從目標的起始位置開始嘗試匹配,每次檢查一個字符礼搁,并尋找它要匹配的內(nèi)容饶碘,如此循環(huán)直到字符結(jié)尾處。
占有 如"+" 占有量詞會覆蓋事個目標字符串馒吴,然后嘗試尋找匹配內(nèi)容 扎运,但它只嘗試一次,不會回溯饮戳,就好比先抓一把石頭豪治,然后從石頭中挑出黃金
** ""(貪婪) 重復(fù)零次或更多 **
例如"aaaaaaaa" 匹配字符串中所有的a 正則: "a" 會出到所有的字符"a"
** "+"(懶惰) 重復(fù)一次或更多次 **
例如"aaaaaaaa" 匹配字符串中所有的a 正則: "a+" 會取到字符中所有的a字符, "a+"與"a"不同在于"+"至少是一次而"" 可以是0次扯罐,稍后會與"?"字符結(jié)合來體現(xiàn)這種區(qū)別
** "?"(占有) 重復(fù)零次或一次 **
例如"aaaaaaaa" 匹配字符串中的a 正則 : "a?" 只會匹配一次负拟,也就是結(jié)果只是單個字符a
** "{n}" 重復(fù)n次 **
例如從"aaaaaaaa" 匹配字符串的a 并重復(fù)3次 正則: "a{3}" 結(jié)果就是取到3個a字符 "aaa";
** "{n,m}" 重復(fù)n到m次 **
例如正則 "a{3,4}" 將a重復(fù)匹配3次或者4次 所以供匹配的字符可以是三個"aaa"也可以是四個"aaaa" 正則都可以匹配到
** "{n,}" 重復(fù)n次或更多次 **
與{n,m}不同之處就在于匹配的次數(shù)將沒有上限,但至少要重復(fù)n次 如 正則"a{3,}" a至少要重復(fù)3次
把量詞了解了之后之前匹配電話號碼的正則現(xiàn)在就可以改得簡單點了^0\d\d\d-\d\d\d\d\d\d\d可以改為"0\d+?\d7可以改為"0\d+?\d7"歹河。
這樣寫還不夠完美如果因為前面的區(qū)號沒有做限定掩浙,以至于可以輸入很多們,而通常只能是3位或者4位秸歧,
現(xiàn)在再改一下 "^0\d{2,3}-\d{7}"如此一來區(qū)號部分就可以匹配3位或者4位的了
1.5 懶惰限定符
** "?" 重復(fù)任意次厨姚,但盡可能少重復(fù) **
如 "acbacb" 正則 "a.?b" 只會取到第一個"acb" 原本可以全部取到但加了限定符后,只會匹配盡可能少的字符 寥茫,而"acbacb"最少字符的結(jié)果就是"acb"
** "+?" 重復(fù)1次或更多次遣蚀,但盡可能少重復(fù) **
與上面一樣,只是至少要重復(fù)1次
** "??" 重復(fù)0次或1次纱耻,但盡可能少重復(fù) **
如 "aaacb" 正則 "a.??b" 只會取到最后的三個字符"acb"
** "{n,m}?" 重復(fù)n到m次芭梯,但盡可能少重復(fù) **
如 "aaaaaaaa" 正則 "a{0,m}" 因為最少是0次所以取到結(jié)果為空
** "{n,}?" 重復(fù)n次以上,但盡可能少重復(fù) **
如 "aaaaaaa" 正則 "a{1,}" 最少是1次所以取到結(jié)果為 "a"
1.6 捕獲分組
先了解在正則中捕獲分組的概念弄喘,其實就是一個括號內(nèi)的內(nèi)容 如 "(\d)\d" 而"(\d)" 這就是一個捕獲分組玖喘,可以對捕獲分組進行 后向引用 (如果后而有相同的內(nèi)容則可以直接引用前面定義的捕獲組,以簡化表達式) 如(\d)\d\1 這里的"\1"就是對"(\d)"的后向引用蘑志。
那捕獲分組有什么用呢看個例子就知道了累奈。
如 "zery zery" 正則 \b(\w+)\b\s\1\b 所以這里的"\1"所捕獲到的字符也是 與(\w+)一樣的"zery"贬派,為了讓組名更有意義,組名是可以自定義名字的澎媒。
"\b(?<name>\w+)\b\s\k<name>\b" 用"?<name>"就可以自定義組名了而要后向引用組時要記得寫成 "\k<name>";自定義組名后,捕獲組中匹配到的值就會保存在定義的組名里搞乏。
下面列出捕獲分組常有的用法:
"(exp)" 匹配exp,并捕獲文本到自動命名的組里
"(?<name>exp)" 匹配exp,并捕獲文本到名稱為name的組里
"(?:exp)" 匹配exp,不捕獲匹配的文本,也不給此分組分配組號
以下為零寬斷言
"(?=exp)" 匹配exp前面的位置
如 "How are you doing" 正則"(?<txt>.+(?=ing))" 這里取ing前所有的字符戒努,并定義了一個捕獲分組名字為 "txt" 而"txt"這個組里的值為"How are you do";
"(?<=exp)" 匹配exp后面的位置
如 "How are you doing" 正則"(?<txt>(?<=How).+)" 這里取"How"之后所有的字符请敦,并定義了一個捕獲分組名字為 "txt" 而"txt"這個組里的值為" are you doing";
"(?!exp)" 匹配后面跟的不是exp的位置
如 "123abc" 正則 "\d{3}(?!\d)"匹配3位數(shù)字后非數(shù)字的結(jié)果
"(?<!exp)" 匹配前面不是exp的位置
如 "abc123 " 正則 "(?<![0-9])123" 匹配"123"前面是非數(shù)字的結(jié)果也可寫成"(?!<\d)123"
正則實戰(zhàn)
正則在做驗證,與數(shù)據(jù)過濾時體現(xiàn)的威力是巨大的储玫,我想用過的朋友都知道撒穷,下面我們把剛剛了解的全部結(jié)合起來做一次實戰(zhàn) 做數(shù)據(jù)采集用正則過濾Html標簽并取相應(yīng)的數(shù)據(jù)
我們的戰(zhàn)場就選在博客園吧端礼,假設(shè)現(xiàn)在要采集博客園首頁的所有文章信息 包括文章標題蒲每,鏈接接 作者博客地址邀杏,文章簡介,文章發(fā)布時間脖律,閱讀數(shù)據(jù),評論數(shù) 微姊,推薦數(shù)。
先看博客園文章的Html格式
<div class="post_item">
<div class="digg">
<div class="diggit" onclick="DiggIt(3439076,120879,1)">
<span class="diggnum" id="digg_count_3439076">4</span>
</div>
<div class="clear"></div>
<div id="digg_tip_3439076" class="digg_tip"></div>
</div>
<div class="post_item_body">
<h3><a class="titlelnk" target="_blank">分享完整的項目工程目錄結(jié)構(gòu)</a></h3>
<p class="post_item_summary">
<a target="_blank"></a> 在項目開發(fā)過程中酪穿,如何有序的保存項目中的各類數(shù)據(jù)文件,建立一個分類清晰净响、方便管理的目錄結(jié)構(gòu)是非常重要的赞别。 綜合以前的項目和一些朋友的項目結(jié)構(gòu),我整理了一份我覺得還不錯的項目目錄結(jié)構(gòu)崎页。 在這里分享給大家,歡迎各位提出你寶貴的意見和建議。如果喜歡請“推薦”則個,感激萬分h厩! 整個目錄設(shè)置到4級子目錄,實...
</p>
<div class="post_item_foot">
<a class="lightblue">七少爺</a>
發(fā)布于 2013-11-23 15:48
<span class="article_comment"><a title="2013-11-23 16:40" class="gray">
評論(4)</a></span><span class="article_view"><a class="gray">閱讀(206)</a></span></div>
</div>
<div class="clear"></div>
</div>
通過構(gòu)造一個Http請求來取到數(shù)據(jù)并對數(shù)據(jù)進行相應(yīng)處理得到關(guān)鍵信息间唉,在過濾Html標簽取文章時正則的強大的威力就體現(xiàn)出來了印叁,
正則的知識點也都基本用上了比如 "\s \w+ . * ? "還有捕獲分組昨悼,零寬斷言等等汇竭。喜歡的朋友可以試一試两曼,然后自己看如何通過正則取相應(yīng)數(shù)據(jù)的佛析,代碼中的正則都是很基本簡單的,其意思與用法都在上文中詳細寫了酷誓。
class Program
{
static void Main(string[] args)
{
string content = HttpUtility.HttpGetHtml();
HttpUtility.GetArticles(content);
}
}
internal class HttpUtility
{
//默認獲取第一頁數(shù)據(jù)
public static string HttpGetHtml()
{
HttpWebRequest request = (HttpWebRequest)WebRequest.Create("http://www.cnblogs.com/");
request.Accept = "text/plain, */*; q=0.01";
request.Method = "GET";
request.Headers.Add("Accept-Language", "zh-cn,zh;q=0.8,en-us;q=0.5,en;q=0.3");
request.ContentLength = 0;
request.Host = "www.cnblogs.com";
request.UserAgent = "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.1 (KHTML, like Gecko) Maxthon/4.1.3.5000 Chrome/26.0.1410.43 Safari/537.1";
HttpWebResponse response = (HttpWebResponse)request.GetResponse();
Stream responStream = response.GetResponseStream();
StreamReader reader = new StreamReader(responStream, Encoding.UTF8);
string content = reader.ReadToEnd();
return content;
}
public static List<Article> GetArticles(string htmlString)
{
List<Article> articleList = new List<Article>();
Regex regex = null;
Article article = null;
regex = new Regex("<div class=\"post_item\">(?<content>.*?)(?=<div class=\"clear\">" + @"</div>\s*</div>)",
RegexOptions.Singleline);
if (regex.IsMatch(htmlString))
{
MatchCollection aritcles = regex.Matches(htmlString);
foreach (Match item in aritcles)
{
article = new Article();
//取推薦
regex =
new Regex(
"<div class=\"digg\">.*<span.*>(?<digNum>.*)" + @"</span>" +
".*<div class=\"post_item_body\">", RegexOptions.Singleline);
article.DiggNum = regex.Match(item.Value).Groups["digNum"].Value;
//取文章標題 需要去除轉(zhuǎn)義字符
regex = new Regex("<h3>(?<a>.*)</h3>", RegexOptions.Singleline);
string a = regex.Match(item.Value).Groups["a"].Value;
regex = new Regex("<a\\s.*href=\"(?<href>.*?)\".*>(?<summary>.*)</a>", RegexOptions.Singleline);
article.AritcleUrl = regex.Match(a).Groups["href"].Value;
article.AritcleTitle = regex.Match(a).Groups["summary"].Value;
//取作者圖片
regex = new Regex("<a.*>(?<img><img[^>].*>)</a>", RegexOptions.Singleline);
article.AuthorImg = regex.Match(item.Value).Groups["img"].Value;
//取作者博客URL及鏈接的target屬性
regex = new Regex("<a\\s*?href=\"(?<href>.*)\"\\s*?target=\"(?<target>.*?)\">.*</a>",
RegexOptions.Singleline);
article.AuthorUrl = regex.Match(item.Value).Groups["href"].Value;
string urlTarget = regex.Match(item.Value).Groups["target"].Value;
//取文章簡介
//1 先取summary Div中所有內(nèi)容
regex = new Regex("<p class=\"post_item_summary\">(?<summary>.*)</p>", RegexOptions.Singleline);
string summary = regex.Match(item.Value).Groups["summary"].Value;
//2 取簡介
regex = new Regex("(?<indroduct>(?<=</a>).*)", RegexOptions.Singleline);
article.AritcleInto = regex.Match(summary).Groups["indroduct"].Value;
//取發(fā)布人與發(fā)布時間
regex =
new Regex(
"<div class=\"post_item_foot\">\\s*<a.*?>(?<publishName>.*)</a>(?<publishTime>.*)<span class=\"article_comment\">",
RegexOptions.Singleline);
article.Author = regex.Match(item.Value).Groups["publishName"].Value;
article.PublishTime = regex.Match(item.Value).Groups["publishTime"].Value.Trim();
//取評論數(shù)
regex =
new Regex(
"<span class=\"article_comment\"><a.*>(?<comment>.*)</a></span><span class=\"article_view\">",
RegexOptions.Singleline);
article.CommentNum = regex.Match(item.Value).Groups["comment"].Value;
//取閱讀數(shù)
regex = new Regex("<span\\s*class=\"article_view\"><a.*>(?<readNum>.*)</a>", RegexOptions.Singleline);
article.ReadNum = regex.Match(item.Value).Groups["readNum"].Value;
articleList.Add(article);
}
}
return articleList;
}
public static string ClearSpecialTag(string htmlString)
{
string htmlStr = Regex.Replace(htmlString, "\n", "", RegexOptions.IgnoreCase);
htmlStr = Regex.Replace(htmlStr, "\t", "", RegexOptions.IgnoreCase);
htmlStr = Regex.Replace(htmlStr, "\r", "", RegexOptions.IgnoreCase);
htmlStr = Regex.Replace(htmlStr, "\"", "'", RegexOptions.IgnoreCase);
return htmlStr;
}
}
public class Article
{
/// <summary>
/// 文章標題
/// </summary>
public string AritcleTitle { get; set; }
/// <summary>
/// 文章鏈接
/// </summary>
public string AritcleUrl { get; set; }
/// <summary>
/// 文章簡介
/// </summary>
public string AritcleInto { get; set; }
/// <summary>
/// 作者名
/// </summary>
public string Author { get; set; }
/// <summary>
/// 作者地址
/// </summary>
public string AuthorUrl { get; set; }
/// <summary>
/// 作者圖片
/// </summary>
public string AuthorImg { get; set; }
/// <summary>
/// 發(fā)布時間
/// </summary>
public string PublishTime { get; set; }
/// <summary>
/// 推薦數(shù)
/// </summary>
public string DiggNum { get; set; }
/// <summary>
/// 評論數(shù)
/// </summary>
public string CommentNum { get; set; }
/// <summary>
/// 閱讀數(shù)
/// </summary>
public string ReadNum { get; set; }
}
正則部分可能寫得不很完美,但至少也匹配出來了合搅,另外因為自己也是剛接觸正則,也只能寫出這種比較簡單的正則歧蕉。
注:整理轉(zhuǎn)載至http://www.cnblogs.com/China3S/archive/2013/11/30/3451971.html
工具網(wǎng)站http://www.codeyyy.com/regex/index.html