利用Node寫一只小爬蟲爬一爬簡書

不知不覺中經(jīng)過了1年了唧领,這一年很快藻雌,也給我?guī)砹撕芏噢D(zhuǎn)變,這一年很累斩个,也給我?guī)砀嗟闹R胯杭。確實(shí)是很累呀,回想起每晚都在瞎搞搞受啥,到兩三點(diǎn)精疲力盡的時候才去睡覺做个,不過收獲也是巨大的,特別我的肚子也在不知不覺由腹肌變成了小肚子0 0滚局,這是我很悲傷的一個故事居暖。

好了,不扯了藤肢,這也不是我的風(fēng)格太闺,今天給大家來點(diǎn)干貨,用用 Node.js (以下簡稱 Node)來寫一寫小爬蟲來爬一爬簡書嘁圈。
首先來接受一下 Node

有看我博客的人也知道我是做 IOS 開發(fā)的省骂,但是為什么今天突然來寫 Node 呢?個人感覺吧最住,做什么開發(fā)也好钞澳, 會點(diǎn)后臺也不會吃虧,畢竟網(wǎng)絡(luò)層的東西涨缚,多了解一下總是好的略贮。說不定以后自己要做個應(yīng)用什么的,起碼不會煩惱怎么做后臺吧仗岖。

那么寫爬蟲有什么好處呢逃延,最起碼你寫的應(yīng)用需要的數(shù)據(jù)都能給你找回來吧,顯示個圖片什么的都是要數(shù)據(jù)的吧轧拄。那么用 Node 寫爬蟲的好處有什么呢揽祥,為什么要選擇 Node 呢?1.寫 Node 用的是 JavaScript檩电,而 JavaScript 又是前端交互中經(jīng)常用到的拄丰,所以我們的學(xué)習(xí)開發(fā)成本會降低,一方面練習(xí)了 JavaScript 語法俐末,另一方面又能開發(fā)后臺料按,一舉兩得; 2.Node 的效率就是它的優(yōu)點(diǎn)了卓箫,由于Node的網(wǎng)絡(luò)是異步的载矿,所以基本如同幾百個進(jìn)程并發(fā)一樣強(qiáng)大,內(nèi)存和CPU占用非常小烹卒。

那么說了這么多闷盔,就是想告訴大家 Node 其實(shí)并沒有想象中那么差弯洗。好了,開始我們今天的代碼了

首先我們要下載 Node 這個家伙了逢勾,下載完后只要簡單的幾步安裝步驟就可以了牡整。
那么我們還需要一個編輯器,當(dāng)然你也可以使用系統(tǒng)有的文本編輯器溺拱,但是在這里我個人來說就選擇了 Atom 這款編輯器了逃贝,它一方面是高仿 sublineText ,只要熟悉 sublineText 的小伙伴就能很快上手了迫摔,另一方面是它的界面設(shè)計(jì)真心不錯沐扳,很吸引我,而且下載第三方包的工具是自帶的 apm(atom package manage) 很不錯攒菠。

以下是我們需要爬的 html 結(jié)構(gòu)了

html 結(jié)構(gòu)

很亂的說有木有迫皱,但是,相信大家辖众,越難的東西才是我們應(yīng)該挑戰(zhàn)的嘛

1.創(chuàng)建 shujian.js 文件

2.引入我們需要的模塊

// 引入 node 的網(wǎng)絡(luò)模塊卓起,這個模塊對 node 來說很重要
var http = require('http');
// 引入 `cheerio` 這個模塊,gitHub 上有介紹凹炸,它就是一個服務(wù)端的 JQuery  庫
var cheerio = require('cheerio');
// 以下這個 url 是我個人主頁的戏阅,請使用的小伙伴換一下自己的主頁喔
var url =   'http://www.reibang.com/users/53fb509bd05c/latest_articles';

3.進(jìn)行一次 get的請求并對返回的 html 字符串進(jìn)行解析

http.get(url, function(res){
// 用于拼接接受到的 html 字符串
var html = '';
// on 是 node 的一個監(jiān)聽事件
res.on('data', function(data) {
  html += data;
});

res.on('end', function() {
    // 解析 html 字符串的方法,返回文章數(shù)據(jù)的對象
     var articlesData = filterChapter(html);
    // 輸出這個對象的屬性
      printArticleInfo(articlesData);
  });
}).on('error', function(){
  console.log('個人主頁數(shù)據(jù)失敗');
});

4.解析 html 字符串的方法啤它,返回文章數(shù)據(jù)的對象數(shù)組

function filterChapter(html) {
var $ = cheerio.load(html);
var articleList = $('.article-list').children('li');

// 創(chuàng)建一個空數(shù)組闹击,用來裝載我們的文章對象
var articlesData = [];
articleList.each(function(item) {
  // 以下 JQ 的方法闽颇,相信會一點(diǎn) JQ 的人都能看懂啦,哈
  var article = $(this);
  var title = article.find('div').find('.title').find('a').text();
  var span =  article.find('div').find('div.list-footer').find('span');
  var loveCount = span.text();
  // .eq(i) 通過索引篩選匹配的元素。使用.eq(-i)就從最后一個元素向前數(shù)婶熬。
  var readCount = span.parent().find('a').eq(0).text();

 // 因?yàn)槲覀冎灰?喜歡的數(shù)量粗截,并不想要這兩個字瓤狐,所以用 JS 的方法把它去掉了橱健,以下閱讀二字也是一樣的
  var loveNum = parseFloat(loveCount.substring(loveCount.search('喜歡') + '喜歡'.length)) ;
  var readNum = parseFloat(readCount.substring(readCount.search('閱讀') + '閱讀'.length));

 // 創(chuàng)建文章對象,JS 的對象確實(shí)跟 json 的很像呀
var articleData = {
    title : title, 
    love  : loveNum.toString(),
    readCount : readNum.toString()
};
  articlesData.push(articleData);
});
  return articlesData;
}

5.將這個文章數(shù)組內(nèi)的文章對象轉(zhuǎn)換成字符串輸出

function printArticleInfo(articlesData) {
console.log('止于浮水的簡書 :\n');
articlesData.forEach(function(item) {
  var title = item.title;
  var loveCount = item.love;
  var readCount = item.readCount;
  console.log('《' + title + '》' + ' \n ' + '閱讀數(shù)為: ' + readCount  +   '\n'  + '喜歡數(shù)為:'  + loveCount + '\n');
  });
}

好了台妆,寫了以上代碼翎猛,現(xiàn)在需要跑一跑了,打開終端 輸入 node jianshu.js

以下就是我的輸出了

好了接剩,到這里我們的 簡書小爬蟲就完成了切厘,根據(jù)這些方法,你可以去爬一些更多數(shù)據(jù)的網(wǎng)頁懊缺,甚至可以寫更多更多的爬蟲同時去爬取數(shù)據(jù)疫稿,讓你再創(chuàng)造 app 的時候不再懼怕沒有數(shù)據(jù)這塊了。當(dāng)然,這些數(shù)據(jù)需要一個數(shù)據(jù)庫而克,這就是我以后要告訴小伙伴們的事情了靶壮。

@end

心如止水怔毛,奮力前行

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末员萍,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子拣度,更是在濱河造成了極大的恐慌碎绎,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,265評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件抗果,死亡現(xiàn)場離奇詭異筋帖,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)冤馏,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,078評論 2 385
  • 文/潘曉璐 我一進(jìn)店門日麸,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人逮光,你說我怎么就攤上這事代箭。” “怎么了涕刚?”我有些...
    開封第一講書人閱讀 156,852評論 0 347
  • 文/不壞的土叔 我叫張陵嗡综,是天一觀的道長。 經(jīng)常有香客問我杜漠,道長极景,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,408評論 1 283
  • 正文 為了忘掉前任驾茴,我火速辦了婚禮盼樟,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘锈至。我一直安慰自己晨缴,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,445評論 5 384
  • 文/花漫 我一把揭開白布裹赴。 她就那樣靜靜地躺著喜庞,像睡著了一般。 火紅的嫁衣襯著肌膚如雪棋返。 梳的紋絲不亂的頭發(fā)上延都,一...
    開封第一講書人閱讀 49,772評論 1 290
  • 那天,我揣著相機(jī)與錄音睛竣,去河邊找鬼晰房。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的殊者。 我是一名探鬼主播与境,決...
    沈念sama閱讀 38,921評論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼猖吴!你這毒婦竟也來了摔刁?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,688評論 0 266
  • 序言:老撾萬榮一對情侶失蹤海蔽,失蹤者是張志新(化名)和其女友劉穎共屈,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體党窜,經(jīng)...
    沈念sama閱讀 44,130評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡拗引,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,467評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了幌衣。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片矾削。...
    茶點(diǎn)故事閱讀 38,617評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖豁护,靈堂內(nèi)的尸體忽然破棺而出哼凯,到底是詐尸還是另有隱情,我是刑警寧澤择镇,帶...
    沈念sama閱讀 34,276評論 4 329
  • 正文 年R本政府宣布挡逼,位于F島的核電站,受9級特大地震影響腻豌,放射性物質(zhì)發(fā)生泄漏家坎。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,882評論 3 312
  • 文/蒙蒙 一吝梅、第九天 我趴在偏房一處隱蔽的房頂上張望虱疏。 院中可真熱鬧,春花似錦苏携、人聲如沸做瞪。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,740評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽装蓬。三九已至,卻和暖如春纱扭,著一層夾襖步出監(jiān)牢的瞬間牍帚,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,967評論 1 265
  • 我被黑心中介騙來泰國打工乳蛾, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留暗赶,地道東北人鄙币。 一個月前我還...
    沈念sama閱讀 46,315評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像蹂随,于是被迫代替她去往敵國和親十嘿。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,486評論 2 348

推薦閱讀更多精彩內(nèi)容

  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 171,749評論 25 707
  • 打球回來晚了^_^
    董淼閱讀 313評論 3 1
  • 牛魔王抬起一只手,撿掉一片落在女孩頭上的樹葉浸锨,牛魔王的手指碰到女孩的發(fā)梢唇聘,女孩輕輕顫抖了一下版姑,牛魔王把那片樹葉遞到...
    王書著閱讀 408評論 0 0
  • 時間過得好快柱搜,這周幾乎什么都沒做就這么結(jié)束了。這周的前半段還在為一個工作上的問題各種糾結(jié)剥险,接下來的幾天就完全無所事...
    大洪閱讀 523評論 1 1
  • 讀的什么書:《活得明白——生涯咨詢的十八個典型》 閱讀有效時間:半個小時 閱讀中遇到了什么困難:無 閱讀有什么收獲...
    wendyai閱讀 161評論 0 0