《使用 async 控制并發(fā)》
目標(biāo)
建立一個(gè) lesson5 項(xiàng)目凰浮，在其中編寫(xiě)代碼。
代碼的入口是 app.js，當(dāng)調(diào)用 node app.js 時(shí)作瞄，它會(huì)輸出 CNode(https://cnodejs.org/ ) 社區(qū)首頁(yè)的所有主題的標(biāo)題，鏈接和第一條評(píng)論危纫，以 json 的格式宗挥。
注意：與上節(jié)課不同，并發(fā)連接數(shù)需要控制在 5 個(gè)种蝶。
輸出示例：
[
{
"title": "【公告】發(fā)招聘帖的同學(xué)留意一下這里",
"href": "http://cnodejs.org/topic/541ed2d05e28155f24676a12",
"comment1": "呵呵呵呵"
},
{
"title": "發(fā)布一款 Sublime Text 下的 JavaScript 語(yǔ)法高亮插件",
"href": "http://cnodejs.org/topic/54207e2efffeb6de3d61f68f",
"comment1": "沙發(fā)契耿！"
}
]
知識(shí)點(diǎn)
- 學(xué)習(xí) async(https://github.com/caolan/async ) 的使用。這里有個(gè)詳細(xì)的 async demo 演示：https://github.com/alsotang/async_demo
- 學(xué)習(xí)使用 async 來(lái)控制并發(fā)連接數(shù)螃征。
課程內(nèi)容
lesson4 的代碼其實(shí)是不完美的搪桂。為什么這么說(shuō)，是因?yàn)樵?lesson4 中盯滚，我們一次性發(fā)了 40 個(gè)并發(fā)請(qǐng)求出去锅棕，要知道拙泽，除去 CNode 的話，別的網(wǎng)站有可能會(huì)因?yàn)槟惆l(fā)出的并發(fā)連接數(shù)太多而當(dāng)你是在惡意請(qǐng)求裸燎，把你的 IP 封掉。
我們?cè)趯?xiě)爬蟲(chóng)的時(shí)候泼疑，如果有 1000 個(gè)鏈接要去爬德绿，那么不可能同時(shí)發(fā)出 1000 個(gè)并發(fā)鏈接出去對(duì)不對(duì)？我們需要控制一下并發(fā)的數(shù)量退渗，比如并發(fā) 10 個(gè)就好移稳，然后慢慢抓完這 1000 個(gè)鏈接。
用 async 來(lái)做這件事很簡(jiǎn)單会油。
這次我們要介紹的是 async 的 mapLimit(arr, limit, iterator, callback) 接口个粱。另外，還有個(gè)常用的控制并發(fā)連接數(shù)的接口是 queue(worker, concurrency)翻翩，大家可以去 https://github.com/caolan/async#queueworker-concurrency 看看說(shuō)明都许。
這回我就不帶大家爬網(wǎng)站了，我們來(lái)專注知識(shí)點(diǎn)：并發(fā)連接數(shù)控制嫂冻。
對(duì)了胶征，還有個(gè)問(wèn)題是，什么時(shí)候用 eventproxy桨仿，什么時(shí)候使用 async 呢睛低？它們不都是用來(lái)做異步流程控制的嗎？
我的答案是：
當(dāng)你需要去多個(gè)源(一般是小于 10 個(gè))匯總數(shù)據(jù)的時(shí)候服傍，用 eventproxy 方便钱雷；當(dāng)你需要用到隊(duì)列，需要控制并發(fā)數(shù)吹零，或者你喜歡函數(shù)式編程思維時(shí)罩抗，使用 async。大部分場(chǎng)景是前者瘪校，所以我個(gè)人大部分時(shí)間是用 eventproxy 的澄暮。
正題開(kāi)始。
首先阱扬，我們偽造一個(gè) fetchUrl(url, callback) 函數(shù)泣懊，這個(gè)函數(shù)的作用就是，當(dāng)你通過(guò)
fetchUrl('http://www.baidu.com', function (err, content) {
// do something with `content`
});
調(diào)用它時(shí)麻惶，它會(huì)返回 http://www.baidu.com 的頁(yè)面內(nèi)容回來(lái)馍刮。
當(dāng)然，我們這里的返回內(nèi)容是假的窃蹋，返回延時(shí)是隨機(jī)的卡啰。并且在它被調(diào)用時(shí)静稻，會(huì)告訴你它現(xiàn)在一共被多少個(gè)地方并發(fā)調(diào)用著。
// 并發(fā)連接數(shù)的計(jì)數(shù)器
var concurrencyCount = 0;
var fetchUrl = function (url, callback) {
// delay 的值在 2000 以內(nèi)匈辱，是個(gè)隨機(jī)的整數(shù)
var delay = parseInt((Math.random() * 10000000) % 2000, 10);
concurrencyCount++;
console.log('現(xiàn)在的并發(fā)數(shù)是', concurrencyCount, '振湾，正在抓取的是', url, '，耗時(shí)' + delay + '毫秒');
setTimeout(function () {
concurrencyCount--;
callback(null, url + ' html content');
}, delay);
};
我們接著來(lái)偽造一組鏈接
var urls = [];
for(var i = 0; i < 30; i++) {
urls.push('http://datasource_' + i);
}
這組鏈接的長(zhǎng)這樣：
接著亡脸，我們使用 async.mapLimit 來(lái)并發(fā)抓取押搪，并獲取結(jié)果。
async.mapLimit(urls, 5, function (url, callback) {
fetchUrl(url, callback);
}, function (err, result) {
console.log('final:');
console.log(result);
});
運(yùn)行輸出是這樣的：
可以看到浅碾，一開(kāi)始大州，并發(fā)鏈接數(shù)是從 1 開(kāi)始增長(zhǎng)的，增長(zhǎng)到 5 時(shí)垂谢，就不再增加厦画。當(dāng)其中有任務(wù)完成時(shí)，再繼續(xù)抓取滥朱。并發(fā)連接數(shù)始終控制在 5 個(gè)根暑。
完整代碼請(qǐng)參見(jiàn) app.js 文件。
