爬蟲(文字+圖片)

圖片抓取案例

var http=require("http")
var fs=require("fs")
var cheerio=require("cheerio");
var sd=require("silly-datetime")
var path=require("path")


http.get("http://www.mm131.com",function(res){
     

    var result="";
    res.on("data",function(chunk){
        
        result+=chunk
    })

    res.on("end",function(){

        // console.log(result.toString())
        var $=cheerio.load(result);

        // console.log($("dd a"))

        $("dd+dd a").each(function(index,value){
            // console.log($(value).attr("href"))

            http.get($(value).attr("href"),(res1)=>{
                var result1="";
                res1.on("data",(chunk)=>{
                    result1+=chunk
                })
                res1.on("end",()=>{
                    // console.log(result1.toString())

                    var $$=cheerio.load(result1);

                    $$(".content-pic img").each(function(index,value){
                        // console.log($(value).attr("src"));
                        http.get($(value).attr("src"),function(res3){
                            var ttt=sd.format(new Date(),"YYYYMMDDHHmmss");
                            var ran=Math.floor(Math.random()*10000+8999);
                            var extname=path.extname($(value).attr("src"));
                            var  writeStream=fs.createWriteStream(path.join(__dirname,"./upload/",ttt+ran+extname));
                            res3.pipe(writeStream).on("close",function(){
                                console.log("下載完畢")
                            })
                        })
                    })
                })
            })
        })

    })
})

文字抓取案例

var http=require("http")
var fs=require("fs")
var cheerio=require("cheerio");

http.get("http://unclealan.cn/index.php",function(res){

         var result="";
         res.on("data",function(chunk){     
         result+=chunk
       })

         res.on("end",function(){
             
             var $=cheerio.load(result);
             $(".post-permalink a").each(function(index,value){

                http.get($(value).attr("href"),function(res1){
                    var result1="";
                    res1.on("data",(chunk)=>{
                        result1+=chunk
                    })
                    res1.on("end",function(){
                        var $$=cheerio.load(result1);
                        $$(".post-content").each(function(index,value){
                            
                            console.log($(value).text());

                            fs.appendFile('message1.txt',$(value).text(), (err) => {
                            
                                });
                        })
                    })
                })
             })
        })
    })


最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市琉兜,隨后出現(xiàn)的幾起案子凄杯,更是在濱河造成了極大的恐慌,老刑警劉巖册烈,帶你破解...
    沈念sama閱讀 206,378評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件秃症,死亡現(xiàn)場(chǎng)離奇詭異银亲,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,356評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門丽惭,熙熙樓的掌柜王于貴愁眉苦臉地迎上來击奶,“玉大人,你說我怎么就攤上這事责掏」窭” “怎么了?”我有些...
    開封第一講書人閱讀 152,702評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵换衬,是天一觀的道長痰驱。 經(jīng)常有香客問我,道長瞳浦,這世上最難降的妖魔是什么担映? 我笑而不...
    開封第一講書人閱讀 55,259評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮叫潦,結(jié)果婚禮上蝇完,老公的妹妹穿的比我還像新娘。我一直安慰自己矗蕊,他們只是感情好短蜕,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,263評(píng)論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著拔妥,像睡著了一般忿危。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上没龙,一...
    開封第一講書人閱讀 49,036評(píng)論 1 285
  • 那天,我揣著相機(jī)與錄音缎玫,去河邊找鬼硬纤。 笑死,一個(gè)胖子當(dāng)著我的面吹牛赃磨,可吹牛的內(nèi)容都是我干的筝家。 我是一名探鬼主播,決...
    沈念sama閱讀 38,349評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼邻辉,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼溪王!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起值骇,我...
    開封第一講書人閱讀 36,979評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤莹菱,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后吱瘩,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體道伟,經(jīng)...
    沈念sama閱讀 43,469評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,938評(píng)論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了蜜徽。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片祝懂。...
    茶點(diǎn)故事閱讀 38,059評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖拘鞋,靈堂內(nèi)的尸體忽然破棺而出砚蓬,到底是詐尸還是另有隱情,我是刑警寧澤盆色,帶...
    沈念sama閱讀 33,703評(píng)論 4 323
  • 正文 年R本政府宣布怜械,位于F島的核電站,受9級(jí)特大地震影響傅事,放射性物質(zhì)發(fā)生泄漏缕允。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,257評(píng)論 3 307
  • 文/蒙蒙 一蹭越、第九天 我趴在偏房一處隱蔽的房頂上張望障本。 院中可真熱鬧,春花似錦响鹃、人聲如沸驾霜。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,262評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽粪糙。三九已至,卻和暖如春忿项,著一層夾襖步出監(jiān)牢的瞬間蓉冈,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評(píng)論 1 262
  • 我被黑心中介騙來泰國打工轩触, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留寞酿,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,501評(píng)論 2 354
  • 正文 我出身青樓脱柱,卻偏偏與公主長得像伐弹,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子榨为,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,792評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 序言第1章 Scrapy介紹第2章 理解HTML和XPath第3章 爬蟲基礎(chǔ)第4章 從Scrapy到移動(dòng)應(yīng)用第5章...
    SeanCheney閱讀 15,032評(píng)論 13 61
  • 發(fā)現(xiàn) 關(guān)注 消息 iOS 第三方庫惨好、插件、知名博客總結(jié) 作者大灰狼的小綿羊哥哥關(guān)注 2017.06.26 09:4...
    肇東周閱讀 12,024評(píng)論 4 62
  • Android 自定義View的各種姿勢(shì)1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 171,510評(píng)論 25 707
  • 過年前后一直被朋友拉著玩“王者榮耀” 都快忘記有這個(gè)軟件了 翻了翻之前畫的 羞愧的我模仿別人畫個(gè)獅子 壓壓驚随闺!
    為了挨著拉屎閱讀 198評(píng)論 0 0
  • 寫一下我對(duì)生活的感悟日川,人心叵測(cè),有時(shí)你看不透板壮;感情冷暖逗鸣,有時(shí)你猜不到;緣分聚散,有時(shí)你握不兹鲨怠透葛;世態(tài)炎涼,有時(shí)你想不...
    小白語錄閱讀 288評(píng)論 0 1