puppeteer 爬蟲(chóng)模板

import * as puppeteer from 'puppeteer-core';

(async () => {
    const browser = await puppeteer.launch({
        executablePath: '/Applications/Microsoft Edge.app/Contents/MacOS/Microsoft Edge',
        args: ['--start-maximized', '--disable-extensions', '--disable-infobars', '--disable-web-security', '--disable-features=IsolateOrigins,site-per-process'],
        headless: true,
    });
    browser.newPage().then(async (page) => {
        await page.setViewport({width: 1920, height: 1080});
        await page.goto('http://www.petsworld.cn/Html/zhzx/guonei/2023/3/6376401601033.html', {waitUntil: 'networkidle2'});
        const xpath = "/html/body/table[2]/tbody/tr/td[1]/table/tbody/tr[2]/td/table/tbody/tr[4]/td/table[1]/tbody/tr[1]";
        const images = await getImages(page, xpath);
        console.log(images)

        const html = await getHtml(page, xpath);
        console.log(html)

        await page.close()
        await browser.close();
    });
})();

const getHtml = (page, xpath) => {
    return new Promise((resolve, reject) => {
        page.$x(xpath).then(async (element) => {
            //將image的url變?yōu)榻^對(duì)路徑
            await page.evaluate(element => {
                const images = element.querySelectorAll('img');
                for (const image of images) {
                    image.src = new URL(image.src, window.location.href).href;
                }
            }, element[0]);

            // return html
            let html = await page.evaluate(element => element.innerHTML, element[0]);
            html = clean_html(html)
            resolve(html);
        }).catch((err) => {
            reject(err);
        })
    })
}

const getImages = (page, xpath) => {
    return new Promise((resolve, reject) => {
        page.$x(xpath).then(async (element) => {
            const images = await page.evaluate(element => {
                const images = element.querySelectorAll('img');
                for (const image of images) {
                    image.src = new URL(image.src, window.location.href).href;
                }
                return Array.from(images).map(image => image.src);
            }, element[0]);
            resolve(images);
        }).catch((err) => {
            reject(err);
        })
    })
}


function clean_property(html) {
    const properties = [
        'style', 'class', 'size', 'face', 'lang', 'width', 'height', 'valign', 'align', 'border', 'cellpadding',
        'cellspacing', 'onload', 'onunload', 'onclick', 'ondblclick', 'onmousedown', 'onmouseup',
        'onmouseover', 'onmousemove', 'onmouseout', 'onkeypress', 'onkeydown', 'onkeyup', 'onfocus',
        'onblur', 'onselect', 'onchange', 'onsubmit', 'onreset', 'onselectstart', 'onerrorupdate',
        'onhelp', 'onrowexit', 'onrowenter', 'onbeforeunload', 'onbeforeupdate', 'onafterupdate',
        'oncellchange', 'oncontextmenu', 'ondataavailable', 'ondatasetchanged', 'ondatasetcomplete',
        'onmousewheel', 'onreadystatechange', 'onstop', 'onrowsdelete', 'onrowsinserted', 'onbeforeeditfocus',
    ];
    properties.forEach((property) => {
        const reg = new RegExp(property + '="[^"]*"', "g");
        html = html.replace(reg, "");
    })
    return html;
}

function clean_tags(html) {
    const tags = ['script', 'style', 'iframe', 'link', 'meta', 'noscript', 'object', 'param', 'applet', 'embed'];
    tags.forEach((tag) => {
        const reg = new RegExp('<' + tag + '.*?>.*?</' + tag + '>', "g");
        html = html.replace(reg, "");
    })
    //
    const otherTags = ['font', 'span', 'o:p'];
    otherTags.forEach((tag) => {
        const regStart = new RegExp('<' + tag + '.*?>', "g");
        html = html.replace(regStart, "");
        const regEnd = new RegExp('</' + tag + '.*?>', "g");
        html = html.replace(regEnd, "");
    })
    return html;
}

function clean_html(html) {
    html = clean_property(html);
    html = clean_tags(html);
    //清除注釋
    html = html.replace(/<!--.*?-->/g, "");
    //清除空格和空行
    html = html.replace(/&nbsp;/g, "");
    html = html.replace(/\s{2}/g, "");
    html = html.replace(/\r/g, "");
    html = html.replace(/\n/g, "");
    //刪除空標(biāo)簽
    html = html.replace(/<(\w+)[^>]*>\s*<\/\1>/g, "");
    html = html_beautify(html);
    return html;
}

function html_beautify(html) {
    // eslint-disable-next-line no-undef
    const beautify = require('js-beautify').html;
    const options = {
        indent_size: 4,
        indent_char: ' ',
        eol: '\r\n',
        indent_level: 0,
        indent_with_tabs: false,
        preserve_newlines: true,
        max_preserve_newlines: 10,
    }
    return beautify(html, options);
}

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市竖般,隨后出現(xiàn)的幾起案子垦缅,更是在濱河造成了極大的恐慌损晤,老刑警劉巖走孽,帶你破解...
    沈念sama閱讀 210,978評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異抖拴,居然都是意外死亡匀油,警方通過(guò)查閱死者的電腦和手機(jī)缘缚,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,954評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)敌蚜,“玉大人桥滨,你說(shuō)我怎么就攤上這事〕诔担” “怎么了齐媒?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,623評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)帅韧。 經(jīng)常有香客問(wèn)我里初,道長(zhǎng),這世上最難降的妖魔是什么忽舟? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,324評(píng)論 1 282
  • 正文 為了忘掉前任,我火速辦了婚禮淮阐,結(jié)果婚禮上叮阅,老公的妹妹穿的比我還像新娘。我一直安慰自己泣特,他們只是感情好浩姥,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,390評(píng)論 5 384
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著状您,像睡著了一般勒叠。 火紅的嫁衣襯著肌膚如雪兜挨。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 49,741評(píng)論 1 289
  • 那天眯分,我揣著相機(jī)與錄音拌汇,去河邊找鬼。 笑死弊决,一個(gè)胖子當(dāng)著我的面吹牛噪舀,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播飘诗,決...
    沈念sama閱讀 38,892評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼与倡,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了昆稿?” 一聲冷哼從身側(cè)響起纺座,我...
    開(kāi)封第一講書(shū)人閱讀 37,655評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎溉潭,沒(méi)想到半個(gè)月后净响,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,104評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡岛抄,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評(píng)論 2 325
  • 正文 我和宋清朗相戀三年别惦,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片夫椭。...
    茶點(diǎn)故事閱讀 38,569評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡掸掸,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出蹭秋,到底是詐尸還是另有隱情扰付,我是刑警寧澤,帶...
    沈念sama閱讀 34,254評(píng)論 4 328
  • 正文 年R本政府宣布仁讨,位于F島的核電站羽莺,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏洞豁。R本人自食惡果不足惜盐固,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,834評(píng)論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望丈挟。 院中可真熱鬧刁卜,春花似錦、人聲如沸曙咽。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,725評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)例朱。三九已至孝情,卻和暖如春鱼蝉,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背箫荡。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,950評(píng)論 1 264
  • 我被黑心中介騙來(lái)泰國(guó)打工魁亦, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人菲茬。 一個(gè)月前我還...
    沈念sama閱讀 46,260評(píng)論 2 360
  • 正文 我出身青樓吐辙,卻偏偏與公主長(zhǎng)得像酒奶,于是被迫代替她去往敵國(guó)和親灶似。 傳聞我的和親對(duì)象是個(gè)殘疾皇子幻林,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,446評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容