go語言爬蟲(二)

根據(jù)前面學(xué)習(xí)的爬蟲方面的知識,自己最中國國旅網(wǎng)頁進(jìn)行了爬蟲,現(xiàn)將代碼分享如下:

package main

import (
    "fmt"
    "github.com/PuerkitoBio/goquery"
    "log"
    "strconv"
    "strings"
)

//http://www.szcits.cn/line/346/

func main() {
    list := PaseGuoLv()
    if len(list) == 0 {
        fmt.Println("獲取旅游城市失敗")
    } else {
        fmt.Println("獲取旅游城市成功" + strconv.Itoa(len(list)))
    }
}

type TravelModel struct {
    title        string //標(biāo)題
    sub_tiltle   string //子標(biāo)題
    set_out_city string //出發(fā)城市
    price        int    //價格
    per_good     int    //滿意度
    look_count   int    //瀏覽次數(shù)
    detail_url   string //詳情的ulr
    dateString   string //出發(fā)時間
    price_type   string //幣種$催享,¥
}

func PaseGuoLv() []TravelModel {
    list := make([]TravelModel, 1)
    fmt.Println("開始爬蟲中國國旅的數(shù)據(jù)...")
    js, err := goquery.NewDocument("http://www.szcits.cn/line/346/")
    if err != nil {
        fmt.Println("NewDocument Error")
        log.Fatal(err)
    } else {
        fmt.Println("NewDocument right")
        js.Find(".big_box section").Each(func(i int, contentionSection *goquery.Selection) {
            model := TravelModel{}
            intro := contentionSection.Find(".intro .sub_title").Text()
            city := contentionSection.Find(".city_title span").Text()
            title := contentionSection.Find(".intro h3 a").Text()
            price := contentionSection.Find(".right .price strong").Text()
            price_type := contentionSection.Find(".right .price span").Text()
            like_look := contentionSection.Find(".right .txt span").Text()
            html_url, _ := contentionSection.Find(".right .buttom a").Attr("href")
            like_Array := strings.Split(like_look, "%")
            var like, look string
            if len(like_Array) > 1 {
                like = like_Array[0]
                look = like_Array[1]
            }
            //date := contentionSection.Find("")
            fmt.Println("---------------------")
            fmt.Println("\n獲取的旅游介紹是" + intro + "\n\t")
            fmt.Println("出發(fā)的城市是:" + strconv.Itoa(i) + "\n\t")
            fmt.Println("title is:", title)
            fmt.Println("價錢是 is", price_type+price)
            fmt.Println("喜歡的數(shù)量是", like+"--"+look)
            fmt.Println("html的url是", "http://www.szcits.cn"+html_url)
            fmt.Println("---------------------")
            price_int, _ := strconv.Atoi(price)
            good_int, _ := strconv.Atoi(like)
            looK_int, _ := strconv.Atoi(look)
            model.sub_tiltle = intro
            model.set_out_city = city
            model.title = title
            model.price_type = price_type
            model.price = price_int
            model.per_good = good_int
            model.look_count = looK_int
            model.detail_url = "http://www.szcits.cn" + html_url
            list = append(list, model)
        })
    }
    return list
}

未完待續(xù)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市巷燥,隨后出現(xiàn)的幾起案子陨献,更是在濱河造成了極大的恐慌,老刑警劉巖捡遍,帶你破解...
    沈念sama閱讀 206,126評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件锌订,死亡現(xiàn)場離奇詭異,居然都是意外死亡画株,警方通過查閱死者的電腦和手機(jī)辆飘,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來谓传,“玉大人蜈项,你說我怎么就攤上這事⌒” “怎么了紧卒?”我有些...
    開封第一講書人閱讀 152,445評論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長诗祸。 經(jīng)常有香客問我跑芳,道長,這世上最難降的妖魔是什么直颅? 我笑而不...
    開封第一講書人閱讀 55,185評論 1 278
  • 正文 為了忘掉前任博个,我火速辦了婚禮,結(jié)果婚禮上际乘,老公的妹妹穿的比我還像新娘坡倔。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,178評論 5 371
  • 文/花漫 我一把揭開白布罪塔。 她就那樣靜靜地躺著投蝉,像睡著了一般。 火紅的嫁衣襯著肌膚如雪征堪。 梳的紋絲不亂的頭發(fā)上瘩缆,一...
    開封第一講書人閱讀 48,970評論 1 284
  • 那天,我揣著相機(jī)與錄音佃蚜,去河邊找鬼庸娱。 笑死,一個胖子當(dāng)著我的面吹牛谐算,可吹牛的內(nèi)容都是我干的熟尉。 我是一名探鬼主播,決...
    沈念sama閱讀 38,276評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼洲脂,長吁一口氣:“原來是場噩夢啊……” “哼斤儿!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起恐锦,我...
    開封第一講書人閱讀 36,927評論 0 259
  • 序言:老撾萬榮一對情侶失蹤往果,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后一铅,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體陕贮,經(jīng)...
    沈念sama閱讀 43,400評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,883評論 2 323
  • 正文 我和宋清朗相戀三年潘飘,在試婚紗的時候發(fā)現(xiàn)自己被綠了肮之。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 37,997評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡福也,死狀恐怖局骤,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情暴凑,我是刑警寧澤峦甩,帶...
    沈念sama閱讀 33,646評論 4 322
  • 正文 年R本政府宣布,位于F島的核電站现喳,受9級特大地震影響凯傲,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜嗦篱,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,213評論 3 307
  • 文/蒙蒙 一冰单、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧灸促,春花似錦诫欠、人聲如沸涵卵。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至被廓,卻和暖如春坏晦,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背嫁乘。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評論 1 260
  • 我被黑心中介騙來泰國打工昆婿, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人蜓斧。 一個月前我還...
    沈念sama閱讀 45,423評論 2 352
  • 正文 我出身青樓仓蛆,卻偏偏與公主長得像,于是被迫代替她去往敵國和親挎春。 傳聞我的和親對象是個殘疾皇子多律,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,722評論 2 345