「爬蟲」17當當網(wǎng)書籍信息爬蟲及結果寫入數(shù)據(jù)庫

1.項目需求:將當當網(wǎng)程序設計類()書籍的商品名效扫、商品鏈接以及評價數(shù)爬取后保存到mysql數(shù)據(jù)庫中。

當當網(wǎng)程序設計類書籍

2.項目實施步驟

(1)創(chuàng)建爬蟲項目和文件昏兆。

scrapy startproject dangdang

scrapy genspider -t basic dd dangdang.com

(2)編寫items.py文件有梆。

dangdang/items.py

(3)編寫dd.py文件。

dangdang/Spiders/dd.py

(4)數(shù)據(jù)處理準備:若本機已準備好mysql數(shù)據(jù)庫瞒御,直接對數(shù)據(jù)庫進行操作;若沒有神郊,則進行安裝肴裙。

cmd安裝pymysql的命令:

pip install pymysql

cmd進入mysql的命令:

cmd運行mysql.exe

建立dangdang數(shù)據(jù)庫:

create database dangdang;

切換數(shù)據(jù)庫:

use dangdang;

庫中建立存儲爬取結果的book表:

create?table book(title char(100) primary key,link char(100) unique,comment char(20));

【注】①在mysql/bin文件中直接運行mysql.exe文件可能出現(xiàn)閃退的情況趾唱,處理的一種方法就是在shell中先進入mysql/bin,再利用命令mysql.exe -u root -p進入mysql的shell蜻懦。

②mysql shell常使用的sql命令有:

show databases甜癞;

create database 數(shù)據(jù)庫名;

use 數(shù)據(jù)庫名宛乃;

create table 表名(字段名1 字段類型 屬性,字段名1 字段類型 屬性,...)悠咱;

select * from 表名;

insert into 表名(字段1征炼,字段2析既,...)values(“值1”,“值2”谆奥,...)眼坏;

③在mysql的shell中輸入命令,一定要以雄右;為結束標識符空骚。

(5)編寫pipelines.py文件(寫入數(shù)據(jù)庫)。

dangdang/pipelines.py

(6)編寫settings.py文件(開啟爬蟲)擂仍。

dangdang/settings.py

(7)運行爬蟲囤屹。

scrapy crawl dd --nolog

(8)查看結果。

sql語句查看結果
數(shù)據(jù)庫查看結果
最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末逢渔,一起剝皮案震驚了整個濱河市肋坚,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌肃廓,老刑警劉巖智厌,帶你破解...
    沈念sama閱讀 219,039評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異盲赊,居然都是意外死亡铣鹏,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,426評論 3 395
  • 文/潘曉璐 我一進店門哀蘑,熙熙樓的掌柜王于貴愁眉苦臉地迎上來诚卸,“玉大人,你說我怎么就攤上這事绘迁『夏纾” “怎么了?”我有些...
    開封第一講書人閱讀 165,417評論 0 356
  • 文/不壞的土叔 我叫張陵缀台,是天一觀的道長棠赛。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么睛约? 我笑而不...
    開封第一講書人閱讀 58,868評論 1 295
  • 正文 為了忘掉前任鼎俘,我火速辦了婚禮,結果婚禮上痰腮,老公的妹妹穿的比我還像新娘而芥。我一直安慰自己,他們只是感情好膀值,可當我...
    茶點故事閱讀 67,892評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著误辑,像睡著了一般沧踏。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上巾钉,一...
    開封第一講書人閱讀 51,692評論 1 305
  • 那天翘狱,我揣著相機與錄音,去河邊找鬼砰苍。 笑死潦匈,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的赚导。 我是一名探鬼主播茬缩,決...
    沈念sama閱讀 40,416評論 3 419
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼吼旧!你這毒婦竟也來了凰锡?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 39,326評論 0 276
  • 序言:老撾萬榮一對情侶失蹤圈暗,失蹤者是張志新(化名)和其女友劉穎掂为,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體员串,經(jīng)...
    沈念sama閱讀 45,782評論 1 316
  • 正文 獨居荒郊野嶺守林人離奇死亡勇哗,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,957評論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了寸齐。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片欲诺。...
    茶點故事閱讀 40,102評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖访忿,靈堂內(nèi)的尸體忽然破棺而出瞧栗,到底是詐尸還是另有隱情,我是刑警寧澤海铆,帶...
    沈念sama閱讀 35,790評論 5 346
  • 正文 年R本政府宣布迹恐,位于F島的核電站,受9級特大地震影響卧斟,放射性物質(zhì)發(fā)生泄漏殴边。R本人自食惡果不足惜憎茂,卻給世界環(huán)境...
    茶點故事閱讀 41,442評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望锤岸。 院中可真熱鬧竖幔,春花似錦、人聲如沸是偷。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,996評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽蛋铆。三九已至馋评,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間刺啦,已是汗流浹背留特。 一陣腳步聲響...
    開封第一講書人閱讀 33,113評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留玛瘸,地道東北人蜕青。 一個月前我還...
    沈念sama閱讀 48,332評論 3 373
  • 正文 我出身青樓,卻偏偏與公主長得像糊渊,于是被迫代替她去往敵國和親右核。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 45,044評論 2 355

推薦閱讀更多精彩內(nèi)容

  • 官網(wǎng) 中文版本 好的網(wǎng)站 Content-type: text/htmlBASH Section: User ...
    不排版閱讀 4,383評論 0 5
  • sqlmap用戶手冊 說明:本文為轉載再来,對原文中一些明顯的拼寫錯誤進行修正蒙兰,并標注對自己有用的信息。 ======...
    wind_飄閱讀 2,051評論 0 5
  • http://192.168.136.131/sqlmap/mysql/get_int.php?id=1 當給sq...
    xuningbo閱讀 10,317評論 2 22
  • 1-1主要內(nèi)容lscrapy概述及安裝lscrapy基礎操作n入門程序l核心APIl案例操作~10個爬蟲程序[10...
    nine_9閱讀 365評論 0 1
  • 文 | 皮皮蘇 圖片均來源于網(wǎng)絡 你喝這一口法國葡萄酒的時候芒篷,可否知道它背后的故事搜变? 這是一顆非常優(yōu)秀的葡萄種子,...
    皮皮蘇蘇蘇閱讀 283評論 0 3