在上一篇文章里我們講了 xpath寫法的問題還以爬取我的文章信息寫了示例,但是在上一篇中我們只是爬取并打印了信息衡奥,并沒有對信息進(jìn)行保存爹袁。
實(shí)際應(yīng)用中爬取到的信息肯定是需要保存到本地的。保存信息的方式有數(shù)據(jù)庫和文件的形式杰赛,數(shù)據(jù)庫我們后面再講呢簸,現(xiàn)在讓我們先看看怎么把信息保存到文件里。
這里我們主要講講 將數(shù)據(jù)保存為 json格式和 csv格式乏屯,這就要用到兩個庫 json庫和 csv庫,這兩個庫都是 python自帶的庫瘦赫。
關(guān)于數(shù)據(jù)存儲我們分兩篇來講辰晕,這一篇先講 json,下一篇再講 csv确虱。
一含友、關(guān)于 json
json的簡介直接引用百度百科的定義:
JSON(JavaScript Object Notation, JS 對象簡譜) 是一種輕量級的數(shù)據(jù)交換格式。它基于 ECMAScript (歐洲計算機(jī)協(xié)會制定的js規(guī)范)的一個子集,采用完全獨(dú)立于編程語言的文本格式來存儲和表示數(shù)據(jù)窘问。簡潔和清晰的層次結(jié)構(gòu)使得 JSON 成為理想的數(shù)據(jù)交換語言辆童。 易于人閱讀和編寫,同時也易于機(jī)器解析和生成惠赫,并有效地提升網(wǎng)絡(luò)傳輸效率把鉴。
實(shí)際上 json的格式和 python中的字典很像,也是由鍵值對組成儿咱,但是 python中的值可以為任何對象(列表庭砍、字典、字符串混埠、數(shù)字等等)怠缸,而 json中的值只能是數(shù)組(列表)、字典钳宪、字符串揭北、數(shù)組、布爾值中的一中或幾種。
其格式就像下面這樣:
注意:json中的引號必須是雙引號越庇,否則會報錯
{
"key1": "value1",
"key2": [1,2,"value2"],
"key3":
{
"key31": "value1",
"key32": [1,2,"value2"],
"key33": true,
},
}
二冤议、json庫的使用
json庫一共有三個方法,分別是 dump嫉柴、dumps、load奉呛、loads计螺。
其中 dump和 dumps是用來把把字典和數(shù)組轉(zhuǎn)換為 json格式的,dump把轉(zhuǎn)換結(jié)果直接寫入文件瞧壮,dumps返回字符串登馒。
load和 loads是把 json格式的數(shù)據(jù)轉(zhuǎn)換為字典格式,load直接從 json文件中讀取數(shù)據(jù)并返回字典對象咆槽,loads把字符串形式的 json數(shù)據(jù)轉(zhuǎn)換成字典格式陈轿。
下面講講這些方法的具體用法。
1秦忿、dump和 dumps
dump的函數(shù)原型是 dump(obj, fp)
第一個參數(shù) obj是要轉(zhuǎn)換的對象麦射,第二個參數(shù) fp是要寫入數(shù)據(jù)的文件對象。
dumps的函數(shù)原型是 dumps(obj)
參數(shù)是要轉(zhuǎn)換的對象
注意:如果要轉(zhuǎn)換的對象里有中文字符的話灯谣,要把 ensure_ascii設(shè)置為 False否則中文會被編碼為 ascii格式
#-*- coding: utf-8 -*
import json
test = {
"key1": "value1",
"key2": [1,2,"value2"],
"key3":
{
"key31": "value1",
"key32": [1,2,"value2"],
"key33": True,
"key34": "測試",
},
}
#沒有設(shè)置 ensure_ascii為 False
with open('test.json', 'w', encoding='utf-8') as fp:
json.dump(test, fp)
#設(shè)置了 ensure_ascii為 False
with open('test_no_ascii.json', 'w', encoding='utf-8') as fp:
json.dump(test, fp, ensure_ascii=False)
#test.json的文件內(nèi)容為:
#{... ... "key33": true, "key34": "\u6d4b\u8bd5"}}
#test_no_ascii.json的文件內(nèi)容為:
#{... ... "key33": true, "key34": "測試"}}
#注意到 python中的 True轉(zhuǎn)換成了 Javascript里的 true
#另外在打開文件的時候強(qiáng)烈建議用 encoding指定文件編碼
#還需要注意文件的打開模式 w是寫入潜秋,文件已存在的話就覆蓋
#要追加寫入的話記得用 a模式打開
test_string = json.dumps(test, ensure_ascii=False)
print(test_string)
打印結(jié)果:
2、load和 loads
load的函數(shù)原型是 load(fp)
參數(shù) fp是要讀取的文件對象
loads的函數(shù)原型是 loads(string)
參數(shù) string是要轉(zhuǎn)換成 python對象的 json字符串胎许,通常用來將網(wǎng)頁中的 json數(shù)據(jù)轉(zhuǎn)換為 python對象
#-*- coding: utf-8 -*
import json
#json格式的字符串
test_string = '{"key1": "value1", "key2": [1, 2, "value2"], "key3": {"key31": "value1", "key32": [1, 2, "value2"], "key33": true, "key34": "測試"}}'
#從之前保存的 test_no_ascii.json中讀取 注意模式為 r
with open('test_no_ascii.json', 'r', encoding='utf-8') as fp:
json_obj_from_file = json.load(fp)
json_obj_from_web = json.loads(test_string)
#打印兩個返回結(jié)果的類型
print(type(json_obj_from_file))
print(type(json_obj_from_web))
#打印兩個返回結(jié)果的內(nèi)容
print(json_obj_from_file)
print(json_obj_from_web)
打印結(jié)果:
csv庫在下一篇繼續(xù)講峻呛,點(diǎn)贊就是對我最大的支持(~ ̄▽ ̄)~