讀文件
Python引入了with
語句來自動(dòng)幫我們調(diào)用close()
方法:
with open('/path/to/file', 'r') as f:
print(f.read())
調(diào)用read()
會(huì)一次性讀取文件的全部?jī)?nèi)容,如果文件有10G伤溉,內(nèi)存就爆了般码,所以,要保險(xiǎn)起見乱顾,可以反復(fù)調(diào)用read(size)
方法板祝,每次最多讀取size
個(gè)字節(jié)的內(nèi)容。另外糯耍,調(diào)用readline()
可以每次讀取一行內(nèi)容扔字,調(diào)用readlines()
一次讀取所有內(nèi)容并按行返回list
。因此温技,要根據(jù)需要決定怎么調(diào)用革为。
for line in f.readlines():
print(line.strip()) # 把末尾的'\n'刪掉
file-like Object
像open()
函數(shù)返回的這種有個(gè)read()
方法的對(duì)象,在Python中統(tǒng)稱為file-like Object舵鳞。除了file外震檩,還可以是內(nèi)存的字節(jié)流,網(wǎng)絡(luò)流,自定義流等等抛虏。file-like Object不要求從特定類繼承博其,只要寫個(gè)read()
方法就行。
StringIO
就是在內(nèi)存中創(chuàng)建的file-like Object迂猴,常用作臨時(shí)緩沖慕淡。
二進(jìn)制文件
要讀取二進(jìn)制文件,比如圖片沸毁、視頻等等峰髓,可以用'rb'
模式打開文件:
>>> f = open('/Users/michael/test.jpg', 'rb')
>>> f.read()
b'\xff\xd8\xff\xe1\x00\x18Exif\x00\x00...' # 十六進(jìn)制表示的字節(jié)
字符編碼
要讀取非UTF-8編碼的文本文件,需要給open()
函數(shù)傳入encoding
參數(shù)息尺,例如携兵,讀取GBK編碼的文件:
>>> f = open('/Users/michael/gbk.txt', 'r', encoding='gbk')
>>> f.read()
'測(cè)試'
遇到有些編碼不規(guī)范的文件,你可能會(huì)遇到UnicodeDecodeError搂誉,因?yàn)樵谖谋疚募锌赡軍A雜了一些非法編碼的字符徐紧。遇到這種情況,open()
函數(shù)還接收一個(gè)errors
參數(shù)炭懊,表示如果遇到編碼錯(cuò)誤后如何處理并级。最簡(jiǎn)單的方式是直接忽略:
>>> f = open('/Users/michael/gbk.txt', 'r', encoding='gbk', errors='ignore')
寫文件
傳入標(biāo)識(shí)符'w'
或者'wb'
表示寫文本文件或?qū)懚M(jìn)制文件:
with open('/Users/michael/test.txt', 'w') as f:
f.write('Hello, world!')
要寫入特定編碼的文本文件,請(qǐng)給open()
函數(shù)傳入encoding
參數(shù)侮腹,將字符串自動(dòng)轉(zhuǎn)換成指定編碼死遭。
以'w'
模式寫入文件時(shí),如果文件已存在凯旋,會(huì)直接覆蓋(相當(dāng)于刪掉后新寫入一個(gè)文件)呀潭。可以傳入'a'
以追加(append)模式寫入。
StringIO
很多時(shí)候至非,數(shù)據(jù)讀寫不一定是文件钠署,也可以在內(nèi)存中讀寫。
StringIO顧名思義就是在內(nèi)存中讀寫str荒椭。
要把str寫入StringIO谐鼎,我們需要先創(chuàng)建一個(gè)StringIO,然后趣惠,像文件一樣寫入即可:
>>> from io import StringIO
>>> f = StringIO()
>>> f.write('hello')
5
>>> f.write(' ')
1
>>> f.write('world!')
6
>>> print(f.getvalue())
hello world!
要讀取StringIO狸棍,可以用一個(gè)str初始化StringIO,然后味悄,像讀文件一樣讀炔莞辍:
>>> from io import StringIO
>>> f = StringIO('Hello\nHi!\nGoodbye!')
>>> while True:
s = f.readline()
if s == '':
break
print(s.strip())
Hello
Hi!
Goodbye!
BytesIO
StringIO操作的只能是str,如果要操作二進(jìn)制數(shù)據(jù)侍瑟,就需要使用BytesIO唐片。
BytesIO實(shí)現(xiàn)了在內(nèi)存中讀寫bytes丙猬,我們創(chuàng)建一個(gè)BytesIO,然后寫入一些bytes:
>>> from io import BytesIO
>>> f = BytesIO()
>>> f.write('中文'.encode('utf-8'))
6
>>> print(f.getvalue())
b'\xe4\xb8\xad\xe6\x96\x87'
寫入的是經(jīng)過UTF-8編碼的bytes费韭。
和StringIO類似茧球,可以用一個(gè)bytes初始化BytesIO,然后星持,像讀文件一樣讀惹缆瘛:
>>> from io import BytesIO
>>> f = BytesIO(b'\xe4\xb8\xad\xe6\x96\x87')
>>> f.read()
b'\xe4\xb8\xad\xe6\x96\x87'
操作文件和目錄
>>> import os
>>> os.name # 操作系統(tǒng)類型
'nt'
環(huán)境變量
在操作系統(tǒng)中定義的環(huán)境變量,全部保存在os.environ
這個(gè)變量中督暂,可以直接查看:
>>> os.environ #字典形式
要獲取某個(gè)環(huán)境變量的值羹令,可以調(diào)用os.environ.get('key')
:
>>> os.environ.get('PATH')
'C:\\ProgramData\\Oracle\\Java\\javapath;
C:\\WINDOWS\\system32;
C:\\WINDOWS;
C:\\WINDOWS\\System32\\Wbem;
C:\\WINDOWS\\System32\\WindowsPowerShell\\v1.0\\;
C:\\Program Files\\MATLAB\\R2016b\\runtime\\win64;
C:\\Program Files\\MATLAB\\R2016b\\bin;
C:\\ProgramFiles\\MATLAB\\R2016b\\polyspace\\bin;
C:\\Python36x32bit\\Scripts\\;
C:\\Python36x32bit\\;
C:\\Users\\hasee\\AppData\\Local\\Microsoft\\WindowsApps;'
操作文件和目錄
操作文件和目錄的函數(shù)一部分放在os
模塊中,一部分放在os.path
模塊中损痰,這一點(diǎn)要注意一下。查看酒来、創(chuàng)建和刪除目錄可以這么調(diào)用:
# 查看當(dāng)前目錄的絕對(duì)路徑:
>>> os.path.abspath('.')
'C:\\Python36x32bit'
# 在某個(gè)目錄下創(chuàng)建一個(gè)新目錄卢未,首先把新目錄的完整路徑表示出來:
>>> os.path.join('C:\\Python36x32bit','testdir')
'C:\\Python36x32bit\\testdir'
# 然后創(chuàng)建一個(gè)目錄:
>>> os.mkdir('C:\\Python36x32bit\\testdir')
# 刪掉一個(gè)目錄:
>>> os.rmdir('C:\\Python36x32bit\\testdir')
把兩個(gè)路徑合成一個(gè)時(shí),不要直接拼字符串堰汉,而要通過os.path.join()
函數(shù)辽社,這樣可以正確處理不同操作系統(tǒng)的路徑分隔符。在Windows下翘鸭,os.path.join()
返回這樣的字符串:
part-1\part-2
同樣的道理滴铅,要拆分路徑時(shí),也不要直接去拆字符串就乓,而要通過os.path.split()
函數(shù)汉匙,這樣可以把一個(gè)路徑拆分為兩部分,后一部分總是最后級(jí)別的目錄或文件名:
>>> os.path.split('/Users/michael/testdir/file.txt')
('/Users/michael/testdir', 'file.txt')
os.path.splitext()
可以直接得到文件擴(kuò)展名:
>>> os.path.splitext('/path/to/file.txt')
('/path/to/file', '.txt')
這些合并生蚁、拆分路徑的函數(shù)并不要求目錄和文件要真實(shí)存在噩翠,它們只對(duì)字符串進(jìn)行操作。
文件操作使用下面的函數(shù)邦投。假定當(dāng)前目錄下有一個(gè)test.txt
文件:
# 對(duì)文件重命名:
>>> os.rename('test.txt', 'test.py')
# 刪掉文件:
>>> os.remove('test.py')
但是復(fù)制文件的函數(shù)居然在os
模塊中不存在伤锚!原因是復(fù)制文件并非由操作系統(tǒng)提供的系統(tǒng)調(diào)用。理論上講志衣,我們通過上一節(jié)的讀寫文件可以完成文件復(fù)制屯援,只不過要多寫很多代碼。
幸運(yùn)的是shutil
模塊提供了copyfile()
的函數(shù)念脯,你還可以在shutil
模塊中找到很多實(shí)用函數(shù)狞洋,它們可以看做是os
模塊的補(bǔ)充。
利用Python的特性來過濾文件绿店。比如我們要列出當(dāng)前目錄下的所有目錄徘铝,只需要一行代碼:
>>> [x for x in os.listdir('.') if os.path.isdir(x)]
['DLLs', 'Doc', 'include', 'Lib', 'libs', 'python36', 'Scripts', 'tcl', 'Tools', '__pycache__']
要列出所有的.py文件,也只需一行代碼:
>>> [x for x in os.listdir('.') if os.path.isfile(x) and os.path.splitext(x)[1] == '.py']
['practice.py']
序列化
把變量從內(nèi)存中變成可存儲(chǔ)或傳輸?shù)倪^程稱之為序列化
Python提供了pickle
模塊來實(shí)現(xiàn)序列化。
首先惕它,我們嘗試把一個(gè)對(duì)象序列化并寫入文件:
>>> import pickle
>>> d = dict(name='Bob', age=20, score=88)
>>> pickle.dumps(d)
b'\x80\x03}q\x00(X\x03\x00\x00\x00ageq\x01K\x14X\x05\x00\x00\x00scoreq\x02KXX\x04\x00\x00\x00nameq\x03X\x03\x00\x00\x00Bobq\x04u.'
pickle.dumps()
方法把任意對(duì)象序列化成一個(gè)bytes
怕午,然后,就可以把這個(gè)bytes
寫入文件。或者用另一個(gè)方法pickle.dump()
直接把對(duì)象序列化后寫入一個(gè)file-like Object:
>>> f = open('dump.txt', 'wb')
>>> pickle.dump(d, f)
>>> f.close()
看看寫入的dump.txt
文件穴墅,一堆亂七八糟的內(nèi)容匣吊,這些都是Python保存的對(duì)象內(nèi)部信息。
當(dāng)我們要把對(duì)象從磁盤讀到內(nèi)存時(shí)昧穿,可以先把內(nèi)容讀到一個(gè)
bytes
,然后用pickle.loads()
方法反序列化出對(duì)象,也可以直接用pickle.load()
方法從一個(gè)file-like Object
中直接反序列化出對(duì)象虎韵。我們打開另一個(gè)Python命令行來反序列化剛才保存的對(duì)象:
>>> f = open('dump.txt','rb')
>>> d = pickle.load(f)
>>> f.close()
>>> d
{'name': 'Bob', 'age': 20, 'score': 80}
變量的內(nèi)容又回來了!
當(dāng)然缸废,這個(gè)變量和原來的變量是完全不相干的對(duì)象包蓝,它們只是內(nèi)容相同而已。
JSON
如果我們要在不同的編程語言之間傳遞對(duì)象企量,就必須把對(duì)象序列化為標(biāo)準(zhǔn)格式测萎,比如XML,但更好的方法是序列化為JSON届巩,因?yàn)镴SON表示出來就是一個(gè)字符串硅瞧,可以被所有語言讀取,也可以方便地存儲(chǔ)到磁盤或者通過網(wǎng)絡(luò)傳輸恕汇。JSON不僅是標(biāo)準(zhǔn)格式腕唧,并且比XML更快,而且可以直接在Web頁面中讀取瘾英,非常方便四苇。
JSON表示的對(duì)象就是標(biāo)準(zhǔn)的JavaScript語言的對(duì)象,JSON和Python內(nèi)置的數(shù)據(jù)類型對(duì)應(yīng)如下:
Python內(nèi)置的
json
模塊提供了非常完善的Python對(duì)象到JSON格式的轉(zhuǎn)換方咆。我們先看看如何把Python對(duì)象變成一個(gè)JSON:
>>> import json
>>> d = dict(name = 'Bob', age = 20, score = 80)
>>> json.dumps(d)
'{"name": "Bob", "age": 20, "score": 80}'
dumps()
方法返回一個(gè)str
月腋,內(nèi)容就是標(biāo)準(zhǔn)的JSON。類似的瓣赂,dump()
方法可以直接把JSON寫入一個(gè)file-like Object
榆骚。
要把JSON反序列化為Python對(duì)象,用loads()
或者對(duì)應(yīng)的load()
方法煌集,前者把JSON的字符串反序列化妓肢,后者從file-like Object
中讀取字符串并反序列化:
>>> json_str = '{"age":20,"score":80,"name":"Bob"}'
>>> json.loads(json_str)
{'age': 20, 'score': 80, 'name': 'Bob'}
JSON進(jìn)階
Python的dict
對(duì)象可以直接序列化為JSON的{}
,不過苫纤,很多時(shí)候碉钠,我們更喜歡用class
表示對(duì)象纲缓,比如定義Student
類,然后序列化:
import json
class Student(object):
def __init__(self, name, age, score):
self.name = name
self.age = age
self.score = score
s = Student('Bob', 20, 88)
print(json.dumps(s))
Traceback (most recent call last):
...
TypeError: <__main__.Student object at 0x10603cc50> is not JSON serializable
錯(cuò)誤的原因是Student
對(duì)象不是一個(gè)可序列化為JSON的對(duì)象喊废。
如果連class
的實(shí)例對(duì)象都無法序列化為JSON祝高,這肯定不合理!
別急污筷,我們仔細(xì)看看dumps()
方法的參數(shù)列表工闺,可以發(fā)現(xiàn),除了第一個(gè)必須的obj
參數(shù)外瓣蛀,dumps()
方法還提供了一大堆的可選參數(shù):
json.dumps(obj, *, skipkeys=False, ensure_ascii=True,
check_circular=True, allow_nan=True,
cls=None, indent=None, separators=None,
default=None, sort_keys=False, **kw))
這些可選參數(shù)就是讓我們來定制JSON序列化陆蟆。前面的代碼之所以無法把Student
類實(shí)例序列化為JSON,是因?yàn)槟J(rèn)情況下惋增,dumps()
方法不知道如何將Student
實(shí)例變?yōu)橐粋€(gè)JSON的{}
對(duì)象叠殷。
可選參數(shù)default
就是把任意一個(gè)對(duì)象變成一個(gè)可序列為JSON的對(duì)象,我們只需要為Student
專門寫一個(gè)轉(zhuǎn)換函數(shù)诈皿,再把函數(shù)傳進(jìn)去即可:
def student2dict(std):
return {
'name': std.name,
'age': std.age,
'score': std.score
}
這樣林束,Student
實(shí)例首先被student2dict()
函數(shù)轉(zhuǎn)換成dict
,然后再被順利序列化為JSON:
>>> print(json.dumps(s, default=student2dict))
{"age": 20, "name": "Bob", "score": 88}
不過纫塌,下次如果遇到一個(gè)Teacher
類的實(shí)例,照樣無法序列化為JSON讲弄。我們可以偷個(gè)懶措左,把任意class
的實(shí)例變?yōu)?code>dict:
print(json.dumps(s, default=lambda obj: obj.__dict__))
同樣的道理,如果我們要把JSON反序列化為一個(gè)Student
對(duì)象實(shí)例避除,loads()
方法首先轉(zhuǎn)換出一個(gè)dict
對(duì)象怎披,然后,我們傳入的object_hook
函數(shù)負(fù)責(zé)把dict
轉(zhuǎn)換為Student
實(shí)例:
def dict2student(d):
return Student(d['name'],d['age'],d['score'])
>>> json_str = '{"age": 20, "score": 88, "name": "Bob"}'
>>> print(json.loads(json_str, object_hook=dict2student))
<__main__.Student object at 0x10cd3c190>
打印出的是反序列化的Student
實(shí)例對(duì)象瓶摆。
在Python中,json.dumps
函數(shù)接受參數(shù)default
用于指定一個(gè)函數(shù)凉逛,該函數(shù)能夠把自定義類型的對(duì)象轉(zhuǎn)換成可序列化的基本類型。json.loads
函數(shù)接受參數(shù)objec_thook
用于指定函數(shù)群井,該函數(shù)負(fù)責(zé)把反序列化后的基本類型對(duì)象轉(zhuǎn)換成自定義類型的對(duì)象状飞。