python處理數(shù)據(jù)文件第一步是要讀取數(shù)據(jù)往枣,文件類型主要包括文本文件(csv伐庭、txt等)、excel文件分冈、數(shù)據(jù)庫文件圾另、api等。
下面整理下python有哪些方式可以讀取數(shù)據(jù)文件雕沉。
1. python內(nèi)置方法(read集乔、readline、readlines)
- read() : 一次性讀取整個(gè)文件內(nèi)容坡椒。推薦使用read(size)方法扰路,size越大運(yùn)行時(shí)間越長(zhǎng)
- readline() :每次讀取一行內(nèi)容。內(nèi)存不夠時(shí)使用倔叼,一般不太用
- readlines() :一次性讀取整個(gè)文件內(nèi)容汗唱,并按行返回到list,方便我們遍歷
2. 內(nèi)置模塊(csv)
python內(nèi)置了csv模塊用于讀寫csv文件丈攒,csv是一種逗號(hào)分隔符文件哩罪,是數(shù)據(jù)科學(xué)中最常見的數(shù)據(jù)存儲(chǔ)格式之一。
csv模塊能輕松完成各種體量數(shù)據(jù)的讀寫操作巡验,當(dāng)然大數(shù)據(jù)量需要代碼層面的優(yōu)化际插。
- csv模塊讀取文件
# 讀取csv文件
import csv
with open('test.csv','r') as myFile:
lines=csv.reader(myFile)
for line in lines:
print (line)
- csv模塊寫入文件
import csv
with open('test.csv','w+') as myFile:
myWriter=csv.writer(myFile)
# writerrow一行一行寫入
myWriter.writerow([7,8,9])
myWriter.writerow([8,'h','f'])
# writerow多行寫入
myList=[[1,2,3],[4,5,6]]
myWriter.writerows(myList)
3. 使用numpy庫(loadtxt、load显设、fromfile)
-
loadtxt方法
loadtxt用來讀取文本文件(包含txt框弛、csv等)以及.gz 或.bz2格式壓縮文件,前提是文件數(shù)據(jù)每一行必須要有數(shù)量相同的值捕捂。
import numpy as np
# loadtxt()中的dtype參數(shù)默認(rèn)設(shè)置為float
# 這里設(shè)置為str字符串便于顯示
np.loadtxt('test.csv',dtype=str)
# out:array(['1,2,3', '4,5,6', '7,8,9'], dtype='<U5')
-
load方法
load用來讀取numpy專用的.npy
,.npz
或者pickled
持久化文件瑟枫。
import numpy as np
# 先生成npy文件
np.save('test.npy', np.array([[1, 2, 3], [4, 5, 6]]))
# 使用load加載npy文件
np.load('test.npy')
'''
out:array([[1, 2, 3],
[4, 5, 6]])
'''
-
fromfile方法
fromfile方法可以讀取簡(jiǎn)單的文本數(shù)據(jù)或二進(jìn)制數(shù)據(jù),數(shù)據(jù)來源于tofile方法保存的二進(jìn)制數(shù)據(jù)指攒。讀取數(shù)據(jù)時(shí)需要用戶指定元素類型力奋,并對(duì)數(shù)組的形狀進(jìn)行適當(dāng)?shù)男薷摹?/li>
import numpy as np
x = np.arange(9).reshape(3,3)
x.tofile('test.bin')
np.fromfile('test.bin',dtype=np.int)
# out:array([0, 1, 2, 3, 4, 5, 6, 7, 8])
4. 使用pandas庫(read_csv、read_excel等)
pandas是數(shù)據(jù)處理最常用的分析庫之一幽七,可以讀取各種各樣格式的數(shù)據(jù)文件景殷,一般輸出dataframe格式。
如:txt、csv猿挚、excel咐旧、json、剪切板绩蜻、數(shù)據(jù)庫铣墨、html、hdf办绝、parquet伊约、pickled文件、sas孕蝉、stata等等
-
read_csv方法
read_csv方法用來讀取csv格式文件屡律,輸出dataframe格式。
import pandas as pd
pd.read_csv('test.csv')
-
read_excel方法
讀取excel文件降淮,包括xlsx超埋、xls、xlsm格式
import pandas as pd
pd.read_excel('test.xlsx')
-
read_table方法
通過對(duì)sep參數(shù)(分隔符)的控制來對(duì)任何文本文件讀取 -
read_json方法
讀取json格式文件
df = pd.DataFrame([['a', 'b'], ['c', 'd']],index=['row 1', 'row 2'],columns=['col 1', 'col 2'])
j = df.to_json(orient='split')
pd.read_json(j,orient='split')
-
read_html方法
讀取html表格 -
read_clipboard方法
讀取剪切板內(nèi)容 -
read_pickle方法
讀取plckled持久化文件 -
read_sql方法
讀取數(shù)據(jù)庫數(shù)據(jù)佳鳖,連接好數(shù)據(jù)庫后霍殴,傳入sql語句即可 -
read_dhf方法
讀取hdf5文件,適合大文件讀取 -
read_parquet方法
讀取parquet文件 -
read_sas方法
讀取sas文件 -
read_stata方法
讀取stata文件 -
read_gbq方法
讀取google
5系吩、讀寫excel文件(xlrd来庭、xlwt、openpyxl等)
python用于讀寫excel文件的庫有很多穿挨,除了前面提到的pandas月弛,還有xlrd、xlwt絮蒿、openpyxl、xlwings等等叁鉴。
主要模塊:
- xlrd庫:從excel中讀取數(shù)據(jù)土涝,支持xls、xlsx
- xlwt庫:對(duì)excel進(jìn)行修改操作幌墓,不支持對(duì)xlsx格式的修改
- xlutils庫:在xlw和xlrd中但壮,對(duì)一個(gè)已存在的文件進(jìn)行修改
- openpyxl:主要針對(duì)xlsx格式的excel進(jìn)行讀取和編輯
- xlwings:對(duì)xlsx、xls常侣、xlsm格式文件進(jìn)行讀寫蜡饵、格式修改等操作
- xlsxwriter:用來生成excel表格,插入數(shù)據(jù)胳施、插入圖標(biāo)等表格操作溯祸,不支持讀取
- Microsoft Excel API:需安裝pywin32,直接與Excel進(jìn)程通信,可以做任何在Excel里可以做的事情焦辅,但比較慢
6. 操作數(shù)據(jù)庫(pymysql博杖、cx_Oracle等)
python幾乎支持對(duì)所有數(shù)據(jù)庫的交互,連接數(shù)據(jù)庫后筷登,可以使用sql語句進(jìn)行增刪改查剃根。
主要模塊:
- pymysql:用于和mysql數(shù)據(jù)庫的交互
- sqlalchemy:用于和mysql數(shù)據(jù)庫的交互
- cx_Oracle:用于和oracle數(shù)據(jù)庫的交互
- sqlite3:內(nèi)置庫,用于和sqlite數(shù)據(jù)庫的交互
- pymssql:用于和sql server數(shù)據(jù)庫的交互
- pymongo:用于和mongodb非關(guān)系型數(shù)據(jù)庫的交互
- redis前方、pyredis:用于和redis非關(guān)系型數(shù)據(jù)庫的交互