python里讀寫excel等數(shù)據(jù)文件的幾種常用方式

python處理數(shù)據(jù)文件第一步是要讀取數(shù)據(jù)往枣,文件類型主要包括文本文件(csv伐庭、txt等)、excel文件分冈、數(shù)據(jù)庫文件圾另、api等。

下面整理下python有哪些方式可以讀取數(shù)據(jù)文件雕沉。

1. python內(nèi)置方法(read集乔、readline、readlines)

  • read() : 一次性讀取整個(gè)文件內(nèi)容坡椒。推薦使用read(size)方法扰路,size越大運(yùn)行時(shí)間越長(zhǎng)
  • readline() :每次讀取一行內(nèi)容。內(nèi)存不夠時(shí)使用倔叼,一般不太用
  • readlines() :一次性讀取整個(gè)文件內(nèi)容汗唱,并按行返回到list,方便我們遍歷

2. 內(nèi)置模塊(csv)

python內(nèi)置了csv模塊用于讀寫csv文件丈攒,csv是一種逗號(hào)分隔符文件哩罪,是數(shù)據(jù)科學(xué)中最常見的數(shù)據(jù)存儲(chǔ)格式之一。
csv模塊能輕松完成各種體量數(shù)據(jù)的讀寫操作巡验,當(dāng)然大數(shù)據(jù)量需要代碼層面的優(yōu)化际插。

  • csv模塊讀取文件
# 讀取csv文件
import csv  
with open('test.csv','r') as myFile:  
    lines=csv.reader(myFile)  
    for line in lines:  
        print (line)  
  • csv模塊寫入文件
import csv  
with open('test.csv','w+') as myFile:      
    myWriter=csv.writer(myFile)  
    # writerrow一行一行寫入
    myWriter.writerow([7,8,9])  
    myWriter.writerow([8,'h','f'])  
    # writerow多行寫入
    myList=[[1,2,3],[4,5,6]]  
    myWriter.writerows(myList)  

3. 使用numpy庫(loadtxt、load显设、fromfile)

  • loadtxt方法
    loadtxt用來讀取文本文件(包含txt框弛、csv等)以及.gz 或.bz2格式壓縮文件,前提是文件數(shù)據(jù)每一行必須要有數(shù)量相同的值捕捂。
import numpy as np
# loadtxt()中的dtype參數(shù)默認(rèn)設(shè)置為float
# 這里設(shè)置為str字符串便于顯示
np.loadtxt('test.csv',dtype=str)
# out:array(['1,2,3', '4,5,6', '7,8,9'], dtype='<U5')
  • load方法
    load用來讀取numpy專用的.npy, .npz 或者pickled持久化文件瑟枫。
import numpy as np
# 先生成npy文件
np.save('test.npy', np.array([[1, 2, 3], [4, 5, 6]]))
# 使用load加載npy文件
np.load('test.npy')
'''
out:array([[1, 2, 3],
       [4, 5, 6]])
'''
  • fromfile方法
    fromfile方法可以讀取簡(jiǎn)單的文本數(shù)據(jù)或二進(jìn)制數(shù)據(jù),數(shù)據(jù)來源于tofile方法保存的二進(jìn)制數(shù)據(jù)指攒。讀取數(shù)據(jù)時(shí)需要用戶指定元素類型力奋,并對(duì)數(shù)組的形狀進(jìn)行適當(dāng)?shù)男薷摹?/li>
import numpy as np
x = np.arange(9).reshape(3,3)
x.tofile('test.bin')
np.fromfile('test.bin',dtype=np.int)
# out:array([0, 1, 2, 3, 4, 5, 6, 7, 8])

4. 使用pandas庫(read_csv、read_excel等)

pandas是數(shù)據(jù)處理最常用的分析庫之一幽七,可以讀取各種各樣格式的數(shù)據(jù)文件景殷,一般輸出dataframe格式。
如:txt、csv猿挚、excel咐旧、json、剪切板绩蜻、數(shù)據(jù)庫铣墨、html、hdf办绝、parquet伊约、pickled文件、sas孕蝉、stata等等

  • read_csv方法
    read_csv方法用來讀取csv格式文件屡律,輸出dataframe格式。
import pandas as pd
pd.read_csv('test.csv')
  • read_excel方法
    讀取excel文件降淮,包括xlsx超埋、xls、xlsm格式
import pandas as pd
pd.read_excel('test.xlsx')
  • read_table方法
    通過對(duì)sep參數(shù)(分隔符)的控制來對(duì)任何文本文件讀取
  • read_json方法
    讀取json格式文件
df = pd.DataFrame([['a', 'b'], ['c', 'd']],index=['row 1', 'row 2'],columns=['col 1', 'col 2'])
j = df.to_json(orient='split')
pd.read_json(j,orient='split')
  • read_html方法
    讀取html表格
  • read_clipboard方法
    讀取剪切板內(nèi)容
  • read_pickle方法
    讀取plckled持久化文件
  • read_sql方法
    讀取數(shù)據(jù)庫數(shù)據(jù)佳鳖,連接好數(shù)據(jù)庫后霍殴,傳入sql語句即可
  • read_dhf方法
    讀取hdf5文件,適合大文件讀取
  • read_parquet方法
    讀取parquet文件
  • read_sas方法
    讀取sas文件
  • read_stata方法
    讀取stata文件
  • read_gbq方法
    讀取google

5系吩、讀寫excel文件(xlrd来庭、xlwt、openpyxl等)

python用于讀寫excel文件的庫有很多穿挨,除了前面提到的pandas月弛,還有xlrd、xlwt絮蒿、openpyxl、xlwings等等叁鉴。

主要模塊:

  • xlrd庫:從excel中讀取數(shù)據(jù)土涝,支持xls、xlsx
  • xlwt庫:對(duì)excel進(jìn)行修改操作幌墓,不支持對(duì)xlsx格式的修改
  • xlutils庫:在xlw和xlrd中但壮,對(duì)一個(gè)已存在的文件進(jìn)行修改
  • openpyxl:主要針對(duì)xlsx格式的excel進(jìn)行讀取和編輯
  • xlwings:對(duì)xlsx、xls常侣、xlsm格式文件進(jìn)行讀寫蜡饵、格式修改等操作
  • xlsxwriter:用來生成excel表格,插入數(shù)據(jù)胳施、插入圖標(biāo)等表格操作溯祸,不支持讀取
  • Microsoft Excel API:需安裝pywin32,直接與Excel進(jìn)程通信,可以做任何在Excel里可以做的事情焦辅,但比較慢

6. 操作數(shù)據(jù)庫(pymysql博杖、cx_Oracle等)

python幾乎支持對(duì)所有數(shù)據(jù)庫的交互,連接數(shù)據(jù)庫后筷登,可以使用sql語句進(jìn)行增刪改查剃根。

主要模塊:

  • pymysql:用于和mysql數(shù)據(jù)庫的交互
  • sqlalchemy:用于和mysql數(shù)據(jù)庫的交互
  • cx_Oracle:用于和oracle數(shù)據(jù)庫的交互
  • sqlite3:內(nèi)置庫,用于和sqlite數(shù)據(jù)庫的交互
  • pymssql:用于和sql server數(shù)據(jù)庫的交互
  • pymongo:用于和mongodb非關(guān)系型數(shù)據(jù)庫的交互
  • redis前方、pyredis:用于和redis非關(guān)系型數(shù)據(jù)庫的交互
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末狈醉,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子惠险,更是在濱河造成了極大的恐慌苗傅,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,542評(píng)論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件莺匠,死亡現(xiàn)場(chǎng)離奇詭異金吗,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)趣竣,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,596評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門摇庙,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人遥缕,你說我怎么就攤上這事卫袒。” “怎么了单匣?”我有些...
    開封第一講書人閱讀 158,021評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵窒典,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我情妖,道長(zhǎng)颠悬,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,682評(píng)論 1 284
  • 正文 為了忘掉前任鸡号,我火速辦了婚禮转砖,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘鲸伴。我一直安慰自己府蔗,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,792評(píng)論 6 386
  • 文/花漫 我一把揭開白布汞窗。 她就那樣靜靜地躺著姓赤,像睡著了一般。 火紅的嫁衣襯著肌膚如雪仲吏。 梳的紋絲不亂的頭發(fā)上不铆,一...
    開封第一講書人閱讀 49,985評(píng)論 1 291
  • 那天蝌焚,我揣著相機(jī)與錄音,去河邊找鬼狂男。 笑死综看,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的岖食。 我是一名探鬼主播红碑,決...
    沈念sama閱讀 39,107評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼泡垃!你這毒婦竟也來了析珊?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,845評(píng)論 0 268
  • 序言:老撾萬榮一對(duì)情侶失蹤蔑穴,失蹤者是張志新(化名)和其女友劉穎忠寻,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體存和,經(jīng)...
    沈念sama閱讀 44,299評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡奕剃,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,612評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了捐腿。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片纵朋。...
    茶點(diǎn)故事閱讀 38,747評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖茄袖,靈堂內(nèi)的尸體忽然破棺而出操软,到底是詐尸還是另有隱情,我是刑警寧澤宪祥,帶...
    沈念sama閱讀 34,441評(píng)論 4 333
  • 正文 年R本政府宣布聂薪,位于F島的核電站,受9級(jí)特大地震影響蝗羊,放射性物質(zhì)發(fā)生泄漏藏澳。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,072評(píng)論 3 317
  • 文/蒙蒙 一耀找、第九天 我趴在偏房一處隱蔽的房頂上張望翔悠。 院中可真熱鬧,春花似錦涯呻、人聲如沸凉驻。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,828評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至雄家,卻和暖如春效诅,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,069評(píng)論 1 267
  • 我被黑心中介騙來泰國(guó)打工乱投, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留咽笼,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,545評(píng)論 2 362
  • 正文 我出身青樓戚炫,卻偏偏與公主長(zhǎng)得像剑刑,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子双肤,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,658評(píng)論 2 350

推薦閱讀更多精彩內(nèi)容