將CSV文件寫入到MySQL中(用Pandas庫實現(xiàn)MySQL數(shù)據(jù)庫的讀寫)

轉(zhuǎn)載自公眾號:python-china

轉(zhuǎn)載自公眾號:python-china

本次分享將介紹如何在Python中使用Pandas庫實現(xiàn)MySQL數(shù)據(jù)庫的讀寫。首先我們需要了解點ORM方面的知識歧寺。

ORM技術(shù)

對象關系映射技術(shù),即ORM(Object-Relational Mapping)技術(shù),指的是把關系數(shù)據(jù)庫的表結(jié)構(gòu)映射到對象上翔怎,通過使用描述對象和數(shù)據(jù)庫之間映射的元數(shù)據(jù)配名,將程序中的對象自動持久化到關系數(shù)據(jù)庫中鹉梨。
在Python中蠢终,最有名的ORM框架是SQLAlchemy序攘。Java中典型的ORM中間件有: Hibernate, ibatis, speedframework。

SQLAlchemy

SQLAlchemy是Python編程語言下的一款開源軟件蜕径。提供了SQL工具包及對象關系映射(ORM)工具两踏,使用MIT許可證發(fā)行败京。
可以使用pip命令安裝SQLAlchemy模塊:

pip install sqlalchemy

SQLAlchemy模塊提供了create_engine()函數(shù)用來初始化數(shù)據(jù)庫連接兜喻,SQLAlchemy用一個字符串表示連接信息:

'數(shù)據(jù)庫類型+數(shù)據(jù)庫驅(qū)動名稱://用戶名:口令@機器地址:端口號/數(shù)據(jù)庫名'

Pandas讀寫MySQL數(shù)據(jù)庫

我們需要以下三個庫來實現(xiàn)Pandas讀寫MySQL數(shù)據(jù)庫:

  • pandas

  • sqlalchemy

  • pymysql

其中,pandas模塊提供了read_sql_query()函數(shù)實現(xiàn)了對數(shù)據(jù)庫的查詢赡麦,to_sql()函數(shù)實現(xiàn)了對數(shù)據(jù)庫的寫入朴皆,并不需要實現(xiàn)新建MySQL數(shù)據(jù)表。sqlalchemy模塊實現(xiàn)了與不同數(shù)據(jù)庫的連接泛粹,而pymysql模塊則使得Python能夠操作MySQL數(shù)據(jù)庫遂铡。
我們將使用MySQL數(shù)據(jù)庫中的mydb數(shù)據(jù)庫以及employee表,內(nèi)容如下:

image

下面將介紹一個簡單的例子來展示如何在pandas中實現(xiàn)對MySQL數(shù)據(jù)庫的讀寫:

# -*- coding: utf-8 -*-

# 導入必要模塊
import pandas as pd
from sqlalchemy import create_engine

# 初始化數(shù)據(jù)庫連接晶姊,使用pymysql模塊
# MySQL的用戶:root, 密碼:147369, 端口:3306,數(shù)據(jù)庫:mydb
engine = create_engine('mysql+pymysql://root:147369@localhost:3306/mydb')

# 查詢語句扒接,選出employee表中的所有數(shù)據(jù)
sql = '''
      select * from employee;
      '''

# read_sql_query的兩個參數(shù): sql語句, 數(shù)據(jù)庫連接
df = pd.read_sql_query(sql, engine)

# 輸出employee表的查詢結(jié)果
print(df)

# 新建pandas中的DataFrame, 只有id,num兩列
df = pd.DataFrame({'id':[1,2,3,4],'num':[12,34,56,89]})

# 將新建的DataFrame儲存為MySQL中的數(shù)據(jù)表们衙,不儲存index列
df.to_sql('mydf', engine, index= False)

程序的運行結(jié)果如下:

image

在MySQL中查看mydf表格:

image

這說明我們確實將pandas中新建的DataFrame寫入到了MySQL中钾怔!

將CSV文件寫入到MySQL中

以上的例子實現(xiàn)了使用Pandas庫實現(xiàn)MySQL數(shù)據(jù)庫的讀寫,我們將再介紹一個實例:將CSV文件寫入到MySQL中蒙挑,示例的mpg.CSV文件前10行如下:

image

示例的Python代碼如下:

# -*- coding: utf-8 -*-

# 導入必要模塊
import pandas as pd
from sqlalchemy import create_engine

# 初始化數(shù)據(jù)庫連接宗侦,使用pymysql模塊
engine = create_engine('mysql+pymysql://root:147369@localhost:3306/mydb')

# 讀取本地CSV文件
df = pd.read_csv("E://mpg.csv", sep=',')

# 將新建的DataFrame儲存為MySQL中的數(shù)據(jù)表,不儲存index列
df.to_sql('mpg', engine, index= False)

print("Write to MySQL successfully!")

在MySQL中查看mpg表格:

image

僅僅5句Python代碼就實現(xiàn)了將CSV文件寫入到MySQL中忆蚀,這無疑是簡單矾利、方便姑裂、迅速、高效的男旗!

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末舶斧,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子察皇,更是在濱河造成了極大的恐慌捧毛,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,039評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件让网,死亡現(xiàn)場離奇詭異呀忧,居然都是意外死亡,警方通過查閱死者的電腦和手機溃睹,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,426評論 3 395
  • 文/潘曉璐 我一進店門而账,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人因篇,你說我怎么就攤上這事泞辐。” “怎么了竞滓?”我有些...
    開封第一講書人閱讀 165,417評論 0 356
  • 文/不壞的土叔 我叫張陵咐吼,是天一觀的道長。 經(jīng)常有香客問我商佑,道長锯茄,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,868評論 1 295
  • 正文 為了忘掉前任茶没,我火速辦了婚禮肌幽,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘抓半。我一直安慰自己喂急,他們只是感情好,可當我...
    茶點故事閱讀 67,892評論 6 392
  • 文/花漫 我一把揭開白布笛求。 她就那樣靜靜地躺著廊移,像睡著了一般。 火紅的嫁衣襯著肌膚如雪探入。 梳的紋絲不亂的頭發(fā)上狡孔,一...
    開封第一講書人閱讀 51,692評論 1 305
  • 那天,我揣著相機與錄音新症,去河邊找鬼步氏。 笑死,一個胖子當著我的面吹牛徒爹,可吹牛的內(nèi)容都是我干的荚醒。 我是一名探鬼主播芋类,決...
    沈念sama閱讀 40,416評論 3 419
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼界阁!你這毒婦竟也來了侯繁?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,326評論 0 276
  • 序言:老撾萬榮一對情侶失蹤泡躯,失蹤者是張志新(化名)和其女友劉穎贮竟,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體较剃,經(jīng)...
    沈念sama閱讀 45,782評論 1 316
  • 正文 獨居荒郊野嶺守林人離奇死亡咕别,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,957評論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了写穴。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片惰拱。...
    茶點故事閱讀 40,102評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖啊送,靈堂內(nèi)的尸體忽然破棺而出偿短,到底是詐尸還是另有隱情,我是刑警寧澤馋没,帶...
    沈念sama閱讀 35,790評論 5 346
  • 正文 年R本政府宣布昔逗,位于F島的核電站,受9級特大地震影響篷朵,放射性物質(zhì)發(fā)生泄漏勾怒。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,442評論 3 331
  • 文/蒙蒙 一款票、第九天 我趴在偏房一處隱蔽的房頂上張望控硼。 院中可真熱鬧,春花似錦艾少、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,996評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至鹦赎,卻和暖如春谍椅,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背古话。 一陣腳步聲響...
    開封第一講書人閱讀 33,113評論 1 272
  • 我被黑心中介騙來泰國打工雏吭, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人陪踩。 一個月前我還...
    沈念sama閱讀 48,332評論 3 373
  • 正文 我出身青樓杖们,卻偏偏與公主長得像悉抵,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子摘完,可洞房花燭夜當晚...
    茶點故事閱讀 45,044評論 2 355

推薦閱讀更多精彩內(nèi)容