pandas讀取及存儲(chǔ)MySQL

一右核、工具

需要使用到的庫(kù)

import pandas as pd
import pymysql
from sqlalchemy import create_engine

二瞬雹、建立數(shù)據(jù)庫(kù)連接

  • 使用pymysql庫(kù)
# 建立數(shù)據(jù)庫(kù)表連接
conn = pymysql.connect('localhost','user_name','password','database_name',charset='utf8')
# 關(guān)閉連接
conn.close()
  • 使用sqlalchemyl庫(kù)
# 建立數(shù)據(jù)庫(kù)表連接
db = create_engine('dialect+driver://user_name:password@localhost:port/database')
conn = db.connect()
# 關(guān)閉連接
conn.close()
db.dispose()

三冈绊、讀取數(shù)據(jù)到DataFrame

# pd.read_sql_query(sql, con, index_col=None, coerce_float=True, params=None, parse_dates=None, chunksize=None)
# sql查詢語(yǔ)句
sql_query = "select * from <table_name>;"
# 將數(shù)據(jù)讀取到DataFrame
df = pd.read_sql_query(sql=sql_query, con=conn)
# 讀取整個(gè)table段标,可以不需要sql語(yǔ)句
# pd.read_sql_table(table_name, con, schema=None, index_col=None, coerce_float=True, parse_dates=None, columns=None, chunksize=None)
df = pd.read_sql_table(table_name, con=conn)

pd.read_sql函數(shù)綜合了pd.read_sql_querypd.read_sql_table沃但,但只有在SQLAlchemy連接時(shí)拐辽,第一個(gè)參數(shù)才能用table名稱拣挪。

# pd.read_sql(sql or table, con, index_col=None, coerce_float=True, params=None, parse_dates=None, columns=None, chunksize=None)
df = pd.read_sql(sql, con=conn)

現(xiàn)在通常使用的是SQLAlchemy連接池,所以直接用pd.read_sql更方便俱诸。

四菠劝、DataFrame寫入MySQL

Databases supported by SQLAlchemy [1] are supported. Tables can be newly created, appended to, or overwritten.

# 需要使用sqlalchemy連接池
# 如果數(shù)據(jù)表不存在,也可直接寫入數(shù)據(jù)睁搭,不需要事前創(chuàng)建數(shù)據(jù)表
engine=create_engine('dialect+driver://username:password@localhost:port/database')
conn=engine.connect()
df.to_sql(name=table_name, con=conn, if_exists='fail')
  • if_exists參數(shù)
    if_exists參數(shù)默認(rèn)為fail,表示如果表table_name已存在赶诊,則不寫入;其他可選值:
    replace: 替代原有數(shù)據(jù)
    append: 添加數(shù)據(jù)到已有的表

  • index參數(shù)
    index默認(rèn)是True园骆,則DataFrame的index也會(huì)作為單獨(dú)一列寫入mysql舔痪。如果需要反復(fù)讀寫,建議index=False锌唾。

  • dtype參數(shù)
    需要使用SQLAlchemy的數(shù)據(jù)類型锄码,要提前導(dǎo)入:

from sqlalchemy.types import VARCHAR, Float, Integer, Date, Numeric, String, Text

五、總結(jié)

如果只是用pandas讀寫mysql數(shù)據(jù)晌涕,那么用sqlalchemy連接MySQL數(shù)據(jù)庫(kù)會(huì)更方便直接滋捶,而且可以不需要使用sql語(yǔ)句。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末余黎,一起剝皮案震驚了整個(gè)濱河市重窟,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌惧财,老刑警劉巖巡扇,帶你破解...
    沈念sama閱讀 212,884評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件扭仁,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡厅翔,警方通過(guò)查閱死者的電腦和手機(jī)乖坠,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,755評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)知给,“玉大人瓤帚,你說(shuō)我怎么就攤上這事描姚∩” “怎么了?”我有些...
    開(kāi)封第一講書人閱讀 158,369評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵轩勘,是天一觀的道長(zhǎng)筒扒。 經(jīng)常有香客問(wèn)我,道長(zhǎng)绊寻,這世上最難降的妖魔是什么花墩? 我笑而不...
    開(kāi)封第一講書人閱讀 56,799評(píng)論 1 285
  • 正文 為了忘掉前任,我火速辦了婚禮澄步,結(jié)果婚禮上冰蘑,老公的妹妹穿的比我還像新娘。我一直安慰自己村缸,他們只是感情好祠肥,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,910評(píng)論 6 386
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著梯皿,像睡著了一般仇箱。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上东羹,一...
    開(kāi)封第一講書人閱讀 50,096評(píng)論 1 291
  • 那天剂桥,我揣著相機(jī)與錄音,去河邊找鬼属提。 笑死权逗,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的冤议。 我是一名探鬼主播斟薇,決...
    沈念sama閱讀 39,159評(píng)論 3 411
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼求类!你這毒婦竟也來(lái)了奔垦?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書人閱讀 37,917評(píng)論 0 268
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤尸疆,失蹤者是張志新(化名)和其女友劉穎椿猎,沒(méi)想到半個(gè)月后惶岭,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,360評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡犯眠,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,673評(píng)論 2 327
  • 正文 我和宋清朗相戀三年按灶,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片筐咧。...
    茶點(diǎn)故事閱讀 38,814評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡鸯旁,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出量蕊,到底是詐尸還是另有隱情铺罢,我是刑警寧澤,帶...
    沈念sama閱讀 34,509評(píng)論 4 334
  • 正文 年R本政府宣布残炮,位于F島的核電站韭赘,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏势就。R本人自食惡果不足惜泉瞻,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,156評(píng)論 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望苞冯。 院中可真熱鬧袖牙,春花似錦、人聲如沸舅锄。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 30,882評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)巧娱。三九已至碉怔,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間禁添,已是汗流浹背撮胧。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 32,123評(píng)論 1 267
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留老翘,地道東北人芹啥。 一個(gè)月前我還...
    沈念sama閱讀 46,641評(píng)論 2 362
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像铺峭,于是被迫代替她去往敵國(guó)和親墓怀。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,728評(píng)論 2 351