java操作mysql--大數(shù)據(jù)量情況

java操作mysql遇到大量數(shù)據(jù)會(huì)存在內(nèi)存溢出的危險(xiǎn)
分為兩部分一個(gè)是java層方面,還有一個(gè)是mysql層

java

普通的方式

  • 1.java發(fā)出請(qǐng)求蛉加,mysql響應(yīng)
  • 2.java獲取數(shù)據(jù)的時(shí)候是不停地把緩沖區(qū)數(shù)據(jù)撈到內(nèi)存中蚜枢,一直到數(shù)據(jù)發(fā)送結(jié)束,等到所有數(shù)據(jù)獲取完畢针饥。我們客戶(hù)端才能進(jìn)一步操作厂抽,這就導(dǎo)致OOM
  • 3.客戶(hù)端只需要主動(dòng)通信一次,剩余的都是服務(wù)器端主動(dòng)推送數(shù)據(jù)

useCursorFetch

  • 1.每次都要主動(dòng)去請(qǐng)求指定大小的數(shù)據(jù)丁眼,這回導(dǎo)致通信頻繁
  • 2.當(dāng)數(shù)據(jù)量很大的時(shí)候筷凤,為了避免長(zhǎng)期占用索引數(shù)據(jù),會(huì)把查詢(xún)到的所有數(shù)據(jù)建立臨時(shí)表

采用statement.setFetchSize(Integer.MIN_VALUE)并確保游標(biāo)是只讀向前滾動(dòng)的即可(為游標(biāo)的默認(rèn)值)苞七,也可以強(qiáng)制類(lèi)型轉(zhuǎn)換為com.mysql.jdbc.StatementImpl藐守,然后調(diào)用其內(nèi)部方法:enableStreamingResults()這樣讀取數(shù)據(jù)內(nèi)存就不會(huì)掛掉了

  • 1.客戶(hù)端只需要主動(dòng)通信一次,剩余的都是服務(wù)器端主動(dòng)推送數(shù)據(jù)
  • 2.客戶(hù)端每次只從buffer里面獲取一部分?jǐn)?shù)據(jù)即響應(yīng)給業(yè)務(wù)蹂风,業(yè)務(wù)處理完成之后繼續(xù)從buffer獲取卢厂,服務(wù)端感受到客戶(hù)端的buffer不滿(mǎn)的時(shí)候會(huì)自動(dòng)發(fā)送

Mysql層

單表查詢(xún)mysql如何返回

  • 1.客戶(hù)端請(qǐng)求到了之后,server層讓引擎層去執(zhí)行惠啄,引擎層獲取到一個(gè)記錄后就立即發(fā)送給客戶(hù)端

多表查詢(xún)mysql如何返回

  • 1.驅(qū)動(dòng)表執(zhí)行完畢一次之后會(huì)形成一個(gè)結(jié)果集慎恒,然后被驅(qū)動(dòng)表會(huì)多次執(zhí)行(執(zhí)行次數(shù)就是驅(qū)動(dòng)表的大腥文凇)每次取得一個(gè)完整記錄也是立馬發(fā)送
  • 2.如果驅(qū)動(dòng)表的結(jié)果集太大則會(huì)形成物化表(臨時(shí)表,有基于內(nèi)存的 如果再大則會(huì)變成B+樹(shù)存儲(chǔ)到磁盤(pán))

總結(jié)

  • 1.客戶(hù)端采用stream方式最好融柬,服務(wù)端則不用關(guān)心內(nèi)存的問(wèn)題
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末死嗦,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子粒氧,更是在濱河造成了極大的恐慌越除,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,826評(píng)論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件外盯,死亡現(xiàn)場(chǎng)離奇詭異摘盆,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)门怪,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,968評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)骡澈,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)锅纺,“玉大人掷空,你說(shuō)我怎么就攤上這事《陲保” “怎么了坦弟?”我有些...
    開(kāi)封第一講書(shū)人閱讀 164,234評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)官地。 經(jīng)常有香客問(wèn)我酿傍,道長(zhǎng),這世上最難降的妖魔是什么驱入? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,562評(píng)論 1 293
  • 正文 為了忘掉前任赤炒,我火速辦了婚禮,結(jié)果婚禮上亏较,老公的妹妹穿的比我還像新娘莺褒。我一直安慰自己,他們只是感情好雪情,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,611評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布遵岩。 她就那樣靜靜地躺著,像睡著了一般巡通。 火紅的嫁衣襯著肌膚如雪尘执。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,482評(píng)論 1 302
  • 那天宴凉,我揣著相機(jī)與錄音誊锭,去河邊找鬼。 笑死弥锄,一個(gè)胖子當(dāng)著我的面吹牛丧靡,可吹牛的內(nèi)容都是我干的签孔。 我是一名探鬼主播,決...
    沈念sama閱讀 40,271評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼窘行,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼饥追!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起罐盔,我...
    開(kāi)封第一講書(shū)人閱讀 39,166評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤但绕,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后惶看,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體捏顺,經(jīng)...
    沈念sama閱讀 45,608評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,814評(píng)論 3 336
  • 正文 我和宋清朗相戀三年纬黎,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了幅骄。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,926評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡本今,死狀恐怖拆座,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情冠息,我是刑警寧澤挪凑,帶...
    沈念sama閱讀 35,644評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站逛艰,受9級(jí)特大地震影響躏碳,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜散怖,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,249評(píng)論 3 329
  • 文/蒙蒙 一菇绵、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧镇眷,春花似錦咬最、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,866評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至翁垂,卻和暖如春铆遭,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背沿猜。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,991評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工枚荣, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人啼肩。 一個(gè)月前我還...
    沈念sama閱讀 48,063評(píng)論 3 370
  • 正文 我出身青樓橄妆,卻偏偏與公主長(zhǎng)得像衙伶,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子害碾,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,871評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容