51聂儒、Spark性能優(yōu)化之優(yōu)化數(shù)據(jù)結(jié)構(gòu)

優(yōu)化數(shù)據(jù)結(jié)構(gòu)

要減少內(nèi)存的消耗,除了使用高效的序列化類庫以外硫痰,還有一個(gè)很重要的事情,就是優(yōu)化數(shù)據(jù)結(jié)構(gòu)窜护。從而避免Java語法特性中所導(dǎo)致的額外內(nèi)存的開銷效斑,比如基于指針的Java數(shù)據(jù)結(jié)構(gòu),以及包裝類型柱徙。
有一個(gè)關(guān)鍵的問題缓屠,就是優(yōu)化什么數(shù)據(jù)結(jié)構(gòu)?其實(shí)主要就是優(yōu)化你的算子函數(shù)护侮,內(nèi)部使用到的局部數(shù)據(jù)敌完,或者是算子函數(shù)外部的數(shù)據(jù)。都可以進(jìn)行數(shù)據(jù)結(jié)構(gòu)的優(yōu)化羊初。優(yōu)化之后滨溉,都會(huì)減少其對內(nèi)存的消耗和占用什湘。

如何優(yōu)化數(shù)據(jù)結(jié)構(gòu)

1、優(yōu)先使用數(shù)組以及字符串晦攒,而不是集合類
也就是說闽撤,優(yōu)先用array,而不是ArrayList脯颜、LinkedList哟旗、HashMap等集合。
比如栋操,有個(gè)List<Integer> list = new ArrayList<Integer>()闸餐,將其替換為int[] arr = new int[]。這樣的話矾芙,array既比List少了額外信息的存儲(chǔ)開銷舍沙,還能使用原始數(shù)據(jù)類型(int)來存儲(chǔ)數(shù)據(jù),比List中用Integer這種包裝類型存儲(chǔ)數(shù)據(jù)蠕啄,要節(jié)省內(nèi)存的多场勤。
還比如,通常企業(yè)級應(yīng)用中的做法是歼跟,對于HashMap和媳、List這種數(shù)據(jù),統(tǒng)一用String拼接成特殊格式的字符串哈街,比如Map<Integer, Person> persons = new HashMap<Integer, Person>()留瞳。可以優(yōu)化為骚秦,特殊的字符串格式:id:name,address|id:name,address...她倘。
2、避免使用多層嵌套的對象結(jié)構(gòu)作箍。
比如說硬梁,public class Teacher { private List<Student> students = new ArrayList<Student>() }。就是非常不好的例子胞得。因?yàn)門eacher類的內(nèi)部又嵌套了大量的小Student對象荧止。
比如說,對于上述例子阶剑,也完全可以使用特殊的字符串來進(jìn)行數(shù)據(jù)的存儲(chǔ)跃巡。比如,用json字符串來存儲(chǔ)數(shù)據(jù)牧愁,就是一個(gè)很好的選擇素邪。
{"teacherId": 1, "teacherName": "leo", students:[{"studentId": 1, "studentName": "tom"},{"studentId":2, "studentName":"marry"}]}
3、對于有些能夠避免的場景猪半,盡量使用int替代String兔朦。
因?yàn)镾tring雖然比ArrayList偷线、HashMap等數(shù)據(jù)結(jié)構(gòu)高效多了,占用內(nèi)存量少多了烘绽,但是之前分析過淋昭,還是有額外信息的消耗。比如之前用String表示id安接,那么現(xiàn)在完全可以用數(shù)字類型的int翔忽,來進(jìn)行替代。
這里提醒盏檐,在spark應(yīng)用中歇式,id就不要用常用的uuid了,因?yàn)闊o法轉(zhuǎn)成int胡野,就用自增的int類型的id即可

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末材失,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子硫豆,更是在濱河造成了極大的恐慌龙巨,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,509評論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件熊响,死亡現(xiàn)場離奇詭異旨别,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)汗茄,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,806評論 3 394
  • 文/潘曉璐 我一進(jìn)店門秸弛,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人洪碳,你說我怎么就攤上這事递览。” “怎么了瞳腌?”我有些...
    開封第一講書人閱讀 163,875評論 0 354
  • 文/不壞的土叔 我叫張陵绞铃,是天一觀的道長。 經(jīng)常有香客問我嫂侍,道長憎兽,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,441評論 1 293
  • 正文 為了忘掉前任吵冒,我火速辦了婚禮,結(jié)果婚禮上西剥,老公的妹妹穿的比我還像新娘痹栖。我一直安慰自己,他們只是感情好瞭空,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,488評論 6 392
  • 文/花漫 我一把揭開白布揪阿。 她就那樣靜靜地躺著疗我,像睡著了一般。 火紅的嫁衣襯著肌膚如雪南捂。 梳的紋絲不亂的頭發(fā)上吴裤,一...
    開封第一講書人閱讀 51,365評論 1 302
  • 那天,我揣著相機(jī)與錄音溺健,去河邊找鬼麦牺。 笑死,一個(gè)胖子當(dāng)著我的面吹牛鞭缭,可吹牛的內(nèi)容都是我干的剖膳。 我是一名探鬼主播,決...
    沈念sama閱讀 40,190評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼岭辣,長吁一口氣:“原來是場噩夢啊……” “哼吱晒!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起沦童,我...
    開封第一講書人閱讀 39,062評論 0 276
  • 序言:老撾萬榮一對情侶失蹤仑濒,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后偷遗,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體墩瞳,經(jīng)...
    沈念sama閱讀 45,500評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,706評論 3 335
  • 正文 我和宋清朗相戀三年鹦肿,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了矗烛。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,834評論 1 347
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡箩溃,死狀恐怖瞭吃,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情涣旨,我是刑警寧澤歪架,帶...
    沈念sama閱讀 35,559評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站霹陡,受9級特大地震影響和蚪,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜烹棉,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,167評論 3 328
  • 文/蒙蒙 一攒霹、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧浆洗,春花似錦催束、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,779評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽塔淤。三九已至,卻和暖如春速妖,著一層夾襖步出監(jiān)牢的瞬間高蜂,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,912評論 1 269
  • 我被黑心中介騙來泰國打工罕容, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留备恤,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,958評論 2 370
  • 正文 我出身青樓杀赢,卻偏偏與公主長得像烘跺,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子脂崔,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,779評論 2 354

推薦閱讀更多精彩內(nèi)容