![240](https://cdn2.jianshu.io/assets/default_avatar/8-a356878e44b45ab268a3b0bbaaadeeb7.jpg?imageMogr2/auto-orient/strip|imageView2/1/w/240/h/240)
前言 記得今年一月份在杭州和W君漫步錢塘江賞霾媒怯,暢談了兩個(gè)小時(shí),除了聊了研發(fā)的兩觀髓窜,全局觀和產(chǎn)品觀, 也聊了數(shù)據(jù)部的組織架構(gòu)扇苞。一個(gè)良好架構(gòu)布局確實(shí)會(huì)讓人受益良多。 架構(gòu)布局 ...
本文基于Spark2.1.0版本 雖然很少有生產(chǎn)環(huán)境用Kafka傳遞超過(guò)1M消息的場(chǎng)景(因?yàn)楦咄掏隆⒌脱訒r(shí)的要求程拭,Kafka 發(fā)布-訂閱模型中Producer-Broker-...
摘要:Linux以其強(qiáng)大的命令行稱霸江湖歇竟,Shell命令是數(shù)據(jù)極客的必修兵器。探索性數(shù)據(jù)分析抵恋,在需求和數(shù)據(jù)都不太明確的環(huán)境下焕议,使用各種命令進(jìn)行一次探索與挖掘。從基礎(chǔ)的文件查看...
spark 2.X開(kāi)始盅安,三者的關(guān)系發(fā)生了變化,可以參考《且談Apache Spark的API三劍客:RDD世囊、DataFrame和Dataset》 ,在2.X中DataFram...