![240](https://cdn2.jianshu.io/assets/default_avatar/8-a356878e44b45ab268a3b0bbaaadeeb7.jpg?imageMogr2/auto-orient/strip|imageView2/1/w/240/h/240)
前言 記得今年一月份在杭州和W君漫步錢塘江賞霾氮凝,暢談了兩個小時,除了聊了研發(fā)的兩觀望忆,全局觀和產(chǎn)品觀, 也聊了數(shù)據(jù)部的組織架構(gòu)罩阵。一個良好架構(gòu)布局確實會讓人受益良多竿秆。 架構(gòu)布局 ...
本文基于Spark2.1.0版本 雖然很少有生產(chǎn)環(huán)境用Kafka傳遞超過1M消息的場景(因為高吞吐幽钢、低延時的要求,Kafka 發(fā)布-訂閱模型中Producer-Broker-...
摘要:Linux以其強大的命令行稱霸江湖晒旅,Shell命令是數(shù)據(jù)極客的必修兵器栅盲。探索性數(shù)據(jù)分析,在需求和數(shù)據(jù)都不太明確的環(huán)境下废恋,使用各種命令進行一次探索與挖掘谈秫。從基礎的文件查看...
spark 2.X開始鱼鼓,三者的關系發(fā)生了變化拟烫,可以參考《且談Apache Spark的API三劍客:RDD、DataFrame和Dataset》 ,在2.X中DataFram...