發(fā)簡信
IP屬地：北京
-
部署Ganglia監(jiān)控Hadoop集群并通過Nagios發(fā)送告警郵件的過程基本介紹Ganglia：是UC Berkeley發(fā)起的一個開源集群監(jiān)視項目赁酝，設計用于測量數(shù)以千計的節(jié)點辅愿。Ganglia的核心包含gmond何吝、gm...
-
Spark Streaming使用Receiver機制消費Kafka時，任務并發(fā)度如何設置继谚？（本文基于Spark 2.1.1烈菌、Kafka 0.10.2、Scala 2.11.8花履、Zookeeper 3.4.9芽世、Kafka-manager...
-
百度天算大數(shù)據(jù)平臺初體驗曾經(jīng)試用過主流大廠提供的大數(shù)據(jù)平臺服務，僅從用戶體驗角度上來說臭挽，各有千秋捂襟。 百度天算控制臺 功能分類明確咬腕，使用簡單欢峰，組件版本較新，客服響應...
-
一篇漫畫理解HDFS讀寫工作原理淺顯易懂的介紹涨共，很多資料對File Blocks副本Location位置的描述是有誤的纽帖，正確的理解請參考本漫畫，后附Hadoop 2.7.3 B...
-
利用Spark提供的屬性來提升Spark Web UI的安全性本文基于Spark 2.1.0版本举反、Hadoop 2.7.3版本 如無特殊說明懊直，本文的Spark Web UI，特指: [Driver Web ...
-
利用Kryo序列化庫是你提升Spark性能要做的第一件事本文基于Spark2.1.0版本套用官文Tuning Spark中的一句話作為文章的標題： *Often, choose a serializa...
-
（基于最新的Kafka version 0.10.2 new consumer API ）想要Spark Streaming精確一次消費Topic火鼻？拿去不謝室囊，記得點贊和分享！本文基于Spark2.1.0魁索、Kafka 0.10.2融撞、Scala 2.11.8版本 背景： Kafka做為一款流行的分布式發(fā)布訂閱消息系統(tǒng)，以...
-
Spark Streaming如何消費Kafka的大消息(30M-40MB)本文基于Spark2.1.0版本 雖然很少有生產(chǎn)環(huán)境用Kafka傳遞超過1M消息的場景（因為高吞吐粗蔚、低延時的要求尝偎，Kafka 發(fā)布-訂閱模型中P...
-
15分鐘學會SparkSQL通過JDBC連接外部數(shù)據(jù)庫（PostgreSQL為例）本文基于Spark2.1.0版本 1，先簡單介紹一下通過SparkSQL JDBC連接數(shù)據(jù)庫的好處，不過這不是本文的重點 致扯。 JDBC(Java...