Apache Storm系列 之二( 輕松搞定 Storm 安裝與啟動)


Storm 是開源免費的分布實時計算系統(tǒng)(Apache Storm is a free and open source distributed realtime computation system)杉允。這里提到了兩個關鍵詞:

  • 分布式
  • 實時

1掀鹅、分布式意味著 Storm 是部署在多臺主機上惠猿,它解決并發(fā)性(多機資源同時作業(yè))以及可用性(一臺主機出現(xiàn)問題瓶颠,計算任務移交到其他機器)問題

分布式自然而然讓我們聯(lián)想到了需要一個協(xié)調服務耻煤,這里提到的就是 zookeeper。zookeeper 用于協(xié)調 Nimbus膝捞、Supervisor鹰溜。

2、實時則區(qū)別于 Mapreduce 的批處理

至于如何從原理上理解 Storm 的特性吞彤,我會在后面的文章中具體介紹我衬。<font color="red">本文則簡單介紹如何安裝以及啟動 Storm,</font> 先將其完整的運作起來能夠幫助我們理解以及建立信心饰恕。這里為什么說是簡單介紹呢挠羔,因為安裝并啟動一個 Storm 運行環(huán)境確實很簡單。

安裝 Storm 之前請確保你已經安裝好:

  • jdk
  • zookeeper

部署示例

storm部署圖
storm部署圖
  • 三臺主機 mini01 + mini02 + mini03
  • zookeeper 部署在三臺主機上
  • mini01 上部署 nimbus 并啟動 UI
  • supervisor 部署在 mini02 和 mini03 上

安裝

zookeeper 集群安裝

參見 zookeeper 集群安裝配置 ,當然你可以安裝單節(jié)點的 zookeeper

storm 安裝 & 配置

下載解壓

訪問官網埋嵌,下載你需要的版本破加,本文使用的是 1.0.6 版本(apache-storm-1.0.6.tar.gz)。
將 apache-storm-1.0.6.tar.gz 拷貝到三臺主機上并解壓雹嗦。

cd /home/app
tar -zxvf apache-storm-1.0.6.tar.gz

增加 Storm 環(huán)境變量

修改/etc/profile范舀,將 Storm 加入環(huán)境變量

vim /etc/profile

/etc/profile 文件如下

export STORM_HOME=/home/app/apache-storm-1.0.6
export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$HBASE_HOME/bin:$STORM_HOME/bin:$PATH

生效/etc/profile

source /etc/profile

修改 Storm 配置文件

cd apache-storm-1.0.6/conf
vim storm.yaml

配置每臺主機上的 storm.yaml 文件,配置內容如下

storm.zookeeper.servers:
        - "mini01"
        - "mini02"
        - "mini03"

storm.local.dir: "/home/app/apache-storm-1.0.6/data"

nimbus.seeds: ["mini01"]

supervisor.slots.ports:
        - 6700
ui: 8088

其中:

  • storm.zookeeper.servers: 配置 zookeeper 的服務節(jié)點了罪,因為這里使用 zookeeper 的默認端口(2181)锭环,所以 zookeeper 的端口就不需要特別指定
  • storm.local.dir: Nimbus 和 upervisor 需要一個本地目錄存放少量狀態(tài)(例如 Jar 包或者配置文件之類)。用戶首先需要創(chuàng)建這個目錄泊藕。
  • nimbus.seeds:nimbus 節(jié)點地址辅辩,這里 mini01 主機作為主節(jié)點
  • supervisor.slots.ports:配置supervisor,開啟幾個端口插槽娃圆,就開啟幾個對應的worker進程
  • ui: 設置Storm Web UI 的 http 端口(可選玫锋,本文中我們只在 mini01 上配置該屬性,因為我們訪問的是 mini01:8088)

特別注意踊餐,配置項冒號后面需要接一個空格

這里只列出了幾個能保證服務正常運行的配置項景醇,Storm 提供了很多其他配置項,感興趣的可以看看 Storm 配置文件源碼

啟動

mini01 上 啟動 nimbus 以及 Storm UI

nohup storm nimbus &
nohup storm ui &

mini02 和 mini03 上啟動 supervisor

nohup storm supervisor &

驗證

jps

mini01 上可以看到 zookeeper(QuorumPeerMain) 以及 nimnus 進程

[root@mini01 5257]# jps
4810 QuorumPeerMain
5257 core
5206 nimbus
5410 Jps

mini02 和 mini03 上可以看到 supervisor 進程

[root@mini02 bin]# jps
2823 QuorumPeerMain
3100 Supervisor
3191 Jps

Storm Web UI

訪問 mini01:8088


Storm UI
Storm UI

Tips

在安裝啟動時可能會有一些報錯(例如下面):

  • storm nimbus not a leader
  • java.util.zip.ZipException: Not in GZIP format
  • org.apache.storm.shade.org.apache.zookeeper.KeeperException$NoNodeException: KeeperErrorCode = NoNode

請確保:

  • 防火墻沒有阻止端口吝岭,包括 zookeeper 和 storm三痰。
  • zookeeper 正常啟動吧寺。
  • /etc/hosts 配置正確。

不能正常運行散劫,查看如下幾個日志稚机,對癥下藥即可:

  • zookeeper 報錯請查看 ZK_HOME/bin/zookeeper.out;
  • nimbus 報錯請查看 STORM_HOME/logs/nimbus.log;
  • supervisor 報錯請查看 STORM_HOME/logs/supervisor.log
掃碼關注微信公眾號"Kooola大數(shù)據(jù)",聊人生|聊技術
掃碼關注微信公眾號"Kooola大數(shù)據(jù)"获搏,聊人生|聊技術
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末赖条,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子常熙,更是在濱河造成了極大的恐慌纬乍,老刑警劉巖,帶你破解...
    沈念sama閱讀 210,978評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件裸卫,死亡現(xiàn)場離奇詭異仿贬,居然都是意外死亡,警方通過查閱死者的電腦和手機墓贿,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,954評論 2 384
  • 文/潘曉璐 我一進店門茧泪,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人聋袋,你說我怎么就攤上這事队伟。” “怎么了幽勒?”我有些...
    開封第一講書人閱讀 156,623評論 0 345
  • 文/不壞的土叔 我叫張陵嗜侮,是天一觀的道長。 經常有香客問我代嗤,道長棘钞,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,324評論 1 282
  • 正文 為了忘掉前任干毅,我火速辦了婚禮宜猜,結果婚禮上,老公的妹妹穿的比我還像新娘硝逢。我一直安慰自己姨拥,他們只是感情好,可當我...
    茶點故事閱讀 65,390評論 5 384
  • 文/花漫 我一把揭開白布渠鸽。 她就那樣靜靜地躺著叫乌,像睡著了一般。 火紅的嫁衣襯著肌膚如雪徽缚。 梳的紋絲不亂的頭發(fā)上憨奸,一...
    開封第一講書人閱讀 49,741評論 1 289
  • 那天,我揣著相機與錄音凿试,去河邊找鬼排宰。 笑死似芝,一個胖子當著我的面吹牛,可吹牛的內容都是我干的板甘。 我是一名探鬼主播党瓮,決...
    沈念sama閱讀 38,892評論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼盐类!你這毒婦竟也來了寞奸?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 37,655評論 0 266
  • 序言:老撾萬榮一對情侶失蹤在跳,失蹤者是張志新(化名)和其女友劉穎枪萄,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體硬毕,經...
    沈念sama閱讀 44,104評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡呻引,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,451評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了吐咳。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,569評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡元践,死狀恐怖韭脊,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情单旁,我是刑警寧澤沪羔,帶...
    沈念sama閱讀 34,254評論 4 328
  • 正文 年R本政府宣布,位于F島的核電站象浑,受9級特大地震影響蔫饰,放射性物質發(fā)生泄漏。R本人自食惡果不足惜愉豺,卻給世界環(huán)境...
    茶點故事閱讀 39,834評論 3 312
  • 文/蒙蒙 一篓吁、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧蚪拦,春花似錦杖剪、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,725評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至括袒,卻和暖如春次兆,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背锹锰。 一陣腳步聲響...
    開封第一講書人閱讀 31,950評論 1 264
  • 我被黑心中介騙來泰國打工芥炭, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留漓库,地道東北人。 一個月前我還...
    沈念sama閱讀 46,260評論 2 360
  • 正文 我出身青樓蚤认,卻偏偏與公主長得像米苹,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子砰琢,可洞房花燭夜當晚...
    茶點故事閱讀 43,446評論 2 348

推薦閱讀更多精彩內容

  • 背景 OpenShift是目前比較主流的基于Kubernetes的容器云解決方案蘸嘶,OpenShift在kubern...
    小白_18M閱讀 1,173評論 0 5
  • Storm學習筆記總結 Storm概述 離線計算是什么 離線計算:批量獲取數(shù)據(jù)、批量傳輸數(shù)據(jù)陪汽、周期性批量計算數(shù)據(jù)训唱、...
    Waldeinsamkeit4閱讀 774評論 0 10
  • Strom集群結構是有一個主節(jié)點(nimbus)和多個工作節(jié)點(supervisor)組成的主從結構,主節(jié)點通過配...
    看山遠兮閱讀 2,837評論 0 7
  • 1. Storm介紹: Storm是實時流計算框架挚冤。企業(yè)中典型實時分析框架搭建模式: Flume + Kafka ...
    奉先閱讀 1,649評論 0 3
  • 天下大事况增,必做于細;天下難事训挡,必做于易澳骤。——《道德經》
    懶熊LCC閱讀 97評論 0 0