大數(shù)據(jù)組件編譯命令

每次換一次電腦或虛擬機都要重新編譯各個項目宁仔,很麻煩還總有坑吐葵,這里記錄一下。

Hadoop

  1. 從git上clone代碼到本地
  2. 按照hadoop下的buliding.txt文件安裝相關的依賴和庫
  3. 修改pb的版本(可能需要修改的步驟犹赖,若pb是2.5.0跳過這一步驟)
    確定下linux 版本芭碍,在我們的虛擬機版本下被安裝了pb,且pb版本不是2.5.0, 此時需要修改pb的版本捏境,安裝源碼方式安裝即可于游,相關鏈接:https://my.oschina.net/allman90/blog/486768
    具體步驟:
wget https://[github.com/google](http://github.com/google)/protobuf/releases/download/v2.5.0/protobuf-2.5.0.tar.gz
tar -xzvf ./protobuf-2.5.0.tar.gz
cd protobuf-2.5.0
./configure
sudo su -       (備注:切換到root下)
make
make install
  1. 替換 之前版本的protoc
    在編譯的proto包下,找到編譯好的protoc垫言,位置一般是在./protobuf-2.5.0/src/protoc贰剥,替換原先自帶的protoc
    5、編譯hadoop源碼
    編譯命令: mvn package -Pdist -DskipTests -Dzookeeper.version=3.4.6 -Djetty.version=6.1.26 -Dtar

Spark

Spark依賴的hive是自己維護的筷频,所以要先編譯hive包
進入項目 hive-1.2.1-spark2

mvn versions:set -DnewVersion=2.7.3
mvn versions:commit
${M2_HOME}/bin/mvn clean install -Pdist -Phadoop-2 -Dhadoop.version=2.7.3 -DskipTests -Dzookeeper.version=3.4.6  -Psources

檢查.m2下面有對應版本的hive-exec.version.jar
然后再編譯Spark

mvn clean install -Pyarn -Phadoop-2.7 -Dhadoop.version=$HADOOP_VERSION -Phive -Phive-thriftserver -DskipTests

Hive

mvn clean package -Pdist -Phadoop-2 -DskipTests -Dzookeeper.version=3.4.6
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末蚌成,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子凛捏,更是在濱河造成了極大的恐慌担忧,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,743評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件坯癣,死亡現(xiàn)場離奇詭異瓶盛,居然都是意外死亡,警方通過查閱死者的電腦和手機坡锡,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,296評論 3 385
  • 文/潘曉璐 我一進店門蓬网,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人鹉勒,你說我怎么就攤上這事帆锋。” “怎么了禽额?”我有些...
    開封第一講書人閱讀 157,285評論 0 348
  • 文/不壞的土叔 我叫張陵锯厢,是天一觀的道長。 經(jīng)常有香客問我脯倒,道長实辑,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,485評論 1 283
  • 正文 為了忘掉前任藻丢,我火速辦了婚禮剪撬,結果婚禮上,老公的妹妹穿的比我還像新娘悠反。我一直安慰自己残黑,他們只是感情好馍佑,可當我...
    茶點故事閱讀 65,581評論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著梨水,像睡著了一般拭荤。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上疫诽,一...
    開封第一講書人閱讀 49,821評論 1 290
  • 那天舅世,我揣著相機與錄音,去河邊找鬼奇徒。 笑死雏亚,一個胖子當著我的面吹牛,可吹牛的內容都是我干的摩钙。 我是一名探鬼主播评凝,決...
    沈念sama閱讀 38,960評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼腺律!你這毒婦竟也來了奕短?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 37,719評論 0 266
  • 序言:老撾萬榮一對情侶失蹤匀钧,失蹤者是張志新(化名)和其女友劉穎翎碑,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體之斯,經(jīng)...
    沈念sama閱讀 44,186評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡日杈,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,516評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了佑刷。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片莉擒。...
    茶點故事閱讀 38,650評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖瘫絮,靈堂內的尸體忽然破棺而出涨冀,到底是詐尸還是另有隱情,我是刑警寧澤麦萤,帶...
    沈念sama閱讀 34,329評論 4 330
  • 正文 年R本政府宣布鹿鳖,位于F島的核電站,受9級特大地震影響壮莹,放射性物質發(fā)生泄漏稿茉。R本人自食惡果不足惜翔冀,卻給世界環(huán)境...
    茶點故事閱讀 39,936評論 3 313
  • 文/蒙蒙 一爽醋、第九天 我趴在偏房一處隱蔽的房頂上張望涮瞻。 院中可真熱鬧,春花似錦、人聲如沸歼疮。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,757評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽腋妙。三九已至,卻和暖如春讯榕,著一層夾襖步出監(jiān)牢的瞬間骤素,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,991評論 1 266
  • 我被黑心中介騙來泰國打工愚屁, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留济竹,地道東北人。 一個月前我還...
    沈念sama閱讀 46,370評論 2 360
  • 正文 我出身青樓霎槐,卻偏偏與公主長得像送浊,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子丘跌,可洞房花燭夜當晚...
    茶點故事閱讀 43,527評論 2 349

推薦閱讀更多精彩內容