azkaban(三):azkaban 初體驗

官網(wǎng)

azkaban官方文檔

創(chuàng)建第一個工作流

參考官網(wǎng)

  1. 創(chuàng)建一個名為flow20.project. 添加azkaban-flow-version以表明這是一個 Flow 2.0 Azkaban 項目:
azkaban-flow-version: 2.0

注意:可以不叫flow20,但是該文件格式必須為.project
格式必須為yaml格式

  1. 創(chuàng)建另一個名為basic.flow的文件畏陕,添加內(nèi)容如下
nodes:
  - name: jobA
    type: command
    config:
      command: echo "This is an echoed text."

注意:可以不叫basic凤粗,但是該文件格式必須為.flow
格式必須為yaml格式

  1. 將兩個文件(flow20.projectbasic.flow)打包成Archive.zip包(取名隨意)。
Archive.zip
  1. 登錄 azkaban-web月趟,創(chuàng)建一個項目
項目創(chuàng)建
  1. 上傳.zip文件
上傳壓縮包
  1. 執(zhí)行任務

點擊Execute Flow

執(zhí)行

點擊Execute

image.png

SUCCESS

執(zhí)行成功

日志查看

任務列表

點擊log 查看日志

日志信息

紅色就是該工作流執(zhí)行任務。echo "This is an echoed text."


歷史執(zhí)行記錄查看

歷史執(zhí)行記錄

Execution Id:每執(zhí)一次就會生成一個執(zhí)行結果記錄id
Flow:工作流名稱
Project:項目名稱
User:用戶
Start Time:執(zhí)行開始時間
End Time:執(zhí)行結束時間
Elapsed
Status:執(zhí)行狀態(tài):
-- success 成功
-- failure 失敗
-- Runing 運行中
Action

多任務工作流

更改basic.flow文件

nodes:
  - name: jobA
    type: command
    config:
      command: echo "This is JOB-A flow "
  - name: jobB
    type: command
    config:
      command: echo "This is JOB-B flow "

重新打包(.zip)恢口,上傳

執(zhí)行

多任務流

這樣就能執(zhí)行多個任務孝宗。

jobA Log

23-07-2021 17:28:47 CST jobA INFO - Starting job jobA at 1627032527245
23-07-2021 17:28:47 CST jobA INFO - job JVM args: '-Dazkaban.flowid=basic' '-Dazkaban.execid=3' '-Dazkaban.jobid=jobA'
23-07-2021 17:28:47 CST jobA INFO - user.to.proxy property was not set, defaulting to submit user atguigu
23-07-2021 17:28:47 CST jobA INFO - Attached Ramp Props : [{}]
23-07-2021 17:28:47 CST jobA INFO - Building command job executor. 
23-07-2021 17:28:47 CST jobA INFO - Failed with 5 inputs with exception e = null
23-07-2021 17:28:47 CST jobA INFO - Memory granted for job jobA
23-07-2021 17:28:47 CST jobA INFO - 1 commands to execute.
23-07-2021 17:28:47 CST jobA INFO - cwd=/opt/module/azkaban-exec/executions/3
23-07-2021 17:28:47 CST jobA INFO - effective user is: atguigu
23-07-2021 17:28:47 CST jobA INFO - Command: echo "This is JOB-A flow "
23-07-2021 17:28:47 CST jobA INFO - Environment variables: {JOB_OUTPUT_PROP_FILE=/opt/module/azkaban-exec/executions/3/jobA_output_1218257985546625341_tmp, JOB_PROP_FILE=/opt/module/azkaban-exec/executions/3/jobA_job_props_552016193113870480_tmp, KRB5CCNAME=/tmp/krb5cc__Demo02__basic__jobA__3__atguigu, JOB_NAME=jobA}
23-07-2021 17:28:47 CST jobA INFO - Working directory: /opt/module/azkaban-exec/executions/3
23-07-2021 17:28:47 CST jobA INFO - Spawned process with id 9717
23-07-2021 17:28:47 CST jobA INFO - This is JOB-A flow 
23-07-2021 17:28:47 CST jobA INFO - Process with id 9717 completed successfully in 0 seconds.
23-07-2021 17:28:47 CST jobA INFO - output properties file=/opt/module/azkaban-exec/executions/3/jobA_output_1218257985546625341_tmp
23-07-2021 17:28:47 CST jobA INFO - Finishing job jobA at 1627032527277 with status SUCCEEDED

jobB Log

Job Logs
23-07-2021 17:28:47 CST jobB INFO - Starting job jobB at 1627032527241
23-07-2021 17:28:47 CST jobB INFO - job JVM args: '-Dazkaban.flowid=basic' '-Dazkaban.execid=3' '-Dazkaban.jobid=jobB'
23-07-2021 17:28:47 CST jobB INFO - user.to.proxy property was not set, defaulting to submit user atguigu
23-07-2021 17:28:47 CST jobB INFO - Attached Ramp Props : [{}]
23-07-2021 17:28:47 CST jobB INFO - Building command job executor. 
23-07-2021 17:28:47 CST jobB INFO - Failed with 5 inputs with exception e = null
23-07-2021 17:28:47 CST jobB INFO - Memory granted for job jobB
23-07-2021 17:28:47 CST jobB INFO - 1 commands to execute.
23-07-2021 17:28:47 CST jobB INFO - cwd=/opt/module/azkaban-exec/executions/3
23-07-2021 17:28:47 CST jobB INFO - effective user is: atguigu
23-07-2021 17:28:47 CST jobB INFO - Command: echo "This is JOB-B flow "
23-07-2021 17:28:47 CST jobB INFO - Environment variables: {JOB_OUTPUT_PROP_FILE=/opt/module/azkaban-exec/executions/3/jobB_output_6359393867887184859_tmp, JOB_PROP_FILE=/opt/module/azkaban-exec/executions/3/jobB_job_props_2095316725587893623_tmp, KRB5CCNAME=/tmp/krb5cc__Demo02__basic__jobB__3__atguigu, JOB_NAME=jobB}
23-07-2021 17:28:47 CST jobB INFO - Working directory: /opt/module/azkaban-exec/executions/3
23-07-2021 17:28:47 CST jobB INFO - Spawned process with id 9714
23-07-2021 17:28:47 CST jobB INFO - This is JOB-B flow 
23-07-2021 17:28:47 CST jobB INFO - Process with id 9714 completed successfully in 0 seconds.
23-07-2021 17:28:47 CST jobB INFO - output properties file=/opt/module/azkaban-exec/executions/3/jobB_output_6359393867887184859_tmp
23-07-2021 17:28:47 CST jobB INFO - Finishing job jobB at 1627032527265 with status SUCCEEDED
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市耕肩,隨后出現(xiàn)的幾起案子因妇,更是在濱河造成了極大的恐慌,老刑警劉巖猿诸,帶你破解...
    沈念sama閱讀 212,718評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件婚被,死亡現(xiàn)場離奇詭異,居然都是意外死亡梳虽,警方通過查閱死者的電腦和手機址芯,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,683評論 3 385
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來窜觉,“玉大人谷炸,你說我怎么就攤上這事≠鞔欤” “怎么了旬陡?”我有些...
    開封第一講書人閱讀 158,207評論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長特咆。 經(jīng)常有香客問我季惩,道長,這世上最難降的妖魔是什么腻格? 我笑而不...
    開封第一講書人閱讀 56,755評論 1 284
  • 正文 為了忘掉前任画拾,我火速辦了婚禮,結果婚禮上菜职,老公的妹妹穿的比我還像新娘青抛。我一直安慰自己,他們只是感情好酬核,可當我...
    茶點故事閱讀 65,862評論 6 386
  • 文/花漫 我一把揭開白布蜜另。 她就那樣靜靜地躺著适室,像睡著了一般。 火紅的嫁衣襯著肌膚如雪举瑰。 梳的紋絲不亂的頭發(fā)上捣辆,一...
    開封第一講書人閱讀 50,050評論 1 291
  • 那天,我揣著相機與錄音此迅,去河邊找鬼汽畴。 笑死,一個胖子當著我的面吹牛耸序,可吹牛的內(nèi)容都是我干的忍些。 我是一名探鬼主播,決...
    沈念sama閱讀 39,136評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼坎怪,長吁一口氣:“原來是場噩夢啊……” “哼罢坝!你這毒婦竟也來了?” 一聲冷哼從身側響起搅窿,我...
    開封第一講書人閱讀 37,882評論 0 268
  • 序言:老撾萬榮一對情侶失蹤嘁酿,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后戈钢,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體痹仙,經(jīng)...
    沈念sama閱讀 44,330評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡是尔,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,651評論 2 327
  • 正文 我和宋清朗相戀三年殉了,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片拟枚。...
    茶點故事閱讀 38,789評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡薪铜,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出恩溅,到底是詐尸還是另有隱情隔箍,我是刑警寧澤,帶...
    沈念sama閱讀 34,477評論 4 333
  • 正文 年R本政府宣布脚乡,位于F島的核電站蜒滩,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏奶稠。R本人自食惡果不足惜俯艰,卻給世界環(huán)境...
    茶點故事閱讀 40,135評論 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望锌订。 院中可真熱鬧竹握,春花似錦、人聲如沸辆飘。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,864評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至芹关,卻和暖如春续挟,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背侥衬。 一陣腳步聲響...
    開封第一講書人閱讀 32,099評論 1 267
  • 我被黑心中介騙來泰國打工庸推, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人浇冰。 一個月前我還...
    沈念sama閱讀 46,598評論 2 362
  • 正文 我出身青樓贬媒,卻偏偏與公主長得像,于是被迫代替她去往敵國和親肘习。 傳聞我的和親對象是個殘疾皇子际乘,可洞房花燭夜當晚...
    茶點故事閱讀 43,697評論 2 351

推薦閱讀更多精彩內(nèi)容

  • 一脖含、概述 Azkaban是一套任務調(diào)度系統(tǒng),可以調(diào)度command投蝉、hadoopMR养葵、hive、spark瘩缆、pig...
    yannhuang閱讀 6,515評論 2 4
  • 因為很多服務器并不能連接外網(wǎng)关拒。那么這時web頁面就沒法使用了。這時可以使用azkaban接口代碼庸娱,寫自己的交互式命...
    進擊的碼奴閱讀 4,151評論 6 0
  • 1 引言 1.1 目的 通過Azkaban的批量工作量任務調(diào)度器調(diào)用kettle 調(diào)用linux命令 調(diào)用jav...
    麥橙手記閱讀 2,093評論 0 0
  • 一着绊、介紹 Azkaban是LinkedIn開源的任務調(diào)度框架,類似于JavaEE中的JBPM和Activiti工作...
    吃貨大米飯閱讀 3,646評論 0 1
  • Azkaban是由Linkedin開源的一個批量工作流任務調(diào)度器熟尉。用于在一個工作流內(nèi)以一個特定的順序運行一組工作和...
    FantJ閱讀 81,985評論 0 33