oozie工作流定義

介紹

流程定義

流程節(jié)點

啟動節(jié)點

結束節(jié)點

Kill Control Node

Map-Reduce Action

  • A map-reduce action can be configured to perform file system cleanup and directory creation before starting the map reduce job. This capability enables Oozie to retry a Hadoop job in the situation of a transient failure (Hadoop checks the non-existence of the job output directory and then creates it when the Hadoop job is starting, thus a retry without cleanup of the job output directory would fail).運行文件系統(tǒng)前清理以前的輸出

  • The workflow job will wait until the Hadoop map/reduce job completes before continuing to the next action in the workflow execution path.工作流中蜒谤,一個動作完成后才能進行到下一個動作

  • The counters of the Hadoop job and job exit status (=FAILED=, KILLED or SUCCEEDED ) must be available to the workflow job after the Hadoop jobs ends. This information can be used from within decision nodes and other actions configurations.在Hadoop作業(yè)結束后颖御,Hadoop作業(yè)和作業(yè)退出狀態(tài)的計數(shù)器(=FILIL=、KIND或WITED)必須可用于工作流作業(yè)

  • The map-reduce action has to be configured with all the necessary Hadoop JobConf properties to run the Hadoop map/reduce job.


  • 任務定義(job define)

<workflow-app name="[WF-DEF-NAME]" xmlns="uri:oozie:workflow:0.5">
    ...
    <action name="[NODE-NAME]">
        <map-reduce>
            ...
            <job-xml>[JOB-XML-FILE]</job-xml>
            <configuration>
                <property>
                    <name>[PROPERTY-NAME]</name>
                    <value>[PROPERTY-VALUE]</value>
                </property>
                ...
            </configuration>
            <config-class>com.example.MyConfigClass</config-class>
            ...
        </map-reduce>
        <ok to="[NODE-NAME]"/>
        <error to="[NODE-NAME]"/>
    </action>
    ...
</workflow-app>

shell action

The shell action runs a Shell command.
The workflow job will wait until the Shell command completes before continuing to the next action.
To run the Shell job, you have to configure the shell action with the =job-tracker=, name-node and Shell exec elements as well as the necessary arguments and configuration.
A shell action can be configured to create or delete HDFS directories before starting the Shell job.

  • Syntax:
<workflow-app name="[WF-DEF-NAME]" xmlns="uri:oozie:workflow:0.3">
    ...
    <action name="[NODE-NAME]">
        <shell xmlns="uri:oozie:shell-action:0.1">
            <job-tracker>[JOB-TRACKER]</job-tracker>
            <name-node>[NAME-NODE]</name-node>
            <prepare>
               <delete path="[PATH]"/>
               ...
               <mkdir path="[PATH]"/>
               ...
            </prepare>
            <job-xml>[SHELL SETTINGS FILE]</job-xml>
            <configuration>
                <property>
                    <name>[PROPERTY-NAME]</name>
                    <value>[PROPERTY-VALUE]</value>
                </property>
                ...
            </configuration>
            <exec>[SHELL-COMMAND]</exec>
            <argument>[ARG-VALUE]</argument>
                ...
            <argument>[ARG-VALUE]</argument>
            <env-var>[VAR1=VALUE1]</env-var>
               ...
            <env-var>[VARN=VALUEN]</env-var>
            <file>[FILE-PATH]</file>
            ...
            <archive>[FILE-PATH]</archive>
            ...
            <capture-output/>
        </shell>
        <ok to="[NODE-NAME]"/>
        <error to="[NODE-NAME]"/>
    </action>
    ...
</workflow-app>
  • Example:How to run any shell script or perl script or CPP executable
<workflow-app xmlns='uri:oozie:workflow:0.3' name='shell-wf'>
    <start to='shell1' />
    <action name='shell1'>
        <shell xmlns="uri:oozie:shell-action:0.1">
            <job-tracker>${jobTracker}</job-tracker>
            <name-node>${nameNode}</name-node>
            <configuration>
                <property>
                  <name>mapred.job.queue.name</name>
                  <value>${queueName}</value>
                </property>
            </configuration>
            <exec>${EXEC}</exec>
            <argument>A</argument>
            <argument>B</argument>
            <file>${EXEC}#${EXEC}</file> <!--Copy the executable to compute node's current working directory -->
        </shell>
        <ok to="end" />
        <error to="fail" />
    </action>
    <kill name="fail">
        <message>Script failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message>
    </kill>
    <end name='end' />
</workflow-app>

The corresponding job properties file used to submit Oozie job could be as follows:

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末上沐,一起剝皮案震驚了整個濱河市婶芭,隨后出現(xiàn)的幾起案子东臀,更是在濱河造成了極大的恐慌,老刑警劉巖犀农,帶你破解...
    沈念sama閱讀 211,743評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件啡邑,死亡現(xiàn)場離奇詭異,居然都是意外死亡井赌,警方通過查閱死者的電腦和手機谤逼,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,296評論 3 385
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來仇穗,“玉大人流部,你說我怎么就攤上這事∥谱” “怎么了枝冀?”我有些...
    開封第一講書人閱讀 157,285評論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長耘子。 經(jīng)常有香客問我果漾,道長,這世上最難降的妖魔是什么谷誓? 我笑而不...
    開封第一講書人閱讀 56,485評論 1 283
  • 正文 為了忘掉前任绒障,我火速辦了婚禮,結果婚禮上捍歪,老公的妹妹穿的比我還像新娘户辱。我一直安慰自己,他們只是感情好糙臼,可當我...
    茶點故事閱讀 65,581評論 6 386
  • 文/花漫 我一把揭開白布庐镐。 她就那樣靜靜地躺著,像睡著了一般变逃。 火紅的嫁衣襯著肌膚如雪必逆。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,821評論 1 290
  • 那天,我揣著相機與錄音名眉,去河邊找鬼粟矿。 笑死,一個胖子當著我的面吹牛璧针,可吹牛的內容都是我干的。 我是一名探鬼主播渊啰,決...
    沈念sama閱讀 38,960評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼探橱,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了绘证?” 一聲冷哼從身側響起隧膏,我...
    開封第一講書人閱讀 37,719評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎嚷那,沒想到半個月后胞枕,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,186評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡魏宽,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,516評論 2 327
  • 正文 我和宋清朗相戀三年腐泻,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片队询。...
    茶點故事閱讀 38,650評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡派桩,死狀恐怖,靈堂內的尸體忽然破棺而出蚌斩,到底是詐尸還是另有隱情铆惑,我是刑警寧澤,帶...
    沈念sama閱讀 34,329評論 4 330
  • 正文 年R本政府宣布送膳,位于F島的核電站员魏,受9級特大地震影響,放射性物質發(fā)生泄漏叠聋。R本人自食惡果不足惜芹敌,卻給世界環(huán)境...
    茶點故事閱讀 39,936評論 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望事扭。 院中可真熱鬧唆鸡,春花似錦、人聲如沸脑慧。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,757評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽闷袒。三九已至坑律,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背晃择。 一陣腳步聲響...
    開封第一講書人閱讀 31,991評論 1 266
  • 我被黑心中介騙來泰國打工冀值, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人宫屠。 一個月前我還...
    沈念sama閱讀 46,370評論 2 360
  • 正文 我出身青樓列疗,卻偏偏與公主長得像,于是被迫代替她去往敵國和親浪蹂。 傳聞我的和親對象是個殘疾皇子抵栈,可洞房花燭夜當晚...
    茶點故事閱讀 43,527評論 2 349

推薦閱讀更多精彩內容