hive - function - genericUDF

描述
  • 自定義udf佃蚜,接收一個字段的每一個value,對應輸出轉(zhuǎn)換后的新value朴沿,與原value的關(guān)系是一對一
依賴
<dependency>
    <groupId>org.apache.hive</groupId>
    <artifactId>hive-exec</artifactId>
    <version>${hive.version}</version>
    <scope>provided</scope>
</dependency>

如果使用hadoop的writable類型返回拴袭,則另需添加依賴:
<dependency>
    <groupId>org.apache.hadoop</groupId>
    <artifactId>hadoop-client</artifactId>
    <version>${hadoop.version}</version>
    <scope>provided</scope>
</dependency>
示例
// 假設處理邏輯為對兩個字段的值進行執(zhí)行四則運算

class MyUDF extends GenericUDF {
  // 實現(xiàn)initialize方法雕薪,在對所有VALUE進行處理前的參數(shù)個數(shù)和類型校驗; arguments參數(shù)是指UDF函數(shù)調(diào)用時,sql語句中參數(shù)列表
  override def initialize(arguments: Array[ObjectInspector]): ObjectInspector = {
    if (arguments.length != 3) {
      throw new UDFArgumentLengthException("arg: column1, column2, calcMethod")
    }
    // 根據(jù)UDF最后返回的值數(shù)據(jù)類型確定ObjectInspector的類型,通撑纤可以選擇java的類型或hadoop writable的類型
    PrimitiveObjectInspectorFactory.javaIntObjectInspector
  }

  // 實現(xiàn)evaluate方法外傅,對每個value進行轉(zhuǎn)換并返回; arguments參數(shù)是指UDF函數(shù)調(diào)用時,table每一行傳入的值俩檬;返回值需要和initialize的返回類型對齊
  override def evaluate(arguments: Array[GenericUDF.DeferredObject]): AnyRef = {
    arguments(2).get().toString match {
      case "+" => (arguments(0).get().toString.toInt + arguments(1).get().toString.toInt).asInstanceOf[java.lang.Integer]
      case "-" => (arguments(0).get().toString.toInt - arguments(1).get().toString.toInt).asInstanceOf[java.lang.Integer]
      case "*" => (arguments(0).get().toString.toInt * arguments(1).get().toString.toInt).asInstanceOf[java.lang.Integer]
      case "/" => (arguments(0).get().toString.toInt / arguments(1).get().toString.toInt).asInstanceOf[java.lang.Integer]
      case o => throw new UDFArgumentException(s"calcMethod should be +, - , * or /, got $o")
    }
  }

  // 實現(xiàn)getDisplayString方法萎胰,對UDF進行描述
  override def getDisplayString(children: Array[String]): String = {
    "I am the plus method for hive"
  }
}

部署

臨時UDF部署方法:
1. 打成jar包
2. 上傳至hive服務器
3. 在hive shell中執(zhí)行:add jar jar包路徑;
4. 在hive shell中執(zhí)行:create temporary function funtionName as '自定義UDF類路徑'

永久UDF部署方法:
1. 打成jar包
2. 上傳至hdfs
3. 在hive中進入需要用此UDF的庫中,執(zhí)行:create function funtionName as '自定義UDF類路徑' using jar 'jar包的hdfs路徑';

刪除永久UDF:
1. 在hive中進入需要刪除此UDF的庫中棚辽,執(zhí)行:drop function funtionName;
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末技竟,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子屈藐,更是在濱河造成了極大的恐慌榔组,老刑警劉巖熙尉,帶你破解...
    沈念sama閱讀 217,277評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異搓扯,居然都是意外死亡检痰,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評論 3 393
  • 文/潘曉璐 我一進店門锨推,熙熙樓的掌柜王于貴愁眉苦臉地迎上來铅歼,“玉大人,你說我怎么就攤上這事换可∽狄” “怎么了?”我有些...
    開封第一講書人閱讀 163,624評論 0 353
  • 文/不壞的土叔 我叫張陵沾鳄,是天一觀的道長慨飘。 經(jīng)常有香客問我,道長译荞,這世上最難降的妖魔是什么瓤的? 我笑而不...
    開封第一講書人閱讀 58,356評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮吞歼,結(jié)果婚禮上堤瘤,老公的妹妹穿的比我還像新娘。我一直安慰自己浆熔,他們只是感情好本辐,可當我...
    茶點故事閱讀 67,402評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著医增,像睡著了一般慎皱。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上叶骨,一...
    開封第一講書人閱讀 51,292評論 1 301
  • 那天茫多,我揣著相機與錄音,去河邊找鬼忽刽。 笑死天揖,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的跪帝。 我是一名探鬼主播今膊,決...
    沈念sama閱讀 40,135評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼伞剑!你這毒婦竟也來了斑唬?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,992評論 0 275
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎恕刘,沒想到半個月后缤谎,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,429評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡褐着,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,636評論 3 334
  • 正文 我和宋清朗相戀三年坷澡,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片含蓉。...
    茶點故事閱讀 39,785評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡频敛,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出谴餐,到底是詐尸還是另有隱情姻政,我是刑警寧澤呆抑,帶...
    沈念sama閱讀 35,492評論 5 345
  • 正文 年R本政府宣布岂嗓,位于F島的核電站,受9級特大地震影響鹊碍,放射性物質(zhì)發(fā)生泄漏厌殉。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,092評論 3 328
  • 文/蒙蒙 一侈咕、第九天 我趴在偏房一處隱蔽的房頂上張望公罕。 院中可真熱鬧,春花似錦耀销、人聲如沸楼眷。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽罐柳。三九已至,卻和暖如春狰住,著一層夾襖步出監(jiān)牢的瞬間张吉,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評論 1 269
  • 我被黑心中介騙來泰國打工催植, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留肮蛹,地道東北人。 一個月前我還...
    沈念sama閱讀 47,891評論 2 370
  • 正文 我出身青樓创南,卻偏偏與公主長得像伦忠,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子稿辙,可洞房花燭夜當晚...
    茶點故事閱讀 44,713評論 2 354

推薦閱讀更多精彩內(nèi)容