Impala在kudu中創(chuàng)建含中文字段名的表

方案:通過kudu的API創(chuàng)建含中文字段的表铐殃,然后在Impala中創(chuàng)建外部表進行關聯(lián)渊迁。下面詳細介紹該方案。

1剃盾、調用Kudu的JavaAPI腺占,創(chuàng)建含有中文字段的表,代碼如下:

public static void createTable(){

? ? ? ? KuduClient client = new KuduClient.KuduClientBuilder("127.0.0.1:7051").build();

? ? ? ? List<ColumnSchema> columns = new LinkedList<ColumnSchema>();

? ? ? ? columns.add(newColumn("id", Type.STRING, true));

? ? ? ? columns.add(newColumn("字段1", Type.STRING, false));

? ? ? ? columns.add(newColumn("字段2", Type.STRING, false));

? ? ? ? Schema schema = new Schema(columns);

? ? ? ? CreateTableOptions options = new CreateTableOptions();

? ? ? ? // 設置表的replica備份和分區(qū)規(guī)則

? ? ? ? List<String> parcols = new LinkedList<String>();

? ? ? ? parcols.add("id");

? ? ? ? // replica數(shù)量

? ? ? ? options.setNumReplicas(3);

? ? ? ? // hash分區(qū)的列

? ? ? ? options.addHashPartitions(parcols, 10);

? ? ? ? try {

? ? ? ? ? ? client.createTable("kudu_test", schema, options);

? ? ? ? } catch (KuduException e) {

? ? ? ? ? ? e.printStackTrace();

? ? ? ? }finally {

? ? ? ? ? ? try {

? ? ? ? ? ? ? ? client.close();

? ? ? ? ? ? } catch (KuduException e) {

? ? ? ? ? ? ? ? e.printStackTrace();

? ? ? ? ? ? }

? ? ? ? }

? ? }

2痒谴、在Imapla中創(chuàng)建上述Kudu表的外部表衰伯,腳本如下:

CREATE EXTERNAL TABLE IF NOT EXISTS kudu_test

STORED AS KUDU

TBLPROPERTIES (

? 'kudu.table_name' = 'kudu_test'

);

3、當查詢上述外部表的時候會有如下錯誤信息:

AnalysisException: Failed to load metadata for table: 'kudu_test' CAUSED BY: TableLoadingException: Add request failed : INSERT INTO `COLUMNS_V2` (`CD_ID`,`COMMENT`,`COLUMN_NAME`,`TYPE_NAME`,`INTEGER_IDX`) VALUES (?,?,?,?,?)

這是因為Impala在存儲kudu表的元數(shù)據(jù)信息時积蔚,原數(shù)據(jù)表的字段編碼不支持中文導致的意鲸。以下是COLUMNS_V2表的相關信息

4、解決Impala元數(shù)據(jù)不支持中文

找到Imapla的元數(shù)據(jù)庫中(我的元數(shù)據(jù)庫名為metastore)尽爆,在該元數(shù)據(jù)庫修改COLUMNS_V2表中字段的編碼格式怎顾,可以執(zhí)行如下SQL:

ALTER TABLE `COLUMNS_V2` CHANGE `COMMENT` `COMMENT` VARCHAR(256) CHARACTER SET utf8 COLLATE utf8_bin DEFAULT NULL;

ALTER TABLE `COLUMNS_V2` CHANGE `COLUMN_NAME` `COLUMN_NAME` VARCHAR(128) CHARACTER SET utf8 COLLATE utf8_bin NOT NULL;

ALTER TABLE `COLUMNS_V2` CHANGE `TYPE_NAME` `TYPE_NAME` VARCHAR(4000) CHARACTER SET utf8 COLLATE utf8_bin DEFAULT NULL;

執(zhí)行完上述SQL,刷新下Impala的元數(shù)據(jù)漱贱,就能在Impala中查詢含有中文字段的kudu表了槐雾。

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市幅狮,隨后出現(xiàn)的幾起案子募强,更是在濱河造成了極大的恐慌株灸,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,185評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件钻注,死亡現(xiàn)場離奇詭異蚂且,居然都是意外死亡配猫,警方通過查閱死者的電腦和手機幅恋,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評論 3 393
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來泵肄,“玉大人捆交,你說我怎么就攤上這事「玻” “怎么了品追?”我有些...
    開封第一講書人閱讀 163,524評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長冯丙。 經常有香客問我肉瓦,道長,這世上最難降的妖魔是什么胃惜? 我笑而不...
    開封第一講書人閱讀 58,339評論 1 293
  • 正文 為了忘掉前任泞莉,我火速辦了婚禮,結果婚禮上船殉,老公的妹妹穿的比我還像新娘鲫趁。我一直安慰自己,他們只是感情好利虫,可當我...
    茶點故事閱讀 67,387評論 6 391
  • 文/花漫 我一把揭開白布挨厚。 她就那樣靜靜地躺著,像睡著了一般糠惫。 火紅的嫁衣襯著肌膚如雪疫剃。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,287評論 1 301
  • 那天硼讽,我揣著相機與錄音巢价,去河邊找鬼。 笑死理郑,一個胖子當著我的面吹牛蹄溉,可吹牛的內容都是我干的。 我是一名探鬼主播您炉,決...
    沈念sama閱讀 40,130評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼柒爵,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了赚爵?” 一聲冷哼從身側響起棉胀,我...
    開封第一講書人閱讀 38,985評論 0 275
  • 序言:老撾萬榮一對情侶失蹤法瑟,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后唁奢,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體霎挟,經...
    沈念sama閱讀 45,420評論 1 313
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,617評論 3 334
  • 正文 我和宋清朗相戀三年麻掸,在試婚紗的時候發(fā)現(xiàn)自己被綠了酥夭。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,779評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡脊奋,死狀恐怖熬北,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情诚隙,我是刑警寧澤讶隐,帶...
    沈念sama閱讀 35,477評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站久又,受9級特大地震影響巫延,放射性物質發(fā)生泄漏。R本人自食惡果不足惜地消,卻給世界環(huán)境...
    茶點故事閱讀 41,088評論 3 328
  • 文/蒙蒙 一炉峰、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧犯建,春花似錦讲冠、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,716評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至玻熙,卻和暖如春否彩,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背嗦随。 一陣腳步聲響...
    開封第一講書人閱讀 32,857評論 1 269
  • 我被黑心中介騙來泰國打工列荔, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人枚尼。 一個月前我還...
    沈念sama閱讀 47,876評論 2 370
  • 正文 我出身青樓贴浙,卻偏偏與公主長得像,于是被迫代替她去往敵國和親署恍。 傳聞我的和親對象是個殘疾皇子崎溃,可洞房花燭夜當晚...
    茶點故事閱讀 44,700評論 2 354

推薦閱讀更多精彩內容