MySQL建表轉(zhuǎn)化為Hive建表

  1. 建一張維表

    CREATE TABLE dim_ddl_convert (
     source VARCHAR (100) NOT NULL,
     data_type1 VARCHAR (100) NOT NULL,
     target VARCHAR (100) NOT NULL,
     data_type2 VARCHAR (100),
     update_time VARCHAR (26),
     PRIMARY KEY (source, data_type1, target)
    ) ENGINE = INNODB DEFAULT CHARSET = utf8 COMMENT = '數(shù)據(jù)庫表結(jié)構(gòu)轉(zhuǎn)換';
    
  2. 插入MySQL數(shù)據(jù)類型與Hive數(shù)據(jù)類型的映射關(guān)系(Hive 0.11.0)

    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'tinyint', 'hive', 'tinyint', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'smallint', 'hive', 'smallint', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'mediumint', 'hive', 'int', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'int', 'hive', 'int', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'bigint', 'hive', 'bigint', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'float', 'hive', 'float', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'double', 'hive', 'double', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'numeric', 'hive', 'decimal', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'decimal', 'hive', 'decimal', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'char', 'hive', 'string', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'varchar', 'hive', 'string', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'text', 'hive', 'string', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'binary', 'hive', 'binary', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'varbinary', 'hive', 'varbinary', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'time', 'hive', 'string', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'date', 'hive', 'string', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'datetime', 'hive', 'string', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'timestamp', 'hive', 'string', '2020-03-14 00:00:00');
    INSERT INTO dim_ddl_convert (source, data_type1, target, data_type2, update_time) VALUES ('mysql', 'json', 'hive', 'map<string,string>', '2020-03-14 00:00:00');
    
    MySQL Hive
    tinyint tinyint
    smallint smallint
    mediumint int
    int int
    bigint bigint
    float float
    double double
    numeric decimal 從Hive0.11.0開始支持
    decimal decimal 從Hive0.11.0開始支持
    char string
    varchar string
    text string
    binary binary 從Hive0.8.0開始支持
    varbinary varbinary
    time string 不支持time
    date date 從Hive0.12.0開始支持
    datetime string 不支持datetime
    timestamp string 從Hive0.8.0開始支持timestamp
    char char 從Hive0.13.0開始支持
    varchar varchar 從Hive0.12.0開始支持
    json map<string,string>
    不支持 array
    不支持 map<key,value>
    不支持 struct
    不支持 union
  3. 打開SQL查詢工具愧怜,執(zhí)行以下查詢

    set session group_concat_max_len = 102400;
    select
     a.table_name,
     b.table_comment,
     concat(
         'drop table if exists ',a.table_name,';'
         'create table if not exists ',a.table_name,' (',
         group_concat(
             concat(
                 a.column_name,' ',c.data_type2," comment '",column_comment,"'"
             )
             order by
                 a.table_name,
                 a.ordinal_position
         ),
         ") comment '",b.table_comment,"'",
         "row format delimited fields terminated by '\\t' stored as textfile;"
     ) as col_name
    from
     (
         select
             table_schema,
             table_name,
             column_name,
             ordinal_position,
             data_type,
             column_comment
         from
             information_schema.columns
         where
             table_schema = 'test_dp'
         and table_name = 'ods_cdn_url_akamai_bk'
     ) as a
    left join information_schema.tables as b 
    on a.table_name = b.table_name and a.table_schema = b.table_schema
    left join (
     select
         *
     from
         dim_ddl_convert
     where
         source = 'mysql'
     and target = 'hive'
    ) as c on a.data_type = c.data_type1
    group by
     a.table_name,
     b.table_comment;
    
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末品姓,一起剝皮案震驚了整個濱河市央拖,隨后出現(xiàn)的幾起案子步藕,更是在濱河造成了極大的恐慌,老刑警劉巖傻工,帶你破解...
    沈念sama閱讀 217,406評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件霞溪,死亡現(xiàn)場離奇詭異,居然都是意外死亡中捆,警方通過查閱死者的電腦和手機(jī)威鹿,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,732評論 3 393
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來轨香,“玉大人忽你,你說我怎么就攤上這事”廴荩” “怎么了科雳?”我有些...
    開封第一講書人閱讀 163,711評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長脓杉。 經(jīng)常有香客問我糟秘,道長,這世上最難降的妖魔是什么球散? 我笑而不...
    開封第一講書人閱讀 58,380評論 1 293
  • 正文 為了忘掉前任尿赚,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘凌净。我一直安慰自己悲龟,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 67,432評論 6 392
  • 文/花漫 我一把揭開白布冰寻。 她就那樣靜靜地躺著须教,像睡著了一般。 火紅的嫁衣襯著肌膚如雪斩芭。 梳的紋絲不亂的頭發(fā)上轻腺,一...
    開封第一講書人閱讀 51,301評論 1 301
  • 那天,我揣著相機(jī)與錄音划乖,去河邊找鬼贬养。 笑死,一個胖子當(dāng)著我的面吹牛琴庵,可吹牛的內(nèi)容都是我干的煤蚌。 我是一名探鬼主播,決...
    沈念sama閱讀 40,145評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼细卧,長吁一口氣:“原來是場噩夢啊……” “哼尉桩!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起贪庙,我...
    開封第一講書人閱讀 39,008評論 0 276
  • 序言:老撾萬榮一對情侶失蹤蜘犁,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后止邮,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體这橙,經(jīng)...
    沈念sama閱讀 45,443評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,649評論 3 334
  • 正文 我和宋清朗相戀三年导披,在試婚紗的時候發(fā)現(xiàn)自己被綠了屈扎。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,795評論 1 347
  • 序言:一個原本活蹦亂跳的男人離奇死亡撩匕,死狀恐怖鹰晨,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情止毕,我是刑警寧澤模蜡,帶...
    沈念sama閱讀 35,501評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站扁凛,受9級特大地震影響忍疾,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜谨朝,卻給世界環(huán)境...
    茶點故事閱讀 41,119評論 3 328
  • 文/蒙蒙 一卤妒、第九天 我趴在偏房一處隱蔽的房頂上張望甥绿。 院中可真熱鬧,春花似錦则披、人聲如沸共缕。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,731評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至共苛,卻和暖如春判没,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背隅茎。 一陣腳步聲響...
    開封第一講書人閱讀 32,865評論 1 269
  • 我被黑心中介騙來泰國打工澄峰, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人辟犀。 一個月前我還...
    沈念sama閱讀 47,899評論 2 370
  • 正文 我出身青樓俏竞,卻偏偏與公主長得像,于是被迫代替她去往敵國和親堂竟。 傳聞我的和親對象是個殘疾皇子魂毁,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,724評論 2 354

推薦閱讀更多精彩內(nèi)容