Python 連接hive(Linux)

前言

之所以選擇基于Linux系統(tǒng)用Python連接hive田柔,是因?yàn)樵趙indow下會(huì)出現(xiàn)Hadoop認(rèn)證失敗的問題。會(huì)出現(xiàn)執(zhí)行python腳本的機(jī)器無目標(biāo)hive的kerberos認(rèn)證信息類似錯(cuò)誤谬运,也會(huì)出現(xiàn)sasl調(diào)用問題:

thrift.transport.TTransport.TTransportException: Could not start SASL: Error in sasl_client_start (-4) SASL(-4): no mechanism available: Unable to find a callback: 2

該錯(cuò)誤我嘗試多次,未能解決(有知道window下解決方案的歡迎留言),所以建議使用Linux系統(tǒng)赌蔑。

1 環(huán)境配置

VMware Workstation +Ubuntu

軟件下載

image.png

軟件安裝

網(wǎng)上教程很多,本文推薦一個(gè)教程:https://blog.csdn.net/stpeace/article/details/78598333

2 依賴包

主要是以下四個(gè)包:

pip install sasl
pip install thrift
pip install thrift-sasl
pip install PyHive

在安裝包sasl的過程會(huì)出現(xiàn)麻煩座硕,主要是Ubuntu中缺乏sasl.h的問題,這里可以通過下面語句解決

sudo apt-get install libsasl2-dev

這和centos有一些區(qū)別涕蜂。

  • 【注解】Windows下安裝sasl包可參考我的另外一篇筆記:http://www.reibang.com/p/c67657db5a93
    接下來一般就可以順利安裝以上四個(gè)包华匾,記住thrift-sasl的名字可能為thrift_sasl,注意連接符的區(qū)別机隙。

3 測(cè)試代碼

本文是基于本機(jī)虛擬機(jī)用Python連接的公司測(cè)試環(huán)境的hive(生產(chǎn)環(huán)境和測(cè)試環(huán)境是有隔離的蜘拉,生產(chǎn)環(huán)境需要堡壘機(jī)才能連接)

import sys
from pyhive import hive

conn = hive.connect(host="server_ip",port=10000, auth="...", database="...",username="...",password="...")
cursor = conn.cursor()
cursor.execute("show tables")
res = cursor.fetchall()
conn.close()
for item in res:
     print(item)
  • host為IP,post為端口有鹿,auth有多種模式旭旭,我用的是“LDAP”,也可以嘗試“NOSASL”等葱跋。

4 最后

因缺乏工程和計(jì)算機(jī)基礎(chǔ)的知識(shí)您机,對(duì)很多的地方都了解的不夠深入,歡迎大神指點(diǎn)年局,最后向以下兩位大佬的帖子致謝:
[1]https://www.zhihu.com/question/269333988/answer/581126392
[2]https://mp.weixin.qq.com/s/cdFxkphMtJASQ7-nKt13mg

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末际看,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子矢否,更是在濱河造成了極大的恐慌仲闽,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,807評(píng)論 6 518
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件僵朗,死亡現(xiàn)場(chǎng)離奇詭異赖欣,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)验庙,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,284評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門顶吮,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人粪薛,你說我怎么就攤上這事悴了。” “怎么了违寿?”我有些...
    開封第一講書人閱讀 169,589評(píng)論 0 363
  • 文/不壞的土叔 我叫張陵湃交,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我藤巢,道長(zhǎng)搞莺,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 60,188評(píng)論 1 300
  • 正文 為了忘掉前任掂咒,我火速辦了婚禮才沧,結(jié)果婚禮上迈喉,老公的妹妹穿的比我還像新娘。我一直安慰自己温圆,他們只是感情好挨摸,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,185評(píng)論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著捌木,像睡著了一般油坝。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上刨裆,一...
    開封第一講書人閱讀 52,785評(píng)論 1 314
  • 那天澈圈,我揣著相機(jī)與錄音,去河邊找鬼帆啃。 笑死瞬女,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的努潘。 我是一名探鬼主播诽偷,決...
    沈念sama閱讀 41,220評(píng)論 3 423
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼疯坤!你這毒婦竟也來了报慕?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 40,167評(píng)論 0 277
  • 序言:老撾萬榮一對(duì)情侶失蹤压怠,失蹤者是張志新(化名)和其女友劉穎眠冈,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體菌瘫,經(jīng)...
    沈念sama閱讀 46,698評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡蜗顽,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,767評(píng)論 3 343
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了雨让。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片雇盖。...
    茶點(diǎn)故事閱讀 40,912評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖栖忠,靈堂內(nèi)的尸體忽然破棺而出崔挖,到底是詐尸還是另有隱情,我是刑警寧澤娃闲,帶...
    沈念sama閱讀 36,572評(píng)論 5 351
  • 正文 年R本政府宣布虚汛,位于F島的核電站,受9級(jí)特大地震影響皇帮,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜蛋辈,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,254評(píng)論 3 336
  • 文/蒙蒙 一属拾、第九天 我趴在偏房一處隱蔽的房頂上張望将谊。 院中可真熱鬧,春花似錦渐白、人聲如沸尊浓。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,746評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽栋齿。三九已至,卻和暖如春襟诸,著一層夾襖步出監(jiān)牢的瞬間瓦堵,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,859評(píng)論 1 274
  • 我被黑心中介騙來泰國(guó)打工歌亲, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留菇用,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 49,359評(píng)論 3 379
  • 正文 我出身青樓陷揪,卻偏偏與公主長(zhǎng)得像惋鸥,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子悍缠,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,922評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容