Airflow-工作流中文問題解決

問題

實際應(yīng)用中板壮,使用 airflow 運行 BashOperator 操作時坦喘,由于業(yè)務(wù)日志包含中文導(dǎo)致 airflow task log 卡住锄列,任務(wù)其實是正常運行,但是沒辦法 hook task status,問題原因是 python 編碼的問題物喷,work 日志中會出現(xiàn)編碼錯誤,如下:

Exception in thread Thread-1:
Traceback (most recent call last):
  File "/usr/lib64/python2.7/threading.py", line 812, in __bootstrap_inner
    self.run()
  File "/usr/lib64/python2.7/threading.py", line 765, in run
    self.__target(*self.__args, **self.__kwargs)
  File "/usr/lib/python2.7/site-packages/airflow/task_runner/base_task_runner.py", line 95, in _read_task_logs
    self.logger.info('Subtask: {}'.format(line.rstrip('\n')))
UnicodeEncodeError: 'ascii' codec can't encode character u'\u6ce8' in position 55: ordinal not in range(128)

解決辦法

  1. 打開 base_task_runner.py 文件遮斥,vi /usr/lib/python2.7/site-packages/airflow/task_runner/base_task_runner.py

  2. self.logger.info('Subtask: {}'.format(line.rstrip('\n'))) 做如下修改

修改前:

 def _read_task_logs(self, stream):
        while True:
            line = stream.readline().decode('utf-8')
            if len(line) == 0:
                break
            self.logger.info('Subtask: {}'.format(line.rstrip('\n')))

修改后

 def _read_task_logs(self, stream):
        while True:
            line = stream.readline().decode('utf-8')
            if len(line) == 0:
                break
            self.logger.info(u'Subtask: {}'.format(line.rstrip('\n')))
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末峦失,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子术吗,更是在濱河造成了極大的恐慌尉辑,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,198評論 6 514
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件较屿,死亡現(xiàn)場離奇詭異隧魄,居然都是意外死亡,警方通過查閱死者的電腦和手機隘蝎,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,334評論 3 398
  • 文/潘曉璐 我一進店門购啄,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人嘱么,你說我怎么就攤上這事狮含。” “怎么了曼振?”我有些...
    開封第一講書人閱讀 167,643評論 0 360
  • 文/不壞的土叔 我叫張陵几迄,是天一觀的道長。 經(jīng)常有香客問我冰评,道長映胁,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,495評論 1 296
  • 正文 為了忘掉前任甲雅,我火速辦了婚禮解孙,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘抛人。我一直安慰自己妆距,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 68,502評論 6 397
  • 文/花漫 我一把揭開白布函匕。 她就那樣靜靜地躺著娱据,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上中剩,一...
    開封第一講書人閱讀 52,156評論 1 308
  • 那天忌穿,我揣著相機與錄音,去河邊找鬼结啼。 笑死掠剑,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的郊愧。 我是一名探鬼主播朴译,決...
    沈念sama閱讀 40,743評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼属铁!你這毒婦竟也來了眠寿?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,659評論 0 276
  • 序言:老撾萬榮一對情侶失蹤焦蘑,失蹤者是張志新(化名)和其女友劉穎盯拱,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體例嘱,經(jīng)...
    沈念sama閱讀 46,200評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡狡逢,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,282評論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了拼卵。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片奢浑。...
    茶點故事閱讀 40,424評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖腋腮,靈堂內(nèi)的尸體忽然破棺而出殷费,到底是詐尸還是另有隱情,我是刑警寧澤低葫,帶...
    沈念sama閱讀 36,107評論 5 349
  • 正文 年R本政府宣布详羡,位于F島的核電站,受9級特大地震影響嘿悬,放射性物質(zhì)發(fā)生泄漏实柠。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,789評論 3 333
  • 文/蒙蒙 一善涨、第九天 我趴在偏房一處隱蔽的房頂上張望窒盐。 院中可真熱鬧,春花似錦钢拧、人聲如沸蟹漓。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,264評論 0 23
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽葡粒。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間嗽交,已是汗流浹背卿嘲。 一陣腳步聲響...
    開封第一講書人閱讀 33,390評論 1 271
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留夫壁,地道東北人拾枣。 一個月前我還...
    沈念sama閱讀 48,798評論 3 376
  • 正文 我出身青樓,卻偏偏與公主長得像盒让,于是被迫代替她去往敵國和親梅肤。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,435評論 2 359

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理邑茄,服務(wù)發(fā)現(xiàn)姨蝴,斷路器,智...
    卡卡羅2017閱讀 134,693評論 18 139
  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,262評論 25 707
  • 22年12月更新:個人網(wǎng)站關(guān)停撩扒,如果仍舊對舊教程有興趣參考 Github 的markdown內(nèi)容[https://...
    tangyefei閱讀 35,186評論 22 257
  • 我還在報社工作時豪墅,同事思怡每天都花一點時間用來閱讀旅行雜志泉手,從旅行者分享的旅途故事中制定自己的旅行計劃。每月不固定...
    他樣故事刊閱讀 319評論 0 1
  • 披著濕淋淋的頭發(fā)偶器,站在窗前斩萌,雷聲就在上方炸響,砰砰砰屏轰,雨砸在玻璃上颊郎,一周的雷雨,頭發(fā)白洗了霎苗。
    壹蓮朱山閱讀 156評論 0 0