supervisor和Python多進(jìn)程multiprocessing使用 子進(jìn)程殘留問題

增加配置stopasgroup=true既可,實(shí)際案列如下配置所示:

[program:flow-file-to-kafka]
command=python3 /data/collector/kafka_file_convert/file_to_kafka_flow.py -topic=test -filePath=/data/ -processNum=50
process_name=%(process_num)01d
numprocs=1
autorstart=true
autorestart=true
startsecs=5 
startretries=100
stopasgroup=true

多進(jìn)程代碼示例如下:

#!/usr/bin/python3
# -*- coding: utf-8 -*-
import json
import logging
import gzip
import argparse
from multiprocessing import Queue, Process
import os
import time

import kafkatool

KAFKA_HOST_PRODUCER = ["192.168.1.1:9092"]

logging.basicConfig(format='%(asctime)s - %(pathname)s[line:%(lineno)d] - %(levelname)s: %(message)s',
                    level=logging.INFO)


def handle_data(file_path, topic):
    producer = kafkatool.Kafka_producer(KAFKA_HOST_PRODUCER, topic)
    with gzip.open(file_path, 'rb') as f:
        for line in f:
            data = str(line, encoding = "utf-8").rstrip('\n')
            data = data.encode()
            producer.send(topic, data)

def my_consumer(queue, topic):
    producer = kafkatool.Kafka_producer(KAFKA_HOST_PRODUCER, topic)
    logging.info("kafka producer start: bootstrap_servers:{}".format(KAFKA_HOST_PRODUCER))
    logging.info("kafka producer start: topic:{}".format(topic))
    while True:
        data = queue.get()
        producer.send(topic, data)


def my_producer(queue, filepath):
    while True:
        files = os.listdir(filepath)
        count = 0
        for file in files:
            if file.endswith('.tmp'):
                continue
            file_path = os.path.join(filepath, file)
            count += 1
            with gzip.open(file_path, 'rb') as f:
                for line in f:
                    data = str(line, encoding="utf-8").rstrip('\n')
                    data = data.encode()
                    queue.put(data)
            os.remove(file_path)
        if count > 0:
            logging.info(f"One Loop Results: {count}")
            continue
        time.sleep(1)

if __name__ == '__main__':
    parser = argparse.ArgumentParser()

    parser.add_argument("-topic", "--topic", default="logs", help="consumer topic")
    parser.add_argument("-filePath", "--filePath", default="/root/yy", help="file path")
    parser.add_argument("-processNum", "--processNum", default=5, type=int, help="process number")

    args = parser.parse_args()

    consumers = []
    q = Queue()
    p = Process(target=my_producer, args=(q, args.filePath))
    p.start()
    for i in range(args.processNum):
        c = Process(target=my_consumer, args=(q, args.topic))
        c.start()
        consumers.append(c)
    for p in consumers:
        p.join()
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末急波,一起剝皮案震驚了整個濱河市夷野,隨后出現(xiàn)的幾起案子检碗,更是在濱河造成了極大的恐慌奔害,老刑警劉巖吓肋,帶你破解...
    沈念sama閱讀 212,718評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件影斑,死亡現(xiàn)場離奇詭異给赞,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)矫户,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,683評論 3 385
  • 文/潘曉璐 我一進(jìn)店門片迅,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人皆辽,你說我怎么就攤上這事柑蛇。” “怎么了驱闷?”我有些...
    開封第一講書人閱讀 158,207評論 0 348
  • 文/不壞的土叔 我叫張陵耻台,是天一觀的道長。 經(jīng)常有香客問我空另,道長盆耽,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,755評論 1 284
  • 正文 為了忘掉前任扼菠,我火速辦了婚禮摄杂,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘循榆。我一直安慰自己析恢,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,862評論 6 386
  • 文/花漫 我一把揭開白布秧饮。 她就那樣靜靜地躺著映挂,像睡著了一般泽篮。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上柑船,一...
    開封第一講書人閱讀 50,050評論 1 291
  • 那天帽撑,我揣著相機(jī)與錄音,去河邊找鬼鞍时。 笑死油狂,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的寸癌。 我是一名探鬼主播,決...
    沈念sama閱讀 39,136評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼弱贼,長吁一口氣:“原來是場噩夢啊……” “哼蒸苇!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起吮旅,我...
    開封第一講書人閱讀 37,882評論 0 268
  • 序言:老撾萬榮一對情侶失蹤溪烤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后庇勃,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體檬嘀,經(jīng)...
    沈念sama閱讀 44,330評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,651評論 2 327
  • 正文 我和宋清朗相戀三年责嚷,在試婚紗的時候發(fā)現(xiàn)自己被綠了鸳兽。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,789評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡罕拂,死狀恐怖揍异,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情爆班,我是刑警寧澤衷掷,帶...
    沈念sama閱讀 34,477評論 4 333
  • 正文 年R本政府宣布,位于F島的核電站柿菩,受9級特大地震影響戚嗅,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜枢舶,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,135評論 3 317
  • 文/蒙蒙 一懦胞、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧祟辟,春花似錦医瘫、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,864評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽稼锅。三九已至,卻和暖如春僚纷,著一層夾襖步出監(jiān)牢的瞬間矩距,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,099評論 1 267
  • 我被黑心中介騙來泰國打工怖竭, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留锥债,地道東北人。 一個月前我還...
    沈念sama閱讀 46,598評論 2 362
  • 正文 我出身青樓痊臭,卻偏偏與公主長得像哮肚,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子广匙,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,697評論 2 351

推薦閱讀更多精彩內(nèi)容