# ----------------------------------------Redis 單機(jī)模式-------------------------------------
# Redis 單機(jī)地址
REDIS_HOST="172.25.2.25"
REDIS_PORT=6379
# REDIS 單機(jī)模式配置參數(shù)
REDIS_PARAMS={"password":"xxxx","db":0}
# ----------------------------------------Redis 哨兵模式-------------------------------------
# Redis 哨兵地址
REDIS_SENTINELS=[
('172.25.2.25',26379),
('172.25.2.26',26379),
('172.25.2.27',26379)]
# REDIS_SENTINEL_PARAMS 哨兵模式配置參數(shù)。
REDIS_SENTINEL_PARAMS={"service_name":"mymaster","password":"xxxx","db":0}
# ----------------------------------------Redis 集群模式-------------------------------------
# Redis 集群地址
REDIS_MASTER_NODES=[
{"host":"172.25.2.25","port":"6379"},
{"host":"172.25.2.26","port":"6379"},
{"host":"172.25.2.27","port":"6379"},]
#REDIS_CLUSTER_PARAMS 集群模式配置參數(shù)
REDIS_CLUSTER_PARAMS={"password":"xxxx","db":0}
# ----------------------------------------Scrapy 其他參數(shù)-------------------------------------
# 在 redis 中保持 scrapy-redis 用到的各個(gè)隊(duì)列惫周,從而允許暫停和暫停后恢復(fù)督暂,也就是不清理 redis
queuesSCHEDULER_PERSIST=True
# 調(diào)度隊(duì)列
SCHEDULER="scrapy_redis_sentinel.scheduler.Scheduler"
# 去重 注:當(dāng)使用集群時(shí)單機(jī)不生效
DUPEFILTER_CLASS="scrapy_redis_sentinel.dupefilter.RFPDupeFilter"
scrapy-redis分布式集群redis配置
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
- 文/潘曉璐 我一進(jìn)店門健民,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人贫贝,你說我怎么就攤上這事秉犹。” “怎么了稚晚?”我有些...
- 文/不壞的土叔 我叫張陵崇堵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我客燕,道長(zhǎng)鸳劳,這世上最難降的妖魔是什么? 我笑而不...
- 正文 為了忘掉前任也搓,我火速辦了婚禮赏廓,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘傍妒。我一直安慰自己幔摸,他們只是感情好,可當(dāng)我...
- 文/花漫 我一把揭開白布拍顷。 她就那樣靜靜地躺著抚太,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上尿贫,一...
- 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼彰亥!你這毒婦竟也來了咧七?” 一聲冷哼從身側(cè)響起,我...
- 序言:老撾萬榮一對(duì)情侶失蹤任斋,失蹤者是張志新(化名)和其女友劉穎继阻,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體废酷,經(jīng)...
- 正文 獨(dú)居荒郊野嶺守林人離奇死亡瘟檩,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
- 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了澈蟆。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片墨辛。...
- 正文 年R本政府宣布带膀,位于F島的核電站,受9級(jí)特大地震影響橙垢,放射性物質(zhì)發(fā)生泄漏垛叨。R本人自食惡果不足惜,卻給世界環(huán)境...
- 文/蒙蒙 一柜某、第九天 我趴在偏房一處隱蔽的房頂上張望嗽元。 院中可真熱鬧,春花似錦喂击、人聲如沸剂癌。這莊子的主人今日做“春日...
- 文/蒼蘭香墨 我抬頭看了看天上的太陽佩谷。三九已至旁壮,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間谐檀,已是汗流浹背抡谐。 一陣腳步聲響...
- 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像溃肪,于是被迫代替她去往敵國(guó)和親免胃。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
推薦閱讀更多精彩內(nèi)容
- Scrapy-Redis分布式爬蟲組件 Scrapy是一個(gè)框架惫撰,他本身是不支持分布式的羔沙。如果我們想要做分布式的爬蟲...
- 從零搭建Redis-Scrapy分布式爬蟲 Scrapy-Redis分布式策略: 假設(shè)有四臺(tái)電腦:Windows ...
- 提示 閱讀本文章撬碟,您需要: 了解scrapy诞挨,知道scrapy-redis可以用來干嘛莉撇,最好已經(jīng)有了可以單機(jī)運(yùn)行的...
- 1. 分布式爬蟲簡(jiǎn)介 1.1. 分布式系統(tǒng)介紹 分布式概念-- 分布式系統(tǒng)是由一組多臺(tái)計(jì)算機(jī)組成的系統(tǒng);-- 計(jì)算...