0. 背景
Redis作為一個基于內存的緩存系統(tǒng)我抠,一直以高性能著稱冲粤,
在單線程處理情況下,讀速度可達到11萬次/s爪瓜,寫速度達到8.1萬次/s蹬跃。
Redis6.0之前為什么一直不使用多線程?
官方曾做過類似問題的回復:使用Redis時铆铆,幾乎不存在CPU成為瓶頸的情況蝶缀, Redis主要受限于內存和網(wǎng)絡。
但是算灸,單線程的設計也給Redis帶來一些問題:
- 只能使用CPU一個核
- 如果刪除的鍵過大(eg: Set類型中有上百萬個對象)扼劈,會導致服務端阻塞好幾秒
- QPS難再提高
針對上面問題,Redis在4.0版本以及6.0版本分別引入了Lazy Free以及多線程IO菲驴,逐步向多線程過渡荐吵。
?
1. Redis單線程架構原理
Redis單線程是如何支持客戶端并發(fā)請求的呢?
Redis服務器是一個事件驅動程序赊瞬,服務器需要處理以下兩類事件:
- 文件事件
Redis服務器通過套接字與客戶端(或者其他Redis服務器)進行連接先煎。
文件事件就是服務器對套接字操作的抽象。
服務器與客戶端的通信會產生相應的文件事件巧涧,而服務器則通過監(jiān)聽并處理這些事件來完成一系列網(wǎng)絡通信操作薯蝎。
(eg: 連接accept棠隐,read心铃,write列粪,close等)
- 時間事件
Redis服務器中的一些操作(eg: serverCron函數(shù))需要在給定的時間點執(zhí)行榔昔。
時間事件就是服務器對這類定時操作的抽象
(eg: 過期鍵清理煞茫,服務狀態(tài)統(tǒng)計等)
Redis將文件事件和時間事件進行抽象会油,時間輪詢器會監(jiān)聽I/O事件表:
一旦有文件事件就緒虚缎,Redis就會優(yōu)先處理文件事件章钾,
接著處理時間事件瞎抛。
在上述所有事件處理上艺演,Redis都是以單線程形式處理,所以說Redis是單線程的桐臊。
處理過程見下圖
Redis基于Reactor模式開發(fā)了自己的I/O事件處理器胎撤,也就是文件事件處理器。
Redis在I/O事件處理上断凶,采用了I/O多路復用技術伤提,同時監(jiān)聽多個套接字,
并為套接字關聯(lián)不同的事件處理函數(shù)认烁,通過一個線程實現(xiàn)了多客戶端并發(fā)處理飘弧。
處理過程見下圖
上述的設計识藤,在數(shù)據(jù)處理上避免了加鎖操作,既使得實現(xiàn)上足夠簡潔次伶,也保證了其高性能痴昧。
當然,Redis單線程只是指其在事件處理上冠王,實際上赶撰,Redis也并不是單線程的,比如生成RDB文件柱彻,就會fork一個子進程來實現(xiàn)豪娜。
?
2. Redis 4.0的Lazy Free機制
背景:
客戶端向Redis發(fā)送一條耗時較長的命令,比如刪除一個含有上百萬對象的Set鍵哟楷,或者執(zhí)行flushdb瘤载,flushall操作,
Redis服務器需要回收大量的內存空間卖擅,導致服務器卡住好幾秒鸣奔,對負載較高的緩存系統(tǒng)而言將會是個災難。
為了解決這個問題惩阶,在Redis 4.0版本引入了Lazy Free挎狸,將慢操作異步化,這也是在事件處理上向多線程邁進了一步断楷。
將大鍵的刪除操作異步化锨匆,采用非阻塞刪除(對應命令UNLINK)。
大鍵的空間回收交由單獨線程實現(xiàn)冬筒,主線程只做關系解除恐锣,可以快速返回,繼續(xù)處理其他事件舞痰,避免服務器長時間阻塞侥蒙。
意義:
Redis在4.0版本引入了Lazy Free,自此Redis有了一個Lazy Free線程專門用于大鍵的回收匀奏。
同時,也去掉了聚合類型的共享對象学搜,這為多線程帶來可能娃善。
這為Redis在6.0版本實現(xiàn)了多線程I/O打下了基礎。
?
3. Redis 6.0多線程實現(xiàn)機制
Redis 6.0的多線程并未將事件處理改成多線程瑞佩,而是在I/O上聚磺。
因為,如果把事件處理改成多線程炬丸,不但會導致鎖競爭瘫寝,而且會有頻繁的上下文切換蜒蕾,
即使用分段鎖來減少競爭,對Redis內核也會有較大改動焕阿,性能也不一定有明顯提升咪啡。
流程簡述如下:
1、主線程負責接收建立連接請求暮屡,獲取 socket 放入全局等待讀處理隊列
2撤摸、主線程處理完讀事件之后,通過 RR(Round Robin) 將這些連接分配給這些 IO 線程
3褒纲、主線程阻塞等待 IO 線程讀取 socket 完畢
4准夷、主線程通過單線程的方式執(zhí)行請求命令,請求數(shù)據(jù)讀取并解析完成莺掠,但并不執(zhí)行
5衫嵌、主線程阻塞等待 IO 線程將數(shù)據(jù)回寫 socket 完畢
6、解除綁定彻秆,清空等待隊列
見下圖
?
4. Redis6.0多線程的設置
Redis6.0的多線程默認是禁用的楔绞,只使用主線程。
如需開啟需要修改redis.conf配置文件:
io-threads-do-reads yes
開啟多線程后掖棉,還需要設置線程數(shù)墓律,否則是不生效的。
同樣修改redis.conf配置文件:
io-threads 4