LiteGo:阿里工程師馬天宇開源的迷你的Android異步并發(fā)類庫。
LiteGo 特性
可定義核心并發(fā)線程數(shù)郎嫁,即同一時間并發(fā)的請求數(shù)量秉继。
可定義等待排隊線程數(shù),即超出核心并發(fā)數(shù)后可排隊請求數(shù)量泽铛。
可定義等待隊列進入執(zhí)行狀態(tài)的策略:先來先執(zhí)行尚辑,后來先執(zhí)行。
可定義等待隊列滿載后處理新請求的策略:
- 拋棄隊列中最新的任務
- 拋棄隊列中最舊的任務
- 拋棄當前新任務
- 直接執(zhí)行(阻塞當前線程)
- 拋出異常(中斷當前線程)
如何合理的估計同時并發(fā)的CPU數(shù)量盔腔?
最大并發(fā)數(shù)與CPU核心關(guān)系
首先我們經(jīng)常在電腦介紹中聽到雙核四線程,因為支持超線程技術(shù)的CPU瓢喉,單個核心可以同時并發(fā)兩個線程進行協(xié)同工作宁赤,相比單線程效率更高,但也達不到想象中性能翻倍的效果栓票。而不支持超線程技術(shù)的CPU决左,一個核心就只能以一個線程進行運算,手機上沒有超線程技術(shù)所以手機上并發(fā)的最大線程數(shù)就等于核心數(shù)逗载。
如果是CPU密集型應用哆窿,則線程池大小設(shè)置為N+1
如果是IO密集型應用,則線程池大小設(shè)置為2N+1
如果一臺服務器上只部署這一個應用并且只有這一個線程池厉斟,那么這種估算或許合理挚躯,具體還需自行測試驗證。
這里我認同lite go的理念
- 清閑時線程不要多持擦秽,最好不要超過CPU數(shù)量码荔,根據(jù)具體應用類型和場- 景來決策。
- 瞬間并發(fā)不要過多感挥,最好保持在CPU數(shù)量左右缩搅,或者可以多幾個問題并不大。
同時并發(fā)的線程數(shù)量不要過多触幼,最好保持在CPU核數(shù)左右硼瓣,過多了CPU時間片過多的輪轉(zhuǎn)分配造成吞吐量降低,過少了不能充分利用CPU置谦,并發(fā)數(shù)可以適當比CPU核數(shù)多一點沒問題堂鲤。
主要的類
- SmartExecutor 類實現(xiàn)了Executor 接口:智能并發(fā)調(diào)度執(zhí)行器
PriorityRunnable 抽象類 子類需要實現(xiàn) Runnable 接口:顧名思義 優(yōu)先級Runnable ;含有int類型成員變量priority媒峡。
- SchedulePolicy 枚舉類型:線程池等待隊列進入執(zhí)行狀態(tài)的調(diào)度策略瘟栖,目前有兩種策略,一個是先進先出(隊列)谅阿,另一種是先進后出(棧)
- OverloadPolicy 枚舉類型:線程池等待隊列滿載后處理新請求的裝載策略半哟,目前有五種策略
- 拋棄隊列中最新的任務
- 拋棄隊列中最舊的任務
- 拋棄當前新任務
- 直接執(zhí)行(阻塞當前線程)
- 拋出異常(中斷當前線程)
在上面所有的類當中SmartExecutor 是這個庫的核心類,接下來主要分析這個類的實現(xiàn)签餐。在SmartExecutor類當中有一個非常重要的屬性ThreadPoolExecutor(線程池執(zhí)行器)這里是代理設(shè)計模式的體現(xiàn)寓涨,先了解一下ThreadPoolExecutor的構(gòu)造函數(shù)參數(shù)含義publicThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue, ThreadFactory threadFactory, RejectedExecutionHandler handler)
corePoolSize:核心線程數(shù)
核心線程會一直存活,及時沒有任務需要執(zhí)行
當線程數(shù)小于核心線程數(shù)時氯檐,即使有線程空閑戒良,線程池也會優(yōu)先創(chuàng)建新線程處理
設(shè)置allowCoreThreadTimeout=true(默認false)時,核心線程會超時關(guān)閉
maximumPoolSize:最大線程數(shù)
當線程數(shù)>=corePoolSize男摧,且任務隊列已滿時蔬墩。線程池會創(chuàng)建新線程來處理任務
當線程數(shù)=maximumPoolSize译打,且任務隊列已滿時,線程池會拒絕處理任務而拋出異常
keepAliveTime:線程空閑時間
當線程空閑時間達到keepAliveTime時拇颅,線程會退出奏司,直到線程數(shù)量=corePoolSize
如果allowCoreThreadTimeout=true,則會直到線程數(shù)量=0
rejectedExecutionHandler:任務拒絕處理器
兩種情況會拒絕處理任務:
當線程數(shù)已經(jīng)達到maximumPoolSize樟插,切隊列已滿韵洋,會拒絕新任務
當線程池被調(diào)用shutdown()后,會等待線程池里的任務執(zhí)行完畢黄锤,再shutdown搪缨。如果在調(diào)用shutdown()和線程池真正shutdown之間提交任務,會拒絕新任務
線程池會調(diào)用rejectedExecutionHandler來處理這個任務鸵熟。如果沒有設(shè)置默認是AbortPolicy副编,會拋出異常
ThreadPoolExecutor類有幾個內(nèi)部實現(xiàn)類來處理這類情況:
AbortPolicy 丟棄任務,拋運行時異常
CallerRunsPolicy 執(zhí)行任務
DiscardPolicy 忽視流强,什么都不會發(fā)生
DiscardOldestPolicy 從隊列中踢出最先進入隊列(最后一個執(zhí)行)的任務
實現(xiàn)RejectedExecutionHandler接口痹届,可自定義處理器
ThreadPoolExecutor執(zhí)行順序
線程池按以下行為執(zhí)行任務
- 當線程數(shù)小于核心線程數(shù)時,創(chuàng)建線程打月。
- 當線程數(shù)大于等于核心線程數(shù)队腐,且任務隊列未滿時,將任務放入任務隊列奏篙。
- 當線程數(shù)大于等于核心線程數(shù)柴淘,且任務隊列已滿
- 若線程數(shù)小于最大線程數(shù),創(chuàng)建線程
- 若線程數(shù)等于最大線程數(shù)秘通,拋出異常为严,拒絕任務
android-lite-go
SmartExecutor 的幾個主要方法:
public Future<?> submit(Runnable task)
public <T> Future<T> submit(Runnable task, T result)
public <T> Future<T> submit(Callable<T> task)
public <T> void submit(RunnableFuture<T> task)
public void execute(final Runnable command)
最主要的是 execute 方法,其他幾個方法是將任務封裝為 FutureTask 投入到 execute 方法執(zhí)行充易。因為 FutureTask 本質(zhì)就是一個 RunnableFuture 對象梗脾,兼具 Runnable 和 Future 的特性和功能荸型。
execute 整個過程簡單概括為:
把任務封裝為一個類似“鏈表”的結(jié)構(gòu)體盹靴,執(zhí)行完一個,調(diào)度下一個瑞妇。
加鎖防止并發(fā)時搶奪資源稿静,判斷當前運行任務數(shù)量。
當前任務數(shù)少于并發(fā)最大數(shù)量則投入運行辕狰,若滿載則投入等待隊列尾部改备。
若等待隊列未滿新任務進入排隊,若滿則執(zhí)行滿載處理策略蔓倍。
當一個任務執(zhí)行完悬钳,其尾部通過“鏈接”的方式調(diào)度一個新任務執(zhí)行盐捷。若沒有任務,則結(jié)束默勾。
其中「加鎖」和將任務包裝成「鏈表」是重點碉渡。