1. 引言
合理利用線程池能夠帶來三個好處伙菊。第一：降低資源消耗迫像。通過重復(fù)利用已創(chuàng)建的線程降低線程創(chuàng)建和銷毀造成的消耗。第二：提高響應(yīng)速度茄蚯。當(dāng)任務(wù)到達(dá)時压彭，任務(wù)可以不需要等到線程創(chuàng)建就能立即執(zhí)行。第三：提高線程的可管理性渗常。線程是稀缺資源壮不，如果無限制的創(chuàng)建，不僅會消耗系統(tǒng)資源皱碘，還會降低系統(tǒng)的穩(wěn)定性忆畅，使用線程池可以進(jìn)行統(tǒng)一的分配，調(diào)優(yōu)和監(jiān)控尸执。但是要做到合理的利用線程池家凯，必須對其原理了如指掌。
2. 線程池的使用
線程池的創(chuàng)建
我們可以通過ThreadPoolExecutor來創(chuàng)建一個線程池如失。
new ThreadPoolExecutor(corePoolSize, maximumPoolSize, keepAliveTime, milliseconds,runnableTaskQueue, handler);
創(chuàng)建一個線程池需要輸入幾個參數(shù)：
- corePoolSize（線程池的基本大邪砘濉）：當(dāng)提交一個任務(wù)到線程池時，線程池會創(chuàng)建一個線程來執(zhí)行任務(wù)褪贵，即使其他空閑的基本線程能夠執(zhí)行新任務(wù)也會創(chuàng)建線程掂之，等到需要執(zhí)行的任務(wù)數(shù)大于線程池基本大小時就不再創(chuàng)建。如果調(diào)用了線程池的prestartAllCoreThreads方法脆丁，線程池會提前創(chuàng)建并啟動所有基本線程世舰。
- runnableTaskQueue（任務(wù)隊列）：用于保存等待執(zhí)行的任務(wù)的阻塞隊列。 可以選擇以下幾個阻塞隊列槽卫。
- ArrayBlockingQueue：是一個基于數(shù)組結(jié)構(gòu)的有界阻塞隊列跟压，此隊列按 FIFO（先進(jìn)先出）原則對元素進(jìn)行排序。
- LinkedBlockingQueue：一個基于鏈表結(jié)構(gòu)的阻塞隊列歼培，此隊列按FIFO （先進(jìn)先出） 排序元素震蒋，吞吐量通常要高于ArrayBlockingQueue。靜態(tài)工廠方法Executors.newFixedThreadPool()使用了這個隊列躲庄。
- SynchronousQueue：一個不存儲元素的阻塞隊列查剖。每個插入操作必須等到另一個線程調(diào)用移除操作，否則插入操作一直處于阻塞狀態(tài)噪窘，吞吐量通常要高于LinkedBlockingQueue笋庄，靜態(tài)工廠方法Executors.newCachedThreadPool使用了這個隊列。
- PriorityBlockingQueue：一個具有優(yōu)先級的無限阻塞隊列。
- maximumPoolSize（線程池最大大兄鄙啊）：線程池允許創(chuàng)建的最大線程數(shù)菌仁。如果隊列滿了，并且已創(chuàng)建的線程數(shù)小于最大線程數(shù)哆键，則線程池會再創(chuàng)建新的線程執(zhí)行任務(wù)掘托。值得注意的是如果使用了無界的任務(wù)隊列這個參數(shù)就沒什么效果瘦锹。
- ThreadFactory：用于設(shè)置創(chuàng)建線程的工廠籍嘹，可以通過線程工廠給每個創(chuàng)建出來的線程設(shè)置更有意義的名字。
- RejectedExecutionHandler（飽和策略）：當(dāng)隊列和線程池都滿了弯院，說明線程池處于飽和狀態(tài)辱士，那么必須采取一種策略處理提交的新任務(wù)。這個策略默認(rèn)情況下是AbortPolicy听绳，表示無法處理新任務(wù)時拋出異常颂碘。以下是JDK1.5提供的四種策略。
- AbortPolicy：直接拋出異常椅挣。
- CallerRunsPolicy：只用調(diào)用者所在線程來運行任務(wù)头岔。
- DiscardOldestPolicy：丟棄隊列里最近的一個任務(wù)，并執(zhí)行當(dāng)前任務(wù)鼠证。
- DiscardPolicy：不處理峡竣，丟棄掉。
- 當(dāng)然也可以根據(jù)應(yīng)用場景需要來實現(xiàn)RejectedExecutionHandler接口自定義策略量九。如記錄日志或持久化不能處理的任務(wù)适掰。
- keepAliveTime（線程活動保持時間）：線程池的工作線程空閑后，保持存活的時間荠列。所以如果任務(wù)很多类浪，并且每個任務(wù)執(zhí)行的時間比較短，可以調(diào)大這個時間肌似，提高線程的利用率费就。
- TimeUnit（線程活動保持時間的單位）：可選的單位有天（DAYS），小時（HOURS）川队，分鐘（MINUTES）受楼，毫秒(MILLISECONDS)，微秒(MICROSECONDS, 千分之一毫秒)和毫微秒(NANOSECONDS, 千分之一微秒)呼寸。
向線程池提交任務(wù)
我們可以使用execute提交的任務(wù)艳汽，但是execute方法沒有返回值，所以無法判斷任務(wù)是否被線程池執(zhí)行成功对雪。通過以下代碼可知execute方法輸入的任務(wù)是一個Runnable類的實例河狐。
threadsPool.execute(new Runnable() {
@Override
public void run() {
// TODO Auto-generated method stub
}
});
我們也可以使用submit 方法來提交任務(wù)，它會返回一個future,那么我們可以通過這個future來判斷任務(wù)是否執(zhí)行成功，通過future的get方法來獲取返回值馋艺，get方法會阻塞住直到任務(wù)完成栅干，而使用get(long timeout, TimeUnit unit)方法則會阻塞一段時間后立即返回，這時有可能任務(wù)沒有執(zhí)行完捐祠。
Future<Object> future = executor.submit(harReturnValuetask);
try {
Object s = future.get();
} catch (InterruptedException e) {
// 處理中斷異常
} catch (ExecutionException e) {
// 處理無法執(zhí)行任務(wù)異常
} finally {
// 關(guān)閉線程池
executor.shutdown();
}
線程池的關(guān)閉
我們可以通過調(diào)用線程池的shutdown或shutdownNow方法來關(guān)閉線程池碱鳞，它們的原理是遍歷線程池中的工作線程，然后逐個調(diào)用線程的interrupt方法來中斷線程踱蛀，所以無法響應(yīng)中斷的任務(wù)可能永遠(yuǎn)無法終止窿给。但是它們存在一定的區(qū)別，shutdownNow首先將線程池的狀態(tài)設(shè)置成STOP率拒，然后嘗試停止所有的正在執(zhí)行或暫停任務(wù)的線程崩泡，并返回等待執(zhí)行任務(wù)的列表，而shutdown只是將線程池的狀態(tài)設(shè)置成SHUTDOWN狀態(tài)猬膨，然后中斷所有沒有正在執(zhí)行任務(wù)的線程角撞。
只要調(diào)用了這兩個關(guān)閉方法的其中一個，isShutdown方法就會返回true勃痴。當(dāng)所有的任務(wù)都已關(guān)閉后,才表示線程池關(guān)閉成功谒所，這時調(diào)用isTerminaed方法會返回true。至于我們應(yīng)該調(diào)用哪一種方法來關(guān)閉線程池沛申，應(yīng)該由提交到線程池的任務(wù)特性決定劣领，通常調(diào)用shutdown來關(guān)閉線程池，如果任務(wù)不一定要執(zhí)行完污它，則可以調(diào)用shutdownNow剖踊。
3. 線程池的分析
流程分析：線程池的主要工作流程如下圖：
從上圖我們可以看出，當(dāng)提交一個新任務(wù)到線程池時衫贬，線程池的處理流程如下：
1.首先線程池判斷基本線程池是否已滿德澈？沒滿，創(chuàng)建一個工作線程來執(zhí)行任務(wù)固惯。滿了梆造，則進(jìn)入下個流程。
2.其次線程池判斷工作隊列是否已滿葬毫？沒滿镇辉，則將新提交的任務(wù)存儲在工作隊列里。滿了贴捡，則進(jìn)入下個流程忽肛。
3.最后線程池判斷整個線程池是否已滿？沒滿烂斋，則創(chuàng)建一個新的工作線程來執(zhí)行任務(wù)屹逛，滿了将宪，則交給飽和策略來處理這個任務(wù)房资。
源碼分析。上面的流程分析讓我們很直觀的了解了線程池的工作原理华蜒，讓我們再通過源代碼來看看是如何實現(xiàn)的耙厚。線程池執(zhí)行任務(wù)的方法如下：
public void execute(Runnable command) {
if (command == null)
throw new NullPointerException();
//如果線程數(shù)小于基本線程數(shù)统捶，則創(chuàng)建線程并執(zhí)行當(dāng)前任務(wù)
if (poolSize >= corePoolSize || !addIfUnderCorePoolSize(command)) {
//如線程數(shù)大于等于基本線程數(shù)或線程創(chuàng)建失敗吊圾，則將當(dāng)前任務(wù)放到工作隊列中挥等。
if (runState == RUNNING && workQueue.offer(command)) {
if (runState != RUNNING || poolSize == 0)
ensureQueuedTaskHandled(command);
}
//如果線程池不處于運行中或任務(wù)無法放入隊列，并且當(dāng)前線程數(shù)量小于最大允許的線程數(shù)量抛腕，則創(chuàng)建一個線程執(zhí)行任務(wù)芋绸。
else if (!addIfUnderMaximumPoolSize(command))
//拋出RejectedExecutionException異常
reject(command); // is shutdown or saturated
}
}
工作線程。線程池創(chuàng)建線程時兽埃，會將線程封裝成工作線程Worker侥钳，Worker在執(zhí)行完任務(wù)后适袜，還會無限循環(huán)獲取工作隊列里的任務(wù)來執(zhí)行柄错。我們可以從Worker的run方法里看到這點：
public void run() {
try {
Runnable task = firstTask;
firstTask = null;
while (task != null || (task = getTask()) != null) {
runTask(task);
task = null;
}
} finally {
workerDone(this);
}
}
4.合理的配置線程池
要想合理的配置線程池，就必須首先分析任務(wù)特性苦酱，可以從以下幾個角度來進(jìn)行分析：
- 任務(wù)的性質(zhì)：CPU密集型任務(wù)售貌，IO密集型任務(wù)和混合型任務(wù)。
- 任務(wù)的優(yōu)先級：高疫萤，中和低颂跨。
- 任務(wù)的執(zhí)行時間：長，中和短扯饶。
- 任務(wù)的依賴性：是否依賴其他系統(tǒng)資源恒削，如數(shù)據(jù)庫連接。
任務(wù)性質(zhì)不同的任務(wù)可以用不同規(guī)模的線程池分開處理尾序。CPU密集型任務(wù)配置盡可能小的線程钓丰，如配置Ncpu+1個線程的線程池。IO密集型任務(wù)則由于線程并不是一直在執(zhí)行任務(wù)每币，則配置盡可能多的線程携丁，如2*Ncpu±嫉。混合型的任務(wù)梦鉴，如果可以拆分，則將其拆分成一個CPU密集型任務(wù)和一個IO密集型任務(wù)揭保，只要這兩個任務(wù)執(zhí)行的時間相差不是太大肥橙，那么分解后執(zhí)行的吞吐率要高于串行執(zhí)行的吞吐率，如果這兩個任務(wù)執(zhí)行時間相差太大秸侣，則沒必要進(jìn)行分解存筏。我們可以通過Runtime.getRuntime().availableProcessors()方法獲得當(dāng)前設(shè)備的CPU個數(shù)娜庇。
優(yōu)先級不同的任務(wù)可以使用優(yōu)先級隊列PriorityBlockingQueue來處理。它可以讓優(yōu)先級高的任務(wù)先得到執(zhí)行方篮，需要注意的是如果一直有優(yōu)先級高的任務(wù)提交到隊列里名秀，那么優(yōu)先級低的任務(wù)可能永遠(yuǎn)不能執(zhí)行。
執(zhí)行時間不同的任務(wù)可以交給不同規(guī)模的線程池來處理藕溅，或者也可以使用優(yōu)先級隊列匕得，讓執(zhí)行時間短的任務(wù)先執(zhí)行。
依賴數(shù)據(jù)庫連接池的任務(wù)巾表，因為線程提交SQL后需要等待數(shù)據(jù)庫返回結(jié)果汁掠，如果等待的時間越長CPU空閑時間就越長，那么線程數(shù)應(yīng)該設(shè)置越大集币，這樣才能更好的利用CPU考阱。
建議使用有界隊列，有界隊列能增加系統(tǒng)的穩(wěn)定性和預(yù)警能力鞠苟，可以根據(jù)需要設(shè)大一點乞榨，比如幾千。有一次我們組使用的后臺任務(wù)線程池的隊列和線程池全滿了当娱，不斷的拋出拋棄任務(wù)的異常吃既，通過排查發(fā)現(xiàn)是數(shù)據(jù)庫出現(xiàn)了問題，導(dǎo)致執(zhí)行SQL變得非常緩慢跨细，因為后臺任務(wù)線程池里的任務(wù)全是需要向數(shù)據(jù)庫查詢和插入數(shù)據(jù)的鹦倚，所以導(dǎo)致線程池里的工作線程全部阻塞住，任務(wù)積壓在線程池里冀惭。如果當(dāng)時我們設(shè)置成無界隊列震叙，線程池的隊列就會越來越多，有可能會撐滿內(nèi)存散休，導(dǎo)致整個系統(tǒng)不可用媒楼，而不只是后臺任務(wù)出現(xiàn)問題。當(dāng)然我們的系統(tǒng)所有的任務(wù)是用的單獨的服務(wù)器部署的溃槐，而我們使用不同規(guī)模的線程池跑不同類型的任務(wù)匣砖，但是出現(xiàn)這樣問題時也會影響到其他任務(wù)。
5. 線程池的監(jiān)控
通過線程池提供的參數(shù)進(jìn)行監(jiān)控昏滴。線程池里有一些屬性在監(jiān)控線程池的時候可以使用
- taskCount：線程池需要執(zhí)行的任務(wù)數(shù)量猴鲫。
- completedTaskCount：線程池在運行過程中已完成的任務(wù)數(shù)量。小于或等于taskCount谣殊。
- largestPoolSize：線程池曾經(jīng)創(chuàng)建過的最大線程數(shù)量拂共。通過這個數(shù)據(jù)可以知道線程池是否滿過。如等于線程池的最大大小姻几，則表示線程池曾經(jīng)滿了宜狐。
- getPoolSize:線程池的線程數(shù)量势告。如果線程池不銷毀的話，池里的線程不會自動銷毀抚恒，所以這個大小只增不+ getActiveCount：獲取活動的線程數(shù)咱台。
通過擴(kuò)展線程池進(jìn)行監(jiān)控。通過繼承線程池并重寫線程池的beforeExecute俭驮，afterExecute和terminated方法回溺，我們可以在任務(wù)執(zhí)行前，執(zhí)行后和線程池關(guān)閉前干一些事情混萝。如監(jiān)控任務(wù)的平均執(zhí)行時間遗遵，最大執(zhí)行時間和最小執(zhí)行時間等。這幾個方法在線程池里是空方法逸嘀。如：
protected void beforeExecute(Thread t, Runnable r) { }
