該隨筆內(nèi)容完全引自http://wsmajunfeng.iteye.com/blog/1629354
一. 前言
在新增的Concurrent包中酌住,BlockingQueue很好的解決了多線程中进苍,如何高效安全“傳輸”數(shù)據(jù)的問(wèn)題躺苦。通過(guò)這些高效并且線程安全的隊(duì)列類,為我們快速搭建高質(zhì)量的多線程程序帶來(lái)極大的便利季二。本文詳細(xì)介紹了BlockingQueue家庭中的所有成員精刷,包括他們各自的功能以及常見使用場(chǎng)景。
二. 認(rèn)識(shí)BlockingQueue
阻塞隊(duì)列歧匈,顧名思義,首先它是一個(gè)隊(duì)列砰嘁,而一個(gè)隊(duì)列在數(shù)據(jù)結(jié)構(gòu)中所起的作用大致如下圖所示:
常用的隊(duì)列主要有以下兩種:(當(dāng)然通過(guò)不同的實(shí)現(xiàn)方式,還可以延伸出很多不同類型的隊(duì)列缅阳,DelayQueue就是其中的一種)
先進(jìn)先出(FIFO):先插入的隊(duì)列的元素也最先出隊(duì)列磕蛇,類似于排隊(duì)的功能。從某種程度上來(lái)說(shuō)這種隊(duì)列也體現(xiàn)了一種公平性十办。
后進(jìn)先出(LIFO):后插入隊(duì)列的元素最先出隊(duì)列秀撇,這種隊(duì)列優(yōu)先處理最近發(fā)生的事件。
多線程環(huán)境中向族,通過(guò)隊(duì)列可以很容易實(shí)現(xiàn)數(shù)據(jù)共享呵燕,比如經(jīng)典的“生產(chǎn)者”和“消費(fèi)者”模型中,通過(guò)隊(duì)列可以很便利地實(shí)現(xiàn)兩者之間的數(shù)據(jù)共享件相。假設(shè)我們有若干生產(chǎn)者線程再扭,另外又有若干個(gè)消費(fèi)者線程。如果生產(chǎn)者線程需要把準(zhǔn)備好的數(shù)據(jù)共享給消費(fèi)者線程夜矗,利用隊(duì)列的方式來(lái)傳遞數(shù)據(jù)泛范,就可以很方便地解決他們之間的數(shù)據(jù)共享問(wèn)題。但如果生產(chǎn)者和消費(fèi)者在某個(gè)時(shí)間段內(nèi)紊撕,萬(wàn)一發(fā)生數(shù)據(jù)處理速度不匹配的情況呢敦跌?理想情況下,如果生產(chǎn)者產(chǎn)出數(shù)據(jù)的速度大于消費(fèi)者消費(fèi)的速度逛揩,并且當(dāng)生產(chǎn)出來(lái)的數(shù)據(jù)累積到一定程度的時(shí)候,那么生產(chǎn)者必須暫停等待一下(阻塞生產(chǎn)者線程)麸俘,以便等待消費(fèi)者線程把累積的數(shù)據(jù)處理完畢辩稽,反之亦然。然而从媚,在concurrent包發(fā)布以前逞泄,在多線程環(huán)境下,我們每個(gè)程序員都必須去自己控制這些細(xì)節(jié),尤其還要兼顧效率和線程安全喷众,而這會(huì)給我們的程序帶來(lái)不小的復(fù)雜度各谚。好在此時(shí),強(qiáng)大的concurrent包橫空出世了到千,而他也給我們帶來(lái)了強(qiáng)大的BlockingQueue昌渤。(在多線程領(lǐng)域:所謂阻塞,在某些情況下會(huì)掛起線程(即阻塞)憔四,一旦條件滿足膀息,被掛起的線程又會(huì)自動(dòng)被喚醒),下面兩幅圖演示了BlockingQueue的兩個(gè)常見阻塞場(chǎng)景:
**如上圖所示:當(dāng)隊(duì)列中沒(méi)有數(shù)據(jù)的情況下了赵,消費(fèi)者端的所有線程都會(huì)被自動(dòng)阻塞(掛起)潜支,直到有數(shù)據(jù)放入隊(duì)列。
**
如上圖所示:當(dāng)隊(duì)列中填滿數(shù)據(jù)的情況下柿汛,生產(chǎn)者端的所有線程都會(huì)被自動(dòng)阻塞(掛起)冗酿,直到隊(duì)列中有空的位置,線程被自動(dòng)喚醒络断。****
這也是我們?cè)诙嗑€程環(huán)境下裁替,為什么需要BlockingQueue的原因。作為BlockingQueue的使用者妓羊,我們?cè)僖膊恍枰P(guān)心什么時(shí)候需要阻塞線程胯究,什么時(shí)候需要喚醒線程,因?yàn)檫@一切BlockingQueue都給你一手包辦了躁绸。既然BlockingQueue如此神通廣大裕循,讓我們一起來(lái)見識(shí)下它的常用方法:
三. BlockingQueue的核心方法:
1.放入數(shù)據(jù)
(1)offer(anObject):表示如果可能的話,將anObject加到BlockingQueue里,即如果BlockingQueue可以容納,則返回true,否則返回false.(本方法不阻塞當(dāng)前執(zhí)行方法
的線程);
(2)offer(E o, long timeout, TimeUnit unit):可以設(shè)定等待的時(shí)間净刮,如果在指定的時(shí)間內(nèi)剥哑,還不能往隊(duì)列中加入BlockingQueue,則返回失敗淹父≈暧ぃ
(3)put(anObject):把a(bǔ)nObject加到BlockingQueue里,如果BlockQueue沒(méi)有空間,則調(diào)用此方法的線程被阻斷直到BlockingQueue里面有空間再繼續(xù).
2.獲取數(shù)據(jù)
(1)poll(time):取走BlockingQueue里排在首位的對(duì)象,若不能立即取出,則可以等time參數(shù)規(guī)定的時(shí)間,取不到時(shí)返回null;
(2)poll(long timeout, TimeUnit unit):從BlockingQueue取出一個(gè)隊(duì)首的對(duì)象,如果在指定時(shí)間內(nèi)暑认,隊(duì)列一旦有數(shù)據(jù)可取困介,則立即返回隊(duì)列中的數(shù)據(jù)。否則知道時(shí)間
超時(shí)還沒(méi)有數(shù)據(jù)可取蘸际,返回失敗座哩。
(3)take():取走BlockingQueue里排在首位的對(duì)象,若BlockingQueue為空,阻斷進(jìn)入等待狀態(tài)直到BlockingQueue有新的數(shù)據(jù)被加入;
(4)drainTo():一次性從BlockingQueue獲取所有可用的數(shù)據(jù)對(duì)象(還可以指定獲取數(shù)據(jù)的個(gè)數(shù)),通過(guò)該方法粮彤,可以提升獲取數(shù)據(jù)效率根穷;不需要多次分批加鎖或釋放鎖姜骡。
四. 常見BlockingQueue
在了解了BlockingQueue的基本功能后,讓我們來(lái)看看BlockingQueue家庭大致有哪些成員屿良?
1. ArrayBlockingQueue
基于數(shù)組的阻塞隊(duì)列實(shí)現(xiàn)圈澈,在ArrayBlockingQueue內(nèi)部,維護(hù)了一個(gè)定長(zhǎng)數(shù)組尘惧,以便緩存隊(duì)列中的數(shù)據(jù)對(duì)象康栈,這是一個(gè)常用的阻塞隊(duì)列,除了一個(gè)定長(zhǎng)數(shù)組外褥伴,ArrayBlockingQueue內(nèi)部還保存著兩個(gè)整形變量谅将,分別標(biāo)識(shí)著隊(duì)列的頭部和尾部在數(shù)組中的位置。
ArrayBlockingQueue在生產(chǎn)者放入數(shù)據(jù)和消費(fèi)者獲取數(shù)據(jù)重慢,都是共用同一個(gè)鎖對(duì)象饥臂,由此也意味著兩者無(wú)法真正并行運(yùn)行,這點(diǎn)尤其不同于LinkedBlockingQueue似踱;按照實(shí)現(xiàn)原理來(lái)分析隅熙,ArrayBlockingQueue完全可以采用分離鎖,從而實(shí)現(xiàn)生產(chǎn)者和消費(fèi)者操作的完全并行運(yùn)行核芽。Doug Lea之所以沒(méi)這樣去做囚戚,也許是因?yàn)锳rrayBlockingQueue的數(shù)據(jù)寫入和獲取操作已經(jīng)足夠輕巧,以至于引入獨(dú)立的鎖機(jī)制轧简,除了給代碼帶來(lái)額外的復(fù)雜性外驰坊,其在性能上完全占不到任何便宜。 ArrayBlockingQueue和LinkedBlockingQueue間還有一個(gè)明顯的不同之處在于哮独,前者在插入或刪除元素時(shí)不會(huì)產(chǎn)生或銷毀任何額外的對(duì)象實(shí)例拳芙,而后者則會(huì)生成一個(gè)額外的Node對(duì)象。這在長(zhǎng)時(shí)間內(nèi)需要高效并發(fā)地處理大批量數(shù)據(jù)的系統(tǒng)中皮璧,其對(duì)于GC的影響還是存在一定的區(qū)別舟扎。而在創(chuàng)建ArrayBlockingQueue時(shí),我們還可以控制對(duì)象的內(nèi)部鎖是否采用公平鎖悴务,默認(rèn)采用非公平鎖睹限。
2.LinkedBlockingQueue
基于鏈表的阻塞隊(duì)列,同ArrayListBlockingQueue類似讯檐,其內(nèi)部也維持著一個(gè)數(shù)據(jù)緩沖隊(duì)列(該隊(duì)列由一個(gè)鏈表構(gòu)成)羡疗,當(dāng)生產(chǎn)者往隊(duì)列中放入一個(gè)數(shù)據(jù)時(shí),隊(duì)列會(huì)從生產(chǎn)者手中獲取數(shù)據(jù)别洪,并緩存在隊(duì)列內(nèi)部叨恨,而生產(chǎn)者立即返回;只有當(dāng)隊(duì)列緩沖區(qū)達(dá)到最大值緩存容量時(shí)(LinkedBlockingQueue可以通過(guò)構(gòu)造函數(shù)指定該值)蕉拢,才會(huì)阻塞生產(chǎn)者隊(duì)列特碳,直到消費(fèi)者從隊(duì)列中消費(fèi)掉一份數(shù)據(jù),生產(chǎn)者線程會(huì)被喚醒晕换,反之對(duì)于消費(fèi)者這端的處理也基于同樣的原理午乓。而LinkedBlockingQueue之所以能夠高效的處理并發(fā)數(shù)據(jù),還因?yàn)槠鋵?duì)于生產(chǎn)者端和消費(fèi)者端分別采用了獨(dú)立的鎖來(lái)控制數(shù)據(jù)同步闸准,這也意味著在高并發(fā)的情況下生產(chǎn)者和消費(fèi)者可以并行地操作隊(duì)列中的數(shù)據(jù)益愈,以此來(lái)提高整個(gè)隊(duì)列的并發(fā)性能。
作為開發(fā)者夷家,我們需要注意的是蒸其,如果構(gòu)造一個(gè)LinkedBlockingQueue對(duì)象,而沒(méi)有指定其容量大小库快,LinkedBlockingQueue會(huì)默認(rèn)一個(gè)類似無(wú)限大小的容量(Integer.MAX_VALUE)摸袁,這樣的話,如果生產(chǎn)者的速度一旦大于消費(fèi)者的速度义屏,也許還沒(méi)有等到隊(duì)列滿阻塞產(chǎn)生靠汁,系統(tǒng)內(nèi)存就有可能已被消耗殆盡了。
ArrayBlockingQueue和LinkedBlockingQueue是兩個(gè)最普通也是最常用的阻塞隊(duì)列闽铐,一般情況下蝶怔,在處理多線程間的生產(chǎn)者消費(fèi)者問(wèn)題,使用這兩個(gè)類足以兄墅。
下面的代碼演示了如何使用BlockingQueue:
(1) 測(cè)試類
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.LinkedBlockingQueue;
public class BlockingQueueTest {
public static void main(String[] args) throws InterruptedException {
// 聲明一個(gè)容量為10的緩存隊(duì)列
BlockingQueue<String> queue = new LinkedBlockingQueue<String>(10);
//new了三個(gè)生產(chǎn)者和一個(gè)消費(fèi)者
Producer producer1 = new Producer(queue);
Producer producer2 = new Producer(queue);
Producer producer3 = new Producer(queue);
Consumer consumer = new Consumer(queue);
// 借助Executors
ExecutorService service = Executors.newCachedThreadPool();
// 啟動(dòng)線程
service.execute(producer1);
service.execute(producer2);
service.execute(producer3);
service.execute(consumer);
// 執(zhí)行10s
Thread.sleep(10 * 1000);
producer1.stop();
producer2.stop();
producer3.stop();
Thread.sleep(2000);
// 退出Executor
service.shutdown();
}
}
(2)生產(chǎn)者類
import java.util.Random;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;
/**
* 生產(chǎn)者線程
*
* @author jackyuj
*/
public class Producer implements Runnable {
private volatile boolean isRunning = true;//是否在運(yùn)行標(biāo)志
private BlockingQueue queue;//阻塞隊(duì)列
private static AtomicInteger count = new AtomicInteger();//自動(dòng)更新的值
private static final int DEFAULT_RANGE_FOR_SLEEP = 1000;
//構(gòu)造函數(shù)
public Producer(BlockingQueue queue) {
this.queue = queue;
}
public void run() {
String data = null;
Random r = new Random();
System.out.println("啟動(dòng)生產(chǎn)者線程踢星!");
try {
while (isRunning) {
System.out.println("正在生產(chǎn)數(shù)據(jù)...");
Thread.sleep(r.nextInt(DEFAULT_RANGE_FOR_SLEEP));//取0~DEFAULT_RANGE_FOR_SLEEP值的一個(gè)隨機(jī)數(shù)
data = "data:" + count.incrementAndGet();//以原子方式將count當(dāng)前值加1
System.out.println("將數(shù)據(jù):" + data + "放入隊(duì)列...");
if (!queue.offer(data, 2, TimeUnit.SECONDS)) {//設(shè)定的等待時(shí)間為2s,如果超過(guò)2s還沒(méi)加進(jìn)去返回true
System.out.println("放入數(shù)據(jù)失斚断獭:" + data);
}
}
} catch (InterruptedException e) {
e.printStackTrace();
Thread.currentThread().interrupt();
} finally {
System.out.println("退出生產(chǎn)者線程沐悦!");
}
}
public void stop() {
isRunning = false;
}
}```
(3)消費(fèi)者類
import java.util.Random;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.TimeUnit;
/**
消費(fèi)者線程
-
@author jackyuj
*/
public class Consumer implements Runnable {private BlockingQueue<String> queue;
private static final int DEFAULT_RANGE_FOR_SLEEP = 1000;//構(gòu)造函數(shù)
public Consumer(BlockingQueue<String> queue) {
this.queue = queue;
}public void run() {
System.out.println("啟動(dòng)消費(fèi)者線程扎瓶!");
Random r = new Random();
boolean isRunning = true;
try {
while (isRunning) {
System.out.println("正從隊(duì)列獲取數(shù)據(jù)...");
String data = queue.poll(2, TimeUnit.SECONDS);//有數(shù)據(jù)時(shí)直接從隊(duì)列的隊(duì)首取走所踊,無(wú)數(shù)據(jù)時(shí)阻塞,在2s內(nèi)有數(shù)據(jù)概荷,取走秕岛,超過(guò)2s還沒(méi)數(shù)據(jù),返回失敗
if (null != data) {
System.out.println("拿到數(shù)據(jù):" + data);
System.out.println("正在消費(fèi)數(shù)據(jù):" + data);
Thread.sleep(r.nextInt(DEFAULT_RANGE_FOR_SLEEP));
} else {
// 超過(guò)2s還沒(méi)數(shù)據(jù)误证,認(rèn)為所有生產(chǎn)線程都已經(jīng)退出继薛,自動(dòng)退出消費(fèi)線程。
isRunning = false;
}
}
} catch (InterruptedException e) {
e.printStackTrace();
Thread.currentThread().interrupt();
} finally {
System.out.println("退出消費(fèi)者線程愈捅!");
}
}
}```
3. DelayQueue
DelayQueue中的元素只有當(dāng)其指定的延遲時(shí)間到了遏考,才能夠從隊(duì)列中獲取到該元素。DelayQueue是一個(gè)沒(méi)有大小限制的隊(duì)列蓝谨,因此往隊(duì)列中插入數(shù)據(jù)的操作(生產(chǎn)者)永遠(yuǎn)不會(huì)被阻塞灌具,而只有獲取數(shù)據(jù)的操作(消費(fèi)者)才會(huì)被阻塞青团。
使用場(chǎng)景:
DelayQueue使用場(chǎng)景較少,但都相當(dāng)巧妙咖楣,常見的例子比如使用一個(gè)DelayQueue來(lái)管理一個(gè)超時(shí)未響應(yīng)的連接隊(duì)列督笆。
4. PriorityBlockingQueue
基于優(yōu)先級(jí)的阻塞隊(duì)列(優(yōu)先級(jí)的判斷通過(guò)構(gòu)造函數(shù)傳入的Compator對(duì)象來(lái)決定),但需要注意的是PriorityBlockingQueue并不會(huì)阻塞數(shù)據(jù)生產(chǎn)者诱贿,而只會(huì)在沒(méi)有可消費(fèi)的數(shù)據(jù)時(shí)娃肿,阻塞數(shù)據(jù)的消費(fèi)者。因此使用的時(shí)候要特別注意珠十,生產(chǎn)者生產(chǎn)數(shù)據(jù)的速度絕對(duì)不能快于消費(fèi)者消費(fèi)數(shù)據(jù)的速度料扰,否則時(shí)間一長(zhǎng),會(huì)最終耗盡所有的可用堆內(nèi)存空間焙蹭。在實(shí)現(xiàn)PriorityBlockingQueue時(shí)晒杈,內(nèi)部控制線程同步的鎖采用的是公平鎖。
5. SynchronousQueue
一種無(wú)緩沖的等待隊(duì)列壳嚎,類似于無(wú)中介的直接交易桐智,有點(diǎn)像原始社會(huì)中的生產(chǎn)者和消費(fèi)者,生產(chǎn)者拿著產(chǎn)品去集市銷售給產(chǎn)品的最終消費(fèi)者烟馅,而消費(fèi)者必須親自去集市找到所要商品的直接生產(chǎn)者说庭,如果一方?jīng)]有找到合適的目標(biāo),那么對(duì)不起郑趁,大家都在集市等待刊驴。相對(duì)于有緩沖的BlockingQueue來(lái)說(shuō),少了一個(gè)中間經(jīng)銷商的環(huán)節(jié)(緩沖區(qū))寡润,如果有經(jīng)銷商捆憎,生產(chǎn)者直接把產(chǎn)品批發(fā)給經(jīng)銷商,而無(wú)需在意經(jīng)銷商最終會(huì)將這些產(chǎn)品賣給那些消費(fèi)者梭纹,由于經(jīng)銷商可以庫(kù)存一部分商品躲惰,因此相對(duì)于直接交易模式,總體來(lái)說(shuō)采用中間經(jīng)銷商的模式會(huì)吞吐量高一些(可以批量買賣)变抽;但另一方面础拨,又因?yàn)榻?jīng)銷商的引入,使得產(chǎn)品從生產(chǎn)者到消費(fèi)者中間增加了額外的交易環(huán)節(jié)绍载,單個(gè)產(chǎn)品的及時(shí)響應(yīng)性能可能會(huì)降低诡宗。
聲明一個(gè)SynchronousQueue有兩種不同的方式,它們之間有著不太一樣的行為击儡。公平模式和非公平模式的區(qū)別:
如果采用公平模式:SynchronousQueue會(huì)采用公平鎖塔沃,并配合一個(gè)FIFO隊(duì)列來(lái)阻塞多余的生產(chǎn)者和消費(fèi)者,從而體系整體的公平策略阳谍;
但如果是非公平模式(SynchronousQueue默認(rèn)):SynchronousQueue采用非公平鎖蛀柴,同時(shí)配合一個(gè)LIFO隊(duì)列來(lái)管理多余的生產(chǎn)者和消費(fèi)者螃概,而后一種模式,如果生產(chǎn)者和消費(fèi)者的處理速度有差距鸽疾,則很容易出現(xiàn)饑渴的情況谅年,即可能有某些生產(chǎn)者或者是消費(fèi)者的數(shù)據(jù)永遠(yuǎn)都得不到處理。
五. 小結(jié)
BlockingQueue不光實(shí)現(xiàn)了一個(gè)完整隊(duì)列所具有的基本功能肮韧,同時(shí)在多線程環(huán)境下,他還自動(dòng)管理了多線間的自動(dòng)等待于喚醒功能旺订,從而使得程序員可以忽略這些細(xì)節(jié)弄企,關(guān)注更高級(jí)的功能。