認(rèn)識(shí)BlockingQueue
阻塞隊(duì)列两入,顧名思義局嘁,首先它是一個(gè)隊(duì)列,而一個(gè)隊(duì)列在數(shù)據(jù)結(jié)構(gòu)中所起的作用大致如下圖所示:
從上圖我們可以很清楚看到腕让,通過一個(gè)共享的隊(duì)列孤钦,可以使得數(shù)據(jù)由隊(duì)列的一端輸入,從另外一端輸出纯丸;
常用的隊(duì)列主要有以下兩種:(當(dāng)然通過不同的實(shí)現(xiàn)方式偏形,還可以延伸出很多不同類型的隊(duì)列,DelayQueue就是其中的一種)
先進(jìn)先出(FIFO):先插入的隊(duì)列的元素也最先出隊(duì)列液南,類似于排隊(duì)的功能壳猜。從某種程度上來說這種隊(duì)列也體現(xiàn)了一種公平性。
后進(jìn)先出(LIFO):后插入隊(duì)列的元素最先出隊(duì)列滑凉,這種隊(duì)列優(yōu)先處理最近發(fā)生的事件统扳。
多線程環(huán)境中喘帚,通過隊(duì)列可以很容易實(shí)現(xiàn)數(shù)據(jù)共享,比如經(jīng)典的“生產(chǎn)者”和“消費(fèi)者”模型中咒钟,通過隊(duì)列可以很便利地實(shí)現(xiàn)兩者之間的數(shù)據(jù)共享吹由。假設(shè)我們有若干生產(chǎn)者線程,另外又有若干個(gè)消費(fèi)者線程朱嘴。如果生產(chǎn)者線程需要把準(zhǔn)備好的數(shù)據(jù)共享給消費(fèi)者線程倾鲫,利用隊(duì)列的方式來傳遞數(shù)據(jù),就可以很方便地解決他們之間的數(shù)據(jù)共享問題萍嬉。但如果生產(chǎn)者和消費(fèi)者在某個(gè)時(shí)間段內(nèi)乌昔,萬(wàn)一發(fā)生數(shù)據(jù)處理速度不匹配的情況呢?理想情況下壤追,如果生產(chǎn)者產(chǎn)出數(shù)據(jù)的速度大于消費(fèi)者消費(fèi)的速度磕道,并且當(dāng)生產(chǎn)出來的數(shù)據(jù)累積到一定程度的時(shí)候,那么生產(chǎn)者必須暫停等待一下(阻塞生產(chǎn)者線程)行冰,以便等待消費(fèi)者線程把累積的數(shù)據(jù)處理完畢溺蕉,反之亦然。然而悼做,在concurrent包發(fā)布以前疯特,在多線程環(huán)境下,我們每個(gè)程序員都必須去自己控制這些細(xì)節(jié)肛走,尤其還要兼顧效率和線程安全漓雅,而這會(huì)給我們的程序帶來不小的復(fù)雜度。好在此時(shí)羹与,強(qiáng)大的concurrent包橫空出世了故硅,而他也給我們帶來了強(qiáng)大的BlockingQueue庶灿。(在多線程領(lǐng)域:所謂阻塞纵搁,在某些情況下會(huì)掛起線程(即阻塞),一旦條件滿足往踢,被掛起的線程又會(huì)自動(dòng)被喚醒)
當(dāng)隊(duì)列中沒有數(shù)據(jù)的情況下腾誉,消費(fèi)者端的所有線程都會(huì)被自動(dòng)阻塞(掛起),直到有數(shù)據(jù)放入隊(duì)列峻呕。
當(dāng)隊(duì)列中填滿數(shù)據(jù)的情況下利职,生產(chǎn)者端的所有線程都會(huì)被自動(dòng)阻塞(掛起),直到隊(duì)列中有空的位置瘦癌,線程被自動(dòng)喚醒猪贪。
這也是我們?cè)诙嗑€程環(huán)境下,為什么需要BlockingQueue的原因讯私。作為BlockingQueue的使用者热押,我們?cè)僖膊恍枰P(guān)心什么時(shí)候需要阻塞線程西傀,什么時(shí)候需要喚醒線程,因?yàn)檫@一切BlockingQueue都給你一手包辦了桶癣。既然BlockingQueue如此神通廣大拥褂,讓我們一起來見識(shí)下它的常用方法:
BlockingQueue的核心方法:
放入數(shù)據(jù):
offer(anObject):表示如果可能的話,將anObject加到BlockingQueue里,即如果BlockingQueue可以容納,則返回true,否則返回false.(本方法不阻塞當(dāng)前執(zhí)行方法的線程)
offer(E o, long timeout, TimeUnit unit),可以設(shè)定等待的時(shí)間,如果在指定的時(shí)間內(nèi)牙寞,還不能往隊(duì)列中加入BlockingQueue饺鹃,則返回失敗。
put(anObject):把a(bǔ)nObject加到BlockingQueue里,如果BlockQueue沒有空間,則調(diào)用此方法的線程被阻斷直到BlockingQueue里面有空間再繼續(xù).
獲取數(shù)據(jù):
poll(time):取走BlockingQueue里排在首位的對(duì)象,若不能立即取出,則可以等time參數(shù)規(guī)定的時(shí)間,取不到時(shí)返回null;
poll(long timeout, TimeUnit unit):從BlockingQueue取出一個(gè)隊(duì)首的對(duì)象间雀,如果在指定時(shí)間內(nèi)悔详,隊(duì)列一旦有數(shù)據(jù)可取,則立即返回隊(duì)列中的數(shù)據(jù)惹挟。否則知道時(shí)間超時(shí)還沒有數(shù)據(jù)可取伟端,返回失敗。
take():取走BlockingQueue里排在首位的對(duì)象,若BlockingQueue為空,阻斷進(jìn)入等待狀態(tài)直到BlockingQueue有新的數(shù)據(jù)被加入;
drainTo():一次性從BlockingQueue獲取所有可用的數(shù)據(jù)對(duì)象(還可以指定獲取數(shù)據(jù)的個(gè)數(shù))匪煌, 通過該方法责蝠,可以提升獲取數(shù)據(jù)效率;不需要多次分批加鎖或釋放鎖萎庭。
BlockingQueue成員詳細(xì)介紹
1. ArrayBlockingQueue
基于數(shù)組的阻塞隊(duì)列實(shí)現(xiàn)霜医,在ArrayBlockingQueue內(nèi)部,維護(hù)了一個(gè)定長(zhǎng)數(shù)組驳规,以便緩存隊(duì)列中的數(shù)據(jù)對(duì)象肴敛,這是一個(gè)常用的阻塞隊(duì)列,除了一個(gè)定長(zhǎng)數(shù)組外吗购,ArrayBlockingQueue內(nèi)部還保存著兩個(gè)整形變量医男,分別標(biāo)識(shí)著隊(duì)列的頭部和尾部在數(shù)組中的位置∧砻悖 ArrayBlockingQueue在生產(chǎn)者放入數(shù)據(jù)和消費(fèi)者獲取數(shù)據(jù)镀梭,都是共用同一個(gè)鎖對(duì)象,由此也意味著兩者無(wú)法真正并行運(yùn)行踱启,這點(diǎn)尤其不同于LinkedBlockingQueue报账;按照實(shí)現(xiàn)原理來分析,ArrayBlockingQueue完全可以采用分離鎖埠偿,從而實(shí)現(xiàn)生產(chǎn)者和消費(fèi)者操作的完全并行運(yùn)行透罢。Doug Lea之所以沒這樣去做,也許是因?yàn)锳rrayBlockingQueue的數(shù)據(jù)寫入和獲取操作已經(jīng)足夠輕巧冠蒋,以至于引入獨(dú)立的鎖機(jī)制羽圃,除了給代碼帶來額外的復(fù)雜性外,其在性能上完全占不到任何便宜抖剿。 ArrayBlockingQueue和LinkedBlockingQueue間還有一個(gè)明顯的不同之處在于朽寞,前者在插入或刪除元素時(shí)不會(huì)產(chǎn)生或銷毀任何額外的對(duì)象實(shí)例胚吁,而后者則會(huì)生成一個(gè)額外的Node對(duì)象。這在長(zhǎng)時(shí)間內(nèi)需要高效并發(fā)地處理大批量數(shù)據(jù)的系統(tǒng)中愁憔,其對(duì)于GC的影響還是存在一定的區(qū)別腕扶。而在創(chuàng)建ArrayBlockingQueue時(shí),我們還可以控制對(duì)象的內(nèi)部鎖是否采用公平鎖吨掌,默認(rèn)采用非公平鎖半抱。
2. LinkedBlockingQueue 基于鏈表的阻塞隊(duì)列,同ArrayListBlockingQueue類似膜宋,其內(nèi)部也維持著一個(gè)數(shù)據(jù)緩沖隊(duì)列(該隊(duì)列由一個(gè)鏈表構(gòu)成)窿侈,當(dāng)生產(chǎn)者往隊(duì)列中放入一個(gè)數(shù)據(jù)時(shí),隊(duì)列會(huì)從生產(chǎn)者手中獲取數(shù)據(jù)秋茫,并緩存在隊(duì)列內(nèi)部史简,而生產(chǎn)者立即返回;只有當(dāng)隊(duì)列緩沖區(qū)達(dá)到最大值緩存容量時(shí)(LinkedBlockingQueue可以通過構(gòu)造函數(shù)指定該值)肛著,才會(huì)阻塞生產(chǎn)者隊(duì)列圆兵,直到消費(fèi)者從隊(duì)列中消費(fèi)掉一份數(shù)據(jù),生產(chǎn)者線程會(huì)被喚醒枢贿,反之對(duì)于消費(fèi)者這端的處理也基于同樣的原理殉农。而LinkedBlockingQueue之所以能夠高效的處理并發(fā)數(shù)據(jù),還因?yàn)槠鋵?duì)于生產(chǎn)者端和消費(fèi)者端分別采用了獨(dú)立的鎖來控制數(shù)據(jù)同步局荚,這也意味著在高并發(fā)的情況下生產(chǎn)者和消費(fèi)者可以并行地操作隊(duì)列中的數(shù)據(jù)超凳,以此來提高整個(gè)隊(duì)列的并發(fā)性能。作為開發(fā)者耀态,我們需要注意的是轮傍,如果構(gòu)造一個(gè)LinkedBlockingQueue對(duì)象,而沒有指定其容量大小首装,LinkedBlockingQueue會(huì)默認(rèn)一個(gè)類似無(wú)限大小的容量(Integer.MAX_VALUE)创夜,這樣的話,如果生產(chǎn)者的速度一旦大于消費(fèi)者的速度簿盅,也許還沒有等到隊(duì)列滿阻塞產(chǎn)生挥下,系統(tǒng)內(nèi)存就有可能已被消耗殆盡了揍魂。ArrayBlockingQueue和LinkedBlockingQueue是兩個(gè)最普通也是最常用的阻塞隊(duì)列桨醋,一般情況下,在處理多線程間的生產(chǎn)者消費(fèi)者問題现斋,使用這兩個(gè)類足以喜最。下面的代碼演示了如何使用BlockingQueue:
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.LinkedBlockingQueue;
/**
* @author jackyuj
*/
public class BlockingQueueTest {
public static void main(String[] args) throws InterruptedException {
// 聲明一個(gè)容量為10的緩存隊(duì)列
BlockingQueue<String> queue = new LinkedBlockingQueue<String>(10);
Producer producer1 = new Producer(queue);
Producer producer2 = new Producer(queue);
Producer producer3 = new Producer(queue);
Consumer consumer = new Consumer(queue);
// 借助Executors
ExecutorService service = Executors.newCachedThreadPool();
// 啟動(dòng)線程
service.execute(producer1);
service.execute(producer2);
service.execute(producer3);
service.execute(consumer);
// 執(zhí)行10s
Thread.sleep(10 * 1000);
producer1.stop();
producer2.stop();
producer3.stop();
Thread.sleep(2000);
// 退出Executor
service.shutdown();
}
}
import java.util.Random;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.TimeUnit;
/**
* 消費(fèi)者線程
*
* @author jackyuj
*/
public class Consumer implements Runnable {
public Consumer(BlockingQueue<String> queue) {
this.queue = queue;
}
public void run() {
System.out.println("啟動(dòng)消費(fèi)者線程!");
Random r = new Random();
boolean isRunning = true;
try {
while (isRunning) {
System.out.println("正從隊(duì)列獲取數(shù)據(jù)...");
String data = queue.poll(2, TimeUnit.SECONDS);
if (null != data) {
System.out.println("拿到數(shù)據(jù):" + data);
System.out.println("正在消費(fèi)數(shù)據(jù):" + data);
Thread.sleep(r.nextInt(DEFAULT_RANGE_FOR_SLEEP));
} else {
// 超過2s還沒數(shù)據(jù)庄蹋,認(rèn)為所有生產(chǎn)線程都已經(jīng)退出瞬内,自動(dòng)退出消費(fèi)線程迷雪。
isRunning = false;
}
}
} catch (InterruptedException e) {
e.printStackTrace();
Thread.currentThread().interrupt();
} finally {
System.out.println("退出消費(fèi)者線程!");
}
}
private BlockingQueue<String> queue;
private static final int DEFAULT_RANGE_FOR_SLEEP = 1000;
}
import java.util.Random;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;
/**
* 生產(chǎn)者線程
*
* @author jackyuj
*/
public class Producer implements Runnable {
public Producer(BlockingQueue queue) {
this.queue = queue;
}
public void run() {
String data = null;
Random r = new Random();
System.out.println("啟動(dòng)生產(chǎn)者線程虫蝶!");
try {
while (isRunning) {
System.out.println("正在生產(chǎn)數(shù)據(jù)...");
Thread.sleep(r.nextInt(DEFAULT_RANGE_FOR_SLEEP));
data = "data:" + count.incrementAndGet();
System.out.println("將數(shù)據(jù):" + data + "放入隊(duì)列...");
if (!queue.offer(data, 2, TimeUnit.SECONDS)) {
System.out.println("放入數(shù)據(jù)失斦逻帧:" + data);
}
}
} catch (InterruptedException e) {
e.printStackTrace();
Thread.currentThread().interrupt();
} finally {
System.out.println("退出生產(chǎn)者線程!");
}
}
public void stop() {
isRunning = false;
}
private volatile boolean isRunning = true;
private BlockingQueue queue;
private static AtomicInteger count = new AtomicInteger();
private static final int DEFAULT_RANGE_FOR_SLEEP = 1000;
}
3. DelayQueue
DelayQueue中的元素只有當(dāng)其指定的延遲時(shí)間到了能真,才能夠從隊(duì)列中獲取到該元素赁严。DelayQueue是一個(gè)沒有大小限制的隊(duì)列,因此往隊(duì)列中插入數(shù)據(jù)的操作(生產(chǎn)者)永遠(yuǎn)不會(huì)被阻塞粉铐,而只有獲取數(shù)據(jù)的操作(消費(fèi)者)才會(huì)被阻塞疼约。使用場(chǎng)景: DelayQueue使用場(chǎng)景較少,但都相當(dāng)巧妙蝙泼,常見的例子比如使用一個(gè)DelayQueue來管理一個(gè)超時(shí)未響應(yīng)的連接隊(duì)列程剥。
4. PriorityBlockingQueue 基于優(yōu)先級(jí)的阻塞隊(duì)列(優(yōu)先級(jí)的判斷通過構(gòu)造函數(shù)傳入的Compator對(duì)象來決定),但需要注意的是PriorityBlockingQueue并不會(huì)阻塞數(shù)據(jù)生產(chǎn)者汤踏,而只會(huì)在沒有可消費(fèi)的數(shù)據(jù)時(shí)织鲸,阻塞數(shù)據(jù)的消費(fèi)者。因此使用的時(shí)候要特別注意溪胶,生產(chǎn)者生產(chǎn)數(shù)據(jù)的速度絕對(duì)不能快于消費(fèi)者消費(fèi)數(shù)據(jù)的速度昙沦,否則時(shí)間一長(zhǎng),會(huì)最終耗盡所有的可用堆內(nèi)存空間载荔。在實(shí)現(xiàn)PriorityBlockingQueue時(shí)盾饮,內(nèi)部控制線程同步的鎖采用的是公平鎖。
5. SynchronousQueue 一種無(wú)緩沖的等待隊(duì)列懒熙,類似于無(wú)中介的直接交易丘损,有點(diǎn)像原始社會(huì)中的生產(chǎn)者和消費(fèi)者,生產(chǎn)者拿著產(chǎn)品去集市銷售給產(chǎn)品的最終消費(fèi)者工扎,而消費(fèi)者必須親自去集市找到所要商品的直接生產(chǎn)者徘钥,如果一方?jīng)]有找到合適的目標(biāo),那么對(duì)不起肢娘,大家都在集市等待呈础。相對(duì)于有緩沖的BlockingQueue來說,少了一個(gè)中間經(jīng)銷商的環(huán)節(jié)(緩沖區(qū))橱健,如果有經(jīng)銷商而钞,生產(chǎn)者直接把產(chǎn)品批發(fā)給經(jīng)銷商,而無(wú)需在意經(jīng)銷商最終會(huì)將這些產(chǎn)品賣給那些消費(fèi)者拘荡,由于經(jīng)銷商可以庫(kù)存一部分商品臼节,因此相對(duì)于直接交易模式,總體來說采用中間經(jīng)銷商的模式會(huì)吞吐量高一些(可以批量買賣);但另一方面网缝,又因?yàn)榻?jīng)銷商的引入巨税,使得產(chǎn)品從生產(chǎn)者到消費(fèi)者中間增加了額外的交易環(huán)節(jié),單個(gè)產(chǎn)品的及時(shí)響應(yīng)性能可能會(huì)降低粉臊〔萏恚 聲明一個(gè)SynchronousQueue有兩種不同的方式,它們之間有著不太一樣的行為扼仲。公平模式和非公平模式的區(qū)別: 如果采用公平模式:SynchronousQueue會(huì)采用公平鎖果元,并配合一個(gè)FIFO隊(duì)列來阻塞多余的生產(chǎn)者和消費(fèi)者,從而體系整體的公平策略犀盟; 但如果是非公平模式(SynchronousQueue默認(rèn)):SynchronousQueue采用非公平鎖而晒,同時(shí)配合一個(gè)LIFO隊(duì)列來管理多余的生產(chǎn)者和消費(fèi)者,而后一種模式阅畴,如果生產(chǎn)者和消費(fèi)者的處理速度有差距倡怎,則很容易出現(xiàn)饑渴的情況,即可能有某些生產(chǎn)者或者是消費(fèi)者的數(shù)據(jù)永遠(yuǎn)都得不到處理贱枣。
小結(jié)
BlockingQueue不光實(shí)現(xiàn)了一個(gè)完整隊(duì)列所具有的基本功能监署,同時(shí)在多線程環(huán)境下,他還自動(dòng)管理了多線間的自動(dòng)等待于喚醒功能纽哥,從而使得程序員可以忽略這些細(xì)節(jié)钠乏,關(guān)注更高級(jí)的功能。