轉載————JavaGuide
Java 中的 BIO、NIO和 AIO 理解為是 Java 語言對操作系統(tǒng)的各種 IO 模型的封裝铲咨。程序員在使用這些 API 的時候旭绒,不需要關心操作系統(tǒng)層面的知識,也不需要根據(jù)不同操作系統(tǒng)編寫不同的代碼由驹。只需要使用Java的API就可以了募疮。
同步與異步的概念
- 當你同步執(zhí)行某項任務時炫惩,你需要等待其完成才能繼續(xù)執(zhí)行其他任務。當你異步執(zhí)行某些操作時阿浓,你可以在完成另一個任務之前繼續(xù)進行他嚷。
- 同步 :兩個同步任務相互依賴,并且一個任務必須以依賴于另一任務的某種方式執(zhí)行搔扁。 比如在A->B事件模型中爸舒,你需要先完成 A 才能執(zhí)行B。 再換句話說稿蹲,同步調用種被調用者未處理完請求之前扭勉,調用不返回,調用者會一直等待結果的返回苛聘。
- 異步: 兩個異步的任務完全獨立的涂炎,一方的執(zhí)行不需要等待另外一方的執(zhí)行。再換句話說设哗,異步調用中一調用就返回結果不需要等待結果返回唱捣,當結果返回的時候通過回調函數(shù)或者其他方式拿著結果再做相關事情。
阻塞和非阻塞的概念
- 阻塞: 阻塞就是發(fā)起一個請求网梢,調用者一直等待請求結果返回震缭,也就是當前線程會被掛起,無法從事其他任務战虏,只有當條件就緒才能繼續(xù)拣宰。
- 非阻塞: 非阻塞就是發(fā)起一個請求,調用者不用一直等著結果返回烦感,可以先去干其他事情巡社。
如何區(qū)分 “同步/異步 ”和 “阻塞/非阻塞” 呢?
同步/異步是從行為角度描述事物的手趣,而阻塞和非阻塞描述的當前事物的狀態(tài)(等待調用結果時的狀態(tài))晌该。
1. BIO (Blocking I/O)
同步阻塞I/O模式,數(shù)據(jù)的讀取寫入必須阻塞在一個線程內等待其完成绿渣。
1.1 傳統(tǒng) BIO
BIO通信(一請求一應答)模型圖如下(圖源網絡朝群,原出處不明):
采用 BIO 通信模型 的服務端,通常由一個獨立的 Acceptor 線程負責監(jiān)聽客戶端的連接中符。我們一般通過在while(true) 循環(huán)中服務端會調用 accept() 方法等待接收客戶端的連接的方式監(jiān)聽請求潜圃,請求一旦接收到一個連接請求,就可以建立通信套接字在這個通信套接字上進行讀寫操作舟茶,此時不能再接收其他客戶端連接請求谭期,只能等待同當前連接的客戶端的操作執(zhí)行完成堵第, 不過可以通過多線程來支持多個客戶端的連接,如上圖所示隧出。
如果要讓 BIO 通信模型 能夠同時處理多個客戶端請求踏志,就必須使用多線程(主要原因是socket.accept()、socket.read()胀瞪、socket.write() 涉及的三個主要函數(shù)都是同步阻塞的)针余,也就是說它在接收到客戶端連接請求之后為每個客戶端創(chuàng)建一個新的線程進行鏈路處理,處理完成之后凄诞,通過輸出流返回應答給客戶端圆雁,線程銷毀。這就是典型的 一請求一應答通信模型 帆谍。我們可以設想一下如果這個連接不做任何事情的話就會造成不必要的線程開銷伪朽,不過可以通過 線程池機制 改善,線程池還可以讓線程的創(chuàng)建和回收成本相對較低汛蝙。使用FixedThreadPool 可以有效的控制了線程的最大數(shù)量烈涮,保證了系統(tǒng)有限的資源的控制,實現(xiàn)了N(客戶端請求數(shù)量):M(處理客戶端請求的線程數(shù)量)的偽異步I/O模型(N 可以遠遠大于 M)窖剑,下面一節(jié)"偽異步 BIO"中會詳細介紹到坚洽。
我們再設想一下當客戶端并發(fā)訪問量增加后這種模型會出現(xiàn)什么問題?
在 Java 虛擬機中西土,線程是寶貴的資源讶舰,線程的創(chuàng)建和銷毀成本很高,除此之外需了,線程的切換成本也是很高的绘雁。尤其在 Linux 這樣的操作系統(tǒng)中,線程本質上就是一個進程援所,創(chuàng)建和銷毀線程都是重量級的系統(tǒng)函數(shù)。如果并發(fā)訪問量增加會導致線程數(shù)急劇膨脹可能會導致線程堆棧溢出欣除、創(chuàng)建新線程失敗等問題住拭,最終導致進程宕機或者僵死,不能對外提供服務历帚。
1.2 偽異步 IO
為了解決同步阻塞I/O面臨的一個鏈路需要一個線程處理的問題滔岳,后來有人對它的線程模型進行了優(yōu)化一一一后端通過一個線程池來處理多個客戶端的請求接入,形成客戶端個數(shù)M:線程池最大線程數(shù)N的比例關系挽牢,其中M可以遠遠大于N.通過線程池可以靈活地調配線程資源谱煤,設置線程的最大值,防止由于海量并發(fā)接入導致線程耗盡禽拔。
偽異步IO模型圖(圖源網絡刘离,原出處不明):
采用線程池和任務隊列可以實現(xiàn)一種叫做偽異步的 I/O 通信框架室叉,它的模型圖如上圖所示。當有新的客戶端接入時硫惕,將客戶端的 Socket 封裝成一個Task(該任務實現(xiàn)java.lang.Runnable接口)投遞到后端的線程池中進行處理茧痕,JDK 的線程池維護一個消息隊列和 N 個活躍線程,對消息隊列中的任務進行處理恼除。由于線程池可以設置消息隊列的大小和最大線程數(shù)踪旷,因此,它的資源占用是可控的豁辉,無論多少個客戶端并發(fā)訪問令野,都不會導致資源的耗盡和宕機。
偽異步I/O通信框架采用了線程池實現(xiàn)徽级,因此避免了為每個請求都創(chuàng)建一個獨立線程造成的線程資源耗盡問題气破。不過因為它的底層仍然是同步阻塞的BIO模型,因此無法從根本上解決問題灰追。
1.3 代碼實例
下面代碼中演示了BIO通信(一請求一應答)模型堵幽。我們會在客戶端創(chuàng)建多個線程依次連接服務端并向其發(fā)送"當前時間+:hello world",服務端會為每個客戶端線程創(chuàng)建一個線程來處理弹澎。代碼示例出自閃電俠的博客朴下,原地址如下:
http://www.reibang.com/p/a4e03835921a
客戶端
/**
*
* @author 閃電俠
* @date 2018年10月14日
* @Description:客戶端
*/
public class IOClient {
public static void main(String[] args) {
// TODO 創(chuàng)建多個線程,模擬多個客戶端連接服務端
new Thread(() -> {
try {
Socket socket = new Socket("127.0.0.1", 3333);
while (true) {
try {
socket.getOutputStream().write((new Date() + ": hello world").getBytes());
Thread.sleep(2000);
} catch (Exception e) {
}
}
} catch (IOException e) {
}
}).start();
}
}
服務器端
/**
*
* @author 閃電俠
* @date 2018年10月14日
* @Description:客戶端
*/
public class IOClient {
public static void main(String[] args) {
// TODO 創(chuàng)建多個線程苦蒿,模擬多個客戶端連接服務端
new Thread(() -> {
try {
Socket socket = new Socket("127.0.0.1", 3333);
while (true) {
try {
socket.getOutputStream().write((new Date() + ": hello world").getBytes());
Thread.sleep(2000);
} catch (Exception e) {
}
}
} catch (IOException e) {
}
}).start();
}
}
1.4 總結
在活動連接數(shù)不是特別高(小于單機1000)的情況下殴胧,這種模型是比較不錯的,可以讓每一個連接專注于自己的 I/O 并且編程模型簡單佩迟,也不用過多考慮系統(tǒng)的過載团滥、限流等問題。線程池本身就是一個天然的漏斗报强,可以緩沖一些系統(tǒng)處理不了的連接或請求灸姊。但是,當面對十萬甚至百萬級連接的時候秉溉,傳統(tǒng)的 BIO 模型是無能為力的力惯。因此,我們需要一種更高效的 I/O 處理模型來應對更高的并發(fā)量召嘶。
2. NIO (New I/O)
2.1 NIO 簡介
NIO是一種同步非阻塞的I/O模型父晶,在Java 1.4 中引入了 NIO 框架,對應 java.nio 包弄跌,提供了 Channel , Selector甲喝,Buffer等抽象。
NIO中的N可以理解為Non-blocking铛只,不單純是New埠胖。它支持面向緩沖的糠溜,基于通道的I/O操作方法。 NIO提供了與傳統(tǒng)BIO模型中的 Socket 和 ServerSocket 相對應的 SocketChannel 和 ServerSocketChannel 兩種不同的套接字通道實現(xiàn),兩種通道都支持阻塞和非阻塞兩種模式押袍。阻塞模式使用就像傳統(tǒng)中的支持一樣诵冒,比較簡單,但是性能和可靠性都不好谊惭;非阻塞模式正好與之相反汽馋。對于低負載、低并發(fā)的應用程序圈盔,可以使用同步阻塞I/O來提升開發(fā)速率和更好的維護性豹芯;對于高負載、高并發(fā)的(網絡)應用驱敲,應使用 NIO 的非阻塞模式來開發(fā)铁蹈。
2.2 NIO的特性/NIO與IO區(qū)別
如果是在面試中回答這個問題,我覺得首先肯定要從 NIO 流是非阻塞 IO 而 IO 流是阻塞 IO 說起众眨。然后握牧,可以從 NIO 的3個核心組件/特性為 NIO 帶來的一些改進來分析。如果娩梨,你把這些都回答上了我覺得你對于 NIO 就有了更為深入一點的認識沿腰,面試官問到你這個問題,你也能很輕松的回答上來了狈定。
1)Non-blocking IO(非阻塞IO)
IO流是阻塞的颂龙,NIO流是不阻塞的。
Java NIO使我們可以進行非阻塞IO操作纽什。比如說措嵌,單線程中從通道讀取數(shù)據(jù)到buffer,同時可以繼續(xù)做別的事情芦缰,當數(shù)據(jù)讀取到buffer中后企巢,線程再繼續(xù)處理數(shù)據(jù)。寫數(shù)據(jù)也是一樣的让蕾。另外浪规,非阻塞寫也是如此。一個線程請求寫入一些數(shù)據(jù)到某通道涕俗,但不需要等待它完全寫入,這個線程同時可以去做別的事情神帅。
Java IO的各種流是阻塞的再姑。這意味著,當一個線程調用 read() 或 write() 時找御,該線程被阻塞元镀,直到有一些數(shù)據(jù)被讀取绍填,或數(shù)據(jù)完全寫入。該線程在此期間不能再干任何事情了
2)Buffer(緩沖區(qū))
IO 面向流(Stream oriented)栖疑,而 NIO 面向緩沖區(qū)(Buffer oriented)讨永。
Buffer是一個對象,它包含一些要寫入或者要讀出的數(shù)據(jù)遇革。在NIO類庫中加入Buffer對象卿闹,體現(xiàn)了新庫與原I/O的一個重要區(qū)別。在面向流的I/O中·可以將數(shù)據(jù)直接寫入或者將數(shù)據(jù)直接讀到 Stream 對象中萝快。雖然 Stream 中也有 Buffer 開頭的擴展類锻霎,但只是流的包裝類,還是從流讀到緩沖區(qū)揪漩,而 NIO 卻是直接讀到 Buffer 中進行操作旋恼。
在NIO庫中,所有數(shù)據(jù)都是用緩沖區(qū)處理的奄容。在讀取數(shù)據(jù)時冰更,它是直接讀到緩沖區(qū)中的; 在寫入數(shù)據(jù)時,寫入到緩沖區(qū)中昂勒。任何時候訪問NIO中的數(shù)據(jù)蜀细,都是通過緩沖區(qū)進行操作。
最常用的緩沖區(qū)是 ByteBuffer,一個 ByteBuffer 提供了一組功能用于操作 byte 數(shù)組叁怪。除了ByteBuffer,還有其他的一些緩沖區(qū)审葬,事實上,每一種Java基本類型(除了Boolean類型)都對應有一種緩沖區(qū)奕谭。
3)Channel (通道)
NIO 通過Channel(通道) 進行讀寫涣觉。
通道是雙向的,可讀也可寫血柳,而流的讀寫是單向的官册。無論讀寫,通道只能和Buffer交互难捌。因為 Buffer膝宁,通道可以異步地讀寫。
4)Selector (選擇器)
NIO有選擇器根吁,而IO沒有员淫。
選擇器用于使用單個線程處理多個通道。因此击敌,它需要較少的線程來處理這些通道介返。線程之間的切換對于操作系統(tǒng)來說是昂貴的。 因此,為了提高系統(tǒng)效率選擇器是有用的圣蝎。
2.3 NIO讀數(shù)據(jù)和寫數(shù)據(jù)的方式
通常來說NIO中的所有IO都是從 Channel(通道) 開始的刃宵。
- 從通道進行數(shù)據(jù)讀取 :創(chuàng)建一個緩沖區(qū),然后請求通道讀取數(shù)據(jù)徘公。
-
從通道進行數(shù)據(jù)寫入 :創(chuàng)建一個緩沖區(qū)牲证,填充數(shù)據(jù),并要求通道寫入數(shù)據(jù)关面。
數(shù)據(jù)讀取和寫入操作圖示:
2.4 NIO核心組件簡單介紹
NIO 包含下面幾個核心的組件:
- Channel(通道)
- Buffer(緩沖區(qū))
- Selector(選擇器)
整個NIO體系包含的類遠遠不止這三個坦袍,只能說這三個是NIO體系的“核心API”。我們上面已經對這三個概念進行了基本的闡述缭裆,這里就不多做解釋了键闺。
2.5 代碼實列
代碼示例出自閃電俠的博客,原地址如下:
http://www.reibang.com/p/a4e03835921a
客戶端 IOClient.java 的代碼不變澈驼,我們對服務端使用 NIO 進行改造辛燥。以下代碼較多而且邏輯比較復雜,大家看看就好缝其。
/**
*
* @author 閃電俠
* @date 2019年2月21日
* @Description: NIO 改造后的服務端
*/
public class NIOServer {
public static void main(String[] args) throws IOException {
// 1. serverSelector負責輪詢是否有新的連接挎塌,服務端監(jiān)測到新的連接之后,不再創(chuàng)建一個新的線程内边,
// 而是直接將新連接綁定到clientSelector上榴都,這樣就不用 IO 模型中 1w 個 while 循環(huán)在死等
Selector serverSelector = Selector.open();
// 2. clientSelector負責輪詢連接是否有數(shù)據(jù)可讀
Selector clientSelector = Selector.open();
new Thread(() -> {
try {
// 對應IO編程中服務端啟動
ServerSocketChannel listenerChannel = ServerSocketChannel.open();
listenerChannel.socket().bind(new InetSocketAddress(3333));
listenerChannel.configureBlocking(false);
listenerChannel.register(serverSelector, SelectionKey.OP_ACCEPT);
while (true) {
// 監(jiān)測是否有新的連接,這里的1指的是阻塞的時間為 1ms
if (serverSelector.select(1) > 0) {
Set<SelectionKey> set = serverSelector.selectedKeys();
Iterator<SelectionKey> keyIterator = set.iterator();
while (keyIterator.hasNext()) {
SelectionKey key = keyIterator.next();
if (key.isAcceptable()) {
try {
// (1) 每來一個新連接漠其,不需要創(chuàng)建一個線程嘴高,而是直接注冊到clientSelector
SocketChannel clientChannel = ((ServerSocketChannel) key.channel()).accept();
clientChannel.configureBlocking(false);
clientChannel.register(clientSelector, SelectionKey.OP_READ);
} finally {
keyIterator.remove();
}
}
}
}
}
} catch (IOException ignored) {
}
}).start();
new Thread(() -> {
try {
while (true) {
// (2) 批量輪詢是否有哪些連接有數(shù)據(jù)可讀,這里的1指的是阻塞的時間為 1ms
if (clientSelector.select(1) > 0) {
Set<SelectionKey> set = clientSelector.selectedKeys();
Iterator<SelectionKey> keyIterator = set.iterator();
while (keyIterator.hasNext()) {
SelectionKey key = keyIterator.next();
if (key.isReadable()) {
try {
SocketChannel clientChannel = (SocketChannel) key.channel();
ByteBuffer byteBuffer = ByteBuffer.allocate(1024);
// (3) 面向 Buffer
clientChannel.read(byteBuffer);
byteBuffer.flip();
System.out.println(
Charset.defaultCharset().newDecoder().decode(byteBuffer).toString());
} finally {
keyIterator.remove();
key.interestOps(SelectionKey.OP_READ);
}
}
}
}
}
} catch (IOException ignored) {
}
}).start();
}
}
為什么大家都不愿意用 JDK 原生 NIO 進行開發(fā)呢和屎?從上面的代碼中大家都可以看出來拴驮,是真的難用!除了編程復雜柴信、編程模型難之外套啤,它還有以下讓人詬病的問題:
- JDK 的 NIO 底層由 epoll 實現(xiàn),該實現(xiàn)飽受詬病的空輪詢 bug 會導致 cpu 飆升 100%
- 項目龐大之后随常,自行實現(xiàn)的 NIO 很容易出現(xiàn)各類 bug潜沦,維護成本較高,上面這一坨代碼我都不能保證沒有 bug
Netty 的出現(xiàn)很大程度上改善了 JDK 原生 NIO 所存在的一些讓人難以忍受的問題绪氛。
3. AIO(Asynchronous I/O)
AIO 也就是 NIO 2唆鸡。在 Java 7 中引入了 NIO 的改進版 NIO 2,它是異步非阻塞的IO模型。異步 IO 是基于事件和回調機制實現(xiàn)的枣察,也就是應用操作之后會直接返回争占,不會堵塞在那里袄琳,當后臺處理完成,操作系統(tǒng)會通知相應的線程進行后續(xù)的操作燃乍。
AIO 是異步IO的縮寫,雖然 NIO 在網絡操作中宛琅,提供了非阻塞的方法刻蟹,但是 NIO 的 IO 行為還是同步的。對于 NIO 來說嘿辟,我們的業(yè)務線程是在 IO 操作準備好時舆瘪,得到通知,接著就由這個線程自行進行 IO 操作红伦,IO操作本身是同步的英古。(除了 AIO 其他的 IO 類型都是同步的,這一點可以從底層IO線程模型解釋昙读,推薦一篇文章:《漫話:如何給女朋友解釋什么是Linux的五種IO模型召调?》 )
查閱網上相關資料,我發(fā)現(xiàn)就目前來說 AIO 的應用還不是很廣泛蛮浑,Netty 之前也嘗試使用過 AIO唠叛,不過又放棄了。