一隘弊、背景描述
最近測試同學(xué)對系統(tǒng)進行壓測粤攒。報出一個問題:幾乎所有接口的成績都不太好。甚至一些僅僅是主鍵查詢加矛,并且數(shù)據(jù)量不大的接口也是如此煌妈。排查過程中:跳過gateway網(wǎng)關(guān)儡羔,直接通過目標(biāo)服務(wù)器ip進行壓測發(fā)現(xiàn)成績提升明顯。初步判斷是網(wǎng)關(guān)問題璧诵。網(wǎng)上翻閱資料發(fā)現(xiàn)一個優(yōu)化點汰蜘,就是netty本身的線程池配置。
二之宿、線程池配置
要設(shè)置可同時工作的線程數(shù)需要設(shè)置netty中的reactor.netty.ioWorkerCount
參數(shù)族操。該參數(shù)無法直接配置,需要通過System.setProperty
設(shè)置澈缺,故我們可以創(chuàng)建以下配置類來配置該參數(shù):
@Configuration
public static class ReactNettyConfiguration {
@Bean
public ReactorResourceFactory reactorClientResourceFactory() {
System.setProperty("reactor.netty.ioSelectCount","1");
// 這里工作線程數(shù)為2-4倍都可以坪创。看具體情況
int ioWorkerCount = Math.max(Runtime.getRuntime().availableProcessors()*3, 4));
System.setProperty("reactor.netty.ioWorkerCount",String.valueOf(ioWorkerCount);
return new ReactorResourceFactory();
}
}
我這里版本是reactor-netty-core-1.0.3
姐赡,版本不一樣的話 可能參數(shù)key不太一樣∧啵可以看一下LoopResources 中寫的key项滑。
Runtime.getRuntime().availableProcessors()
獲取的是cpu核心線程數(shù)也就是計算資源,而不是CPU物理核心數(shù)涯贞,對于支持超線程的CPU來說枪狂,單個物理處理器相當(dāng)于擁有兩個邏輯處理器危喉,能夠同時執(zhí)行兩個線程。
三州疾、源碼分析
package reactor.netty.resources;
import io.netty.channel.Channel;
import io.netty.channel.EventLoopGroup;
import java.time.Duration;
import java.util.Objects;
import reactor.core.Disposable;
import reactor.core.publisher.Mono;
@FunctionalInterface
public interface LoopResources extends Disposable {
// 這里是worker線程數(shù)辜限,未配置的話。從cpu核心數(shù)和4直接取一個大的
int DEFAULT_IO_WORKER_COUNT = Integer.parseInt(System.getProperty("reactor.netty.ioWorkerCount", "" + Math.max(Runtime.getRuntime().availableProcessors(), 4)));
// 這里是select線程數(shù) 默認(rèn)是-1
int DEFAULT_IO_SELECT_COUNT = Integer.parseInt(System.getProperty("reactor.netty.ioSelectCount", "-1"));
....
// 創(chuàng)建一個默認(rèn)的資源严蓖,把兩個線程數(shù)的參數(shù)傳遞過去
static LoopResources create(String prefix) {
if (Objects.requireNonNull(prefix, "prefix").isEmpty()) {
throw new IllegalArgumentException("Cannot use empty prefix");
}
return new DefaultLoopResources(prefix, DEFAULT_IO_SELECT_COUNT, DEFAULT_IO_WORKER_COUNT, true);
}
....
接下來看一下 DefaultLoopResources做了什么
DefaultLoopResources(String prefix, int selectCount, int workerCount, boolean daemon) {
this.running = new AtomicBoolean(true);
this.daemon = daemon;
this.workerCount = workerCount;
this.prefix = prefix;
this.serverLoops = new AtomicReference<>();
this.clientLoops = new AtomicReference<>();
this.cacheNativeClientLoops = new AtomicReference<>();
this.cacheNativeServerLoops = new AtomicReference<>();
// 因為默認(rèn)沒有配置 所以selectCode必然是-1
if (selectCount == -1) {
this.selectCount = workerCount;
// serverSelectLoops沒有創(chuàng)建薄嫡,而是直接使用的serverLoops
this.serverSelectLoops = this.serverLoops;
this.cacheNativeSelectLoops = this.cacheNativeServerLoops;
}
else {
this.selectCount = selectCount;
this.serverSelectLoops = new AtomicReference<>();
this.cacheNativeSelectLoops = new AtomicReference<>();
}
}
@SuppressWarnings("FutureReturnValueIgnored")
EventLoopGroup cacheNioSelectLoops() {
// 兩個相等的話 使用 cacheNioServerLoops 返回工作組
if (serverSelectLoops == serverLoops) {
return cacheNioServerLoops();
}
EventLoopGroup eventLoopGroup = serverSelectLoops.get();
if (null == eventLoopGroup) {
EventLoopGroup newEventLoopGroup = new NioEventLoopGroup(selectCount,
threadFactory(this, "select-nio"));
if (!serverSelectLoops.compareAndSet(null, newEventLoopGroup)) {
//"FutureReturnValueIgnored" this is deliberate
newEventLoopGroup.shutdownGracefully(0, 0, TimeUnit.MILLISECONDS);
}
eventLoopGroup = cacheNioSelectLoops();
}
return eventLoopGroup;
}
// 這里相當(dāng)于返回了工作組
@SuppressWarnings("FutureReturnValueIgnored")
EventLoopGroup cacheNioServerLoops() {
EventLoopGroup eventLoopGroup = serverLoops.get();
if (null == eventLoopGroup) {
EventLoopGroup newEventLoopGroup = new NioEventLoopGroup(workerCount,
threadFactory(this, "nio"));
if (!serverLoops.compareAndSet(null, newEventLoopGroup)) {
//"FutureReturnValueIgnored" this is deliberate
newEventLoopGroup.shutdownGracefully(0, 0, TimeUnit.MILLISECONDS);
}
eventLoopGroup = cacheNioServerLoops();
}
return eventLoopGroup;
}
可以看出來,如果未配置颗胡。netty是沒有select線程組的毫深。結(jié)合分析reactor模型可以發(fā)現(xiàn),這種情況對處理效率是有影響的毒姨。而且最大只和cpu核心數(shù)量相同的配置也明顯無法重復(fù)利硬件用資源哑蔫。