presto(七)——restful api之cluster

一星虹、首先看到入口地方:

@Path("/v1/cluster")
public class ClusterStatsResource
{
    private final InternalNodeManager nodeManager;
    private final QueryManager queryManager;
    private final boolean isIncludeCoordinator;

有三個(gè)狀態(tài):節(jié)點(diǎn)管理器飒房、查詢管理器、是否包含協(xié)調(diào)器

二狠毯、提供的服務(wù):

  @GET
    @Produces(MediaType.APPLICATION_JSON)
    public ClusterStats getClusterStats()
    {
        long runningQueries = 0;
        long blockedQueries = 0;
        long queuedQueries = 0;
        省略。嚼松。。献酗。
        返回的是ClusterStats信息

三、ClusterStats狀態(tài)有哪些?

 public static class ClusterStats
    {
        private final long runningQueries;
        private final long blockedQueries;
        private final long queuedQueries;

        private final long activeWorkers;
        private final long runningDrivers;
        private final double reservedMemory;

        private final double rowInputRate;
        private final double byteInputRate;
        private final double cpuTimeRate;

此處我們可以知道此接口返回的是:運(yùn)行查詢數(shù)罕偎、阻塞個(gè)數(shù)、進(jìn)入排隊(duì)數(shù)、活動(dòng)的worker數(shù)甩苛、正在運(yùn)行的drivers數(shù) 等信息。

四讯蒲、ClusterStats狀態(tài)是如何獲取的呢?

由兩個(gè)最開始ClusterStatsResource中的兩個(gè)狀態(tài)提供:

InternalNodeManager
QueryManager

五墨林、先看InternalNodeManager提供什么?

 @Inject
    public DiscoveryNodeManager(
            @ServiceType("presto") ServiceSelector serviceSelector,
            NodeInfo nodeInfo,
            FailureDetector failureDetector,
            NodeVersion expectedNodeVersion,
            @ForNodeManager HttpClient httpClient)
    {
        省略旭等。酌呆。肪笋。
        this.currentNode = refreshNodesInternal();
    }

看最后一行月劈,refreshNodesInternal。

        //獲取所有節(jié)點(diǎn)的狀態(tài)信息猜揪,通過(guò)/v1/service來(lái)獲取。包括location而姐、節(jié)點(diǎn)狀態(tài)腊凶、節(jié)點(diǎn)ID拴念、UUID等信息
        Set<ServiceDescriptor> services = serviceSelector.selectAllServices().stream()
                .filter(service -> !failureDetector.getFailed().contains(service))
                .collect(toImmutableSet());

      //獲取所有節(jié)點(diǎn)狀況
      allNodes = new AllNodes(activeNodesBuilder.build(), inactiveNodesBuilder.build(), shuttingDownNodesBuilder.build());
      activeNodesByConnectorId = byConnectorIdBuilder.build();
      coordinators = coordinatorsBuilder.build();

每隔5秒來(lái),由協(xié)調(diào)器節(jié)點(diǎn)主動(dòng)去查詢workers狀態(tài)政鼠。而且在更新完成5s之后,就調(diào)用上面的refreshNodesInternal方法公般。通過(guò)/v1/service來(lái)獲取節(jié)點(diǎn)信息,把新節(jié)點(diǎn)加入到DiscoveryNodeManager的一個(gè)map中nodeStates官帘。

 @PostConstruct
    public void startPollingNodeStates()
    {
        // 如果是協(xié)調(diào)器節(jié)點(diǎn),就定時(shí)5s去刷新拉去worker節(jié)點(diǎn)數(shù)據(jù)
        if (getCoordinators().contains(currentNode)) {
            nodeStateUpdateExecutor.scheduleWithFixedDelay(() -> {
                  AllNodes allNodes = getAllNodes();

<b>從上面我們已經(jīng)看出來(lái)ClusterStats的activeWorkers信息可以從InternalNodeManager的nodeStates中獲取刽虹。</b>

六、再看QueryManager提供什么?

他的實(shí)現(xiàn)類是:SqlQueryManager

QueryManager提供了getAllQueryInfo方法給ClusterStatsResource來(lái)獲取ClusterStats中的狀態(tài)信息胖缤。

 @Override
    public List<QueryInfo> getAllQueryInfo()
    {
        return queries.values().stream()
                .map(queryExecution -> {
                    try {
                        return queryExecution.getQueryInfo();
                    }
                    catch (RuntimeException ignored) {
                        return null;
                    }
                })
                .filter(Objects::nonNull)
                .collect(toImmutableList());
    }

這個(gè)類在創(chuàng)建query時(shí)候,加入到 queries中

private final ConcurrentMap<QueryId, QueryExecution> queries = new ConcurrentHashMap<>();

同時(shí)對(duì)每一個(gè)query添加監(jiān)聽(tīng)器草姻,一旦執(zhí)行狀態(tài)改變,就更新?tīng)顟B(tài)query狀態(tài)即:QueryInfo

七撩独、回頭看看ClusterStats中的狀態(tài)

 public ClusterStats getClusterStats()
    {
        long runningQueries = 0;
        long blockedQueries = 0;
        long queuedQueries = 0;

        long activeNodes = nodeManager.getNodes(NodeState.ACTIVE).size();
        if (!isIncludeCoordinator) {
            activeNodes -= 1;
        }

        long runningDrivers = 0;
        double memoryReservation = 0;

        double rowInputRate = 0;
        double byteInputRate = 0;
        double cpuTimeRate = 0;

        for (QueryInfo query : queryManager.getAllQueryInfo()) {
            if (query.getState() == QueryState.QUEUED) {
                queuedQueries++;
            }
            else if (query.getState() == QueryState.RUNNING) {
                if (query.getQueryStats().isFullyBlocked()) {
                    blockedQueries++;
                }
                else {
                    runningQueries++;
                }
            }

            if (!query.getState().isDone()) {
                double totalExecutionTimeSeconds = query.getQueryStats().getElapsedTime().getValue(SECONDS);
                if (totalExecutionTimeSeconds != 0) {
                    byteInputRate += query.getQueryStats().getProcessedInputDataSize().toBytes() / totalExecutionTimeSeconds;
                    rowInputRate += query.getQueryStats().getProcessedInputPositions() / totalExecutionTimeSeconds;
                    cpuTimeRate += (query.getQueryStats().getTotalCpuTime().getValue(SECONDS)) / totalExecutionTimeSeconds;
                }
                memoryReservation += query.getQueryStats().getTotalMemoryReservation().toBytes();
                runningDrivers += query.getQueryStats().getRunningDrivers();
            }
        }

        return new ClusterStats(runningQueries, blockedQueries, queuedQueries, activeNodes, runningDrivers, memoryReservation, rowInputRate, byteInputRate, cpuTimeRate);
    }

我們看到大量的信息是來(lái)自query.QueryInfo中的信息。

八澳迫、狀態(tài)監(jiān)聽(tīng)器實(shí)現(xiàn)

待續(xù)~~~

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市橄登,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌拢锹,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,590評(píng)論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件卒稳,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡他巨,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門染突,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人份企,你說(shuō)我怎么就攤上這事⌒桨簦” “怎么了?”我有些...
    開封第一講書人閱讀 169,301評(píng)論 0 362
  • 文/不壞的土叔 我叫張陵俐芯,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我吧史,道長(zhǎng)邮辽,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 60,078評(píng)論 1 300
  • 正文 為了忘掉前任岩睁,我火速辦了婚禮,結(jié)果婚禮上捕儒,老公的妹妹穿的比我還像新娘。我一直安慰自己邓夕,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,082評(píng)論 6 398
  • 文/花漫 我一把揭開白布焚刚。 她就那樣靜靜地躺著,像睡著了一般矿咕。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上碳柱,一...
    開封第一講書人閱讀 52,682評(píng)論 1 312
  • 那天捡絮,我揣著相機(jī)與錄音士聪,去河邊找鬼猛蔽。 笑死剥悟,一個(gè)胖子當(dāng)著我的面吹牛曼库,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播毁枯,決...
    沈念sama閱讀 41,155評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼种玛!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起赂韵,我...
    開封第一講書人閱讀 40,098評(píng)論 0 277
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎祭示,沒(méi)想到半個(gè)月后肄满,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,638評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡掰担,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,701評(píng)論 3 342
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了带饱。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,852評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡纠炮,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出灯蝴,到底是詐尸還是另有隱情,我是刑警寧澤穷躁,帶...
    沈念sama閱讀 36,520評(píng)論 5 351
  • 正文 年R本政府宣布,位于F島的核電站问潭,受9級(jí)特大地震影響猿诸,放射性物質(zhì)發(fā)生泄漏狡忙。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,181評(píng)論 3 335
  • 文/蒙蒙 一灾茁、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧北专,春花似錦禀挫、人聲如沸拓颓。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,674評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至场航,卻和暖如春缠导,著一層夾襖步出監(jiān)牢的瞬間旗闽,已是汗流浹背蜜另。 一陣腳步聲響...
    開封第一講書人閱讀 33,788評(píng)論 1 274
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留举瑰,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 49,279評(píng)論 3 379
  • 正文 我出身青樓此迅,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親旧巾。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,851評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見(jiàn)模式的工具(例如配置管理鲁猩,服務(wù)發(fā)現(xiàn),斷路器廓握,智...
    卡卡羅2017閱讀 134,715評(píng)論 18 139
  • Spring Boot 參考指南 介紹 轉(zhuǎn)載自:https://www.gitbook.com/book/qbgb...
    毛宇鵬閱讀 46,865評(píng)論 6 342
  • Spark SQL, DataFrames and Datasets Guide Overview SQL Dat...
    草里有只羊閱讀 18,335評(píng)論 0 85
  • 1. AVPlayer AVPlayer 是一個(gè)用來(lái)播放基于時(shí)間的視聽(tīng)媒體的控制器對(duì)象(一個(gè)隊(duì)播放和資源時(shí)間相隔信...
    丶丶夏天閱讀 989評(píng)論 0 0
  • 透析記5.27 今日血濾。 早上八點(diǎn)多起床男应,天空陰沉沉的,有點(diǎn)冷娱仔,于是把保暖內(nèi)衣從箱子里翻出來(lái)穿上沐飘,在陰沉欲雨的天...
    小棕櫚閱讀 202評(píng)論 0 0