PDX超級云支持流數(shù)據(jù)

PDX公有鏈,旨在打造公共的區(qū)塊鏈生態(tài)體系蚂夕,作為公共的區(qū)塊鏈IaaS迅诬,以強有力的底層專利技術,助力企業(yè)級客戶婿牍、開發(fā)者團體和普通用戶都能享受到區(qū)塊鏈帶來的便利和樂趣。

區(qū)塊鏈惩歉,正在一步步改變我們的生活等脂。

什么是流數(shù)據(jù)?

流數(shù)據(jù)是一組順序撑蚌、大量上遥、快速、連續(xù)到達的數(shù)據(jù)序列,一般情況下,數(shù)據(jù)流可被視為一個隨時間延續(xù)而無限增長的動態(tài)數(shù)據(jù)集合争涌》鄢可應用于網(wǎng)絡監(jiān)控、傳感器網(wǎng)絡亮垫、航空航天模软、氣象測控和金融服務等領域。

流數(shù)據(jù)優(yōu)勢及特點

對于持續(xù)生成動態(tài)新數(shù)據(jù)的大多數(shù)場景饮潦,流數(shù)據(jù)處理方法適用于大多數(shù)行業(yè)和大數(shù)據(jù)使用案例燃异。

流數(shù)據(jù)具有四個特點:

1)數(shù)據(jù)實時到達;

2)數(shù)據(jù)到達次序獨立继蜡,不受應用系統(tǒng)所控制回俐;

3)數(shù)據(jù)規(guī)模宏大且不能預知其最大值;

4)數(shù)據(jù)一經(jīng)處理稀并,除非特意保存仅颇,否則不能被再次取出處理,或者再次提取數(shù)據(jù)代價昂貴碘举。

流數(shù)據(jù)處理系統(tǒng)的查詢處理

內(nèi)存需要:大部分數(shù)據(jù)流是無法預知最終大小的忘瓦;在這種情況下,如果要在數(shù)據(jù)流上計算一個準確的結(jié)果(如累計數(shù))殴俱,需要的存儲空間將無法預知政冻,有可能超過可用的內(nèi)存。為了達到高速的處理數(shù)據(jù)线欲,流數(shù)據(jù)處理一般優(yōu)先采用基于內(nèi)存的數(shù)據(jù)處理算法明场,無須存取磁盤。

近似查詢結(jié)果:在內(nèi)存容量有限的情況下李丰,獲得一個準確的結(jié)果是不太可能的苦锨。很多時候我們并不需要一個準確的答案。在流數(shù)據(jù)處理領域,數(shù)據(jù)流上的查詢研究了一系列的數(shù)據(jù)縮減或者摘要構(gòu)建技術舟舒,如:數(shù)據(jù)輪廓拉庶,隨機采樣,真方圖秃励,小波變換等氏仗。

滑動窗口:從數(shù)據(jù)流上產(chǎn)生近似查詢結(jié)果的一種技術《嵯剩滑動窗口上的查詢處理指的是在數(shù)據(jù)的最近數(shù)據(jù)元素(記錄)上執(zhí)行查詢皆尔,而不是在數(shù)據(jù)流的所有歷史記錄上執(zhí)行查詢”依滑動窗口強調(diào)最近的數(shù)據(jù)慷蠕,即最近的數(shù)據(jù)權重更高。

查詢數(shù)據(jù)流的歷史數(shù)據(jù):在標準的流數(shù)據(jù)處理模式中食呻,當某個數(shù)據(jù)元素處理結(jié)束后流炕,將無法再訪問到。流數(shù)據(jù)允許新提交的即席查詢參考歷史數(shù)據(jù)仅胞。這里所說的歷史數(shù)據(jù)只是一個摘要每辟,或者聚集匯總。這些數(shù)據(jù)摘要有助于為未來的即席查詢計算一個近似的結(jié)果饼问。

多查詢優(yōu)化與查詢計劃的適應性 :在流數(shù)據(jù)處理系統(tǒng)中影兽,大多數(shù)的查詢是長時間運行的持續(xù)查詢。系統(tǒng)同時運行大量的查詢莱革,可以通過多查詢優(yōu)化技術峻堰,提高查詢處理的性能。

堵塞操作:該操作需要看到所有的輸入數(shù)據(jù)以后才能開始產(chǎn)生輸出結(jié)果盅视。排序捐名、Sum、Count闹击、Min镶蹋、Max、Avg等聚集操作都是堵塞操作赏半,因為只有看到所有的輸入數(shù)據(jù)贺归,才能開始產(chǎn)生輸出。讓流數(shù)據(jù)處理系統(tǒng)有效的處理排序断箫、聚集等操作是一個嚴峻的挑戰(zhàn)拂酣。 其中有一種稱為標點(Punctuation,標點就是一個斷言仲义,它規(guī)定在剩下的數(shù)據(jù)流數(shù)據(jù)中婶熬,什么數(shù)據(jù)可出現(xiàn)剑勾,什么數(shù)據(jù)不可出現(xiàn)。)的技術赵颅,來幫助其操作做出決策虽另。

PDX與流數(shù)據(jù)

當我們做交易時,交易的payload中可以存放數(shù)據(jù)饺谬,對于kb級別的數(shù)據(jù)可以直接放到交易payload中捂刺,進行傳輸、執(zhí)行募寨。如果說數(shù)據(jù)的字節(jié)數(shù)是比較大的叠萍,這個時候再放到交易中,進行傳輸執(zhí)行的話绪商,就不太現(xiàn)實了。首先一次網(wǎng)絡傳輸對數(shù)據(jù)量的大小是有限制的辅鲸,其次格郁,交易的執(zhí)行計算gas時,其中會根據(jù)字節(jié)的大小進行計算独悴,大的數(shù)據(jù)消耗的gas也是比較大的例书。

為了實現(xiàn)大數(shù)據(jù)的處理,我們添加了一個數(shù)據(jù)服務器刻炒,當交易需要處理大數(shù)據(jù)時决采,首先把數(shù)據(jù)的具體內(nèi)容存放到數(shù)據(jù)服務器中,服務器返回一個唯一id坟奥,然后我們將這個唯一id放到交易體中树瞭。當交易執(zhí)行時,從交易的參數(shù)中獲取數(shù)據(jù)的唯一id,再通過唯一id從數(shù)據(jù)服務器中將數(shù)據(jù)取出爱谁,進行數(shù)據(jù)的具體處理晒喷。

?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市访敌,隨后出現(xiàn)的幾起案子凉敲,更是在濱河造成了極大的恐慌,老刑警劉巖寺旺,帶你破解...
    沈念sama閱讀 222,000評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件爷抓,死亡現(xiàn)場離奇詭異,居然都是意外死亡阻塑,警方通過查閱死者的電腦和手機蓝撇,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,745評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來叮姑,“玉大人唉地,你說我怎么就攤上這事据悔。” “怎么了耘沼?”我有些...
    開封第一講書人閱讀 168,561評論 0 360
  • 文/不壞的土叔 我叫張陵极颓,是天一觀的道長。 經(jīng)常有香客問我群嗤,道長菠隆,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,782評論 1 298
  • 正文 為了忘掉前任狂秘,我火速辦了婚禮骇径,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘者春。我一直安慰自己破衔,他們只是感情好,可當我...
    茶點故事閱讀 68,798評論 6 397
  • 文/花漫 我一把揭開白布钱烟。 她就那樣靜靜地躺著晰筛,像睡著了一般。 火紅的嫁衣襯著肌膚如雪拴袭。 梳的紋絲不亂的頭發(fā)上读第,一...
    開封第一講書人閱讀 52,394評論 1 310
  • 那天,我揣著相機與錄音拥刻,去河邊找鬼怜瞒。 笑死,一個胖子當著我的面吹牛般哼,可吹牛的內(nèi)容都是我干的吴汪。 我是一名探鬼主播,決...
    沈念sama閱讀 40,952評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼逝她,長吁一口氣:“原來是場噩夢啊……” “哼浇坐!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起黔宛,我...
    開封第一講書人閱讀 39,852評論 0 276
  • 序言:老撾萬榮一對情侶失蹤近刘,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后臀晃,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體觉渴,經(jīng)...
    沈念sama閱讀 46,409評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,483評論 3 341
  • 正文 我和宋清朗相戀三年徽惋,在試婚紗的時候發(fā)現(xiàn)自己被綠了案淋。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,615評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡险绘,死狀恐怖踢京,靈堂內(nèi)的尸體忽然破棺而出誉碴,到底是詐尸還是另有隱情,我是刑警寧澤瓣距,帶...
    沈念sama閱讀 36,303評論 5 350
  • 正文 年R本政府宣布黔帕,位于F島的核電站,受9級特大地震影響蹈丸,放射性物質(zhì)發(fā)生泄漏成黄。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,979評論 3 334
  • 文/蒙蒙 一逻杖、第九天 我趴在偏房一處隱蔽的房頂上張望奋岁。 院中可真熱鬧,春花似錦荸百、人聲如沸闻伶。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,470評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽虾攻。三九已至,卻和暖如春更鲁,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背奇钞。 一陣腳步聲響...
    開封第一講書人閱讀 33,571評論 1 272
  • 我被黑心中介騙來泰國打工澡为, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人景埃。 一個月前我還...
    沈念sama閱讀 49,041評論 3 377
  • 正文 我出身青樓媒至,卻偏偏與公主長得像,于是被迫代替她去往敵國和親谷徙。 傳聞我的和親對象是個殘疾皇子拒啰,可洞房花燭夜當晚...
    茶點故事閱讀 45,630評論 2 359

推薦閱讀更多精彩內(nèi)容