[Caravel]Airbnb開源數(shù)據(jù)探查與可視化平臺

Airbnb開源數(shù)據(jù)探查與可視化平臺Caravel - IT經理網(wǎng)
http://www.ctocio.com/ccnews/20665.html

一站式用戶自助數(shù)據(jù)接入與分析平臺 – lxw的大數(shù)據(jù)田地
http://lxw1234.com/archives/2016/07/701.htm


華揚數(shù)據(jù)自助分析系統(tǒng)V1.0 – lxw的大數(shù)據(jù)田地
http://lxw1234.com/archives/2016/10/754.htm
V1.0版本前端基于Caravel改造,查詢模型數(shù)據(jù)使用的OLAP引擎有三種:Kylin怜校、Hive+SparkSQL以及MySQL间影;

其中,對于事實表數(shù)據(jù)量非常星炎隆(<5萬)的模型魂贬,直接保存在MySQL中,供前端分析查詢使用裙顽;對于數(shù)據(jù)量中等(>5萬付燥,<100萬)的模型,默認使用Hive+SparkSQL來查詢分析愈犹;對于數(shù)據(jù)量較大(>100萬)的模型键科,在Kylin中建立Cube闻丑,供前端分析查詢使用;

設計該系統(tǒng)的主要目的一是為了使產品、運營勋颖、數(shù)據(jù)分析同事能快捷方便靈活的管理和分析自己的數(shù)據(jù)嗦嗡,而不用依賴開發(fā)資源;

二是為了減少數(shù)據(jù)開發(fā)人員的臨時數(shù)據(jù)任務饭玲,做過數(shù)據(jù)開發(fā)的同學應該深有體會侥祭,很多時間都被臨時取數(shù)給占掉了簇秒。


大數(shù)據(jù)可視化在 Autodesk 的實踐 | 全球軟件開發(fā)大會上海站2016
http://2016.qconshanghai.com/presentation/3019?utm_source=infoq&utm_medium=vcrbox
隨著 Autodesk 逐漸從傳統(tǒng)桌面產品向云計算轉變经瓷,產品的迭代發(fā)布周期從以前的一年一個版本到現(xiàn)在2周一個版本射沟。主動尋求變化秽誊,讓我們永遠不被用戶拋棄。

用戶數(shù)據(jù)翻斟,在快速迭代中變得至關重要匿垄。從早期的沒有數(shù)據(jù)嚣州,或只收集用戶系統(tǒng)崩潰數(shù)據(jù)亿乳,到現(xiàn)在開發(fā)了 Autodesk 自己的基于 Spark 的大數(shù)據(jù)平臺 ADP(Autodesk Data Platform)。數(shù)據(jù)在 Autodesk 驅動著商業(yè)決策径筏,改變著整個公司的運作習慣葛假。

本人工作在 Autodesk Fusion 360 產品線,和團隊一起從零開始開發(fā)了數(shù)據(jù)可視化平臺 QMetrix滋恬。目前 QMetrix 開放平臺已經在 Autodesk 內部逐漸發(fā)展壯大聊训,正吸引著越來越多的產品線加入我們一起開發(fā),以各種方式展現(xiàn)自己產品的數(shù)據(jù)做深入的分析恢氯。迄今為止 QMetrix 已經直接對接了公司內部和外部的多種數(shù)據(jù)來源带斑,如 JIRA、TFS勋拟、ADP勋磕,CER,Git敢靡,GA挂滓、Denodo、Splunk 等啸胧。同時赶站,QMetrix 和舊金山的大數(shù)據(jù)團隊緊密合作,開發(fā)開放了更加通用的 V2 平臺纺念,并在 V2 統(tǒng)一展現(xiàn)了公司各產品線關鍵數(shù)據(jù)贝椿,在全球 22 個辦公室的大屏幕滾動播放。

這次的分享也涉及 QMetrix 背后的技術架構陷谱,等等烙博,大量干貨。


最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市习勤,隨后出現(xiàn)的幾起案子踪栋,更是在濱河造成了極大的恐慌,老刑警劉巖图毕,帶你破解...
    沈念sama閱讀 218,546評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件夷都,死亡現(xiàn)場離奇詭異,居然都是意外死亡予颤,警方通過查閱死者的電腦和手機囤官,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,224評論 3 395
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來蛤虐,“玉大人党饮,你說我怎么就攤上這事〔低ィ” “怎么了刑顺?”我有些...
    開封第一講書人閱讀 164,911評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長饲常。 經常有香客問我蹲堂,道長,這世上最難降的妖魔是什么贝淤? 我笑而不...
    開封第一講書人閱讀 58,737評論 1 294
  • 正文 為了忘掉前任柒竞,我火速辦了婚禮,結果婚禮上播聪,老公的妹妹穿的比我還像新娘朽基。我一直安慰自己,他們只是感情好离陶,可當我...
    茶點故事閱讀 67,753評論 6 392
  • 文/花漫 我一把揭開白布稼虎。 她就那樣靜靜地躺著,像睡著了一般招刨。 火紅的嫁衣襯著肌膚如雪渡蜻。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,598評論 1 305
  • 那天计济,我揣著相機與錄音茸苇,去河邊找鬼。 笑死沦寂,一個胖子當著我的面吹牛学密,可吹牛的內容都是我干的。 我是一名探鬼主播传藏,決...
    沈念sama閱讀 40,338評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼腻暮,長吁一口氣:“原來是場噩夢啊……” “哼彤守!你這毒婦竟也來了?” 一聲冷哼從身側響起哭靖,我...
    開封第一講書人閱讀 39,249評論 0 276
  • 序言:老撾萬榮一對情侶失蹤具垫,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后试幽,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體筝蚕,經...
    沈念sama閱讀 45,696評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,888評論 3 336
  • 正文 我和宋清朗相戀三年铺坞,在試婚紗的時候發(fā)現(xiàn)自己被綠了起宽。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,013評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡济榨,死狀恐怖坯沪,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情擒滑,我是刑警寧澤腐晾,帶...
    沈念sama閱讀 35,731評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站丐一,受9級特大地震影響赴魁,放射性物質發(fā)生泄漏。R本人自食惡果不足惜钝诚,卻給世界環(huán)境...
    茶點故事閱讀 41,348評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望榄棵。 院中可真熱鬧凝颇,春花似錦、人聲如沸疹鳄。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,929評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽瘪弓。三九已至垫蛆,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間腺怯,已是汗流浹背袱饭。 一陣腳步聲響...
    開封第一講書人閱讀 33,048評論 1 270
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留呛占,地道東北人虑乖。 一個月前我還...
    沈念sama閱讀 48,203評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像晾虑,于是被迫代替她去往敵國和親疹味。 傳聞我的和親對象是個殘疾皇子仅叫,可洞房花燭夜當晚...
    茶點故事閱讀 44,960評論 2 355

推薦閱讀更多精彩內容