Airbnb開源數(shù)據(jù)探查與可視化平臺Caravel - IT經理網(wǎng)
http://www.ctocio.com/ccnews/20665.html
一站式用戶自助數(shù)據(jù)接入與分析平臺 – lxw的大數(shù)據(jù)田地
http://lxw1234.com/archives/2016/07/701.htm
華揚數(shù)據(jù)自助分析系統(tǒng)V1.0 – lxw的大數(shù)據(jù)田地
http://lxw1234.com/archives/2016/10/754.htm
V1.0版本前端基于Caravel改造,查詢模型數(shù)據(jù)使用的OLAP引擎有三種:Kylin怜校、Hive+SparkSQL以及MySQL间影;
其中,對于事實表數(shù)據(jù)量非常星炎隆(<5萬)的模型魂贬,直接保存在MySQL中,供前端分析查詢使用裙顽;對于數(shù)據(jù)量中等(>5萬付燥,<100萬)的模型,默認使用Hive+SparkSQL來查詢分析愈犹;對于數(shù)據(jù)量較大(>100萬)的模型键科,在Kylin中建立Cube闻丑,供前端分析查詢使用;
設計該系統(tǒng)的主要目的一是為了使產品、運營勋颖、數(shù)據(jù)分析同事能快捷方便靈活的管理和分析自己的數(shù)據(jù)嗦嗡,而不用依賴開發(fā)資源;
二是為了減少數(shù)據(jù)開發(fā)人員的臨時數(shù)據(jù)任務饭玲,做過數(shù)據(jù)開發(fā)的同學應該深有體會侥祭,很多時間都被臨時取數(shù)給占掉了簇秒。
大數(shù)據(jù)可視化在 Autodesk 的實踐 | 全球軟件開發(fā)大會上海站2016
http://2016.qconshanghai.com/presentation/3019?utm_source=infoq&utm_medium=vcrbox
隨著 Autodesk 逐漸從傳統(tǒng)桌面產品向云計算轉變经瓷,產品的迭代發(fā)布周期從以前的一年一個版本到現(xiàn)在2周一個版本射沟。主動尋求變化秽誊,讓我們永遠不被用戶拋棄。
用戶數(shù)據(jù)翻斟,在快速迭代中變得至關重要匿垄。從早期的沒有數(shù)據(jù)嚣州,或只收集用戶系統(tǒng)崩潰數(shù)據(jù)亿乳,到現(xiàn)在開發(fā)了 Autodesk 自己的基于 Spark 的大數(shù)據(jù)平臺 ADP(Autodesk Data Platform)。數(shù)據(jù)在 Autodesk 驅動著商業(yè)決策径筏,改變著整個公司的運作習慣葛假。
本人工作在 Autodesk Fusion 360 產品線,和團隊一起從零開始開發(fā)了數(shù)據(jù)可視化平臺 QMetrix滋恬。目前 QMetrix 開放平臺已經在 Autodesk 內部逐漸發(fā)展壯大聊训,正吸引著越來越多的產品線加入我們一起開發(fā),以各種方式展現(xiàn)自己產品的數(shù)據(jù)做深入的分析恢氯。迄今為止 QMetrix 已經直接對接了公司內部和外部的多種數(shù)據(jù)來源带斑,如 JIRA、TFS勋拟、ADP勋磕,CER,Git敢靡,GA挂滓、Denodo、Splunk 等啸胧。同時赶站,QMetrix 和舊金山的大數(shù)據(jù)團隊緊密合作,開發(fā)開放了更加通用的 V2 平臺纺念,并在 V2 統(tǒng)一展現(xiàn)了公司各產品線關鍵數(shù)據(jù)贝椿,在全球 22 個辦公室的大屏幕滾動播放。
這次的分享也涉及 QMetrix 背后的技術架構陷谱,等等烙博,大量干貨。