大數(shù)據(jù)包含太多東西了空盼，從數(shù)據(jù)倉庫蒋搜、hadoop束倍、hdfs蔚晨、hive到spark、kafka等咖杂，每個(gè)要詳細(xì)的說都會(huì)要很久的庆寺，所以我不認(rèn)為這里面有一個(gè)答案是合理的。

還是得根據(jù)自己的職業(yè)規(guī)劃來诉字，畢竟成為大數(shù)據(jù)架構(gòu)師懦尝，需要很長(zhǎng)很長(zhǎng)的一段時(shí)間。

需要涉及到的東西有很多壤圃，有些答主隨便寫了一點(diǎn)所謂的“路線”和“心得”陵霉，就想來求贊？

帆軟君今天就來說說伍绳，學(xué)習(xí)大數(shù)據(jù)之前踊挠，你不得先了解了解核心技術(shù)？

簡(jiǎn)單來說，從大數(shù)據(jù)的生命周期來看效床，無外乎四個(gè)方面：大數(shù)據(jù)采集睹酌、大數(shù)據(jù)預(yù)處理、大數(shù)據(jù)存儲(chǔ)剩檀、大數(shù)據(jù)分析憋沿，共同組成了大數(shù)據(jù)生命周期里最核心的技術(shù)，下面分開來說：

一沪猴、大數(shù)據(jù)采集

大數(shù)據(jù)采集辐啄，即對(duì)各種來源的結(jié)構(gòu)化和非結(jié)構(gòu)化海量數(shù)據(jù)，所進(jìn)行的采集运嗜。

數(shù)據(jù)庫采集：流行的有Sqoop和ETL壶辜，傳統(tǒng)的關(guān)系型數(shù)據(jù)庫MySQL和Oracle 也依然充當(dāng)著許多企業(yè)的數(shù)據(jù)存儲(chǔ)方式。當(dāng)然了洗出，目前對(duì)于開源的Kettle和Talend本身士复，也集成了大數(shù)據(jù)集成內(nèi)容，可實(shí)現(xiàn)hdfs翩活，hbase和主流Nosq數(shù)據(jù)庫之間的數(shù)據(jù)同步和集成。

image.png

網(wǎng)絡(luò)數(shù)據(jù)采集：一種借助網(wǎng)絡(luò)爬蟲或網(wǎng)站公開API便贵，從網(wǎng)頁獲取非結(jié)構(gòu)化或半結(jié)構(gòu)化數(shù)據(jù)菠镇，并將其統(tǒng)一結(jié)構(gòu)化為本地?cái)?shù)據(jù)的數(shù)據(jù)采集方式。

文件采集：包括實(shí)時(shí)文件采集和處理技術(shù)flume承璃、基于ELK的日志采集和增量采集等等利耍。

二、大數(shù)據(jù)預(yù)處理

大數(shù)據(jù)預(yù)處理盔粹，指的是在進(jìn)行數(shù)據(jù)分析之前隘梨，先對(duì)采集到的原始數(shù)據(jù)所進(jìn)行的諸如“清洗、填補(bǔ)舷嗡、平滑轴猎、合并、規(guī)格化进萄、一致性檢驗(yàn)”等一系列操作捻脖，旨在提高數(shù)據(jù)質(zhì)量，為后期分析工作奠定基礎(chǔ)中鼠。數(shù)據(jù)預(yù)處理主要包括四個(gè)部分：數(shù)據(jù)清理可婶、數(shù)據(jù)集成、數(shù)據(jù)轉(zhuǎn)換援雇、數(shù)據(jù)規(guī)約矛渴。

image.png

image.png

數(shù)據(jù)集成：是指將不同數(shù)據(jù)源中的數(shù)據(jù)桂躏，合并存放到統(tǒng)一數(shù)據(jù)庫的钻趋，存儲(chǔ)方法，著重解決三個(gè)問題：模式匹配剂习、數(shù)據(jù)冗余蛮位、數(shù)據(jù)值沖突檢測(cè)與處理。

image.png

數(shù)據(jù)轉(zhuǎn)換：是指對(duì)所抽取出來的數(shù)據(jù)中存在的不一致鳞绕，進(jìn)行處理的過程失仁。它同時(shí)包含了數(shù)據(jù)清洗的工作，即根據(jù)業(yè)務(wù)規(guī)則對(duì)異常數(shù)據(jù)進(jìn)行清洗们何，以保證后續(xù)分析結(jié)果準(zhǔn)確性萄焦。

image.png

數(shù)據(jù)規(guī)約：是指在最大限度保持?jǐn)?shù)據(jù)原貌的基礎(chǔ)上，最大限度精簡(jiǎn)數(shù)據(jù)量冤竹，以得到較小數(shù)據(jù)集的操作拂封，包括：數(shù)據(jù)方聚集、維規(guī)約鹦蠕、數(shù)據(jù)壓縮冒签、數(shù)值規(guī)約、概念分層等钟病。

三萧恕、大數(shù)據(jù)存儲(chǔ)

大數(shù)據(jù)存儲(chǔ)，指用存儲(chǔ)器肠阱，以數(shù)據(jù)庫的形式票唆，存儲(chǔ)采集到的數(shù)據(jù)的過程，包含三種典型路線：

1屹徘、基于MPP架構(gòu)的新型數(shù)據(jù)庫集群

采用Shared Nothing架構(gòu)走趋，結(jié)合MPP架構(gòu)的高效分布式計(jì)算模式，通過列存儲(chǔ)缘回、粗粒度索引等多項(xiàng)大數(shù)據(jù)處理技術(shù)吆视，重點(diǎn)面向行業(yè)大數(shù)據(jù)所展開的數(shù)據(jù)存儲(chǔ)方式。具有低成本酥宴、高性能啦吧、高擴(kuò)展性等特點(diǎn)，在企業(yè)分析類應(yīng)用領(lǐng)域有著廣泛的應(yīng)用拙寡。

image.png

較之傳統(tǒng)數(shù)據(jù)庫授滓，其基于MPP產(chǎn)品的PB級(jí)數(shù)據(jù)分析能力，有著顯著的優(yōu)越性。自然般堆，MPP數(shù)據(jù)庫在孝，也成為了企業(yè)新一代數(shù)據(jù)倉庫的最佳選擇。

2淮摔、基于Hadoop的技術(shù)擴(kuò)展和封裝

基于Hadoop的技術(shù)擴(kuò)展和封裝私沮，是針對(duì)傳統(tǒng)關(guān)系型數(shù)據(jù)庫難以處理的數(shù)據(jù)和場(chǎng)景（針對(duì)非結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)和計(jì)算等），利用Hadoop開源優(yōu)勢(shì)及相關(guān)特性（善于處理非結(jié)構(gòu)和橙、半結(jié)構(gòu)化數(shù)據(jù)仔燕、復(fù)雜的ETL流程、復(fù)雜的數(shù)據(jù)挖掘和計(jì)算模型等）魔招，衍生出相關(guān)大數(shù)據(jù)技術(shù)的過程晰搀。

image.png

伴隨著技術(shù)進(jìn)步，其應(yīng)用場(chǎng)景也將逐步擴(kuò)大办斑，目前最為典型的應(yīng)用場(chǎng)景：通過擴(kuò)展和封裝 Hadoop來實(shí)現(xiàn)對(duì)互聯(lián)網(wǎng)大數(shù)據(jù)存儲(chǔ)外恕、分析的支撐，其中涉及了幾十種NoSQL技術(shù)乡翅。

3鳞疲、大數(shù)據(jù)一體機(jī)

這是一種專為大數(shù)據(jù)的分析處理而設(shè)計(jì)的軟、硬件結(jié)合的產(chǎn)品蠕蚜。它由一組集成的服務(wù)器建丧、存儲(chǔ)設(shè)備、操作系統(tǒng)波势、數(shù)據(jù)庫管理系統(tǒng)，以及為數(shù)據(jù)查詢橄维、處理尺铣、分析而預(yù)安裝和優(yōu)化的軟件組成，具有良好的穩(wěn)定性和縱向擴(kuò)展性争舞。

四凛忿、大數(shù)據(jù)分析挖掘

從可視化分析、數(shù)據(jù)挖掘算法竞川、預(yù)測(cè)性分析店溢、語義引擎、數(shù)據(jù)質(zhì)量管理等方面委乌，對(duì)雜亂無章的數(shù)據(jù)床牧，進(jìn)行萃取、提煉和分析的過程遭贸。

這里要提一下工具：

FineBI（可選）：

image.png

• 你可以把它視作為可視化工具戈咳，因?yàn)樗锩孀詭资N常用圖表，以及動(dòng)態(tài)效果；
• 你也可以把它作為報(bào)表工具著蛙，因?yàn)樗芙尤敫鞣NOA删铃、ERP、CRM等系統(tǒng)數(shù)據(jù)踏堡，不寫代碼不寫SQL就能批量化做報(bào)表猎唁。
• 你還可以把它看作數(shù)據(jù)分析工具，其內(nèi)置等常見的數(shù)據(jù)分析模型顷蟆、以及各式圖表诫隅，可以借助FineBI做一些探索性的分析。

FineReport（可選）：

image.png

可以直接和數(shù)據(jù)庫交互（數(shù)據(jù)導(dǎo)出+填入數(shù)據(jù)）慕的，能連接各系統(tǒng)的數(shù)據(jù)阎肝，能高效率批量做報(bào)表，展現(xiàn)肮街，交互分析风题，可視化大屏，并做到辦公協(xié)同嫉父，F(xiàn)ineReport無愧是大數(shù)據(jù)報(bào)表領(lǐng)域的佼佼者沛硅。

1、可視化分析

可視化分析绕辖，指借助圖形化手段摇肌，清晰并有效傳達(dá)與溝通信息的分析手段。主要應(yīng)用于海量數(shù)據(jù)關(guān)聯(lián)分析仪际，即借助可視化數(shù)據(jù)分析平臺(tái)围小，對(duì)分散異構(gòu)數(shù)據(jù)進(jìn)行關(guān)聯(lián)分析，并做出完整分析圖表的過程树碱。 具有簡(jiǎn)單明了肯适、清晰直觀、易于接受的特點(diǎn)成榜。

2框舔、數(shù)據(jù)挖掘算法

數(shù)據(jù)挖掘算法，即通過創(chuàng)建數(shù)據(jù)挖掘模型赎婚，而對(duì)數(shù)據(jù)進(jìn)行試探和計(jì)算的刘绣，數(shù)據(jù)分析手段。它是大數(shù)據(jù)分析的理論核心挣输。

數(shù)據(jù)挖掘算法多種多樣纬凤，且不同算法因基于不同的數(shù)據(jù)類型和格式，會(huì)呈現(xiàn)出不同的數(shù)據(jù)特點(diǎn)歧焦。但一般來講移斩，創(chuàng)建模型的過程卻是相似的肚医，即首先分析用戶提供的數(shù)據(jù)，然后針對(duì)特定類型的模式和趨勢(shì)進(jìn)行查找向瓷，并用分析結(jié)果定義創(chuàng)建挖掘模型的最佳參數(shù)肠套，并將這些參數(shù)應(yīng)用于整個(gè)數(shù)據(jù)集，以提取可行模式和詳細(xì)統(tǒng)計(jì)信息猖任。

3你稚、預(yù)測(cè)性分析

預(yù)測(cè)性分析，是大數(shù)據(jù)分析最重要的應(yīng)用領(lǐng)域之一朱躺，通過結(jié)合多種高級(jí)分析功能（特別統(tǒng)計(jì)分析刁赖、預(yù)測(cè)建模、數(shù)據(jù)挖掘长搀、文本分析宇弛、實(shí)體分析、優(yōu)化源请、實(shí)時(shí)評(píng)分枪芒、機(jī)器學(xué)習(xí)等），達(dá)到預(yù)測(cè)不確定事件的目的谁尸。

幫助分用戶析結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)中的趨勢(shì)舅踪、模式和關(guān)系，并運(yùn)用這些指標(biāo)來預(yù)測(cè)將來事件良蛮，為采取措施提供依據(jù)抽碌。

4、語義引擎

語義引擎决瞳，指通過為已有數(shù)據(jù)添加語義的操作货徙，提高用戶互聯(lián)網(wǎng)搜索體驗(yàn)。

5皮胡、數(shù)據(jù)質(zhì)量管理

指對(duì)數(shù)據(jù)全生命周期的每個(gè)階段（計(jì)劃破婆、獲取、存儲(chǔ)胸囱、共享、維護(hù)瀑梗、應(yīng)用烹笔、消亡等）中可能引發(fā)的各類數(shù)據(jù)質(zhì)量問題，進(jìn)行識(shí)別抛丽、度量谤职、監(jiān)控、預(yù)警等操作亿鲜，以提高數(shù)據(jù)質(zhì)量的一系列管理活動(dòng)允蜈。