在大數(shù)據(jù)和數(shù)據(jù)科學領域结缚,Python幾乎是萬能的,任何集群架構軟件都支持Python褪测,Python也有很豐富的數(shù)據(jù)科學庫,所以Python不得不學潦刃。
關鍵詞:?數(shù)據(jù)分析
大數(shù)據(jù)學習群:716581014
首先我們要學習Python語言和Linux操作系統(tǒng)侮措,這兩個是學習大數(shù)據(jù)的基礎,學習的順序不分前后乖杠。
Python:Python 的排名從去年開始就借助人工智能持續(xù)上升分扎,現(xiàn)在它已經(jīng)成為了語言排行第一名。
從學習難易度來看胧洒,作為一個為“優(yōu)雅”而生的語言畏吓,Python語法簡捷而清晰,對底層做了很好的封裝卫漫,是一種很容易上手的高級語言菲饼。在一些習慣于底層程序開發(fā)的“硬核”程序員眼里,Python簡直就是一種“偽代碼”列赎。
在大數(shù)據(jù)和數(shù)據(jù)科學領域宏悦,Python幾乎是萬能的,任何集群架構軟件都支持Python包吝,Python也有很豐富的數(shù)據(jù)科學庫饼煞,所以Python不得不學。
Linux:因為大數(shù)據(jù)相關軟件都是在Linux上運行的诗越,所以Linux要學習的扎實一些部凑,學好Linux對你快速掌握大數(shù)據(jù)相關技術會有很大的幫助,能讓你更好的理解hadoop雕沉、hive、hbase储矩、spark等大數(shù)據(jù)軟件的運行環(huán)境和網(wǎng)絡環(huán)境配置,能少踩很多坑褂乍,學會shell就能看懂腳本這樣能更容易理解和配置大數(shù)據(jù)集群持隧。還能讓你對以后新出的大數(shù)據(jù)技術學習起來更快。
好說完基礎了逃片,再說說還需要學習哪些大數(shù)據(jù)技術屡拨,可以按我寫的順序學下去。
Hadoop:這是現(xiàn)在流行的大數(shù)據(jù)處理平臺幾乎已經(jīng)成為大數(shù)據(jù)的代名詞褥实,所以這個是必學的呀狼。
Hadoop里面包括幾個組件HDFS、MapReduce和YARN损离,HDFS是存儲數(shù)據(jù)的地方就像我們電腦的硬盤一樣文件都存儲在這個上面哥艇,MapReduce是對數(shù)據(jù)進行處理計算的,它有個特點就是不管多大的數(shù)據(jù)只要給它時間它就能把數(shù)據(jù)跑完僻澎,但是時間可能不是很快所以它叫數(shù)據(jù)的批處理貌踏。
YARN是體現(xiàn)Hadoop平臺概念的重要組件有了它大數(shù)據(jù)生態(tài)體系的其它軟件就能在hadoop上運行了,這樣就能更好的利用HDFS大存儲的優(yōu)勢和節(jié)省更多的資源比如我們就不用再單獨建一個spark的集群了窟勃,讓它直接跑在現(xiàn)有的hadoop yarn上面就可以了祖乳。
其實把Hadoop的這些組件學明白你就能做大數(shù)據(jù)的處理了,只不過你現(xiàn)在還可能對”大數(shù)據(jù)”到底有多大還沒有個太清楚的概念秉氧,聽我的別糾結這個眷昆。
等以后你工作了就會有很多場景遇到幾十T/幾百T大規(guī)模的數(shù)據(jù),到時候你就不會覺得數(shù)據(jù)大真好汁咏,越大越有你頭疼的亚斋。
當然別怕處理這么大規(guī)模的數(shù)據(jù),因為這是你的價值所在攘滩,讓那些個搞Javaee的php的html5的和DBA的羨慕去吧伞访。
第一階段學習結束,掌握上述知識轰驳,就可以從事大數(shù)據(jù)方面的工作了厚掷。
Zookeeper:這是個萬金油,安裝Hadoop的HA的時候就會用到它级解,以后的Hbase也會用到它冒黑。
它一般用來存放一些相互協(xié)作的信息,這些信息比較小一般不會超過1M勤哗,都是使用它的軟件對它有依賴抡爹,對于我們個人來講只需要把它安裝正確,讓它正常的run起來就可以了芒划。
Mysql:我們學習完大數(shù)據(jù)的處理了冬竟,接下來學習學習小數(shù)據(jù)的處理工具mysql數(shù)據(jù)庫欧穴,因為一會裝hive的時候要用到,mysql需要掌握到什么層度那?
你能在Linux上把它安裝好泵殴,運行起來涮帘,會配置簡單的權限,修改root的密碼笑诅,創(chuàng)建數(shù)據(jù)庫调缨。
這里主要的是學習SQL的語法,因為hive的語法和這個非常相似吆你。
Sqoop:這個是用于把Mysql里的數(shù)據(jù)導入到Hadoop里的弦叶。
當然你也可以不用這個,直接把Mysql數(shù)據(jù)表導出成文件再放到HDFS上也是一樣的妇多,當然生產(chǎn)環(huán)境中使用要注意Mysql的壓力伤哺。
Hive:這個東西對于會SQL語法的來說就是神器,它能讓你處理大數(shù)據(jù)變的很簡單者祖,不會再費勁的編寫MapReduce程序默责。
有的人說Pig那?它和Pig差不多掌握一個就可以了。
Oozie:既然學會Hive了咸包,我相信你一定需要這個東西,它可以幫你管理你的Hive或者MapReduce杖虾、Spark腳本烂瘫,還能檢查你的程序是否執(zhí)行正確,出錯了給你發(fā)報警并能幫你重試程序奇适,最重要的是還能幫你配置任務的依賴關系坟比。
我相信你一定會喜歡上它的,不然你看著那一大堆腳本嚷往,和密密麻麻的crond是不是有種想屎的感覺葛账。
第二階段學習結束,如果能全部掌握皮仁,你就是專業(yè)的大數(shù)據(jù)開發(fā)工程師了籍琳。
后續(xù)提高:大數(shù)據(jù)結合人工智能達到真正的數(shù)據(jù)科學家,打通了數(shù)據(jù)科學的任督二脈贷祈,在公司是技術專家級別趋急,這時候月薪再次翻倍且成為公司核心骨干。
機器學習(Machine Learning, ML):是一門多領域交叉學科势誊,涉及概率論呜达、統(tǒng)計學、逼近論粟耻、凸分析查近、算法復雜度理論等多門學科眉踱。它是人工智能的核心,是使計算機具有智能的根本途徑霜威,其應用遍及人工智能的各個領域谈喳,它主要使用歸納、綜合而不是演繹侥祭。機器學習的算法基本比較固定了叁执,學習起來相對容易。
深度學習(Deep Learning, DL):深度學習的概念源于人工神經(jīng)網(wǎng)絡的研究矮冬,最近幾年發(fā)展迅猛谈宛。深度學習應用的實例有AlphaGo、人臉識別胎署、圖像檢測等吆录。是國內(nèi)外稀缺人才,但是深度學習相對比較難琼牧,算法更新也比較快恢筝,需要跟隨有經(jīng)驗的老師學習。
第三階段是理想狀態(tài)巨坊,算是終極目標吧撬槽。畢竟技術一直在進步,誰也無法預測大數(shù)據(jù)以后的發(fā)展趾撵。