大數據學習之路

大數據從入門到入土

　　語言基礎：java(Java se,javaweb)

　　Linux 基礎：Linux(shell,高併發架構,lucene,solr)

　　框架學習：Hadoop(Hadoop,HDFS,Mapreduce,yarn,hive,hbase,sqoop,zookeeper,flume)

　　機器學習(R,mahout)

　　Storm(Storm,kafka,redis)

　　Spark(scala,spark,spark core,spark sql,spark streaming,spark mllib,spark graphx)

　　Python(python,spark python)

　　雲計算平臺(docker,kvm,openstack)

　　名詞解釋

　　對於小白學習大數據須要注意的點有不少，但不管如何，既然你選擇了進入大數據行業，那麼便只顧風雨兼程。正所謂不忘初心、方得始終，學習大數據你最須要的仍是一顆鍥而不捨的心。

　　1、Linux

　　lucene： 全文檢索引擎的架構

　　solr： 基於lucene的全文搜索服務器，實現了可配置、可擴展並對查詢性能進行了優化，而且提供了一個完善的功能管理界面。

　　今天爲你們整理了部分大數據學習教程與你們共享，每一個人能夠根據本身的須要來選擇，須要的小夥伴能夠+下學習資料分享裙 943加上064最後是644數字連起來就是了。

　　2、Hadoop

　　HDFS： 分佈式存儲系統，包含NameNode，DataNode。NameNode：元數據，DataNode。DataNode：存儲數據。

　　yarn： 能夠理解爲MapReduce的協調機制，本質就是Hadoop的處理分析機制，分爲ResourceManager NodeManager。

　　MapReduce： 軟件框架，編寫程序。

　　Hive： 數據倉庫 能夠用SQL查詢，能夠運行Map/Reduce程序。用來計算趨勢或者網站日誌，不該用於實時查詢，須要很長時間返回結果。

　　HBase： 數據庫。很是適合用來作大數據的實時查詢。Facebook用Hbase存儲消息數據並進行消息實時的分析

　　ZooKeeper： 針對大型分佈式的可靠性協調系統。Hadoop的分佈式同步等靠Zookeeper實現，例如多個NameNode，active standby切換。

　　Sqoop： 數據庫相互轉移，關係型數據庫和HDFS相互轉移

　　Mahout： 可擴展的機器學習和數據挖掘庫。用來作推薦挖掘，彙集，分類，頻繁項集挖掘。

　　Chukwa： 開源收集系統，監視大型分佈式系統，創建在HDFS和Map/Reduce框架之上。顯示、監視、分析結果。

　　Ambari： 用於配置、管理和監視Hadoop集羣，基於Web，界面友好。

　　2、Cloudera

　　Cloudera Manager： 管理 監控 診斷 集成

　　Cloudera CDH：(Cloudera's Distribution，including Apache Hadoop) Cloudera對Hadoop作了相應的改變，發行版本稱爲CDH。

　　Cloudera Flume： 日誌收集系統，支持在日誌系統中定製各種數據發送方，用來收集數據。

　　Cloudera Impala： 對存儲在Apache Hadoop的HDFS，HBase的數據提供直接查詢互動的SQL。

　　Cloudera hue： web管理器，包括hue ui，hui server，hui db。hue提供全部CDH組件的shell界面的接口，能夠在hue編寫mr。

　　3、機器學習/R

　　R： 用於統計分析、繪圖的語言和操做環境，目前有Hadoop-R

　　mahout： 提供可擴展的機器學習領域經典算法的實現，包括聚類、分類、推薦過濾、頻繁子項挖掘等，且可經過Hadoop擴展到雲中。

　　4、storm

　　Storm： 分佈式，容錯的實時流式計算系統，能夠用做實時分析，在線機器學習，信息流處理，連續性計算，分佈式RPC，實時處理消息並更新數據庫。

　　Kafka： 高吞吐量的分佈式發佈訂閱消息系統，能夠處理消費者規模的網站中的全部動做流數據（瀏覽，搜索等）。相對Hadoop的日誌數據和離線分析，能夠實現實時處理。目前經過Hadoop的並行加載機制來統一線上和離線的消息處理

　　Redis： 由c語言編寫，支持網絡、可基於內存亦可持久化的日誌型、key-value型數據庫。

　　5、Spark

　　Scala： 一種相似java的徹底面向對象的編程語言。

　　jblas： 一個快速的線性代數庫（JAVA）。基於BLAS與LAPACK，矩陣計算實際的行業標準，並使用先進的基礎設施等全部的計算程序的ATLAS藝術的實現，使其很是快。

　　Spark： Spark是在Scala語言中實現的相似於Hadoop MapReduce的通用並行框架，除了Hadoop MapReduce所具備的優勢，但不一樣於MapReduce的是job中間輸出結果能夠保存在內存中，從而不須要讀寫HDFS，所以Spark能更好的適用於數據挖掘與機器學習等須要迭代的MapReduce算法。能夠和Hadoop文件系統並行運做，用過Mesos的第三方集羣框架能夠支持此行爲。

　　Spark SQL： 做爲Apache Spark大數據框架的一部分,可用於結構化數據處理並能夠執行相似SQL的Spark數據查詢

　　Spark Streaming：一種構建在Spark上的實時計算框架，擴展了Spark處理大數據流式數據的能力。

　　Spark MLlib： MLlib是Spark是經常使用的機器學習算法的實現庫，目前(2014.05)支持二元分類，迴歸，聚類以及協同過濾。同時也包括一個底層的梯度降低優化基礎算法。MLlib以來jblas線性代數庫，jblas自己以來遠程的Fortran程序。

　　Spark GraphX： GraphX是Spark中用於圖和圖並行計算的API，能夠在Spark之上提供一站式數據解決方案，能夠方便且高效地完成圖計算的一整套流水做業。

　　Fortran： 最先出現的計算機高級程序設計語言，普遍應用於科學和工程計算領域。

　　BLAS： 基礎線性代數子程序庫，擁有大量已經編寫好的關於線性代數運算的程序。

　　LAPACK： 著名的公開軟件，包含了求解科學與工程計算中最多見的數值線性代數問題，如求解線性方程組、線性最小二乘問題、特徵值問題和奇異值問題等。

　　ATLAS： BLAS線性算法庫的優化版本。

　　Spark Python： Spark是由scala語言編寫的，可是爲了推廣和兼容，提供了java和python接口。

　　6、Python

　　Python: 一種面向對象的、解釋型計算機程序設計語言。

　　7、雲計算平臺

　　Docker： 開源的應用容器引擎

　　kvm： (Keyboard Video Mouse)

　　openstack： 開源的雲計算管理平臺項目

　　以上就是我的關於大數據的學習心得和路線推薦。本片文章對大數據技術棧作了比較狹義的限定，隨着學習的深刻，你們也能夠把 Python 語言、推薦系統、機器學習等逐步加入到本身的大數據技術棧中。