Hadoop的安裝及一些基本概念解釋

  • 1.準備Linux環境
  • 準備linux環境(通常採用租用雲服務的方式比較方便)
    2.安裝JDk
  • 首先查看是否有java環境 javac
  • apt -get install openjdk-7-jdk 回車,,下載安裝jdk vi /etc/profile 進入系統文件配置jdk環境變量
  • export  JAVA_HOME=/usr/lib/jvm/java-7-openjdk-am64

. export JRE_HOME=$JAVA_HOME/jre export CLASSPATH=$JAVA_HOME/lib;$JRE_HOME/lib:$CLASSPATH export PATH=$JAVA_HOME/lib;$JRE_HOME/bin:$PATHjava

  • :wq . source /tec/profile 使得配置文件生效 . Javac 查看是否安裝成功 3.配置Hadoop配置文件
  • (1).下載 -. 安裝hadoop
  • . 手動下載並安裝hadoop,因爲庫裏面沒有該文件,須要使用wget命令
  • . wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-1.2.1/hadoop-1.2.1.tar.gz -. 在當前目錄下面查看是否已下載成功
  • . mv hadoop-1.2.1.tar.gz /opt/ 將hadoop壓縮包複製到opt目錄下面
  • tar -zxvf hadoop-1.2.1.tar.gz 解壓縮
  • . 配置文件在conf文件下(有四個文件)
  • . ①vi hadoop-env.sh 裏面須要配置java jdk路徑
  • . echo $JAVA_HOME
  • . ②vi core-site.xml文件
  • . 配置三個屬性
  • . <property> 配置hadoop工做目錄
  • <name>hadoop.tmp.dir</name>
  • . <value>/hadoop</value>默認在/hadoop下面
  • . </property>
  • .
  • . <property> 配置namenode目錄
  • . . <name>dfs.name.dir</name>
  • . <value>/hadoop/name</value>
  • . </property>
  • .
  • . <property> 文件系統該如何訪問*
  • . <name>dfs.default.name</name>
  • . <value>hdfs://localhost:9000</value>域名/端口號
  • . . </property>
  • . .
  • . ③vi hdfs-site.xml
  • . 配置文件系統數據的存放目錄
  • . . <property>
  • . <name>dfs.data.dir</name>
  • . . <value>/hadoop/data</value>
  • . </property>
  • . ④vi mapred-site.xml 配置任務調用器該如何去訪問
  • . <property>
  • . <name>mapred.job.tracker</name>
  • . . <value>主機:端口號</value>
  • . </property>
  • . vi /ect/profile 配置hadoop環境變量(跟java同樣)
  • . export HADOOP_HOME=/opt/hadoop-1.2.1
  • export PATH=$HADOOP_HOME/bin
  • . source /etc/profile市配置文件生效
  • . 輸入hadoop 查看是否配置成功
  • . 在執行hadoop以前須要對namenode進行格式化
  • . hadoop namenode -format
  • . 格式化後執行 start-all.sh命令
  • . 使用jps命令 查看當前運行的那些java進程
  • . hadoop fs -ls 下面有那些文件
  • . 2、hadoop基本概念
  • . HDFS 和MapReduce
  • . 未完待續。。。。
相關文章
相關標籤/搜索