2. it
  3. hadoop安裝详解

hadoop安裝详解

mac2024-07-03  64

前提：

（1）首先要有三个节点

（2）三个节点都需要安装jdk，hadoop

（3）关闭三台机器的防火墙，并设置永久关闭，关闭selinux

（4）设置三台机器的主机名为node01，node02，node03，并且使主机名和地址相关联

 

一：查看Hadoop压缩后的文件

（当openssl为false时利用yum下载openssl-devel）

二：修改配置文件

     进入 cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop     

（1）修改vim  core-site.xml文件

<configuration>

<property>

<name>fs.defaultFS</name>

<value>hdfs://node01:8020</value>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/tempDatas</value>

</property>

<!--  缓冲区大小，实际工作中根据服务器性能动态调整 -->

<property>

<name>io.file.buffer.size</name>

<value>4096</value>

</property>

 

<!--  开启hdfs的垃圾桶机制，删除掉的数据可以从垃圾桶中回收，单位分钟 -->

<property>

<name>fs.trash.interval</name>

<value>10080</value>

</property>

</configuration>

 

 

（2）修改hdfs-site.xml文件

<configuration>

<!-- NameNode存储元数据信息的路径，实际工作中，一般先确定磁盘的挂载目录，然后多个目录用，进行分割   -->

<!--   集群动态上下线

<property>

<name>dfs.hosts</name>

<value>/export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop/accept_host</value>

</property>

 

<property>

<name>dfs.hosts.exclude</name>

<value>/export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop/deny_host</value>

</property>

 -->

 

 <property>

<name>dfs.namenode.secondary.http-address</name>

<value>node01:50090</value>

</property>

 

<property>

<name>dfs.namenode.http-address</name>

<value>node01:50070</value>

</property>

<property>

<name>dfs.namenode.name.dir</name>

<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/namenodeDatas</value>

</property>

<!--  定义dataNode数据存储的节点位置，实际工作中，一般先确定磁盘的挂载目录，然后多个目录用，进行分割  -->

<property>

<name>dfs.datanode.data.dir</name>

<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/datanodeDatas</value>

</property>

 

<property>

<name>dfs.namenode.edits.dir</name>

<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/edits</value>

</property>

<property>

<name>dfs.namenode.checkpoint.dir</name>

<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/snn/name</value>

</property>

<property>

<name>dfs.namenode.checkpoint.edits.dir</name>

<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/snn/edits</value>

</property>

<property>

<name>dfs.replication</name>

<value>2</value>

</property>

<property>

<name>dfs.permissions</name>

<value>false</value>

</property>

<property>

<name>dfs.blocksize</name>

<value>134217728</value>

</property>

</configuration>

 

 

 

（3）修改hadoop-env.sh​​​​​​​文件

 export JAVA_HOME=/export/servers/jdk1.8.0_144/

 

 

（4）修改mapred-site.xml​​​​​​​​​​​​​​文件

先将mapred-site.xml.template拷贝一份mapred-site.xml在进行修改

<configuration>

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

</property>

 

<property>

<name>mapreduce.job.ubertask.enable</name>

<value>true</value>

</property>

 

<property>

<name>mapreduce.jobhistory.address</name>

<value>node01:10020</value>

</property>

 

<property>

<name>mapreduce.jobhistory.webapp.address</name>

<value>node01:19888</value>

</property>

</configuration>

 

 

（5）修改yarn-site.xml​​​​​​​​​​​​​​文件

<configuration>

<property>

<name>yarn.resourcemanager.hostname</name>

<value>node01</value>

</property>

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>

</configuration>

 

 

（6）修改slaves文件

node01

node02

node03

 

 

三：创建文件存放目录

mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/tempDatas

mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/namenodeDatas

mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/datanodeDatas

mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/edits

mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/snn/name

mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/snn/edits

 

 

 

四：安装包的分发

cd /export/servers/

scp -r hadoop-2.6.0-cdh5.14.0/ node02:$PWD

scp -r hadoop-2.6.0-cdh5.14.0/ node03:$PWD

 

 

五：配置Hadoop的环境变量

vim  /etc/profile.d/hadoop.sh

export HADOOP_HOME=/export/servers/ hadoop-2.6.0-cdh5.14.0

export PATH=$PATH:$HADOOP_HOME/bin

export PATH=$PATH:$HADOOP_HOME/sbin

 

scp   -r   /etc/profile.d/hadoop.sh/     node02：/etc/profile.d/

scp   -r   /etc/profile.d/hadoop.sh/     node03：/etc/profile.d/

 

source   /etc/profile

六：集群启动

bin/hdfs namenode  -format或者bin/Hadoop namenode –format

在/export/servers/hadoop-2.6.0-cdh5.14.0目录下执行

bin/hdfs namenode -format

七：脚本一键启动HDFS、Yarn

node01节点上执行以下命令

第一台机器执行以下命令

cd /export/servers/hadoop-2.6.0-cdh5.14.0/

sbin/start-dfs.sh

sbin/start-yarn.sh

 

停止集群：没事儿不要去停止集群

sbin/stop-dfs.sh

sbin/stop-yarn.sh

 

脚本一键启动所有

sbin/start-all.sh

sbin/stop-all.sh

 

第八步：浏览器查看启动页面

hdfs集群访问地址：  http://192.168.52.100:50070/dfshealth.html#tab-overview  

yarn集群访问地址：  http://192.168.52.100:8088/cluster

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

最新回复(0)