Hadoop集群搭建过程中相关环境配置详解

开发 架构 Hadoop
在学习Hadoop搭建的过程中,你可能经常遇到Hadoop集群搭建问题,这里就像大家介绍一下Hadoop集群搭建的方法,欢迎大家一起来学习。

本节向大家介绍一下Hadoop集群搭建的具体步骤,本节主要内容有系统配置和Hadoop文件配置等,相信通过本节的介绍大家对Hadoop集群搭建有一定的认识,让我们一起来学习吧。
下面是Hadoop集群搭建具体介绍。

Hadoop集群搭建

一、Linux系统配置

1、在所有的机器上都建立相同的目录,也可以就建立相同的用户,以该用户的home路径来做hadoop的安装路径。例如在所有的机器上都建立了名为fan的用户:/home/fan。

2、Etc/hosts文件末尾添加IP-主机映射关系,例如:

192.168.146.161fan001
192.168.146.162fan002
192.168.146.163fan003
192.168.146.164fan004

二、Hadoop集群搭建时RedHat中jdk的卸载和安装

(一)jdk1.4卸载

由于redhatEnterprise5中自带安装了jdk1.4的,所以在安装jdk1.6前我把jdk1.4的卸了,步骤如下:

1、打开终端输入#rpm-qa|grepgcj,其现实内容有:
java-1.4.2-gci-compat.........
java-1.4.2-gcj-compat-devel.....(具体忘了是什么了,反正有两个java开头的文件)

2、卸载
#rpm-e--nodepsjava-1.4.2-gci...(利用rpm-e--nodeps命令删除上面查找的内容)此时jdk1.4已被卸了。

(二)jdk1.6安装

1.从网站上下载jdk1.6包(jdk-6u18-ea-bin-b04-linux-i586-28_oct_2009.bin),放到/usr目录下。

2.在linux中切换到/usr目录下,修改jdk1.6的使用权限:
#chmodu+xjdk-6u18-ea-bin-b04-linux-i586-28_oct_2009.bin

3.解压并安装:#./jdk-6u10-linux-i586-rpm.bin(默认安装在/usr/java中)可按ctrl+c跳过提示

4.Hadoop集群搭建中jdk1.6安装环境变量配置:

文件目录:/etc/profile
在该profile文件中添加:
JAVA_HOME=/usr/java/jdk1.6.0_10
JRE_HOME=/usr/java/jdk1.6.0_10/jre
PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/binCLASSPATH=.:$JAVA_HOME/lib/jt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib(注意:前面的.:,linux中的;号为:号)
exportJAVA_HOMEJRE_HOMEPATHCLASSPATH

添加完毕保存退出
#source/etc/profile
#java-version
显示javaversion"1.6.0_10"(jdk1.6安装成功)

5、卸载rpm版的jdk:(未使用)
#rpm-qa|grepjdk
显示:jdk-1.6.0_10-fcs
卸载:#rpm-e--nodepsjdk-1.6.0_10-fcs

三、配置Hadoop

看一下Hadoop集群搭建中关于Hadoop的配置。首先下载Hadoop,解压到Master上,放到用户根目录下。这里我是下载的0.19.2的版本。此时Hadoop的安装路径就是/home/fan/hadoop-0.19.2。然后修改Hadoop配置文件,解压后进入conf目录,主要需要修改以下文件:hadoop-env.sh,hadoop-site.xml、masters、slaves。

1、修改conf/hadoop-env.sh,添加jdk支持exportJAVA_HOME=/usr/jdk1.6.0_18

2、修改hadoop目录下的conf/site-site.xml文件。

3、masters增加:
fan001
slaves增加:
fan002
fan003
fan004,本节关于Hadoop集群搭建介绍没有结束,请继续关注。

【编辑推荐】

  1. 技术分享 Hadoop集群搭建方法
  2. Hadoop安装与使用如何进行?
  3. 专家讲解 Hadoop:HBASE松散数据存储设计
  4. 两种模式运行Hadoop分布式并行程序
  5. Hadoop应用之Hadoop安装篇
责任编辑:佚名 来源: csdn.net
相关推荐

2010-06-04 17:03:17

实现Hadoop

2012-11-01 17:15:04

2010-01-04 18:25:24

Ubuntu Auda

2022-10-14 15:44:03

大数据Hadoop

2016-10-27 09:37:10

Hadoop集群配置

2011-12-07 16:11:50

Hadoop集群搭建

2011-05-03 10:31:59

喷墨打印机注墨误区

2010-01-04 15:27:45

Silverlight

2009-05-15 09:33:52

开发线程冲突lock

2012-09-13 13:26:40

Hadoop集群

2011-06-29 10:18:20

LINUX QT ARM

2011-08-30 16:32:41

MTK开发环境

2010-04-30 14:22:43

Oracle通过

2010-06-07 16:51:06

rsync 使用

2014-09-04 09:35:17

2015-05-06 13:34:14

MySQL集群搭建

2021-03-16 11:10:37

Redis数据库命令

2010-06-03 19:02:31

Hadoop集群搭建

2010-06-04 18:17:50

Hadoop集群

2010-11-12 09:44:59

Cassandra配置
点赞
收藏

51CTO技术栈公众号