你好,游客 登录 注册 搜索
背景:
阅读新闻

hadoop集群环境搭建

[日期:2013-06-24] 来源:  作者: [字体: ]

  1 hadoop集群规划

  1.1 共有A、B、C 三台机器;

  1.2 A 作为master,B作为slave1,C作为slave2;

  1.3 IP  A :192.168.1.103;B:192.168.1.104;C:192.168.1.101;

  1.4 OS:centos6.2(64bit)

  2 hadoop集群搭建步骤

  2.1 创建 hadoop用户,并使该用户拥有root权限(在master机器上进行)

  #创建hadoop用户

  useradd hadoop

  #给用户hadoop添加密码

  passwd hadoop

  #付给hadoop用户root权限

  vi /etc/passwd  将hadoop用户的用户ID 、组ID 都改为0,如hadoop:x:0:0::/home/hadoop:/bin/bash(记得先切换到root用户哦,其他用户估计对该文件没有权限)

  2.2 切换到hadoop用户,进入hadoop用户主目录(在master机器上进行)

  #切换到hadoop用户

  su hadoop

  根据提示输入密码(如果从普通用户切换到hadoop,需要密码;如果从root用户切换到hadoop,不许要输入密码,也就没有这一步了)

  #进入hadoop的主目录

  cd /home/hadoop

  2.3  安装JDK环境(hadoop是JAVA编写的一个工具,需要使用JDK)(在master机器上进行)

  yum install openjdk*(yum 是centos上的一个安装软件的工具,可以查找软件、删除软件、更新软件等)

  2.4 安装openssh(hadoop节点间通信需要使用到它,并且相对ssh而言,这个是免费的)(在master机器上进行)

  #安装openssh

  yum install openssh*

  #生存ssh密钥

  ssh-keygen -t rsa -P ''

  #进入.ssh文件夹

  cd /root/.ssh

  #将公钥加到认证的公钥文件中

  cat id_rsa.pub>>authorized_keys

  2.5 下载hadoop安装包并进行相应的配置(在master机器上进行)

  #下载hadoop-1.0.4.tar.gz

  #解压hadoop-1.0.4.tar.gz到/home/hadoop

  #hadoop-1.0.4文件夹中的conf文件夹中是我们需要配置的文件(详情见地址)

  http://download.csdn.net/detail/lovemelovemycode/5634581

  2.6 配置hosts和hostname(在master上进行)

  #下载这个文件

  http://download.csdn.net/detail/lovemelovemycode/5634599

  2.7  在slave1和slave2上重复2.1、2.2、2.3的步骤

  2.8 将master上相应的文件copy到slave1\slave2上(在master上进行)

  scp -r .ssh hadoop@slave1:/root

  scp -r .ssh hadoop@slave2:/root

  scp -r /home/hadoop/hadoop-1.0.4 hadoop@slave1:/home/hadoop

  scp -r /home/hadoop/hadoop-1.0.4 hadoop@slave2:/home/hadoop

  scp -r /etc/hosts hadoop@slave1:/etc

  scp -r /etc/hostname hadoop@slave2:/etc

  2.9 关闭 master、slave1、slave2的防火墙

  #暂时关闭防火墙

  /etc/init.d/iptables stop

  #永久关闭防火墙

  chkconfig –level 35 iptables off

  2.10  对namenode\datanode进行格式化(在master上进行)

  bin/hadoop namenode -format

  bin/hadoop datanode -format

  2.11 启动hadoop(在master上进行)

  # 进入hadoop-1.0.4

  bin/start-all.sh

  3 hadoop集群搭建成功的验证方法

  3.1 通过java 的jps命令验证

  http://download.csdn.net/detail/lovemelovemycode/5634649

  3.2 通过http://master:50070    和http://master:50030验证





收藏 推荐 打印 | 录入: | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款