企业空间 采购商城 存储论坛
首页 > Hadoop > 正文

Hadoop全分布模式操作

2014-05-09 00:00来源:中国存储网
导读:摘要:介绍Hadoop全分布模式操作,实现真正意义上的集群架构。关键词:Hadoop 全分布模式 文件配置利用Hadoop解决大数据问题时,我们是用全分布模式来操作Hadoop。如何基于全分布模式来操作Hadoop,构建Hadoop集群呢?具体步骤
Hadoop全分布模式操作

摘要:介绍Hadoop全分布模式操作,实现真正意义上的集群架构。

  关键词:Hadoop 全分布模式 文件配置

利用Hadoop解决大数据问题时,我们是用全分布模式来操作Hadoop。

如何基于全分布模式来操作Hadoop,构建Hadoop集群呢?具体步骤如下。

  第一步:配置hosts文件。

执行命令: vi /etc/hosts,修改所有的节点,使得彼此之间都能把主机名解析为ip,即实现主机名与ip的绑定。

  第二步:建立Hadoop运行账号

在所有节点上都建立运行Hadoop的账号,建议不要使用root账号,因为其权限最大,有时会带来意想不到的麻烦。

  第三步:配置ssh,实现免密码登录

针对每个节点都要进行相同操作

首先,检查是否安装了ssh

依次执行命令:which ssh

which sshd

which ssh-keygen

其次,生成ssh密钥对

执行命令: ssh-keygen -r rsa

最后,分发ssh公钥

把各个节点的authorized_keys的内容互相拷贝加入到对方的此文件中

  第四步:下载并解压Hadoop安装包

  第五步:配置namenode,修改hdfs-site.xml文件

  第六步:配置hadoop-env.sh

说明:以上三步配置可以参照伪分布模式操作Hadoop的配置

  第七步:配置masters和slaves文件

  第八步:向各节点复制Hadoop

  第九步:格式化namenode,启动Hadoop

鉴于作者实验环境和资源有限,目前是基于伪分布模式操作Hadoop。因此,上述关于Hadoop全分布模式的操作,作者目前还没有试验过,仅是通过查阅相关文档和资料,进行的一个步骤归总。若有问题或不足,欢迎读者指正。

原文链接:http://blog.csdn.net/wangloveall/article/details/20767161

继续阅读
关键词 :
Hadoop
中国存储网声明:此文观点不代表本站立场,如有版权疑问请联系我们。
相关阅读
产品推荐
头条阅读
栏目热点

Copyright @ 2006-2019 ChinaStor.COM 版权所有 京ICP备14047533号

中国存储网

存储第一站,存储门户,存储在线交流平台