企业空间 采购商城 存储论坛
首页 > Hadoop > 正文

Ubuntu 12.04单机版环境中搭建hadoop详细教程

2016-01-26 12:37:55来源:中存储网
导读: Ubuntu 12.04单机版环境中搭建hadoop详细教程,在Ubuntu下创建hadoop用户组和用,创建hadoop用户。

Ubuntu 12.04单机版环境中搭建hadoop详细教程

一. 你要安装Ubuntu这一步省略;

二. 在Ubuntu下创建hadoop用户组和用户;

1. 创建hadoop用户组:

 sudo addgroup hadoop

如图:

2. 创建hadoop用户:

 sudo adduser -ingroup hadoop hadoop

如图:

3. 给hadoop用户添加权限,打开/etc/sudoers文件:

 sudo gedit /etc/sudoers

按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限。

在root   ALL=(ALL:ALL)   ALL下添加hadoop   ALL=(ALL:ALL)  ALL,

 hadoop  ALL=(ALL:ALL) ALL

如图:

三. 在Ubuntu下安装JDK

使用如下命令执行即可:

 sudo apt-get install openjdk-6-jre

如图:

四. 修改机器名

每当ubuntu安装成功时,我们的机器名都默认为:ubuntu ,但为了以后集群中能够容易分辨各台服务器,需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。

1. 打开/etc/hostname文件:

 sudo gedit /etc/hostname

2. 将/etc/hostname文件中的ubuntu改为你想取的机器名。这里我取"dubin-ubuntu"。 重启系统后才会生效。

五. 安装ssh服务

这里的ssh和三大框架:spring,struts,hibernate没有什么关系,ssh可以实现远程登录和管理,具体可以参考其他相关资料。

安装openssh-server,

 sudo apt-get install ssh openssh-server

这时假设您已经安装好了ssh,您就可以进行第六步了哦~

六、 建立ssh无密码登录本机

首先要转换成hadoop用户,执行以下命令:

 su - hadoop

如图:

ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。

1. 创建ssh-key,,这里我们采用rsa方式:

 ssh-keygen -t rsa -P ""

如图:

(注:回车后会在~/.ssh/下生成两个文件:id_rsa和id_rsa.pub这两个文件是成对出现的)

2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的:

 cd ~/.ssh
cat id_rsa.pub >> authorized_keys

如图:

(完成后就可以无密码登录本机了。)

3. 登录localhost:

 ssh localhost

如图:

( 注:当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本地主机。)

4. 执行退出命令:

 exit

七. 安装hadoop

我们采用的hadoop版本是:hadoop-0.20.203(http://www.apache.org/dyn/closer.cgi/hadoop/common/  ),因为该版本比较稳定。

1. 假设hadoop-0.20.203.tar.gz在桌面,将它复制到安装目录 /usr/local/下:

 sudo cp hadoop-0.20.203.0rc1.tar.gz /usr/local/

2. 解压hadoop-0.20.203.tar.gz:

 cd /usr/local
sudo tar -zxf hadoop-0.20.203.0rc1.tar.gz

3. 将解压出的文件夹改名为hadoop:

 sudo mv hadoop-0.20.203.0 hadoop

4. 将该hadoop文件夹的属主用户设为hadoop:

 sudo chown -R hadoop:hadoop hadoop

5. 打开hadoop/conf/hadoop-env.sh文件:

 sudo gedit hadoop/conf/hadoop-env.sh

6. 配置conf/hadoop-env.sh(找到#export JAVA_HOME=...,去掉#,然后加上本机jdk的路径):

 export JAVA_HOME=/usr/lib/jvm/java-6-openjdk

7. 打开conf/core-site.xml文件:

 sudo gedit hadoop/conf/core-site.xml

编辑如下:

  1. <?xml version="1.0"?> 
  2. <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>                                                                                                         
  3. <!-- Put site-specific property overrides in this file. --> 
  4.                                                            
  5. <configuration> 
  6. <property>    
  7.   <name>fs.default.name</name>    
  8.   <value>hdfs://localhost:9000</value>     
  9.  </property>    
  10. </configuration> 

8. 打开conf/mapred-site.xml文件:

 sudo gedit hadoop/conf/mapred-site.xml

编辑如下:

  1. <?xml version="1.0"?> 
  2. <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>                                                                                                           
  3. <!-- Put site-specific property overrides in this file. -->                                                  
  4.     <configuration>    
  5.      <property>     
  6.       <name>mapred.job.tracker</name>    
  7.       <value>localhost:9001</value>     
  8.      </property>    
  9.     </configuration> 

9. 打开conf/hdfs-site.xml文件:

 sudo gedit hadoop/conf/hdfs-site.xml

编辑如下:

  1. <configuration> 
  2. <property> 
  3. <name>dfs.name.dir</name> 
  4. <value>/usr/local/hadoop/datalog1,/usr/local/hadoop/datalog2</value> 
  5. </property> 
  6. <property> 
  7. <name>dfs.data.dir</name> 
  8. <value>/usr/local/hadoop/data1,/usr/local/hadoop/data2</value> 
  9. </property> 
  10. <property> 
  11. <name>dfs.replication</name> 
  12. <value>2</value> 
  13. </property> 
  14. </configuration> 

10. 打开conf/masters文件,添加作为secondarynamenode的主机名,作为单机版环境,这里只需填写 localhost 就Ok了。

 sudo gedit hadoop/conf/masters

11. 打开conf/slaves文件,添加作为slave的主机名,一行一个。作为单机版,这里也只需填写 localhost就Ok了。

 sudo gedit hadoop/conf/slaves

八. 在单机上运行hadoop

1. 进入hadoop目录下,格式化hdfs文件系统,初次运行hadoop时一定要有该操作,

 cd /usr/local/hadoop/
bin/hadoop namenode -format

2. 当你看到下图时,就说明你的hdfs文件系统格式化成功了。

3. 启动bin/start-all.sh:

 bin/start-all.sh

4. 检测hadoop是否启动成功:

 jps

如果有Namenode,SecondaryNameNode,TaskTracker,DataNode,JobTracker五个进程,就说明你的hadoop单机版环境配置好了!

如下图:

至此,一个hadoop的单机版环境就搭建好了,如果有什么问题,请给我提出来,咱们可以相互交流。

作者杜斌:http://www.db89.org/post/2012-06-03/hadoopdanjihuanjing

继续阅读
关键词 :
Ubuntuhadoop安装
中存储网声明:此文观点不代表本站立场,如有版权疑问请联系我们。
相关阅读
  • 腾讯首届“科学探索奖”50人获奖名单揭晓 9人35岁以下

    今天腾讯2019年“科学探索奖”获奖名单正式向社会公布,50位获奖人每位将在未来5年获得由腾讯基金会资助的300万元人民币奖金。

  • 戴尔科技财报出炉:整体营收利好!传统存储业务除外

    戴尔科技集团在各大业务领域都交出了一份令人满意的2018年第四季度答卷——当然,存储部门除外。没错,EMC的加入让巨头戴尔的存储业务营收同比缩水达11%。

  • 电器巨头美的也有做存储的野心?官方否认

    美的集团对腾讯财经作出回应称,外媒对涉及东芝旗下半导体业务收购消息报道失实,美的集团并未有上述打算。

  • 农业无人机真的好么农民这样说

    曾经在国内火热一时的无人机项目,近日来没了什么消息,似乎有些停滞。倒是国外的无人机项目,又有了新的进展。  最近有消息披露,谷歌正在申请无人机包裹容器专利,准备偷偷的做快递。谷歌的秘密无人机配送项目将包含一个能够安全保存包裹的组件,该公司在

  • 家电巨头加速“机器换人”美的广州建智能化工厂

    在美的空调广州南沙工业园的智能工厂内,最新的空调生产线上,多台工业机器人在智能化水流作业线上有条不紊地工作,众多的智能电板和屏幕显示器正在显示着各项工作指标进度,物料投放车自动在流水线上穿梭,各种传感器自动对各种动作和情形做出最佳判断  这

  • “十三五”信息化应用规划编制建议

    我国正在研究编制信息化应用的第十三个五年规划,即2016到2020年的规划,这是一个具有重大标志性意义的全新规划,将开启未来五年信息化建设的新篇章,需要高度重视。

产品推荐
头条阅读
栏目热点

Copyright @ 2006-2021 ChinaStor.COM 版权所有 京ICP备14047533号

中存储网

存储第一站,存储门户,存储在线交流平台