hadoop2.2入门初步-hadoop2.x系列学习笔记一

2019-03-13 23:12|来源: 书生

由于工作的原因,这个季度必须认真学习hadoop2.2了,自己的个人时间不是很多,学一点分享一点.


1.下载hadoop 2.2

下载地址:http://www.apache.org/dyn/closer.cgi/hadoop/common/

2.2的下载地址:http://mirrors.cnnic.cn/apache/hadoop/common/hadoop-2.2.0/


我这里下载的是hadoop-2.2.0.tar.gz,我放在/data/soft目录下


[hadoop@master soft]$ ls hadoop-2.2.0.tar.gz

hadoop-2.2.0.tar.gz


解压:

[hadoop@master soft]$ tar -zxvf hadoop-2.2.0.tar.gz


创建软链接,hadoop指向hadoop-2.2.0,方便版本升级或者其他操作

[hadoop@master soft]$ ln -s hadoop-2.2.0 hadoop

[hadoop@master soft]$ ll

总用量 56

......

lrwxrwxrwx.  1 hadoop hadoop    12 8月  13 23:08 hadoop -> hadoop-2.2.0

......


晚了,具体的配置下节再说


相关问答

更多
  • 1.jpg 下面以hadoop2.4.0为例:路径的位置都是一样的我们解压之后会有hadoop2.4.0文件夹,我们进入如下路径:hadoop2.4.0->share->doc->hadoop->API,然后找到Index.html。我们会看到图8所示。这样我们就找到了相关API。 图7
  • bg4.png 这里面有很多事情,hadoop已经不再是单个系统,hadoop是一个家族,对于有些比较小的公司,可能只用hive或则hbase甚至mapreduce,但是面对大多数公司,特别是找工作,要求的还是比较全的,像hadoop、hbase、hive这些是必须的所以可以进一步学习hbase及hive 初步学习的话,可以参考 hadoop2.2+hbase0.96+hive0.12安装整合详细高可靠文档及经验总结 零基础学习hadoop到上手工作线路指导(编程篇) 如果这些都没有问题,可以参考 abou ...
  • 下面以hadoop2.4.0为例:路径的位置都是一样的 我们解压之后会有hadoop2.4.0文件夹,我们进入如下路径: hadoop2.4.0->share->doc->hadoop->API,然后找到Index.html。这样我们就找到了相关API。
  • 工具/原料 linux系统(本篇使用的是CentOS v6.5) Hadoop安装包(本篇使用的是hadoop v2.6.0) 环境要求 1 需要安装JDK6.0以上版本(可自行解压安装或使用自带的软件安装包,如yum) 2 需要无密码登录的SSH环境(安装ssh及sshd,具体配置步骤在后面介绍) END 安装/配置 步骤 1 配置hosts文件,将主机名和对应IP地址映射。如图中Master、Slave1和Slave2是我们要搭建分布式环境的机器。Master为主机,Slavex为从机。 2 配置SSH ...
  • mapreduce 由于现在大家都接触的是hadoop2.x。对于hadoop1.x了解还是比较少的。 很多人问,如果没有1.x的基础,能否学习hadoop2.x。答案是可以的。但是如果了解hadoop1.x有助于我们理解hadoop2.x。 我们来看看hadoop1.x存在哪些问题? hadoop有jobtracker,trasktracker.对于jobtracker,trasktracker刚接触其实还是比较抽象的。可能多次遇到过。但是对于它的认识和理解还是比较模糊。 我们这里打个比喻:在一个组织结构 ...
  • Hadoop权威指南(第2版) Hadoop硬实战 Hadoop实战 Hadoop技术内幕:深入解析MapReduce架构设计与实现原理 [Hadoop Internals:in-depth study of MapReduce]
  • 部署步骤 序号 操作 1 配置SSH无密码登陆 2 配置环境变量JAVA(必须),MAVEN,ANT 3 配置Hadoop环境变量 4 配置core-site.xml文件 5 配置hdfs-site.xml文件 6 配置mapred-site.xml文件 7 配置yarn-site.xml文件 8 配置slaves文件 9 分发到从机上 10 在每台机器上格式化namenode 11 启动集群sbin/start-all.sh 12 执行jps命令,查询master与slave的java进程 13 测试页面 ...
  • 你参考下这个吧eclipse中开发Hadoop2.x的Map/Reduce项目汇总
  • 嗨@xiaomo当你说“似乎所有的地图任务都在同一时间运行”时我真的不明白你想要什么? 你可以再详细一点吗? 粘贴您的工作流程的完整日志? 我猜你想要在每个节点中使用2张地图。 如果你只在集群上运行一个作业,我不认为这个问题会发生。 但是,如果您在集群中运行了2个作业,并且mapreduce.tasktracker.map.tasks.maximum设置为2,那么每个节点将运行2个映射,每个作业一个。 Hi @xiaomo I dont really understand when you said "it ...
  • 有一些活跃的发布系列。 1.x版本系列是0.20版本系列的延续。 在0.23释放后几周,0.20分支(以前称为0.20.205)重新编号为1.0。 在0.20.205和1.0之间几乎没有功能差异。 这只是一个重新编号。 0.23包括几个主要的新功能,包括一个名为MapReduce 2的新MapReduce运行时,它在一个名为YARN(Yet Another Resource Negotiator)的新系统上实现,它是一个用于运行分布式应用程序的通用资源管理系统。 同样,2.x版本是0.23版本系列的延续。 ...