首页 \ 问答 \ hadoop完全分布式安装slave怎么配置

hadoop完全分布式安装slave怎么配置

更新时间:2023-07-09 19:07

最满意答案

Zookeeper 作为一个分布式的服务框架,主要用来解决分布式集群中应用系统的一致性问题,它能提供基于类似于文件系统的目录节点树方式的数据存储,但是 Zookeeper 并不是用来专门存储数据的,它的作用主要是用来维护和监控你存储的数据的状态变化。通过监控这些数据状态的变化,从而可以达到基于数据的集群管理,后面将会详细介绍 Zookeeper 能够解决的一些典型问题,这里先介绍一下,Zookeeper 的操作接口和简单使用示例。

常用接口列表
客户端要连接 Zookeeper 服务器可以通过创建 org.apache.zookeeper. ZooKeeper 的一个实例对象,然后调用这个类提供的接口来和服务器交互。
前面说了 ZooKeeper 主要是用来维护和监控一个目录节点树中存储的数据的状态,所有我们能够操作 ZooKeeper 的也和操作目录节点树大体一样,如创建一个目录节点,给某个目录节点设置数据,获取某个目录节点的所有子目录节点,给某个目录节点设置权限和监控这个目录节点的状态变化。

其他回答

(1)配置管理
集中式的配置管理在应用集群中是非常常见的,一般商业公司内部都会实现一套集中的配置管理中心,应对不同的应用集群对于共享各自配置的需求,并且在配置变更时能够通知到集群中的每一个机器。

zookeeper很容易实现这种集中式的配置管理,比如将app1的所有配置配置到/app1 znode下,app1所有机器一启动就对/app1这个节点进行监控(zk.exist("/app1",true)),并且实现回调方法watcher,那么在zookeeper上/app1 znode节点下数据发生变化的时候,每个机器都会收到通知,watcher方法将会被执行,那么应用再取下数据即可(zk.getdata("/app1",false,null));

以上这个例子只是简单的粗颗粒度配置监控,细颗粒度的数据可以进行分层级监控,这一切都是可以设计和控制的。     
(2)集群管理 
应用集群中,我们常常需要让每一个机器知道集群中(或依赖的其他某一个集群)哪些机器是活着的,并且在集群机器因为宕机,网络断链等原因能够不在人工介入的情况下迅速通知到每一个机器。

zookeeper同样很容易实现这个功能,比如我在zookeeper服务器端有一个znode叫/app1servers,那么集群中每一个机器启动的时候都去这个节点下创建一个ephemeral类型的节点,比如server1创建/app1servers/server1(可以使用ip,保证不重复),server2创建/app1servers/server2,然后server1和server2都watch /app1servers这个父节点,那么也就是这个父节点下数据或者子节点变化都会通知对该节点进行watch的客户端。因为ephemeral类型节点有一个很重要的特性,就是客户端和服务器端连接断掉或者session过期就会使节点消失,那么在某一个机器挂掉或者断链的时候,其对应的节点就会消失,然后集群中所有对/app1servers进行watch的客户端都会收到通知,然后取得最新列表即可。

另外有一个应用场景就是集群选master,一旦master挂掉能够马上能从slave中选出一个master,实现步骤和前者一样,只是机器在启动的时候在app1servers创建的节点类型变为ephemeral_sequential类型,这样每个节点会自动被编号,例如           zk.create("/testrootpath/testchildpath1","1".getbytes(), ids.open_acl_unsafe,createmode.ephemeral_sequential);

zk.create("/testrootpath/testchildpath2","2".getbytes(), ids.open_acl_unsafe,createmode.ephemeral_sequential);

zk.create("/testrootpath/testchildpath3","3".getbytes(), ids.open_acl_unsafe,createmode.ephemeral_sequential);

// 创建一个子目录节点
zk.create("/testrootpath/testchildpath4","4".getbytes(), ids.open_acl_unsafe,createmode.ephemeral_sequential);

system.out.println(zk.getchildren("/testrootpath", false));
  打印结果:[testchildpath10000000000, testchildpath20000000001, testchildpath40000000003, testchildpath30000000002]

zk.create("/testrootpath", "testrootdata".getbytes(),ids.open_acl_unsafe, createmode.persistent);

// 创建一个子目录节点
zk.create("/testrootpath/testchildpath1","1".getbytes(), ids.open_acl_unsafe,createmode.ephemeral);

zk.create("/testrootpath/testchildpath2","2".getbytes(), ids.open_acl_unsafe,createmode.ephemeral);

zk.create("/testrootpath/testchildpath3","3".getbytes(), ids.open_acl_unsafe,createmode.ephemeral);

// 创建一个子目录节点
zk.create("/testrootpath/testchildpath4","4".getbytes(), ids.open_acl_unsafe,createmode.ephemeral);

system.out.println(zk.getchildren("/testrootpath", false));
 打印结果:[testchildpath2, testchildpath1, testchildpath4, testchildpath3]

我们默认规定编号最小的为master,所以当我们对/app1servers节点做监控的时候,得到服务器列表,只要所有集群机器逻辑认为最小编号节点为master,那么master就被选出,而这个master宕机的时候,相应的znode会消失,然后新的服务器列表就被推送到客户端,然后每个节点逻辑认为最小编号节点为master,这样就做到动态master选举。

相关问答

更多
  • 不可以,kafka必须要依赖一个zookeeper集群才能运行。kafka系群里面各个broker都是通过zookeeper来同步topic列表以及其它broker列表的,一旦连不上zookeeper,kafka也就无法工作。
  • 首先安装redis 在这里安装的是redis源码包,所以需要gcc环境支持 yum install gcc-c++ 将从redis官网上下载的redis安装包上传至 /usr/local 然后解压 tar -zxvf redis-3.2.5.tar.gz 进入解压后的目录进行编译 cd /usr/local/redis-3.2.5 make 编译这一步可以指定目录,也就是安装的指定目录 把上一步的make 写成 make PREFIX=/usr/local/redis install (在这里我指定的目录为 ...
  • 您好,BRPOP命令接收两个参数,第一个是键名,第二个是超时时间,单位是秒。当超过了此时间仍然没有获得新元素的话就会返回nil。上例中超时时间为"0",表示不限制等待的时间,即如果没有新元素加入列表就会永远阻塞下去。 当获得一个元素后BRPOP命令返回两个值,分别是键名和元素值。为了测试BRPOP命令,我们可以打开两个redis-cli实例,在实例A中: redis A> BRPOP queue 0 键入回车后实例1会处于阻塞状态,这时在实例B中向queue中加入一个元素: redis B> LPUSH q ...
  • 您好,BRPOP命令接收两个参数,第一个是键名,第二个是超时时间,单位是秒。当超过了此时间仍然没有获得新元素的话就会返回nil。上例中超时时间为"0",表示不限制等待的时间,即如果没有新元素加入列表就会永远阻塞下去。 当获得一个元素后BRPOP命令返回两个值,分别是键名和元素值。为了测试BRPOP命令,我们可以打开两个redis-cli实例,在实例A中: redis A> BRPOP queue 0 键入回车后实例1会处于阻塞状态,这时在实例B中向queue中加入一个元素: redis B> LPUSH q ...
  • Zookeeper 作为一个分布式的服务框架,主要用来解决分布式集群中应用系统的一致性问题,它能提供基于类似于文件系统的目录节点树方式的数据存储,但是 Zookeeper 并不是用来专门存储数据的,它的作用主要是用来维护和监控你存储的数据的状态变化。通过监控这些数据状态的变化,从而可以达到基于数据的集群管理,后面将会详细介绍 Zookeeper 能够解决的一些典型问题,这里先介绍一下,Zookeeper 的操作接口和简单使用示例。 常用接口列表 客户端要连接 Zookeeper 服务器可以通过创建 org. ...
  • ZooKeeper是一个独立的组件,它可以和HDFS配合使用,但没有非得部署在一起的要求,只要网络通就可以。 另外,ZooKeeper建议最少安装在3个节点上,且数目为奇数。
  • 不可以,kafka必须要依赖一个zookeeper集群才能运行。kafka系群里面各个broker都是通过zookeeper来同步topic列表以及其它broker列表的,一旦连不上zookeeper,kafka也就无法工作。
  • Zookeeper 作为一个分布式的服务框架,主要用来解决分布式集群中应用系统的一致性问题,它能提供基于类似于文件系统的目录节点树方式的数据存储,但是 Zookeeper 并不是用来专门存储数据的,它的作用主要是用来维护和监控你存储的数据的状态变化。通过监控这些数据状态的变化,从而可以达到基于数据的集群管理,后面将会详细介绍 Zookeeper 能够解决的一些典型问题,这里先介绍一下,Zookeeper 的操作接口和简单使用示例。 常用接口列表 客户端要连接 Zookeeper 服务器可以通过创建 org. ...
  • Zookeeper作为所谓的法定人数 - 一组基于简单多数票形成共识的节点群。 对于生产,您应该在法定人数中使用3个或5个Zookeeper实例。 如果你使用3,你的集群可以在一台服务器上失效(因为剩下的两个占绝大多数)。 有了5,你可能会失去两台服务器,因为3是5的大部分。 2是一个坏主意,因为如果1个节点出现故障,您的集群将无法工作。 请检查这个问题 Zookeeper works as a so-called quorum – a cluster of nodes that forms a conse ...
  • 我发现了一个问题。 在我的情况下,最好的选择是使用CuratorFramework配方中的PersistentEphemeral节点进行节点注册。 对于检测添加/删除节点的回调,最好使用CuratorFramework配方中的PathChildrenCache并预备和回调它 I found a sulution. In my case is the best option to use PersistentEphemeral node from CuratorFramework recipes for no ...

相关文章

更多

最新问答

更多
  • 获取MVC 4使用的DisplayMode后缀(Get the DisplayMode Suffix being used by MVC 4)
  • 如何通过引用返回对象?(How is returning an object by reference possible?)
  • 矩阵如何存储在内存中?(How are matrices stored in memory?)
  • 每个请求的Java新会话?(Java New Session For Each Request?)
  • css:浮动div中重叠的标题h1(css: overlapping headlines h1 in floated divs)
  • 无论图像如何,Caffe预测同一类(Caffe predicts same class regardless of image)
  • xcode语法颜色编码解释?(xcode syntax color coding explained?)
  • 在Access 2010 Runtime中使用Office 2000校对工具(Use Office 2000 proofing tools in Access 2010 Runtime)
  • 从单独的Web主机将图像传输到服务器上(Getting images onto server from separate web host)
  • 从旧版本复制文件并保留它们(旧/新版本)(Copy a file from old revision and keep both of them (old / new revision))
  • 西安哪有PLC可控制编程的培训
  • 在Entity Framework中选择基类(Select base class in Entity Framework)
  • 在Android中出现错误“数据集和渲染器应该不为null,并且应该具有相同数量的系列”(Error “Dataset and renderer should be not null and should have the same number of series” in Android)
  • 电脑二级VF有什么用
  • Datamapper Ruby如何添加Hook方法(Datamapper Ruby How to add Hook Method)
  • 金华英语角.
  • 手机软件如何制作
  • 用于Android webview中图像保存的上下文菜单(Context Menu for Image Saving in an Android webview)
  • 注意:未定义的偏移量:PHP(Notice: Undefined offset: PHP)
  • 如何读R中的大数据集[复制](How to read large dataset in R [duplicate])
  • Unity 5 Heighmap与地形宽度/地形长度的分辨率关系?(Unity 5 Heighmap Resolution relationship to terrain width / terrain length?)
  • 如何通知PipedOutputStream线程写入最后一个字节的PipedInputStream线程?(How to notify PipedInputStream thread that PipedOutputStream thread has written last byte?)
  • python的访问器方法有哪些
  • DeviceNetworkInformation:哪个是哪个?(DeviceNetworkInformation: Which is which?)
  • 在Ruby中对组合进行排序(Sorting a combination in Ruby)
  • 网站开发的流程?
  • 使用Zend Framework 2中的JOIN sql检索数据(Retrieve data using JOIN sql in Zend Framework 2)
  • 条带格式类型格式模式编号无法正常工作(Stripes format type format pattern number not working properly)
  • 透明度错误IE11(Transparency bug IE11)
  • linux的基本操作命令。。。