设为首页 - 加入收藏 焦点技术网
热搜:java
当前位置:首页 >

Hadoop-2.4.1学习之ResourceManager重启

导读:        ResourceManager是管理资源和调度运行在YARN上的应用程序的中央机构,因此在一个YARN集群中ResourceManager可能是单点故障的,即只存在一个ResourceManager,这样在该节点出现故障时,就需要尽快重启ResourceManager,以尽可能地减少损失。本文将学习ResourceManager重启的特性,该特性使ResourceManager在重...。。。

        ResourceManager是管理资源和调度运行在YARN上的应用程序的中央机构,因此在一个YARN集群中ResourceManager可能是单点故障的,即只存在一个ResourceManager,这样在该节点出现故障时,就需要尽快重启ResourceManager,以尽可能地减少损失。本文将学习ResourceManager重启的特性,该特性使ResourceManager在重启时可以继续运行,并且在ResourceManager处于故障时对最终用户不可见。

       ResourceManager重启可以划分为两个阶段。第一阶段,增强的ResourceManager(RM)将应用程序的状态和其它认证信息保存到一个插入式的状态存储中。RM重启时将从状态存储中重新加载这些信息,然后重新开始之前正在运行的应用程序,用户不需要重新提交应用程序。第二阶段,重启时通过从NodeManagers读取容器的状态和从ApplicationMasters读取容器的请求,集中重构RM的运行状态。与第一阶段不同的是,在第二阶段中,之前正在运行的应用程序将不会在RM重启后被杀死,所以应用程序不会因为RM中断而丢失工作。在Hadoop-2.4.0版本中实现了RM重启的第一阶段(第二阶段还未实现)。

        由于目前的版本中只实现了RM重启的第一阶段,因此只能对该阶段进行学习。通过上面的综述可知,RM在客户端提交应用时,将应用程序的元数据(如ApplicationSubmissionContext)保存到插入式的状态存储中,RM还保存应用程序的最终状态,如完成状态(失败, 被杀死, 执行成功),以及应用完成时的诊断。除此之外,RM还将在安全的环境中保存认证信息如安全密钥,令牌等。RM 任何时候关闭后,只要要求的信息(比如应用程序的元数据和运行在安全环境中的认证信息等)在状态存储中可用,在RM重启时,就可以从状态存储中获取应用程序的元数据然后重新提交应用。如果在RM关闭之前应用程序已经完成,不论是失败、被杀死还是执行成功,在RM重启后都不会再重新提交。

        NodeManagers和客户端在RM关闭期间将保持对RM的轮询,直到RM启动。当启动后,RM将通过心跳机制向正在与其会话的NodeManager和ApplicationMasters发送同步指令。目前NodeManager和ApplicationMaster处理该指令的方式为:NodeManager将杀死它管理的所有容器然后向RM重新注册,对于RM来说,这些重新注册的NodeManager与新加入的NodeManager相似。ApplicationMasters在接收到RM的同步指令后,将会关闭。在RM重启后,从状态存储中加载应用元数据和认证信息并放入内存后,RM将为每个还未完成的应用创建新的尝试。正如之前描述的,此种方式下之前正在运行的应用程序的工作将会丢失,因为它们已经被RM在重启后使用同步指令杀死了。

        在学习了RM重启的特性和机制后,接下来就是如何启用RM重启的特性,主要涉及了yarn-site.xml中的几个配置参数,如下:

  • yarn.resourcemanager.recovery.enabled:启用RM重启的功能,默认为false。
  • yarn.resourcemanager.store.class:用于状态存储的类,默认为org.apache.hadoop.yarn.server.resourcemanager.recovery.FileSystemRMStateStore,基于Hadoop文件系统的实现。还可以为org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore,该类为基于ZooKeeper的实现。
  • yarn.resourcemanager.am.max-attempts:应用程序尝试的最大次数。该参数是对所有ApplicationMasters的全局设置,每个ApplicationMaster可以通过API指定自己的最大尝试次数,但不可以超过全局设置上限,如果超过了,RM将使用全局设置。默认值为2,允许AM至少尝试一次。

        当使用FileSystemRMStateStore做为状态存储时,还需要配置下面的参数:

  • yarn.resourcemanager.fs.state-store.uri:指向文件系统路径位置的URI,RM将存储状态到该路径中,默认为$hadoop.tmp.dir/yarn/system/rmstore,如果没有指定文件系统名称,将使用fs.defaultFS的值。
  • yarn.resourcemanager.fs.state-store.retry-policy-spec:Hadoop文件系统客户端重试策略规范,客户端重试总是启用的。规范以休眠时间和重试次数对的形式给出,如(t0, n0), (t1, n1), ...,第一个n0次重试平均休眠t0毫秒,接下来的n1次重试平均休眠t1毫秒,以此类推。默认值为(2000, 500)。

        当使用ZKRMStateStore做为状态存储时,需要配置下面这些参数:

  • yarn.resourcemanager.zk-address:被RM用于状态存储的ZooKeeper服务器的主机:端口号,多个ZooKeeper的话使用逗号分隔。
  • yarn.resourcemanager.zk-state-store.parent-path:存储RM状态的ZooKeeper Znode全路径。
  • yarn.resourcemanager.zk-num-retries:RM尝试连接ZooKeeper的次数,默认为500。
  • yarn.resourcemanager.zk-retry-interval-ms:重试连接ZooKeeper的间隔毫秒数,默认为2000毫秒。
  • yarn.resourcemanager.zk-timeout-ms:ZooKeeper会话超时的毫秒数,该参数被ZooKeeper使用以决定什么时候会话到期。当ZooKeeper在由该参数指定的会话超时时间内没有收到客户端的信息,那么会话到期。默认值为10000毫秒。
  • yarn.resourcemanager.zk-acl:用于在ZooKeeper znode上设置权限的ACL,默认值为world:anyone:rwcda。

(编辑: sky_walker85)

网友评论
相关文章