千锋教育-做有情怀、有良心、有品质的职业教育机构

手机站
千锋教育

千锋学习站 | 随时随地免费学

千锋教育

扫一扫进入千锋手机站

领取全套视频
千锋教育

关注千锋学习站小程序
随时随地免费学习课程

当前位置:首页  >  技术干货  > yarn和mapreduce的关系

yarn和mapreduce的关系

来源:千锋教育
发布人:wjy
时间: 2023-05-12 10:02:00 1683856920

  YARN(Yet Another Resource Negotiator)是 Apache Hadoop 生态系统中的一个集群资源管理器,而 MapReduce 是 Hadoop 的一种计算框架。它们之间存在着一种父子关系,可以说 YARN 是 MapReduce 的底层资源管理和作业调度平台。

yarn和mapreduce的关系

  下面是 YARN 和 MapReduce 的关系解释:

  YARN:YARN 是一个开源的分布式集群资源管理器,用于管理和分配集群中的计算资源。YARN 的核心功能是将集群的计算资源(如 CPU、内存)划分为多个容器(Containers),并为不同的应用程序分配资源。YARN 还负责处理集群中的节点故障、资源的调度和管理等任务。YARN 提供了一个统一的资源管理框架,可以同时运行多种计算框架,包括 MapReduce、Spark、Hive 等。

  MapReduce:MapReduce 是 Hadoop 的一种分布式计算模型和编程框架,用于处理大规模数据集。MapReduce 将计算任务划分为两个主要阶段:Map 阶段和 Reduce 阶段。在 Map 阶段中,数据被划分为若干个小块,并在集群中的不同节点上进行并行处理。在 Reduce 阶段中,Map 阶段的输出被收集和汇总,以生成最终的结果。MapReduce 提供了一种可扩展的方法来处理大数据集的计算,并具有容错性和高可靠性。

  YARN 提供了一个通用的资源管理平台,可以支持多种计算框架,包括 MapReduce。当一个 MapReduce 作业提交给 YARN 运行时,YARN 负责管理作业的资源分配和调度。YARN 将根据作业的需求分配适当的计算资源(CPU、内存)给每个 Map 和 Reduce 任务,并在集群中动态地分配和管理容器资源。此外,YARN 还负责监控作业的执行状态,处理节点故障,以及重新启动失败的任务等。

  因此,可以将 YARN 视为底层的资源管理器和作业调度平台,而 MapReduce 是在 YARN 之上构建的一种计算框架。除了 MapReduce,YARN 还可以支持其他计算框架,使得 Hadoop 生态系统更加灵活和多样化。

tags:
声明:本站稿件版权均属千锋教育所有,未经许可不得擅自转载。
10年以上业内强师集结,手把手带你蜕变精英
请您保持通讯畅通,专属学习老师24小时内将与您1V1沟通
免费领取
今日已有369人领取成功
刘同学 138****2860 刚刚成功领取
王同学 131****2015 刚刚成功领取
张同学 133****4652 刚刚成功领取
李同学 135****8607 刚刚成功领取
杨同学 132****5667 刚刚成功领取
岳同学 134****6652 刚刚成功领取
梁同学 157****2950 刚刚成功领取
刘同学 189****1015 刚刚成功领取
张同学 155****4678 刚刚成功领取
邹同学 139****2907 刚刚成功领取
董同学 138****2867 刚刚成功领取
周同学 136****3602 刚刚成功领取

上一篇

kafka消费积压

下一篇

kafka可视化
相关推荐HOT