本小节我们来学习MapReduce的体系结构。
如图所示,MapReduce体系结构主要由四个部分组成,分别是:Client、JobTracker、TaskTracker以及Task。
1)Client:
负责将用户编写的MapReduce程序打成Jar包存储到HDFS,并把Jar包的路径提交到JobTracker端;
用户可通过Client提供的一些接口查看作业运行状态。
2)JobTracker:
运行于name node,负责接收JobClient提交的Job;
JobTracker负责资源监控和作业调度;
JobTracker监控所有TaskTracker与Job的健康状况,一旦发现失败,就将相应的任务转移到其他节点;
JobTracker会跟踪任务的执行进度、资源使用量等信息,并将这些信息告诉任务调度器(TaskScheduler),而调度器会在资源出现空闲时,选择合适的任务去使用这些资源。
• 3)TaskTracker:运行于data node,负责主动与JobTracker通信,接收作业,并直接执行每一个任务。
TaskTracker会周期性地通过“心跳”将本节点上资源的使用情况和任务的运行进度汇报给JobTracker,同时接收JobTracker发送过来的命令并执行相应的操作(如启动新任务、杀死任务等)。
TaskTracker使用“slot”等量划分本节点上的资源量(CPU、内存等)。一个Task获取到一个slot后才有机会运行,而Hadoop调度器的作用就是将各个TaskTracker上的空闲slot分配给Task使用。slot分为Map slot和Reduce slot两种,分别供MapTask和Reduce Task使用。
• 4)Task
Task分为Map Task 和Reduce Task两种,均由TaskTracker启动。

