單個(gè)作業(yè)的資源管理和任務(wù)監(jiān)控
具體功能描述:
ApplicationMaster可以是用任何語言編寫的程序,它和ResourceManager和NodeManager之間是通過ProtocolBuf交互,以前是一個(gè)全局的JobTracker負(fù)責(zé)的,現(xiàn)在每個(gè)作業(yè)都一個(gè),可伸縮性更強(qiáng),至少不會(huì)因?yàn)樽鳂I(yè)太多,造成JobTracker瓶頸。同時(shí)將作業(yè)的邏輯放到一個(gè)獨(dú)立的ApplicationMaster中,使得靈活性更加高,每個(gè)作業(yè)都可以有自己的處理方式,不用綁定到MapReduce的處理模式上
如何計(jì)算資源需求
一般的MapReduce是根據(jù)block數(shù)量來定Map和Reduce的計(jì)算數(shù)量,然后一般的Map或Reduce就占用一個(gè)Container
如何發(fā)現(xiàn)數(shù)據(jù)的本地化
數(shù)據(jù)本地化是通過HDFS的block分片信息獲取的
更多建議: