Apache Mesos模塊間通信架構(gòu)
1. 介紹
Mesos主要由四種組件組成,分別是mesos-master,mesos-save,scheduler和Executor,各個(gè)組件之間采用了基于protocal buffer的actor model進(jìn)行通信(采用開源庫libprocess)。也就是說,各個(gè)模塊分別是一個(gè)server(實(shí)際上是socket server),分別監(jiān)聽來自其他模塊的消息,一旦收到某個(gè)消息后,便會(huì)調(diào)用相應(yīng)的消息處理函數(shù)進(jìn)行處理。
(什么是apache mesos?參考:《統(tǒng)一資源管理與調(diào)度平臺(tái)(系統(tǒng))介紹》,本文分析基于Mesos SVN Revision 1327410).
2. 通信框架概述
對于某個(gè)計(jì)算框架(如Hadoop,Spark等),如果想接入Mesos,需要編寫兩個(gè)組件,分別是FrameworkSchduler和 FrameworkExecutor,這兩個(gè)組件分別實(shí)現(xiàn)Scheduler和Executor接口,并分別通過SchedulerDriver和 ExecutorDriver接入Mesos,如圖中黑色虛線,表示這幾個(gè)組件之間通過函數(shù)調(diào)用產(chǎn)生關(guān)系。
其他組件,即mesos-master,mesos-save,SchedulerProcess和ExecutorProcess之間則通過消息機(jī)制進(jìn)行通信(使用libprocess開源庫)。
(1)【SchedulerProcess與mesos-master】:mesos-master為各個(gè)framework分配資源,這些資源直 接傳遞給SchedulerProcess,再由SchedulerProcess調(diào)用 FrameworkScheduler的相關(guān)函數(shù),由FrameworkScheduler將這些資源分配給框架中的任務(wù),并返回給mesos- master,由mesos-master轉(zhuǎn)發(fā)給相應(yīng)的mesos-slave。
(2)【SchedulerProcess與Mesos-slave】:如果SchedulerProcess中保存了Mesos-slave的地址,則直接將相關(guān)消息發(fā)送給Mesos-slave,不必再由mesos-master轉(zhuǎn)發(fā)。
(3)【Mesos-master與Mesos-slave】:Mesos-master管理mesos-slave,如監(jiān)控slave的健康狀況等
(4)【Mesos-slave與ExecutorProcess】:Mesos-slave負(fù)責(zé)管理各個(gè)framework的executor,并為executor分配資源等。
具體如下圖所示。
3. 消息類型及其處理函數(shù)
3.1 Mesos-Slave的消息類型及處理函數(shù)
3.2 Mesos-master的消息類型及處理函數(shù)
3.3 scheduler的消息類型及處理函數(shù)
位于sched/sched.cpp中,由SchedulerProcess/MesosSchedulerDriver實(shí)現(xiàn)
3.4 Executor的消息類型及處理函數(shù)
位于文件exec/exec.cpp中,由ExectorProcess中實(shí)現(xiàn)
原文鏈接:http://dongxicheng.org/apache-mesos/apache-mesos-communications/