有效
一种基于端边云架构的协同调度系统及方法
白鑫贝、王耀威、山其本、李潘、高文
鹏城实验室
摘要
本发明公开一种基于端边云架构的协同调度系统及方法,所述基于端边云架构的协同调度系统包括云节点调度系统、若干边缘调度系统以及若干终端,各边缘调度系统均为云节点调度系统的下级,终端为边缘调度系统和/或云节点调度系统的下级。云节点调度系统可以根据任务信息和整个系统的资源情况,在云节点、边缘节点以及终端之间进行任务调度,实现系统资源的优化利用和任务自动优化调度,保障各类任务顺利高效地执行,实现在端边云架构上对任务的协同调度和端边云协同工作。
1.一种基于端边云架构的协同调度系统,其特征在于,所述基于端边云架构的协同调度系统包括云节点调度系统、若干边缘调度系统以及若干终端,各所述边缘调度系统均为所述云节点调度系统的下级,所述终端为所述边缘调度系统和/或所述云节点调度系统的下级;所述云节点调度系统:对基于端边云架构的系统的资源情况进行监控;获取任务,根据任务信息和所述基于端边云架构的系统的资源情况确定所述任务对应的任务运行节点;其中,当所述任务为视频分析任务时,所述任务信息包括视频源、算法模型、资源要求、优先级、时延要求中的一种或者多种信息;当所述任务运行节点非自身时,生成所述任务运行节点对应的调度指令,将所述调度指令发送至对应的下级;当所述任务运行节点为自身时,从对应的下级获取所述任务对应的采集数据,使云节点根据所述采集数据运行所述任务;所述边缘调度系统,包括任务接口:接收所述调度指令,判断所述任务运行节点;当所述任务运行节点非自身时,将所述调度指令转发给对应的下级;当所述任务运行节点为自身时,从对应的下级或者邻近边缘调度系统的下级获取所述任务对应的采集数据,使自身边缘节点根据所述采集数据运行所述任务;所述终端:采集所述任务对应的数据;接收所述调度指令,根据所述任务对应的采集数据运行所述任务;或者,将所述任务对应的采集数据上报至对应的上级;当所述云节点调度系统监听到终端的资源释放时,触发任务的动态调度:所述云节点调度系统根据该终端所应承担的任务的优先级进行资源匹配,若优先级高的任务当前在边缘节点上执行,而资源释放后的该终端满足该任务的执行条件,则将该任务从边缘节点迁移到该终端上执行。
2.根据权利要求1所述的基于端边云架构的协同调度系统,其特征在于,所述基于端边云架构的系统的资源情况包括所述云节点、各边缘节点以及各所述终端分别对应的资源情况;所述资源情况包括总资源情况、已用资源情况以及可用资源情况;所述基于端边云架构的系统的资源包括计算资源、内存资源、存储资源、算法资源以及带宽资源中的一种或者多种资源类型。
3.根据权利要求1所述的基于端边云架构的协同调度系统,其特征在于,所述云节点调度系统和所述边缘调度系统均包括调度模块;所述云节点调度系统的所述调度模块的功能包括:获取所述任务信息和所述基于端边云架构的系统的资源情况,根据所述基于端边云架构的系统的资源情况和所述任务信息生成所述调度指令;所述边缘调度系统的所述调度模块的功能包括:接收和转发上级或同级发送的所述调度指令。
4.根据权利要求1所述的基于端边云架构的协同调度系统,其特征在于,所述云节点调度系统、所述边缘调度系统以及所述终端均包括控制模块;除所述终端的所述控制模块之外,各所述控制模块的功能包括:与下级的所述控制模块进行通讯,以获取下级的上报数据;向下级发送指令;除所述云节点调度系统的所述控制模块之外,各所述控制模块的功能包括:获取上级发送的所述指令和从上级获取算法资源;向上级发送所述上报数据。
5.根据权利要求4所述的基于端边云架构的协同调度系统,其特征在于,所述上报数据包括设备基础信息、设备实时状态信息、设备配置信息、资源使用情况、任务运行状态信息、设备位置信息以及算法资源中的一种或者多种信息。
6.根据权利要求4所述的基于端边云架构的协同调度系统,其特征在于,所述指令包括:所述调度指令、任务下发指令、设备配置管理指令、设备控制指令、软件配置参数以及算法模型更新指令中的一种或者多种指令。
7.根据权利要求3所述的基于端边云架构的协同调度系统,其特征在于,所述云节点调度系统和所述边缘调度系统均还包括注册中心;所述注册中心的功能包括:获取下级的上报数据;为所述调度模块提供下级的资源情况。
8.根据权利要求1所述的基于端边云架构的协同调度系统,其特征在于,所述云节点调度系统还包括任务接口,所述任务接口的功能包括:创建所述任务。
9.根据权利要求1所述的基于端边云架构的协同调度系统,其特征在于,所述终端还包括用于支持自定义算法运行并输出算法结果的运行环境。
10.一种基于端云架构的协同调度系统,其特征在于,所述基于端云架构的协同调度系统包括权利要求1-9任一所述的基于端边云架构的协同调度系统中的云节点调度系统和终端,所述云节点调度系统为各所述终端的上级。
11.一种基于端边架构的协同调度系统,其特征在于,所述基于端边架构的协同调度系统包括权利要求1-9任一所述的基于端边云架构的协同调度系统中的边缘调度系统和终端;所述边缘调度系统用于执行所述云节点调度系统对应的调度功能。
12.一种基于端边云架构的系统,其特征在于,所述基于端边云架构的系统包括权利要求1-9任一所述的基于端边云架构的协同调度系统。
13.一种基于端云架构的系统,其特征在于,所述基于端云架构的系统包括权利要求10所述的基于端云架构的协同调度系统。
14.一种基于端边架构的系统,其特征在于,所述端边架构的系统包括权利要求11所述的基于端边架构的协同调度系统。
15.一种基于端边云架构的协同调度方法,其特征在于,所述方法应用于权利要求1-9任一所述的基于端边云架构的协同调度系统中的云节点调度系统,所述方法基于预设的调度策略生成;预设的调度策略包括自定义调度策略、最大空闲资源优先策略、视频源就近策略以及优先级抢占策略中的一种或者多种策略;当预设的调度策略不止一种时,各调度策略分别设置有不同的优先级。
16.根据权利要求15所述的基于端边云架构的协同调度方法,其特征在于,所述方法包括:获取任务,根据任务信息确定所述任务的采集数据对应的终端;判断所述终端是否满足所述任务的运行要求;当是时,将所述终端作为所述任务对应的任务运行节点;当否时,判断所述终端对应的上级边缘节点是否满足所述任务的运行要求;当是时,将所述上级边缘节点作为所述任务运行节点;当否时,判断云节点是否满足所述任务的运行要求;当是时,将所述云节点作为所述任务运行节点;当否时,从所述终端附近的边缘节点中筛选和确定目标边缘节点,当所述目标边缘节点确定成功时,将所述目标边缘节点作为所述任务运行节点;当所述目标边缘节点确定失败时,任务调度失败;根据所述任务运行节点生成调度指令。
17.根据权利要求16所述的基于端边云架构的协同调度方法,其特征在于,所述目标边缘节点的确定方法,包括:根据所述终端附近的边缘节点构建备选边缘节点集合;从所述备选边缘节点集合中筛选出满足所述任务的运行要求的若干目标备选边缘节点;根据预设的所述调度策略从各所述目标备选边缘节点中确定所述目标边缘节点。
18.根据权利要求16所述的基于端边云架构的协同调度方法,其特征在于,所述任务的运行要求为所述任务信息中包含的所有约束条件,包括资源需求、时延要求、性能要求、运行环境中的一种或多种条件。
19.根据权利要求16所述的基于端边云架构的协同调度方法,其特征在于,所述方法还包括:当任务调度失败时,从确定所述任务的采集数据对应的终端的步骤开始重复执行预设次数;若重复执行预设次数后仍任务调度失败,则对所述任务进行标记和/或生成调度失败的提示信息。
20.根据权利要求16所述的基于端边云架构的协同调度方法,其特征在于,所述方法还包括:当所述终端的可用资源情况重新满足所述任务的运行要求时,将所述任务调度回所述终端来运行。
21.一种云平台,其特征在于,所述云平台部署有权利要求1-9任一所述的基于端边云架构的协同调度系统中的云节点调度系统,用于执行如权利要求15-20任一所述的基于端边云架构的协同调度方法。
22.一种边缘设备,其特征在于,所述边缘设备部署有权利要求1-9任一所述的基于端边云架构的协同调度系统中的边缘调度系统。



