有效
一种视觉智能系统资源信息调度方法、装置、终端及介质
王耀威、陈鹏、白鑫贝、袁锦宇、周运红
鹏城实验室
摘要
本发明公开了一种视觉智能系统资源信息调度方法、装置、终端及介质,包括:获取视频计算设备的设备资源信息,对设备资源信息进行结构化和量化处理,获取至少一个视频计算设备结构化和量化处理后的资源信息,并创建资源池;对获取的任务信息进行结构化和量化处理,并根据结构化和量化处理后的任务信息和资源池中的设备资源信息进行任务调度;根据任务运行情况更新各视频计算设备资源信息,并更新资源池以及资源池中空闲作业槽的信息;本发明将视频分析任务中的资源需求信息,以及视觉智能系统中计算资源相关信息进行结构化和量化处理,降低系统对任务和资源管理、调度的复杂度,可适用于高计算性能及异构计算要求的视觉智能系统的调度任务。
1.一种视觉智能系统资源信息调度方法,其特征在于,包括:获取视频计算设备的设备资源信息,对所述设备资源信息进行结构化和量化处理,获取至少一个视频计算设备结构化和量化处理后的资源信息,并创建资源池;获取任务信息,对所述任务信息进行结构化和量化处理,并根据结构化和量化处理后的任务信息和所述资源池中的设备资源信息进行任务调度;根据任务运行情况更新各视频计算设备资源信息,并更新所述资源池以及所述资源池中空闲作业槽的信息;所述获取视频计算设备的设备资源信息,对所述设备资源信息进行结构化和量化处理,获取至少一个视频计算设备结构化和量化处理后的资源信息,并创建资源池,包括:获取视频计算设备的设备资源信息,对所述设备资源信息进行结构化和量化处理;获取至少一个视频计算设备结构化和量化处理后的资源信息;根据各设备资源信息中的设备平台信息进行异构设备分类;对于每一类视频计算设备,遍历每个设备的资源信息;根据所述设备的可用资源信息创建空闲作业槽;将同类所有设备的空闲作业槽构成当前类别设备的空闲资源池;所述根据结构化和量化处理后的任务信息和所述资源池中的设备资源信息进行任务调度,包括:根据结构化和量化处理后的任务信息确定任务资源需求信息,并根据所述任务资源需求信息匹配得到与任务对应的设备类别;计算任务所需的视频处理能力、算法计算能力以及存储能力;判断当前类别设备资源池中是否有满足所述视频处理能力、所述算法计算能力以及所述存储能力的空闲作业槽;若有满足的空闲作业槽,则确定调度策略,并根据所述调度策略向对应满足的视频计算设备下发对应的任务;根据对应视频计算设备反馈的任务运行信息,将设备资源信息中的可用资源减去任务资源,更新所述设备资源信息,并更新所述资源池以及所述空闲作业槽的信息。
2.根据权利要求1所述的视觉智能系统资源信息调度方法,其特征在于,所述将同类所有设备的空闲作业槽构成当前类别设备的空闲资源池,之后包括:通过调度单元对所述资源池进行管理,并动态更新及维护每个所述空闲作业槽的资源信息;所述调度单元和对应的视频计算设备及时更新及维护设备的可用资源信息。
3.根据权利要求2所述的视觉智能系统资源信息调度方法,其特征在于,所述设备资源信息包括:设备平台信息、算法计算资源信息、视频处理资源信息以及可用存储信息;所述空闲作业槽的资源信息包括:可用算法计算资源信息、可用视频处理资源信息以及可用存储信息。
4.根据权利要求1所述的视觉智能系统资源信息调度方法,其特征在于,所述判断所述当前类别设备资源池中是否有满足所述视频处理能力、所述算法计算能力以及所述存储能力的空闲作业槽,之后包括:若无满足的空闲作业槽,则将任务挂起等待,直到有空闲作业槽满足任务资源需求;或将所述任务资源需求信息与所述资源池中所有空闲作业槽的资源信息进行比较,根据比较结果修改任务参数及更新任务信息,并返回调度单元再次进行任务调度。
5.根据权利要求1所述的视觉智能系统资源信息调度方法,其特征在于,所述任务资源需求信息包括:适用平台信息、视频源信息、算法资源需求信息以及任务配置信息;其中,所述算法资源需求信息包括:算力需求信息和计算内存需求信息;所述任务配置信息包括:任务处理帧率、算法运行参数以及存储需求信息。
6.根据权利要求1所述的视觉智能系统资源信息调度方法,其特征在于,所述视频处理能力的计算公式为: ,其中, 为视频处理能力; 、 、 分别为视频源分辨率的宽、高、帧率; 、 、 分别作为视频处理性能量化基准的分辨率的宽、高以及帧率;所述视频处理能力的计算公式用于计算所述设备资源信息、所述任务资源需求信息、所述空闲作业槽的资源信息;所述任务所需的算法计算能力的计算公式为: ,其中, 为算法计算能力; 为算力需求信息; 为任务处理帧率。
7.根据权利要求1所述的视觉智能系统资源信息调度方法,其特征在于,所述判断所述当前类别设备资源池中是否有满足所述视频处理能力、所述算法计算能力以及所述存储能力的空闲作业槽,包括:若调度多个具有相同资源需求的任务,计算每一个空闲作业槽可处理任务的路数;根据所述每一个空闲作业槽可处理任务的路数,通过计算估算出系统最大可并行处理任务的路数;根据各空闲作业槽可处理任务的路数与所述最大可并行处理任务的路数,判断当前类别设备资源池中是否有满足多个所述具有相同资源需求的任务。
8.根据权利要求1所述的视觉智能系统资源信息调度方法,其特征在于,所述根据任务运行情况更新各视频计算设备资源信息,包括:更新所述资源池以及空闲作业槽的可用计算能力值、可用计算内存大小、可用存储大小、可用解码能力值以及可用编码能力值。
9.一种视觉智能系统资源信息调度装置,其特征在于,包括:资源池创建模块,用于获取视频计算设备的设备资源信息,对所述设备资源信息进行结构化和量化处理,获取至少一个视频计算设备结构化和量化处理后的资源信息,并创建资源池;任务调度模块,用于获取任务信息,对所述任务信息进行结构化和量化处理,并根据结构化和量化处理后的任务信息和所述资源池中的设备资源信息进行任务调度;资源更新模块,用于根据任务运行情况更新各视频计算设备资源信息,并更新所述资源池以及所述资源池中空闲作业槽的信息;所述获取视频计算设备的设备资源信息,对所述设备资源信息进行结构化和量化处理,获取至少一个视频计算设备结构化和量化处理后的资源信息,并创建资源池,包括:获取视频计算设备的设备资源信息,对所述设备资源信息进行结构化和量化处理;获取至少一个视频计算设备结构化和量化处理后的资源信息;根据各设备资源信息中的设备平台信息进行异构设备分类;对于每一类视频计算设备,遍历每个设备的资源信息;根据所述设备的可用资源信息创建空闲作业槽;将同类所有设备的空闲作业槽构成当前类别设备的空闲资源池;所述根据结构化和量化处理后的任务信息和所述资源池中的设备资源信息进行任务调度,包括:根据结构化和量化处理后的任务信息确定任务资源需求信息,并根据所述任务资源需求信息匹配得到与任务对应的设备类别;计算任务所需的视频处理能力、算法计算能力以及存储能力;判断当前类别设备资源池中是否有满足所述视频处理能力、所述算法计算能力以及所述存储能力的空闲作业槽;若有满足的空闲作业槽,则确定调度策略,并根据所述调度策略向对应满足的视频计算设备下发对应的任务;根据对应视频计算设备反馈的任务运行信息,将设备资源信息中的可用资源减去任务资源,更新所述设备资源信息,并更新所述资源池以及所述空闲作业槽的信息。
10.一种终端,其特征在于,包括:处理器以及存储器,所述存储器存储有视觉智能系统资源信息调度程序,所述视觉智能系统资源信息调度程序被所述处理器执行时用于实现如权利要求1-8中任意一项所述的视觉智能系统资源信息调度方法的操作。
11.一种介质,其特征在于,所述介质为计算机可读存储介质,所述介质存储有视觉智能系统资源信息调度程序,所述视觉智能系统资源信息调度程序被处理器执行时用于实现如权利要求1-8中任意一项所述的视觉智能系统资源信息调度方法的操作。
暂无引用专利



