有效
云边协同自适应推理路径规划的目标追踪方法和系统
姚楠、刘子全、王真、秦剑华、朱雪琼、路永玲、胡成博、薛海、高超、吴奇伟
国网江苏省电力有限公司电力科学研究院
姚
姚楠 专利 275
国网河南省电力公司电力科学研究院发电变电配电计算模型系统生物模型计算
刘
刘子全 专利 224
华中科技大学电流电压检测场景元素计算模型系统

王真 专利 313
上海交通大学网络拓扑电流电压检测场景元素
秦
秦剑华 专利 70
国网江苏省电力有限公司电力科学研究院测量与测试物理仪器电性能及故障测
朱
朱雪琼 专利 190
东南大学网络拓扑电流电压检测场景元素
路
路永玲 专利 275
江苏省电力试验研究院有限公司网络拓扑电流电压检测测量或测试
胡
胡成博 专利 300
国网江苏省电力有限公司超高压分公司网络拓扑电流电压检测电磁测量
薛
薛海
机构 暂无技术领域 暂无
高
高超 专利 125
国网江苏省电力有限公司电力科学研究院计算技术测量与测试物理仪器
吴
吴奇伟
机构 暂无技术领域 暂无
摘要
本发明公开了云边协同自适应推理路径规划的目标追踪方法和系统,云端接收边端上传的图像,基于所述图像利用预先获取的RetinaNet网络模型得到图像中目标的特征图、类别以及位置信息;云端对RetinaNet网络模型的推理路径进行优化获得优化后的RetinaNet网络模型参数;云端将目标的特征图、类别、优化后的RetinaNet网络模型参数以及所述RetinaNet网络模型下发到边端,以使得边端基于获取的图像,利用目标的特征图、类别、优化后的RetinaNet网络模型参数以及RetinaNet网络模型确定目标及其类别。边端结合云端下发的目标位置及追踪场景下背景模型信息,实现对监控场景下目标的实时追踪。
1.云边协同自适应推理路径规划的目标追踪方法,其特征在于,包括:云端接收边端上传的图像,基于所述图像利用预先获取的RetinaNet网络模型得到图像中目标的特征图、类别以及位置信息;云端对RetinaNet网络模型的推理路径进行优化获得优化后的RetinaNet网络模型参数;云端将目标的特征图、类别、优化后的RetinaNet网络模型参数以及所述RetinaNet网络模型下发到边端,以使得边端基于获取的图像,利用目标的特征图、类别、优化后的RetinaNet网络模型参数以及RetinaNet网络模型确定目标及其类别;所述RetinaNet网络模型包括:主干网络、分类子网络和边框预测子网络,所述主干网络包括残差网络和特征金字塔网络FPN,所述残差网络包括第一残差层Res3、第二残差层Res4以及第三层残差层Res5,所述特征金字塔网络FPN包括P3层到P7层的金字塔;其中自下而上设置第一残差层Res3、第二残差层Res4以及第三层残差层Res5、p6层和p7层,由第一残差层Res3、第二残差层Res4以及第三层残差层Res5分别计算得到自下而上的P3层、P4层、P5层;P3层、P4层、P5层、P6层和P7层分别用于生成特征图;将当前滑动窗口的中心在输入图像的映射点作为Anchor,在金字塔的P3层-P7层设置锚框anchor,锚框anchor的面积分别为32×32、64×64、128×128、256×256、512×512;每个金字塔层,使用三种纵横比(1:2,1:1,2:1)的锚框anchor,并对每种纵横比的anchor应用{2^0,2^1,2^2}3种尺度的缩放,最终每层总共有9个默认anchor;以anchor为中心,在特征金字塔网络FPN的P3层、P4层、P5层、p6层、p7层这5个层每个层生成9个候选区域作为特征图;所述分类子网络和边框预测子网络均输入特征图和其各金字塔层的锚框anchor;所述分类子网络为一个附加在特征金字塔网络FPN上的全卷积网络FCN,在每个层级的特征图上叠加4个3*3卷积,每个卷积层有C个过滤器并且跟随ReLU激活,最终附加一个K*A个过滤器的3*3卷积层,A为锚框anchor的数量,K为类别数据;最后使用交叉熵损失函数进行目标类别的预测;边框预测子网络与分类子网络并行处理,同样是在每个层级的特征图上叠加4个3*3卷积,每个卷积层有C个过滤器并且跟随ReLU激活,最终附加一个4*A个过滤器的3*3卷积层。
2.根据权利要求1所述的云边协同自适应推理路径规划的目标追踪方法,其特征在于,所述交叉熵损失函数表示如下:其中CE α 为交叉熵损失函数,p i,c 表示真实场景下第i个样本属于类别c的概率,N是样本总数,C是类别总数,y i,c 表示输出的第i个样本属于类别c的概率,α表示权重。
3.根据权利要求1所述的云边协同自适应推理路径规划的目标追踪方法,其特征在于,云端对RetinaNet网络模型的推理路径优化获得优化后的RetinaNet网络模型参数,包括:根据先验的目标位置和类别大小预测获得目标位置和类别;根据预测获得的目标位置和类别确定其所属的金字塔的层级,并冻结其他金字塔的层级;进一步确定所述预测获得的目标位置和类别在其所述金字塔的层级的锚框anchor,并冻结这个金字塔的层级上的其他锚框。
4.根据权利要求1所述的云边协同自适应推理路径规划的目标追踪方法,其特征在于,边端基于获取的图像,利用目标的特征图、类别、优化后的RetinaNet网络模型参数以及RetinaNet网络模型确定目标及其类别,包括:边端获取图像,基于图像进行前景图像检测;基于获取的前景图像,将所述前景图像与云端下发的目标的位置信息进行交并比,获得初步判定的目标;将获得的初步判定的目标输入到RetinaNet网络模型获得特征值,计算获得的特征值与云端下发的特征值之间的余弦距离,将余弦距离大于设定阈值的前景目标确定为待跟踪目标,并确定该待跟踪目标对应的类别。
5.根据权利要求4所述的云边协同自适应推理路径规划的目标追踪方法,其特征在于,基于图像结合云端下发的目标的位置信息进行前景目标检测,包括:获取图像中各像素点在设定时间内的观测值,表示为:{X 1 ,…,X t }={I(x 0 ,y 0 ,i):1≤i≤t}其中X 1 ,…,X t 为初始时刻到t时刻各时刻对应的观测值,I(x 0 ,y 0 ,i)为(x 0 ,y 0 )的像素点在t时刻内的观测值;利用多个高斯分布对每个观测值进行建模,得到当前像素点的颜色值概率为:其中,K为高斯分布的个数;w i,t 为权重的估计值,μ i,t ,为t时刻第i个高斯分布的均值;Σ i,t 为第i个高斯分布的协方差矩阵;η为高斯分布概率密度函数;对于图像中的每个像素点,将它的颜色值与已存在的K个高斯分布相比较,判断其是否和已经存在的高斯分布相匹配,如果匹配,则该像素点为背景点;将根据图像中各个像素点X i 依次与K个高斯分布的均值进行匹配,匹配条件为:|X i -μ i,t-1 |≤2.5σ i,t-1其中,μ i,t-1 第i个高斯分布在t-1时刻的均值,σ i,t-1 为第i个高斯分布在t-1时刻的标准偏差;如果满足该匹配条件则判定图像中像素点X i 为前景图像。
6.云边协同自适应推理路径规划的目标追踪系统,其特征在于,包括:云端,所述云端用于接收边端上传的图像,基于所述图像利用预先获取的RetinaNet网络模型得到图像中目标的特征图、类别以及位置信息;对RetinaNet网络模型的推理路径进行优化获得优化后的RetinaNet网络模型参数;将目标的特征图、类别、优化后的RetinaNet网络模型参数以及所述RetinaNet网络模型下发到边端,以使得边端基于获取的图像,利用目标的特征图、类别、优化后的RetinaNet网络模型参数以及RetinaNet网络模型确定目标及其类别;所述RetinaNet网络模型包括:主干网络、分类子网络和边框预测子网络,所述主干网络包括残差网络和特征金字塔网络FPN,所述残差网络包括第一残差层Res3、第二残差层Res4以及第三层残差层Res5,所述特征金字塔网络FPN包括P3层到P7层的金字塔;其中自下而上设置第一残差层Res3、第二残差层Res4以及第三层残差层Res5、p6层和p7层,由第一残差层Res3、第二残差层Res4以及第三层残差层Res5分别计算得到自下而上的P3层、P4层、P5层;P3层、P4层、P5层、P6层和P7层分别用于生成特征图;将当前滑动窗口的中心在输入图像的映射点作为Anchor,在金字塔的P3层-P7层设置锚框anchor,锚框anchor的面积分别为、64×64、128×128、256×256、512×512;每个金字塔层,使用三个纵横比(1:2,1:1,2:1)的锚框anchor,并在每一层分别对每个anchor添加了3个纵横比{2^0,2^1,2^2}的anchor,每层总共有9个默认anchor;以anchor为中心,在特征金字塔网络FPN的P3层、P4层、P5层、p6层、p7层这5个层每个层生成9个候选区域作为特征图;所述分类子网络和边框预测子网络均输入特征图和其各金字塔层的锚框anchor;所述分类子网络为一个附加在特征金字塔网络FPN上的全卷积网络FCN,在每个层级的特征图上叠加4个3*3卷积,每个卷积层有C个过滤器并且跟随ReLU激活,最终附加一个K*A个过滤器的3*3卷积层,A为锚框anchor的数量,K为类别;最后使用交叉熵损失函数进行目标类别的预测;边框预测子网络与分类子网络并行处理,同样是在每个层级的特征图上叠加4个3*3卷积,每个卷积层有C个过滤器并且跟随ReLU激活,最终附加一个K*A个过滤器的3*3卷积层。
7.根据权利要求6所述的云边协同自适应推理路径规划的目标追踪系统,其特征在于,云端对RetinaNet网络模型的推理路径优化获得优化后的RetinaNet网络模型参数,包括:根据先验的目标位置和类别大小确定在大小W*H*KA和大小为W*H*4A的分类子网络和边框预测子网络中的预测目标位置,根据先验的目标位置和类别大小预测获得目标位置和类别;根据预测获得的目标位置和类别确定其所属的金字塔的层级,并冻结其他金字塔的层级;进一步确定所述预测获得的目标位置和类别在其所述金字塔的层级的锚框anchor,并冻结这个金字塔的层级上的其他锚框。
8.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1~5任意一项权利要求所述方法的步骤。



