有效
目标检测系统、目标检测方法以及相应的训练方法
林晖、冯拓宇、文聪聪、李南、王雪娇、李慧波、董可欣、金昊
中国电子科技集团有限公司电子科学研究院
林
林晖 专利 47
中国电子科技集团公司电子科学研究院数据存储检索计算技术物理仪器
冯
冯拓宇 专利 5
中国电子科技集团有限公司电子科学研究院控制调节物理仪器位置控制架构
文
文聪聪 专利 6
中国电子科技集团有限公司电子科学研究院视觉识别图像视频识别物理仪器
李
李南 专利 5
中国电子科技集团有限公司电子科学研究院计算模型系统物理仪器视觉识别
王
王雪娇 专利 4
中国电子科技集团有限公司电子科学研究院视觉识别图像视频识别生物模型计算
李
李慧波 专利 9
中国电子科技集团有限公司电子科学研究院知识系统物理仪器计算模型系统
董
董可欣 专利 5
中国电子科技集团有限公司电子科学研究院计算模型系统物理仪器视觉识别
金
金昊 专利 26
中国电子科技集团公司电子科学研究院数据存储检索计算技术物理仪器
摘要
一种目标检测系统、目标检测方法、相应的训练方法、电子设备以及可读存储介质,该目标检测系统可以包括:骨干网络、颈部网络以及头部网络,骨干网络被配置用于提取输入图像的不同尺度特征,生成多层特征图;颈部网络被配置用于对多层特征图进行特征融合,生成多层特征融合图;头部网络包括自适应区域建议网络以及检测网络,其中,自适应区域建议网络被配置用于基于多层特征融合图中的每层特征融合图得到关于检测目标的初始区域建议,并对每个初始区域建议进行自适应调整,以得到关于每层特征融合图中的检测目标的最终区域建议;检测网络被配置用于基于最终区域建议对检测目标进行位置回归以及分类,得到输入图像中的检测目标的位置和类别。
1.一种目标检测系统,其特征在于,所述目标检测系统包括:骨干网络、颈部网络以及头部网络,所述骨干网络被配置用于提取输入图像的不同尺度特征,生成多层特征图;所述颈部网络被配置用于对多层特征图进行特征融合,生成多层特征融合图;所述头部网络包括自适应区域建议网络以及检测网络,其中,所述自适应区域建议网络被配置用于基于所述多层特征融合图中的每层特征融合图得到关于检测目标的初始区域建议,并对每个初始区域建议进行自适应调整,以得到关于每层特征融合图中的检测目标的最终区域建议;所述检测网络被配置用于基于所述最终区域建议对所述检测目标进行位置回归以及分类,得到所述输入图像中的检测目标的位置和类别。
2.根据权利要求1所述的目标检测系统,其特征在于,所述自适应区域建议网络包括初始阶段网络以及自适应阶段网络,其中,所述初始阶段网络被配置用于对所述多层特征融合图中的每层特征融合图进行特征增强操作,得到与每层特征融合图对应的关于检测目标的初始区域建议以及初始优化特征图,其中所述多层特征融合图包括N层特征融合图,N大于等于2;以及所述自适应阶段网络被配置用于对每层特征融合图对应的初始优化特征图的采样点进行自适应调整,并基于调整后的采样点进行特征提取,得到与每层特征融合图对应的自适应特征增强图,以及基于所述自适应特征增强图,得到与所述每层特征融合图对应的最终区域建议。
3.根据权利要求2所述的目标检测系统,其特征在于,所述初始阶段网络包括初始膨胀卷积层、初始标准卷积层、初始分类头和初始回归头,其中,所述初始膨胀卷积层被配置用于分别对每层特征融合图进行上下文特征提取,得到与所述每层特征融合图对应的初始增强特征图;所述初始标准卷积层被配置用于对所述初始增强特征图的局部特征进行细化,得到所述初始优化特征图;所述初始回归头被配置用于基于所述初始优化特征图得到关于检测目标的初始边界框,以及,所述初始分类头被配置用于基于所述初始优化特征图对所述初始边界框对应的候选区域进行分类分数预测,从而得到与所述每层特征融合图对应的初始区域建议。
4.根据权利要求3所述的目标检测系统,其特征在于,所述自适应阶段网络包括自适应卷积层、回归卷积层以及分类卷积层,其中,所述自适应卷积层被配置用于根据与所述每层特征融合图对应的所述初始优化特征图中的检测目标的几何特征调整采样点,基于调整后的采样点对所述初始优化特征图进行特征提取,得到与所述每层特征融合图对应的自适应特征增强图;所述回归卷积层被配置用于基于所述自适应特征增强图进行关于所述检测目标的边界框的位置回归,以及,所述分类卷积层被配置用于基于所述自适应特征增强图对经过位置回归的检测目标的边界框所对应的候选区域进行分类预测,从而得到与所述每层特征融合图对应的最终区域建议。
5.根据权利要求1所述的目标检测系统,其特征在于,所述多层特征图的数量比所述多层特征融合图的数量多一个,所述颈部网络被配置用于将最高层特征图与次高层特征图进行特征融合,得到最高层特征融合图,其中所述最高层特征图的层级比所述最高层特征融合图的层级大一层;所述颈部网络被进一步配置用于,将第n层特征图、第n+1层特征图、第n+2层特征图以及第n+1层中间特征融合图进行特征融合,得到第n层中间特征融合图,以及将第n+1层特征融合图以及所述第n层中间特征融合图进行特征融合,得到第n层特征融合图;其中所述n大于1且小于最高层特征融合图对应的层级。
6.根据权利要求5所述的目标检测系统,其特征在于,所述颈部网络包括至少两个多分支特征提取模块和至少两个融合模块,所述最高层特征融合图对应的所述多分支特征提取模块被配置用于对所述最高层特征图进行第一预设倍数的上采样以及特征提取,得到最高层中间特征图;所述最高层特征融合图对应的融合模块被配置用于将最高层中间特征图以及次高层特征图进行特征融合,得到最高层中间特征融合图,以及将所述最高层中间特征融合图进行特征提取,得到最高层特征融合图,其中所述最高层中间特征融合图的层级与所述最高层特征融合图的层级相同。
7.根据权利要求5所述的目标检测系统,其特征在于,所述第n层特征融合图对应的多分支特征提取模块被配置用于:对第n+1层特征图进行所述第一预设倍数的上采样以及特征提取,得到第n+1层中间特征图;对第n+2层特征图进行第二预设倍数的上采样以及特征提取,得到第n+2层中间特征图;对第n+1层中间特征融合图进行所述第一预设倍数的上采样以及特征提取,得到特征提取后的第n+1层中间特征融合图;以及对第n层特征图进行特征提取;以及所述第n层特征融合图对应的融合模块被配置用于:将特征提取后的第n层特征图、第n+1层中间特征图、第n+2层中间特征图和特征提取后的第n+1层中间特征融合图进行特征融合,得到第n层中间特征融合图;以及,对第n+1层特征融合图进行所述第一预设倍数的上采样,对所述第n层中间特征融合图进行特征提取,将特征提取后的第n层中间特征融合图与采样后的第n+1层特征融合图进行融合,得到第n层特征融合图。
8.根据权利要求1所述的目标检测系统,其特征在于,所述检测网络包括池化层、最后分类层以及最后回归层;所述池化层被配置用于基于每个最终区域建议将每层特征融合图中的每个候选区域进行池化操作,生成多个标准化特征图;所述最后分类层被配置用于基于多个所述标准特征图对所述输入图像中的检测目标进行分类,得到所述输入图像中的检测目标的类别;所述最后回归层被配置为基于多个所述标准特征图对所述输入图像中的检测目标进行位置回归,得到所述输入图像中的检测目标的位置。
9.一种目标检测方法,其特征在于,所述目标检测方法包括:使用骨干网络提取输入图像的不同尺度特征,生成多层特征图;使用颈部网络对多层特征图进行特征融合,生成多层特征融合图;使用自适应区域建议网络基于所述多层特征融合图中的每层特征融合图得到关于检测目标的初始区域建议,并对每个初始区域建议进行自适应调整,以得到关于每层特征融合图中的检测目标的最终区域建议;使用检测网络基于所述最终区域建议对所述检测目标进行位置回归以及分类,得到所述输入图像中的检测目标的位置和类别。
10.根据权利要求9所述的目标检测方法,其特征在于,所述自适应区域建议网络包括初始阶段网络以及自适应阶段网络,所述目标检测方法进一步包括:使用所述初始阶段网络对所述多层特征融合图中的每层特征融合图进行特征增强操作,得到与每层特征融合图对应的关于检测目标的初始区域建议以及初始优化特征图,其中所述多层特征融合图包括N层特征融合图,N大于等于2;以及使用所述自适应阶段网络对每层特征融合图对应的初始优化特征图的采样点进行自适应调整,并基于调整后的采样点进行特征提取,得到与每层特征融合图对应的自适应特征增强图,以及基于所述自适应特征增强图,得到与所述每层特征融合图对应的最终区域建议。
11.根据权利要求10所述的目标检测方法,其特征在于,所述初始阶段网络包括初始膨胀卷积层、初始标准卷积层、初始分类头和初始回归头,所述目标检测方法进一步包括:使用所述初始膨胀卷积层分别对每层特征融合图进行上下文特征提取,得到与所述每层特征融合图对应的初始增强特征图;使用所述初始标准卷积层对所述初始增强特征图的局部特征进行细化,得到所述初始优化特征图;使用所述初始回归头基于所述初始优化特征图得到关于检测目标的初始边界框,以及,使用所述初始分类头基于所述初始优化特征图对所述初始边界框对应的候选区域进行分类分数预测,从而得到与所述每层特征融合图对应的初始区域建议。
12.根据权利要求11所述的目标检测方法,其特征在于,所述自适应阶段网络包括自适应卷积层、回归卷积层以及分类卷积层,所述目标检测方法进一步包括:使用所述自适应卷积层根据与所述每层特征融合图对应的所述初始优化特征图中的检测目标的几何特征调整采样点,基于调整后的采样点对所述初始优化特征图进行特征提取,得到与所述每层特征融合图对应的自适应特征增强图;使用所述回归卷积层基于所述自适应特征增强图进行关于所述检测目标的边界框的位置回归,以及,使用所述分类卷积层基于所述自适应特征增强图对经过位置回归的检测目标的边界框所对应的候选区域进行分类预测,从而得到与所述每层特征融合图对应的最终区域建议。
13.根据权利要求9所述的目标检测方法,其特征在于,所述多层特征图的数量比所述多层特征融合图的数量多一个,所述目标检测方法进一步包括:使用所述颈部网络将最高层特征图与次高层特征图进行特征融合,得到最高层特征融合图,其中所述最高层特征图的层级比所述最高层特征融合图的层级大一层;将第n层特征图、第n+1层特征图、第n+2层特征图以及第n+1层中间特征融合图进行特征融合,得到第n层中间特征融合图,以及将第n+1层特征融合图以及所述第n层中间特征融合图进行特征融合,得到第n层特征融合图;其中所述n大于1且小于最高层特征融合图对应的层级。
14.根据权利要求13所述的目标检测方法,其特征在于,所述颈部网络包括至少两个多分支特征提取模块和至少两个融合模块,所述目标检测方法进一步包括:使用所述最高层特征融合图对应的所述多分支特征提取模块对所述最高层特征图进行第一预设倍数的上采样以及特征提取,得到最高层中间特征图;使用所述最高层特征融合图对应的融合模块将最高层中间特征图以及次高层特征图进行特征融合,得到最高层中间特征融合图,以及将所述最高层中间特征融合图进行特征提取,得到最高层特征融合图,其中所述最高层中间特征融合图的层级与所述最高层特征融合图的层级相同。
15.根据权利要求14所述的目标检测方法,其特征在于,所述目标检测方法进一步包括:使用所述第n层特征融合图对应的多分支特征提取模块对第n+1层特征图进行所述第一预设倍数的上采样以及特征提取,得到第n+1层中间特征图;对第n+2层特征图进行第二预设倍数的上采样以及特征提取,得到第n+2层中间特征图;对第n+1层中间特征融合图进行所述第一预设倍数的上采样以及特征提取,得到特征提取后的第n+1层中间特征融合图;以及对第n层特征图进行特征提取;使用所述第n层特征融合图对应的融合模块将特征提取后的第n层特征图、第n+1层中间特征图、第n+2层中间特征图和特征提取后的第n+1层中间特征融合图进行特征融合,得到第n层中间特征融合图;以及,对第n+1层特征融合图进行所述第一预设倍数的上采样,对所述第n层中间特征融合图进行特征提取,将特征提取后的第n层中间特征融合图与采样后的第n+1层特征融合图进行融合,得到第n层特征融合图。
16.根据权利要求9所述的目标检测方法,其特征在于,所述检测网络包括池化层、最后分类层以及最后回归层,所述目标检测方法进一步包括:使用所述池化层基于每个最终区域建议将每层特征融合图中的每个候选区域进行池化操作,生成多个标准化特征图;使用所述最后分类层基于多个所述标准化特征图对所述输入图像中的检测目标进行分类,得到所述输入图像中的检测目标的类别;使用所述最后回归层基于多个所述标准化特征图对所述输入图像中的检测目标进行位置回归,得到所述输入图像中的检测目标的位置。
17.一种用于根据权利要求1-8中任一项的目标检测系统的训练方法,其特征在于,所述训练方法包括:基础训练步骤和微调步骤;所述基础训练步骤包括:使用基础类数据训练初始目标检测系统中的骨干网络、颈部网络以及头部网络的网络参数,得到基础训练后的目标检测系统;所述微调步骤包括:使用所述基础类数据以及包含至少一个新类别对象的小样本数据训练所述基础训练后的目标检测系统中除骨干网络外的颈部网络以及头部网络的网络参数,得到微调训练后的目标检测系统。
18.根据权利要求17所述的训练方法,其特征在于,所述基础训练步骤还包括:对所述初始的目标检测系统中的最后分类层中的占位节点施加稀疏激活机制,以限制所述占位节点的活跃性。
19.根据权利要求17所述的训练方法,其特征在于,所述使用基础类数据训练初始目标检测系统中的骨干网络、颈部网络以及头部网络的网络参数,得到基础训练后的目标检测系统,进一步包括:将基础类数据输入初始的目标检测系统中,迭代更新所述初始的目标检测系统中的骨干网络、颈部网络以及头部网络的网络参数,以得到最小化的总基础损失,从而得到基础训练后的目标检测系统;所述总基础损失包括基础分类损失和基础回归损失,所述基础分类损失包括检测网络产生的基础类别的广义分类损失以及所述自适应区域建议网络的自适应阶段网络产生的基础类别的分类损失,所述基础类别的广义分类损失包括基础类别的标准交叉熵损失以及施加于所述初始的目标检测系统中的分类层中的占位节点的稀疏正则化损失;所述基础回归损失包括检测网络产生的回归损失以及所述自适应区域建议网络的每个阶段网络产生的回归损失。
20.根据权利要求17-19中任一项所述的训练方法,其特征在于,所述使用所述基础类数据以及包含至少一个新类别对象的小样本数据训练所述基础训练后的目标检测系统中除骨干网络外的颈部网络以及头部网络的网络参数,得到微调训练后的目标检测系统,包括:冻结基础训练后的目标检测系统中的骨干网络的参数;激活基础训练后的目标检测系统的分类层中的占位节点;将基础类数据以及包含至少一个新类别对象的小样本数据输入激活后的基础训练后的目标检测系统中,迭代更新激活后的基础训练后的目标检测系统中未冻结网络的参数,以得到最小化的总微调损失,从而得到微调训练后的目标检测系统。
21.根据权利要求20所述的训练方法,其特征在于,其中所述总微调损失包括关于基础类别与新类别的分类损失与回归损失,所述基础类别与新类别的分类损失包括检测网络产生的基础类别与新类别的分类损失的广义分类损失以及自适应区域建议网络的自适应阶段网络产生的基础类别与新类别的分类损失,基础类别与新类别的分类损失的广义分类损失包括检测网络产生的基础类别的分类损失、新类别的分类损失以及占位节点的稀疏正则化损失;所述基础类别与新类别的回归损失包括检测网络产生的关于基础类别与新类别的回归损失以及所述自适应区域建议网络的每个阶段网络产生的关于基础类别与新类别的回归损失。
22.一种电子设备,其特征在于,包括处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的程序,所述程序被所述处理器执行时实现如权利要求9-16中任一项所述的目标检测方法的步骤,或者,实现如权利要求17-21中任一项所述的用于目标检测系统的训练方法的步骤。
23.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储指令,所述指令被处理器执行时实现如权利要求9-16中任一项所述的目标检测方法的步骤,或者,实现如权利要求17-21中任一项所述的目标检测系统的训练方法的步骤。



