有效
一种基于无锚点级联检测的无人机图像车辆目标识别方法
胡馨之、潘勉、吕帅帅、金建国、唐金龙
杭州鲲骏科技有限公司
摘要
本发明公开了一种基于无锚点级联检测的无人机图像车辆目标识别方法。首先使用Resnet50对输入的图像的进行多尺度特征提取,得到自下而上的多个特征;然后对高层的特征进行上采样,并与低层特征相融合以获得融合后的特征;将输出的不同尺度的特征划分成小特征图和大特征图两类,分别用于检测小目标与大目标;在检测过程中结合无锚点的方法,先对高层的特征图进行检测,得到粗略的检测结果,再将此结果输入到低层,在高层的检测结果之上进行进一步的检测,最终得到一个较为精确的检测结果。本发明改善目标检测的漏检率和误检率,减少了不必要的计算,大大提高检测的速度。
1.一种基于无锚点级联检测的无人机图像车辆目标识别方法,其特征在于,包括以下步骤:S1:选取数据集;采用现有的UAVDT数据集作为本方法的数据集,对模型进行训练;S2:采用Resnet50对输入的原始图片进行特征提取,获得多尺度的特征图;S3:依次将S2中输出的高层特征图进行两倍上采样,并与S2中的低层特征图相加,得到融合后的特征图;为了使后续的检测模块能够拥有更多尺度的特征,将融合后的特征图中的最上层特征图进行连续两倍下采样,得到扩展的两层特征图;最后得到一个自顶向下的金字塔结构的多尺度融合后的特征图;S4:对S3处理后的特征图进行级联检测;S5:划分正负样本;对于金字塔结构的每一层特征图,在S4得到的结果的基础上,计算其每个点的适应度,并将所有适应度的值统计得到全局阈值,高于阈值的为正样本,否则为负样本;S6:检测目标的类别与位置;根据需要选用合适的无锚点检测器;将特征图分别输入分类、回归两个子网络,在S5得到的正样本上,对检测结果进行进一步调整;将预测框输入归回网络,调整框的位置,并计算预测框的类别置信度,置信度较高的类别即为目标的类别;最后使用非极大值抑制,在众多预测框中保留单个类别中检测结果最好的一个,得到最后的检测结果;S2详细步骤为:使用Resnet50作为特征提取模块的主干,提取原始图片的特征;Resnet50共有五个阶段,每个阶段都会输出一个特征图,同时也是下一阶段的输入;不同阶段输出的特征图尺度不同,越上层的特征图,尺度越小,通道数越多;首先将输入的原始图片进行处理,具体过程如下:Out=Conv 7×7 (C,W,H,k,s) (1)其中Out代表第一阶段输出的特征图,Conv 7×7 代表大小为7×7的卷积层,C表示输入的图片的通道数,RGB图像的通道数为3,W,H分别代表输入图片的宽和高,k表示卷积核的大小,s代表卷积核移动的步长;其中k=64,s=2;其次对输出的特征图依次进行特征提取,具体过程如下:P i =Conv 3×3 (C i ,W,H,k i ,s i ) (2)其中,P i 为第i阶段输出的特征图,Conv 3×3 表示大小为3×3的卷积层,C i 表示第i阶段输入的特征图的通道数,W,H分别代表输入特征图的宽和高;k i 表示卷积核的大小,其中k i =256×2 i-1 ;s i 代表卷积核移动的步长,s i =2;最后输出四个特征图,自下而上分别为{P 2 ,P 3 ,P 4 ,P 5 },通道数分别为{256,512,1024,2048};S3详细步骤为:将特征图{P 2 ,P 3 ,P 4 ,P 5 }进行自顶向下的增强,首先将S1中得到的特征图的通道归一化,并将最上层特征图P 5 平移得到N 5 ;将平移后的特征图进行反卷积,将原特征图放大两倍,然后与S1中的低层特征图横向连接,得到新的特征图N 4 ;N 4 重复进行放大与横向连接操作,直与S1中低层特征图全部完成横向连接;同时,为了使后续的检测模块拥有更多尺度的特征图,将N 5 特征图进行连续两次的两倍下采样;具体表现为:其中N i 为特征融合后的第i层特征图,Conv 1×1 为大小是1×1的卷积,devonv(·)表示像素混洗函数对特征进行上采样,L(·)代表通道归一化操作,N i+1 为相对于N i 的上一层特征图,k n 为卷积核的数量,s为卷积核移动的步长,其中k n =256,s n =1;P i 为Resnet50特征提取后得到的相较于N i+1 低一层的特征图;Conv 3×3 为大小为3×3的卷积核,N i-1 为相较于N i 的低一层特征图,k d 为卷积核个数,s d 为卷积核移动的步长;其中k d =256,s d =2;最终输出初步融合后的特征图为{N 2 ,N 3 ,N 4 ,N 5 ,N 6 ,N 7 }。
2.根据权利要求1所述的一种基于无锚点级联检测的无人机图像车辆目标识别方法,其特征在于,将S3处理后的特征图按尺寸从小到大排序并对半划分为两组,较大的一组特征图用于检测小目标,较小的一组特征图用于检测大目标;对于每一类特征图,计算每一组中最小特征图中每个点映射到原图中含目标的可能性;可能性为1说明该点含目标,可能性为0说明该点不含目标;将可能性为1的区域映射到当前组中的下一层特征图用于检测,同时下一层也将计算特征图中每个点包含目标的可能性,用于之后的检测计算。
3.根据权利要求2所述的一种基于无锚点级联检测的无人机图像车辆目标识别方法,其特征在于,S4详细步骤为:S4.1:首先将S3中输出的特征图按尺寸从小到大排序,并对半分为两组,分别为{N 2 ,N 3 ,N 4 }和{N 5 ,N 6 ,N 7 };{N 2 ,N 3 ,N 4 }用于检测大目标,{N 5 ,N 6 ,N 7 }用于检测小目标;小目标的定义为:目标框大小小于等于32×32像素的;目标框大于32×32像素的都为大目标;S4.2:首先计算特征图上的存在目标的可能性;将原图中任意目标的真实框的中心点映射到特征图中,即其理论中心点;计算各分组中的最小特征图中的每个点与理论中心点的距离,与理论中心点距离最小的点表示该点所代表该目标在此特征图中的实际中心点;计算实际中心点对应的真实框在此特征图上的大小,并计算32×32像素投影到不同特征图中的面积,即每个特征图上的面积阈值;对特征图{N 5 ,N 6 ,N 7 }而言,若此特征图上框的大小大于面积阈值,则将实际中心点标记为1,否则标记为0;对于特征图{N 2 ,N 3 ,N 4 }而言,若此特征图上框的大小小于等于面积阈值,将这点标记为1,否则标记为0;将标记为1的点映射到对应特征组中的下一层特征图中;下一层特征图针对所有标记为1的点再依次计算每一点存在大目标的可能性,以此类推;具体表现为:area=32×32×2 -l (6)其中D l 表示N l 层特征图上的点与各个投影到特征图上的真实框的中心点之间距离最小值;min(·)表示取最小值函数;x,y表示特征图上的任意一点; 表示,目标o的真实框的中心点在l层特征图上的映射;s l 表示真实框在N l 特征图上投影的大小, 表示真实框在N l 特征图上投影的长度, 表示真实框在N l 特征图上投影的高度;area表示在不同特征图上代表的面积阈值,32×32表示在原图上的面积阈值,2 -l 表示N l 特征层中面积阈值的缩放比例;B l 表示N l 特征图上的具有大目标的点的集合,S l 表示N l 特征图上的具有小目标的点的集合。
4.根据权利要求3所述的一种基于无锚点级联检测的无人机图像车辆目标识别方法,其特征在于,所述S5详细步骤为:在S4中得到的具有目标的点上进一步检测;首先通过候选区域生成方法在每张特征图上生成候选框,计算每个真实框和特征图上所有候选框之间的交并比,以及真实框的中心点与所有候选框的中心点之间的欧式距离;依次寻找每个特征图中9个欧式距离最小的候选框;计算每个候选框的交并比的均值和标准差,将两者相加得到真实框的自适应阈值;将该层特征图中所有交并比大于自适应阈值的候选框设置为正样本,否则为负样本;其中,d(x,y)表示候选框的中心点与真实框的中心点之间的欧式距离,x,y表示候选框中心点的坐标,x 1 ,y 1 表示真实框中心点的坐标p代表该层特征图中候选框的数量;θ代表自适应阈值,E(·)代表求均值函数,bbox IoU 表示候选框与真实框之间的交并比,N表示候选框与真实框相交的个数。
5.根据权利要求4所述的一种基于无锚点级联检测的无人机图像车辆目标识别方法,其特征在于,所述S6详细步骤为:在S5的基础上对正样本进行检测;根据需求选用合适的无锚点检测器,将具有标注的特征图分别送入分类和回归两个子网络;在分类分支中采用焦点损失函数对目标的类别进行训练和微调,在回归分支中,对正样本使用交并比损失对检测框的位置进行预测和微调;最后使用非极大值抑制,在众多预测框中保留单个类别中检测结果最好的一个,得到最后的检测结果;最终得到检测框的具体位置及其对应的目标类别。




