有效
一种基于多泛化知识积累的小样本图像匹配方法
杜兰、李雨、宋佳伦、郭昱辰、周宇
西安电子科技大学
摘要
本发明公开了一种基于多泛化知识积累的小样本图像匹配方法,包括:获取第一光学图像和第一SAR图像;对第一光学图像和第一SAR图像进行预处理,得到多个第一光学图像切片和多个第一SAR图像切片;将多个第一光学图像切片输入匹配模型的第一分支、将多个第一SAR图像切片输入匹配模型的第二分支,得到第一特征向量和第二特征向量;其中,匹配模型为基于小样本子任务、跨场景子任务、小样本子任务的第一支撑集、第一查询集以及跨场景子任务的第二支撑集、第二查询集训练得到的双分支网络;根据第一特征向量与第二特征向量间的相似性,得到匹配结果。本发明采用的泛化知识学习策略使匹配模型对于不同场景的小样本情况均能良好适用,提高了模型的泛用性。
1.一种基于多泛化知识积累的小样本图像匹配方法,其特征在于,包括:获取待匹配的第一光学图像和第一SAR图像;对所述第一光学图像和第一SAR图像进行预处理,得到多个第一光学图像切片和多个第一SAR图像切片;将所述多个第一光学图像切片输入匹配模型的第一分支、将所述多个第一SAR图像切片输入匹配模型的第二分支,分别得到第一特征向量 和第二特征向量 ;其中,所述匹配模型为:基于Few Shot小样本子任务、跨场景子任务、所述小样本子任务的第一支撑集、第一查询集以及所述跨场景子任务的第二支撑集、第二查询集训练得到的双分支网络;根据所述第一特征向量 与所述第二特征向量 间的相似性,得到所述光学图像与所述SAR图像的匹配结果;所述匹配模型按照如下步骤训练获得:从数据集中获取不同场景下的多个光学-SAR图像对,每个所述光学-SAR图像对包括第二光学图像及其对应的第二SAR图像;对各个光学-SAR图像对进行预处理,形成所述不同场景下的训练数据集合 ,其中, 表示第 n 个场景的训练数据, n =1,2,……, N ,每个场景的训练数据包括该场景的多个第二光学图像切片及其对应的多个第二SAR图像切片;构建待训练的双分支网络并进行参数初始化;所述待训练的双分支网络包括第一分支和第二分支,其中,所述第一分支与所述第二分支均包括七层卷积层;将所述不同场景中的任意一个场景作为特定场景、其余场景作为辅助场景,基于所述特定场景的训练数据与所述辅助场景的训练数据,分别构建第 i 个小样本子任务的数据集合以及第 i 个跨场景子任务的数据集合;基于所述第 i 个小样本子任务的数据集合与所述第 i 个跨场景子任务的数据集合,交替对所述待训练的双分支网络进行训练,直至所述双分支网络的精度达到预设条件后,将训练完成的双分支网络确定为匹配模型;将所述不同场景中的任意一个场景作为特定场景、其余场景作为辅助场景,基于所述特定场景的训练数据与所述辅助场景的训练数据,分别构建第 i 个小样本子任务的数据集合以及第 i 个跨场景子任务的数据集合的步骤,包括:将所述不同场景中的任意一个场景作为特定场景、其余场景作为辅助场景;获取任意一个辅助场景下第一数据量的训练数据,形成第一支撑集 ,并获取该辅助场景下第二数据量的训练数据,形成第一查询集 ,构成第 i 个小样本子任务的数据集合 ;其中,所述第一数据量小于所述第二数据量;获取任意一个辅助场景下第一数据量的训练数据,形成第二支撑集 ,并获取另一辅助场景下第二数据量的训练数据,形成第二查询集 ,构成第第 i 个跨场景子任务的数据集合 。
2.根据权利要求1所述的基于多泛化知识积累的小样本图像匹配方法,其特征在于,对各个光学-SAR图像对进行预处理,形成所述不同场景下的训练数据集合 的步骤,包括:针对每个所述光学-SAR图像对,利用SIFT算法提取第二光学图像中的特征点后,以每个特征点为中心,裁剪得到多个第二光学图像切片,并在所述第二光学图像对应的第二SAR图像的同样位置裁剪得到多个第二SAR图像切片,形成所述不同场景下的训练数据集合 ,其中, 表示第 n 个场景的训练数据。
3.根据权利要求1所述的基于多泛化知识积累的小样本图像匹配方法,其特征在于,基于所述第 i 个小样本子任务的数据集合与所述第 i 个跨场景子任务的数据集合,交替对所述待训练的双分支网络进行训练,直至所述双分支网络的精度达到预设条件后,将训练完成的双分支网络确定为匹配模型的步骤,包括:将所述第一支撑集 中的第二光学图像切片及其对应的第二SAR图像切片分别输入至第一分支和第二分支,得到第一分支输出的第一当前特征向量和第二分支输出的第二当前特征向量;基于所述第一当前特征向量、所述第二当前特征向量和三元损失函数,确定第一损失值,并根据所述第一损失值和第一预设步长更新所述双分支网络的参数;基于更新后的参数 ,将所述第一查询集 中的第二光学图像切片及其对应的第二SAR图像切片分别输入至第一分支和第二分支,得到第一分支输出的第三当前特征向量和第二分支输出的第四当前特征向量;基于所述第三当前特征向量、所述第四当前特征向量和三元损失函数,确定第二损失值,并根据第二损失值和和第二预设步长将所述分支网络的参数由 更新为 ;基于更新后的参数 ,将所述第二支撑集 中的第二光学图像切片及其对应的第二SAR图像分别输入至第一分支和第二分支,得到第一分支输出的第五当前特征向量和第二分支输出的第六当前特征向量;基于所述第五当前特征向量、所述第六当前特征向量和三元损失函数,确定第三损失值,并根据第三损失值和第一预设步长更新所述双分支网络的参数;根据更新后的参数 ,将第二查询集 中的第二光学图像切片及其对应的第二SAR图像分别输入至第一分支和第二分支,得到第一分支输出的第七当前特征向量和第二分支输出的第八当前特征向量;基于所述第五当前特征向量、所述第六当前特征向量和三元损失函数,确定第四损失值,并根据第四损失值和第二预设步长更新所述双分支网络的参数;判断所述第四损失值是否满足预设条件;若是,则得到训练完成的双分支网络;若否,则令 i=i +1,返回获取任意一个辅助场景下第一数据量的训练数据,形成第一支撑集 ,并获取该辅助场景下第二数据量的训练数据,形成第一查询集 ,构成第 i 个小样本子任务的数据集合 的步骤。
4.根据权利要求3所述的基于多泛化知识积累的小样本图像匹配方法,其特征在于,基于所述第 i 个小样本子任务的数据集合与所述第 i 个跨场景子任务的数据集合,交替对所述待训练的双分支网络进行训练,直至所述双分支网络的精度达到预设条件后,将训练完成的双分支网络确定为匹配模型的步骤之后,还包括:对所述匹配模型的参数进行优化调整。
5.根据权利要求4所述的基于多泛化知识积累的小样本图像匹配方法,其特征在于,按照如下公式对所述匹配模型的参数进行优化调整: ;式中, 表示匹配模型的参数, 表示所述特定场景的第一数据量的训练数据, 表示所述匹配模型的映射函数, 表示三元损失函数, 表示所述第一预设步长。
6.根据权利要求1所述的基于多泛化知识积累的小样本图像匹配方法,其特征在于,根据所述第一特征向量 与所述第二特征向量 间的相似性,得到所述光学图像与所述SAR图像的匹配结果的步骤,包括:针对每个第一光学图像切片的第一特征向量 ,分别计算其与各个第一SAR图像切片之间的欧式距离;确定所述欧式距离的最小值,并与该最小值对应的第一SAR图像切片进行匹配。



