有效
一种多视影像三维线段重建方法、系统、电子设备及介质
陈敏、方通、朱庆、陈学业、郭晗、聂可、黎雯、徐博
西南交通大学
摘要
本发明属于三维重建技术领域,其目的在于提供一种多视影像三维线段重建方法、系统、电子设备及介质。本发明能够高效地重建高场景覆盖度的三维线段,不仅可以用于构建准确的线框模型,还能用于构建约束来优化基于点云的三维网格模型。具体地,在进行二维线段匹配时,本发明通过利用先验信息来减小二维线段匹配的搜索范围,将候选线段匹配的搜索范围大大缩小,有助于提高二维线段匹配的效率、精度和召回率,从而提高三维线段的重建效率和空间覆盖率;然后为每个二维线段确定唯一的三维估计结果;最后生成三维线段。本发明避免了多视影像中一些不可靠、不准确的冗余候选匹配对重建三维线段精度的影响,同时保证了三维线段重建的可靠性。
1.一种多视影像三维线段重建方法,其特征在于:包括:提取多视影像集中每幅影像的二维线段;获取多视影像集中每幅影像的先验信息,并根据每幅影像的先验信息为多视影像集中每幅影像确定相邻影像,得到多视影像集中所有需要进行二维线段匹配的待匹配影像对;对所述待匹配影像对进行二维线段匹配,得到多视影像集中每对待匹配影像对之间的二维线段匹配结果;根据每对待匹配影像对之间的二维线段匹配结果,得到三维估计结果;基于所述三维估计结果得到三维线段重建结果;所述先验信息包括三维点云;任一幅影像的相邻影像为多视影像集中与当前影像的相似度最高的K个影像;其中,影像 X 和影像 Y 的相似度为:S ( X , Y )=2| W ( X )∩ W ( Y )|/(| W ( X )|+| W ( Y )|);式(1)式(1)中, W ( X )为影像 X 的先验信息中三维点云上可见的三维点的数量, W ( Y )为影像 Y 的先验信息中三维点云上可见的三维点的数量。
2.根据权利要求1所述的一种多视影像三维线段重建方法,其特征在于:所述先验信息包括深度图;在所述待匹配影像对中,将正在进行遍历的影像称为参考影像,将寻找匹配线段的影像称为搜索影像,将从任一待匹配影像对( I r , I s )的参考影像 I r 上提取的线段集称为 L r ,将从当前待匹配影像对( I r , I s )的搜索影像 I s 上提取的线段集称为 L s ,则对当前待匹配影像对( I r , I s )进行二维线段匹配,得到当前待匹配影像对( I r , I s )之间的二维线段匹配结果,包括:根据式(2)和式(3),将当前待匹配影像对( I r , I s )的参考影像 I r 的线段集 L r 中的任一参考线段 基于深度图投影至当前待匹配影像对( I r , I s )的搜索影像 I s 上,并得到与参考线段 对应的虚拟线段 ; ;式(2) ;式(3)式(2)和式(3)中, 和 分别为参考影像 和搜索影像 对应的相机内参矩阵; 和 分别为参考影像 和搜索影像 对应的旋转矩阵; 和 分别为参考影像 和搜索影像 对应的相机中心的世界坐标; 、 和 分别为参考线段 的端点的影像坐标、世界坐标和深度图对应位置的深度值; 和 分别为虚拟线段 的端点坐标和深度图对应位置的深度值;在虚拟线段 的邻域内获取参考线段 的匹配线段 ,遍历参考影像 I r 的线段集 L r 中的其他参考线段,直到得到当前待匹配影像对( I r , I s )的参考影像 I r 中所有参考线段的匹配线段,参考影像 I r 中所有参考线段与对应的匹配线段构成当前待匹配影像对( I r , I s )之间的二维线段匹配结果。
3.根据权利要求2所述的一种多视影像三维线段重建方法,其特征在于:根据式(2)和式(3),将当前待匹配影像对( I r , I s )的参考影像 I r 的线段集 L r 中的任一参考线段 基于深度图投影至当前待匹配影像对( I r , I s )的搜索影像 I s 上,并得到与参考线段 对应的虚拟线段 ,包括:将当前待匹配影像对( I r , I s )的参考影像 I r 的线段集 L r 中的任一参考线段 进行等间隔采样,得到指定数量的采样点;根据式(2)和式(3),将参考线段 上的采样点投影至搜索影像 I s 上,并得到参考线段 上的采样点对应的虚拟点,基于其中任意两个虚拟点得到一条与参考线段 对应的候选虚拟线段;对于每一条候选虚拟线段,计算其他虚拟点到其的垂直距离,若垂直距离小于距离阈值 T fit ,则认为该虚拟点支持当前候选虚拟线段,并根据支持当前候选虚拟线段的虚拟点的个数得到当前候选虚拟线段的支持度;其中,当前候选虚拟线段的支持度为支持当前候选虚拟线段的虚拟点的个数;遍历参考线段 上的所有采样点后,得到所有候选虚拟线段中支持度最高的一条候选虚拟线段,并将该候选虚拟线段作为与参考线段 对应的虚拟线段 。
4.根据权利要求3所述的一种多视影像三维线段重建方法,其特征在于:在虚拟线段 的邻域内获取参考线段 的匹配线段 ,包括:以虚拟线段 为基准,扩展参数为 R 建立矩形搜索区域,并将矩形搜索区域作为参考线段 在搜索影像 I s 上的匹配线段的搜索范围;其中,所有与矩形搜索区域相交的线段被认为是参考线段 的候选匹配线段集 ;根据式(4)和式(5),计算候选匹配线段集 中每条候选匹配线段与虚拟线段 的相似度,将具有最高相似度的候选匹配线段作为参考线段 的匹配线段 ,并将该最高相似度视为参考线段 与其匹配线段 的相似度; 式(4) 式(5)式(4)和式(5)中, 为虚拟线段 和任一候选匹配线段 的相似度; 为虚拟线段 和该候选匹配线段 的夹角; 和 分别为该候选匹配线段 两个端点到虚拟线段 的垂距; 为虚拟线段 和该候选匹配线段 重叠的长度; 为虚拟线段 和该候选匹配线段 中较短的线段的长度; T α 为角度阈值; T d 为距离阈值; T o 为重叠度阈值。
5.根据权利要求2所述的一种多视影像三维线段重建方法,其特征在于:根据每对待匹配影像对之间的二维线段匹配结果,得到三维估计结果,包括:假设参考影像 I r 有N-1个相邻影像,对于参考影像 I r 上的线段集 L r 中的二维线段 l r ,根据其与其他N-1个相邻影像的二维匹配线段 ,确定二维线段 l r 最可靠的二维匹配线段 ;其中,二维线段 l r 最可靠的二维匹配线段 为: ;式(6)式(6)中, 为二维线段 l r 与参考影像 I r 的第 t 幅相邻影像上的二维匹配线 的相似度; 表示求取所有N-1个相邻影像的二维匹配线段中相似度达到最大值的一条二维匹配线段;由二维匹配线段( l r , )三角交会得到二维线段 l r 的三维估计结果,遍历所有待匹配影像对之间的二维线段匹配结果,得到所有的三维估计结果。
6.根据权利要求3所述的一种多视影像三维线段重建方法,其特征在于:基于所述三维估计结果得到三维线段重建结果,包括:根据式(7)计算所有二维线段匹配结果的稀疏全局亲和性矩阵 W ;其中,任一二维线段匹配结果的稀疏全局亲和性矩阵 W 为: 式(7)式(7)中, 为参考线段 的三维估计结果 和候选匹配线段 的三维估计结果 间的角度相似性, 为参考线段 的三维估计结果 和候选匹配线段 的三维估计结果 间的位置相似性, 和 为: 式(8)式(8)中, 表示计算两条三维线段之间的角度; d ( P , X )表示计算预设采样点 P 到三维线段 X 的垂直距离,三维线段 X 表示 或 ; d I ( P )为图像 I 的相机中心到预设采样点 P 的欧氏距离,图像 I 表示参考影像 I r 或搜索影像 I s ; 、 和 均为预设的正则化参数;根据所有二维线段匹配结果的稀疏全局亲和性矩阵 W 得到三维线段重建结果。
7.一种多视影像三维线段重建系统,其特征在于:用于实现如权利要求1至6中任一项所述的多视影像三维线段重建方法;所述多视影像三维线段重建系统包括:二维线段提取模块,用于提取多视影像集中每幅影像的二维线段;待匹配影像对获取模块,与所述二维线段提取模块通信连接,用于获取多视影像集中每幅影像的先验信息,并根据每幅影像的先验信息为多视影像集中每幅影像确定相邻影像,得到多视影像集中所有需要进行二维线段匹配的待匹配影像对;二维线段匹配模块,与所述待匹配影像对获取模块通信连接,用于对所述待匹配影像对进行二维线段匹配,得到多视影像集中每对待匹配影像对之间的二维线段匹配结果;三维估计模块,与所述二维线段匹配模块通信连接,用于根据每对待匹配影像对之间的二维线段匹配结果,得到三维估计结果;三维线段重建模块,与所述三维估计模块通信连接,用于基于所述三维估计结果得到三维线段重建结果。
8.一种电子设备,其特征在于:包括:存储器,用于存储计算机程序指令;以及,处理器,用于执行所述计算机程序指令从而完成如权利要求1至6中任一项所述的多视影像三维线段重建方法的操作。
9.一种计算机可读存储介质,用于存储计算机可读取的计算机程序指令,其特征在于:所述计算机程序指令被配置为运行时执行如权利要求1至6中任一项所述的多视影像三维线段重建方法的操作。




