有效
一种视觉特征与时空信息融合的跨时空目标关联方法
张永飞、牛广林、张贵伟、浦世亮、李波、杨航远、李林森
北京航空航天大学
张
张永飞机构 暂无
技术领域 暂无
牛
牛广林机构 暂无
技术领域 暂无
张
张贵伟机构 暂无
技术领域 暂无
浦
浦世亮机构 暂无
技术领域 暂无
李
李波机构 暂无
技术领域 暂无
杨
杨航远机构 暂无
技术领域 暂无
李
李林森机构 暂无
技术领域 暂无
摘要
本发明涉及图像识别技术领域,具体涉及一种视觉特征与时空信息融合的跨时空目标关联方法,包括以下步骤:提取监控视频和待关联图像的目标特征;构建大时空下各摄像机之间的动态时空拓扑结构;基于摄像机之间的动态时空拓扑结构筛选时空关联范围;利用目标特征以及时空一致性原则判断待关联的目标图像与关联范围内的图像是否为同一目标身份,进而进行小时空下的目标关联;以关联上的目标图像为新的待关联图像,逐步扩大搜索范围,重复执行上述小时空范围关联,实现大时空范围下的目标关联。本发明可融合目标特征以及各个摄像机间的时空信息,实现更高效、准确的大时空目标关联。
1.一种视觉特征与时空信息融合的跨时空目标关联方法,其特征在于,包括以下步骤:步骤1:基于预先训练好的目标识别及跟踪模型对监控视频进行目标检测和跟踪,并提取目标特征;步骤2:统计目标在不同时段下、不同摄像机间的距离和渡越时间,以及不同摄像机下目标离开摄像机视野的情况,构建大时空范围下各摄像机之间的动态时空拓扑结构;步骤3:对于给定的待关联目标图像或图像序列,利用各摄像机之间的动态时空拓扑结构,筛选跨摄像机待关联目标图像或图像序列的时空关联范围;步骤4:在步骤3确定的时空关联范围内,以目标特征和时空一致性为准则,对给定的待关联目标图像或图像阵列进行小时空范围下的目标关联;若无法关联到目标,则返回步骤3重新确定时空关联范围,若关联到目标,则执行步骤5;步骤5:以步骤4关联上的目标图像或图像序列作为待关联图像,重复执行步骤3-步骤5,逐步扩大目标搜索范围,直至完成大时空范围下的目标关联;其中,步骤2包括:步骤21:对大时空场景中的 n 个摄像机,构建 n 个摄像机间的动态时空拓扑结构,并以 n 阶拓扑关系矩阵 A 表示;矩阵 A 中每个元素均由二元组组成,表示为: A ( i , j , k )=( t k , d ij , t ij ),其中, t k 为当前时间段,分为工作日早晚高峰、工作日非高峰、周末以及其它自定义特殊时段; d ij 表示统计得到的 t k 时间段下,目标从第 i 个摄像机运动到第 j 个摄像机的物理距离, t ij 表示统计得到的 t k 时间段下,目标从第 i 个摄像机运动到第 j 个摄像机的最短渡越时间;步骤22:通过目标识别及跟踪模型实时监测每个摄像机下是否有目标离开或进入摄相机视野,并实时构建每个摄像机的目标离开列表 L ,若检测到第 i 个摄像机在 t 时刻有目标离开视野,则将 L [ i , t , 1]置为1,反之置为0。
2.根据权利要求1所述的视觉特征与时空信息融合的跨时空目标关联方法,其特征在于,步骤1中的目标为行人或车辆,当为行人时,提取的目标特征包括可区分行人身份的人脸特征和人体特征,其中,人体特征包括:头部特征、视觉表观特征、属性特征或人体轮廓特征。
3.根据权利要求1所述的视觉特征与时空信息融合的跨时空目标关联方法,其特征在于,步骤21中,通过使用开放地图/GIS平台提供的API接口获取 t k 时间段下,目标从第 i 个摄像机运动到第 j 个摄像机的物理距离和最短渡越时间。
4.根据权利要求1所述的视觉特征与时空信息融合的跨时空目标关联方法,其特征在于,步骤3包括:步骤31:对于给定的待关联目标图像或图像序列及其时间、空间位置信息,根据步骤21构建的动态时空拓扑结构,筛选该目标所在摄像机以及距离该摄像机物理距离小于初始预设距离阈值 D 的摄像机,将筛选出的各个摄像机范围作为初步关联范围 R 0 ;步骤32:基于步骤22实时构建的每个摄像机的目标离开列表 L ,筛选出截至当前时刻感知到目标超出视野的摄像机范围 R 1 ,其中, R 1 =初步关联范围 R 0 – { L [ i , t , 1]=0}的摄像机范围;步骤33:在摄像机范围 R 1 的基础上,从所有检测跟踪得到的目标图像或图像序列中筛选出与待关联目标图像或图像序列的时间间隔大于等于对应摄像机间最短渡越时间 t ij ,但小于 k t t ij 的行人图像或图像序列,作为时空关联范围;其中 k t 为时域扩张系数,且 k t >1。
5.根据权利要求4所述的视觉特征与时空信息融合的跨时空目标关联方法,其特征在于,步骤3还包括:步骤34:当步骤33确定的时空关联范围无法关联到目标时,将步骤33中的时域搜索范围扩大为原来的 k t 倍,重新确定扩大后的时空关联范围;步骤35:当步骤34确定的时空关联范围无法关联到目标时,将步骤31中的初始预设距离阈值 D 扩大为 k s D , k s 为空域扩张系数,且 k s >1;重复执行步骤31-步骤34,重新确定扩大后的时空关联范围。
6.根据权利要求4所述的视觉特征与时空信息融合的跨时空目标关联方法,其特征在于,步骤31中,对于行人目标,初始预设距离阈值 D 的取值范围为500米~1000米;对于车辆目标,初始预设距离阈值D的取值范围为1500米~3000米。
7.根据权利要求1所述的视觉特征与时空信息融合的跨时空目标关联方法,其特征在于,当目标为行人时,步骤4包括:步骤41:基于目标识别及跟踪模型提取给定的待关联行人图像或图像序列中的行人人脸特征和行人视觉表观特征,以及步骤3中时空关联范围内的行人人脸特征和行人视觉表观特征;步骤42:将待关联行人图像或图像序列中的行人人脸特征和步骤3确定的时空关联范围内的行人人脸特征分别与底库人脸进行比对,若均可基于人脸识别身份,且身份相同,则判定为同一行人,视为待关联行人图像或图像序列与时空关联范围内的行人图像或序列关联成功;若身份不同,则判定为不同行人,不进行关联;步骤43:若步骤42中无法识别待关联或时空关联范围内行人图像或图像序列的身份,则计算待关联行人图像或图像序列与步骤3确定的时空关联范围内的行人图像或图像序列的人脸特征相似度,若相似度高于预设阈值,则判定为同一行人,视为待关联行人图像或图像序列与时空关联范围内的行人图像或序列关联成功;反之,判定为不同行人,不进行关联;步骤44:当人脸特征不可用时,计算待关联行人图像或图像序列与步骤3确定的时空关联范围内行人图像或序列间的行人视觉表观特征相似度,若相似度高于预设阈值,则判定为同一行人,视为待关联行人图像或图像序列与时空关联范围内的行人图像或序列关联成功;反之,判定为不同行人,不进行关联。



