有效

基于多模态动态神经网络的无人机在线目标计数方法

沈航、吴华峰、刘宇、王天荆、白光伟
南京工业大学
沈航机构 暂无
技术领域 暂无
吴华峰机构 暂无
技术领域 暂无
刘宇机构 暂无
技术领域 暂无
王天荆机构 暂无
技术领域 暂无
白光伟机构 暂无
技术领域 暂无

摘要

一种基于多模态动态神经网络的无人机在线目标计数方法,步骤包括:首先,由无人机采用机载的可见光摄像头和热红外摄像头分别航拍可见光图像和热红外图像;然后,经分割后的图像作为目标计数模型的输入。目标计数模型是基于多模态动态神经网络的目标计数模型;在无法获取热红外图像时,基于由模态转换网络把可见光图像转换成热红外图像;多模态门控分析图像所在场景光照;如果光照良好,则仅选择目标计数模型的中可见光模态分支,如果光照不足,则选择可见光模态分支和热红外模态分支,热红外图像作为辅助数据;特征提取网络提取所选模态分支的模态特征,并融合多模态推理流的特征;步骤S3得到的特征经解码器后得到目标计数模型的输出。