有效
基于脉冲神经网络的高效能三维点云分类方法和装置
李子宽、刘茗、张可、范强、黄山、丁鲲
中国人民解放军国防科技大学
摘要
本申请涉及基于脉冲神经网络的高效能三维点云分类方法和装置,所述方法通过稀疏脉冲体素编码获得事件驱动的点云表达形式,结合脉冲驱动的稀疏卷积结构实现局部特征的高效提取,并利用逻辑运算驱动的脉冲自注意力模块构建全局关联特征,最终通过脉冲时间积分机制完成类别判定,从而在保持分类精度的同时显著降低计算量与能耗。该方法充分利用脉冲神经网络的稀疏激活与事件驱动特性,实现三维点云的高效处理,适用于对功耗敏感的自动驾驶、机器人及嵌入式场景。
1.一种基于脉冲神经网络的高效能三维点云分类方法,其特征在于,包括步骤:采用SSVC模块对待分类的三维点云数据进行体素化、张量转换,得到稀疏脉冲张量;具体包括:将获取的点云输入到SSVC模块中,首先将3D 空间划分为 × × 个体素,并在 个时间步长上扩展表示,每个体素在 个通道上聚合特征,得到5D 张量;然后将5D张量通过稀疏化算子实现压缩为一个稀疏脉冲张量为:其中 为稀疏脉冲张量, 为稀疏化算子, ∈ × × 用于存储第 t 个时间步长的非零体素特征, ∈ × ×3 用于记录存储第 t 个时间步长相应的网格坐标 , 分别为空间体素的长、宽、高索引, 为每个时间步激活体素的数量, 为脉冲触发阈值, V 为体素特征张量, c 为特征维度的索引;对所述稀疏脉冲张量经过两层脉冲驱动的稀疏卷积、批归一化和脉冲神经网络处理后,得到脉冲特征集合;在SPS模块中采用脉冲驱动的稀疏卷积模块和稀疏脉冲神经网络对所述脉冲特征集合进行处理,得到位置编码;采用残差连接的CPE模块将所述位置编码适配到稀疏张量;所述CPE模块用于采用稀疏脉冲神经网络和稀疏卷积将所述位置编码适配到稀疏张量;在主干网络中采用SpSSA机制和稀疏化多层感知机对适配后的稀疏张量进行处理,得到全局脉冲特征表示;所述SpSSA机制通过逻辑运算驱动的脉冲自注意力机制实现脉冲特征之间的全局关联与聚合;所述主干网络由若干个堆叠稀疏的自注意力模块组成;所述稀疏的自注意力模块包括一个SpSSA机制和一个稀疏化多层感知机;所述SpSSA机制包括:查询分支、键分支、值分支;三个分支均包括:脉冲驱动的稀疏卷积模块、批标准化层以及稀疏脉冲神经网络;在所述SpSSA机制中:将输入的特征经过稀疏脉冲神经网络处理后,得到稀疏脉冲特征;将所述稀疏脉冲特征分别通过查询分支、键分支、值分支处理后,生成查询 、键 和值 ;将查询 、键 进行逻辑与运算,得到注意力掩码;将所述注意力掩码在通道维度上进行求和聚合后经过稀疏脉冲神经网络进行处理,将进行尺寸复制,得到聚合后的注意力掩码;将聚合后的注意力掩码与值V进行逻辑与运算后经过脉冲驱动的稀疏卷积模块处理后,得到全局脉冲特征表示;将全局脉冲特征表示输入到脉冲分类模块中,输出目标的分类结果;具体包括:对全局脉冲特征在时间维度上进行脉冲计数,形成类别置信度向量;计算表达式为:其中 表示类别 k 的置信度, T 为脉冲时间步数, 是时间步 t 对类别 k 的脉冲发放结果;根据置信度向量选取最大值对应的类别,输出最终分类结果。
2.根据权利要求1所述的基于脉冲神经网络的高效能三维点云分类方法,其特征在于,所述SPS模块包括依次连接的两个第一子模块和一个第二子模块,所述第一子模块由依次连接的脉冲驱动的稀疏卷积模块、批标准化层以及稀疏脉冲神经网络组成,所述第二子模块由依次连接的脉冲驱动的稀疏卷积模块、批标准化层以及最大值池化层组成。
3.根据权利要求1所述的基于脉冲神经网络的高效能三维点云分类方法,其特征在于,所述CPE模块由依次连接的稀疏脉冲神经网络、批标准化层以及脉冲驱动的稀疏卷积模块组成。
4.根据权利要求1所述的基于脉冲神经网络的高效能三维点云分类方法,其特征在于,将所述稀疏脉冲张量通过经过两层脉冲驱动的稀疏卷积模块处理后采用批归一化和脉冲神经网络处理,得到脉冲特征集合,步骤中在第一个脉冲驱动的稀疏卷积模块中:步骤201:对稀疏脉冲张量 中的激活体素执行稀疏卷积运算;步骤203、将稀疏卷积的输出作为脉冲神经元的输入电流,并执行膜电位更新与脉冲发放;步骤204、将所有时间步的脉冲输出按层次结构组合,构成第一脉冲特征集合,作为第二个脉冲驱动的稀疏卷积模块的输入。
5.根据权利要求1所述的基于脉冲神经网络的高效能三维点云分类方法,其特征在于,所述稀疏化多层感知机包括两个由稀疏脉冲神经网络、批标准化层和脉冲驱动的稀疏卷积模块组成的模块。
6.根据权利要求1、2、3或4任一项所述的基于脉冲神经网络的高效能三维点云分类方法,其特征在于,所述稀疏卷积采用SpConv模块或子流形稀疏卷积方式。
7.一种基于脉冲神经网络的高效能三维点云分类装置,其特征在于,包括:稀疏脉冲体素编码单元,用于采用SSVC模块对待分类的三维点云数据进行体素化、张量转换,得到稀疏脉冲张量;具体包括:将获取的点云输入到SSVC模块中,首先将3D 空间划分为 × × 个体素,并在 个时间步长上扩展表示,每个体素在 个通道上聚合特征,得到5D 张量;然后将5D张量通过稀疏化算子实现压缩为一个稀疏脉冲张量为:其中 为稀疏脉冲张量, 为稀疏化算子, ∈ × × 用于存储第 t 个时间步长的非零体素特征, ∈ × ×3 用于记录存储第 t 个时间步长相应的网格坐标 , 分别为空间体素的长、宽、高索引, 为每个时间步激活体素的数量, 为脉冲触发阈值, V 为体素特征张量, c 为特征维度的索引;时空特征提取单元,用于对所述稀疏脉冲张量经过两层脉冲驱动的稀疏卷积、批归一化和脉冲神经网络处理后,得到脉冲特征集合;位置编码提取单元,用于在SPS模块中采用脉冲驱动的稀疏卷积模块和稀疏脉冲神经网络对所述脉冲特征集合进行处理,得到位置编码;稀疏张量确定单元,用于采用残差连接的CPE模块将所述位置编码适配到稀疏张量;所述CPE模块用于采用稀疏脉冲神经网络和稀疏卷积将所述位置编码适配到稀疏张量;稀疏脉冲自注意力特征提取单元,用于在主干网络中采用SpSSA机制和稀疏化多层感知机对适配后的稀疏张量进行处理,得到全局脉冲特征表示;所述SpSSA机制通过逻辑运算驱动的脉冲自注意力机制实现脉冲特征之间的全局关联与聚合;所述主干网络由若干个堆叠稀疏的自注意力模块组成;所述稀疏的自注意力模块包括一个SpSSA机制和一个稀疏化多层感知机;所述SpSSA机制包括:查询分支、键分支、值分支;三个分支均包括:脉冲驱动的稀疏卷积模块、批标准化层以及稀疏脉冲神经网络;在所述SpSSA机制中:将输入的特征经过稀疏脉冲神经网络处理后,得到稀疏脉冲特征;将所述稀疏脉冲特征分别通过查询分支、键分支、值分支处理后,生成查询 、键 和值 ;将查询 、键 进行逻辑与运算,得到注意力掩码;将所述注意力掩码在通道维度上进行求和聚合后经过稀疏脉冲神经网络进行处理,将进行尺寸复制,得到聚合后的注意力掩码;将聚合后的注意力掩码与值V进行逻辑与运算后经过脉冲驱动的稀疏卷积模块处理后,得到全局脉冲特征表示;三维点云分类单元,用于将全局脉冲特征表示输入到脉冲分类模块中,输出目标的分类结果;具体包括:对全局脉冲特征在时间维度上进行脉冲计数,形成类别置信度向量;计算表达式为:其中 表示类别 k 的置信度, T 为脉冲时间步数, 是时间步 t 对类别 k 的脉冲发放结果;根据置信度向量选取最大值对应的类别,输出最终分类结果。




