1.一种基于类激活映射图的对抗鲁棒性评估方法,其特征是,包括:利用对抗攻击算法在原始样本中添加扰动,得到对抗样本;所述原始样本为图像;获取深度学习模型基于所述原始样本的类激活映射图和基于所述对抗样本的类激活映射图;利用所述原始样本和所述对抗样本对所述深度学习模型进行对抗防御训练,获得训练后的深度学习模型;获取训练后的深度学习模型基于所述原始样本的类激活映射图和基于所述对抗样本的类激活映射图;根据训练前后所述原始样本和所述对抗样本的类激活映射图,评估所述深度学习模型的对抗鲁棒性。
2.如权利要求1所述的方法,其特征是,根据训练前后所述原始样本和所述对抗样本的类激活映射图,评估所述深度学习模型的对抗鲁棒性,具体包括:根据训练前所述原始样本和所述对抗样本的类激活映射图,确定第一平均高热度面积重合比例;根据训练后所述原始样本和所述对抗样本的类激活映射图,确定第二平均高热度面积重合比例;根据所述第一平均高热度面积重合比例和所述第二平均高热度面积重合比例,评估所述深度学习模型的对抗鲁棒性;所述第一平均高热度面积重合比例和所述第二平均高热度面积重合比例均为原始样本和对抗样本的类激活映射图中,同一位置高热力级相同的像素点数之和与总像素点数之比。
3.如权利要求2所述的方法,其特征是,所述第一平均高热度面积重合比例和所述第二平均高热度面积重合比例均根据第一公式确定,所述第一公式为:式中, 为所述第一平均高热度面积重合比例或者所述第二平均高热度面积重合比例, 为原始样本的类激活映射图上第 i 行第 j 列像素点的热力级数值, 为对抗样本的类激活映射图上第 i 行第 j 列像素点的热力级数值, 和 分别为一幅类激活映射图的总行数和总列数, 为原始样本以及对抗样本中像素点的总数, 为原始样本和对抗样本的类激活映射图中第 i 行第 j 列热力级数值相同且大于4的像素数。
4.如权利要求1所述的方法,其特征是,根据训练前后所述原始样本和所述对抗样本的类激活映射图,评估所述深度学习模型的对抗鲁棒性,具体包括:根据训练前所述原始样本和所述对抗样本的类激活映射图,确定第一平均覆盖重合比例;根据训练后所述原始样本和所述对抗样本的类激活映射图,确定第二平均覆盖重合比例;根据所述第一平均覆盖重合比例和所述第二平均覆盖重合比例,评估所述深度学习模型的对抗鲁棒性;所述第一平均覆盖重合比例和所述第二平均覆盖重合比例均为原始样本和对抗样本的类激活映射图中,同一位置热力级相同的像素点数之和与总像素点数之比。
5.如权利要求4所述的方法,其特征是,所述第一平均覆盖重合比例和所述第二平均覆盖重合比例均根据第二公式确定,所述第二公式为:式中, 为所述第一平均覆盖重合比例或者所述第二平均覆盖重合比例, 为原始样本的类激活映射图上第 i 行第 j 列像素点的热力级数值, 为对抗样本的类激活映射图上第 i 行第 j 列像素点的热力级数值, 和 分别为一幅类激活映射图的总行数和总列数, 为原始样本以及对抗样本中像素点的总数, 为原始样本和对抗样本的类激活映射图中第 i 行第 j 列热力级数值相同的像素数。
6.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征是,所述处理器执行所述计算机程序时实现如权利要求1至5任一项所述方法的步骤。