有效

基于类激活映射图的对抗鲁棒性评估方法及终端设备

孙建彬、李自拓、杨克巍、剧伦豪、秦宇琪、涂莉、崔瑞靖、于海跃、熊德辉、葛冰峰
中国人民解放军国防科技大学

摘要

本发明公开了一种基于类激活映射图的对抗鲁棒性评估方法及终端设备,其中方法包括利用对抗攻击算法在原始样本中添加扰动,得到对抗样本;获取深度学习模型基于原始样本的类激活映射图和基于对抗样本的类激活映射图;利用原始样本和对抗样本对深度学习模型进行对抗防御训练,获得训练后的深度学习模型;获取训练后的深度学习模型基于原始样本的类激活映射图和基于对抗样本的类激活映射图;根据训练前后原始样本和对抗样本的类激活映射图,评估深度学习模型的对抗鲁棒性。本发明的方法及终端设备能够挖掘深度学习模型中的隐性知识,从模型本身而非直接的模型结果的角度评估对抗鲁棒性,同时引入关键位置信息,增强了评估结果的可解释性。

暂无引用专利