在审

一种基于自适应扰动奖励的对抗样本生成方法及系统

应梓健、李千目、王粤
南京理工大学

摘要

本发明公开了一种基于自适应扰动奖励的对抗样本生成方法及系统,具体为:首先输入图像及样本生成参数,初始化当前迭代索引和对抗样本;然后按照输入的攻击方法计算生成的扰动;接着计算元素级符号一致性估计,通过自适应扰动奖励得到修改扰动,使用修改扰动更新对抗样本;最后重复迭代直至达到设定的轮数,输出对抗样本。本发明采用元素级局部符号一致性估计方法度量每个扰动元素在迭代过程中的方向稳定性,采用元素级自适应扰动奖励机制,依据符号一致性对稳定扰动进行幅度奖励,提升了神经网络模型在图像分类任务中的迁移攻击效果,适用于黑盒安全测试和模型鲁棒性评估,具有广泛的策略兼容性和模型适应性。

暂无引用专利