对抗样本生成、防御与应用研究综述
Abstract
得益于愈发优异的性能，深度神经网络越来越多地应用在日常生活的各个方面，成为各领域中主导决策或辅助决策的重要角色。然而，对抗样本的发现对深度神经网络的可靠性和安全性构成重大威胁，极大限制了其在高度关注安全性的领域的应用。因此，研究者针对对抗样本展开了诸多研究。本文首先介绍对抗样本的研究背景及术语定义，并将现有的对抗攻击技术分成白盒攻击和黑盒攻击，其中白盒攻击包括基于优化、梯度和生成3种攻击，黑盒攻击包括基于迁移、查询两种攻击；其次，详细介绍现有的3种对抗防御策略，分别为对抗训练、对抗检测和对抗去噪；接着，列举对抗样本应用的两种典型技术，包括对抗隐写和对抗水印；最后，指出现有对抗样本在攻击、防御研究中存在的不足之处和值得进一步探索的领域。
Fields of Study & Subjects
Adversarial Robustness in Machine Learning
Digital Media Forensic Detection
Security and Verification in Computing
Publication details
- Journal / source
- Journal of Image and Graphics
- Volume
- 31
- Issue
- 1
- Pages
- 62–81
- Publication date
- 1 January 2026
- Language
- EN