近日，中国科学院深圳先进技术研究院云计算研究中心高希彤团队在计算机视觉下的对抗攻击与防御研究取得重要进展。相关论文“AdvDiffuser: Natural Adversarial Example Synthesis with Diffusion Models”（基于扩散模型的自然对抗样本生成）被计算机视觉领域顶级会议International Conference on Computer Vision（ICCV）2023正式录用，论文第一作者是陈鑫泉硕士生（导师：高希彤副研究员、赵娟娟副研究员）。ICCV是计算机视觉领域三大国际顶级会议之一，在世界范围内每两年举办一届。会议创始于1987年，有着严苛的接收标准，历年录取率约为25%。传统Lp范数约束对抗样本及基于GAN与VAE的无限制对抗样本存在样本质量差、不自然的缺点。因此，该论文提出AdvDiffuser，在扩散模型（Diffusion Models）样本生成过程中使用对抗攻击算法扰动中间变量，以生成自然且具有强攻击性的对抗样本。此外，AdvDiffuser可以基于参考图像生成与原图相似的对抗样本，扰动图像背景以降低对物体主体的扰动。方法在LPIPS、FID、SSIM等图像生成质量指标与鲁棒模型攻击成功率上均打败现有算法。通过使用AdvDiffuser生成的对抗样本进行对抗训练，模型可进一步提升其对未知威胁攻击鲁棒性。随着人工智能应用的不断进步和广泛使用，其潜在安全风险也日益凸显。因此，本论文对于研究此类人工智能安全问题及相应应对方法具有重要的意义。
