近日，中国科学院深圳先进技术研究院和澳门大学联合提出一项关于自动驾驶技术的新型鲁棒性评估机制，并在人工智能领域公认的顶尖会议—国际计算器视觉与模式识别（CVPR）会议上发表。此外，联合团队以此技术研发了一款攻防软件，并于美国伊利诺大学、清华大学和阿瑞安全合办的“CVPR安全AI挑战者赛”上与来自全球各地的共1681个团队相互切磋，最终获第二名的佳绩。
在人工智能技术的推动下，自动驾驶技术近年取得突飞猛进的发展，深度学习技术已经深入地融入自动驾驶的感知层、决策层、控制层等众多领域。但同时当前深度学习模型面临着严峻问题的挑战，例如自动驾驶的视觉感知系统容易受到对抗样本的恶意攻击、对图像数据添加、人类难以通过感官辨识到的细微扰动等，皆可令模型做出错误的判别。错误感知对运行中自动驾驶车辆带来极大的安全隐患。因此，建立有效的模型鲁棒性评估机制是打造真正安全可行的自动驾驶系统必不可少的基石。
为此，中国科学院深圳先进技术研究院和澳门大学联合首次提出通过训练的方式，使用卷积神经网络的中间特征图提取的有效信息参与白盒攻击迭代过程，并在近两年提出的二十多种鲁棒视觉模型的白盒攻击评测中取得了目前学术界公布的最优结果。成果于人工智能领域公认的顶尖会议—国际计算器视觉与模式识别会议（CVPR）以Oral宣读的形式发表，该会议Oral论文的录取率仅为4.59%。
论文第一作者是澳门大学博士生于云瑞，共同第一作者是中科院深圳先进院云计算中心助理研究员高希彤博士，论文通讯作者是澳门大学科技学院院长、澳大智慧城市物联网国家重点实验室学术带头人须成忠教授。
论文信息：Yunrui Yu*, Xitong Gao*, Cheng-Zhong Xu. “LAFEAT: Piercing Through Adversarial Defenses with Latent Features”. IEEE/ CVF International Conference on Computer Vision and Pattern Recognition (CVPR 2021, Oral: 4.59% of all submissions)
LAFEAT框架下的白盒攻击流程
使用我们提出的方案，攻击收敛速度显著提升，且达到学术界目前最高白盒攻击成功率