计算机视觉顶级会议 CVPR 2019 将于 6 月 15 日– 6 月 21 日在加利福尼亚州长滩举办，今年腾讯公司共有 58 篇论文入选，其中腾讯 AI Lab 33 篇（含 8 篇oral），腾讯优图实验室 25 篇。腾讯 AI Lab 入选论文涉及视频理解、人脸识别、对抗攻击、视觉-语言描述、模型压缩和多任务学习等几大重点研究方向。

       深度神经网络在很多应用领域都取得了惊人的效果，比如图像分类和人脸识别。但与此同时，深度神经网络也是十分脆弱的。最典型的例子就是对抗攻击，具体而言，在输入样本（比如图像）上加入人类难以察觉的微小噪声，可以让深度神经网络的预测出现严重偏差。对抗攻击的研究，对于加强深度神经网络的安全性以及可解释性，具有很重要的意义。以往大多数研究工作集中在白盒对抗攻击和非结构化输出模型的攻击，而我们CVPR 2019的入选论文重点研究了更具挑战的黑盒对抗攻击，和对结构化输出模型的攻击。

        本文由腾讯AI Lab主导，与清华大学合作完成，是在黑盒对抗攻击领域的一项重要探索。近年来，基于深度卷积神经网络的人脸识别取得了显著的成就。但是，深度卷积神经网络很容易受到对抗样本的攻击。因此，人脸识别系统的安全性也可能受到很大的威胁。

       为了验证当前最先进人脸识别模型的安全性能，我们研究了基于决策的黑盒攻击，即无法获知人脸识别模型的参数或结构，只能通过询问来获取模型的结果。这种设定完全符合现实情况下的攻击情形。我们提出了一种基于进化算法的高效攻击方法，其充分利用了搜索空间的局部几何特性，并通过对搜索空间进行降维来提高攻击效率。实验表明我们的攻击方法比已有的黑盒攻击方法更高效。同时，我们还对第三方人脸识别系统进行了攻击验证，也充分展示了我们方法的优越性能。