CVPR2021 | 任何网络都能山寨！新型黑盒对抗攻击模拟未知网络进行攻击

欢迎收听每日人工智能快讯，以下新闻选自机器之心。

最近几年，元学习风生水起，这阵风也刮到了对抗攻击领域。

利用元学习，可以将黑盒攻击的查询复杂度降低几个数量级！CVPR 2021 的一篇论文解决了模型窃取攻击中长久以来存在的一个问题：训练代理模型的时候需要查询目标模型，因此查询量仍然很大，而且更为严重的问题是这种攻击方式可以被轻易地检测和防御。所以本篇论文的工作目标是训练一个「模拟器」（即 Simulator） 可以模拟任何未知模型的输出。为此，基于知识蒸馏的 MSE 损失函数被应用在元学习中的内部和外部更新来学习多种不同网络模型的输出。如此，一旦训练完成，模拟器只需要少量的查询数据微调 就可以精确地模拟未知网络的输出，从而使大量的查询转移到模拟器上，有效降低攻击中目标模型的查询复杂度。