（在说正事之前，我要推荐一个福利：你还在原价购买阿里云、腾讯云、华为云服务器吗？那太亏啦！来这里，新购、升级、续费都打折，能够为您省60%的钱呢！2核4G企业级云服务器低至69元/年，点击进去看看吧>>>)

当前，很多深度学习模型嵌入到了移动 APP 中。虽然在设备上执行机器学习有助于改善延迟、连通性与功耗，但 APP 内置的大多数深度学习模型可以通过逆向工程轻易获得，从而更易于招致对抗性攻击。本文研究者提出了一种简单却有效的攻击 APP 中深度学习模型的方法，并在实验中得到了验证。

如今，手机充斥着我们生活的方方面面，从指纹解锁、到注视唤醒、到人脸支付，在我们享受科技带来的便捷生活的时候，你有没有想过—当你在凝视手机的时候，它也在凝视着你？它学习你的个人 ID—指纹、声纹、面部特质、虹膜等等，并在几秒钟内完成解锁、支付。而这一系列动作都源自于深度学习。

深度学习是机器学习领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标—人工智能。深度学习模型（DL model）是将训练好的深度神经网络以特定的格式存储起来，使得手机具备了深度学习的能力。那么，这个深度学习模型可靠吗？就像人的价值观会被扭转，手机 APP 中的深度学习模型会不会也被攻击，使得你的手机从此不再只忠于你一个人？

当你手机上存储的大量个人信息向另一个素未谋面的人敞开，你遭遇的，或许不仅仅是经济损失那么简单。

在本文中，来自澳大利亚莫纳什大学的研究者探究了当今主流移动 App 中 DL 模型针对对抗性攻击的鲁棒性，并对部署在移动 App 中的 DL 模型进行了深度分析，如模型特点、模型关系和训练方法等。

特别地，研究者提出通过识别 TensorFlow Hub 中的高度相似预训练模型，并利用对抗性攻击来破解深度学习模型。这种方法虽然简单却有效，在实验中成功地攻击了 10 个真实安卓 App。

本文作者包括黄宇津（Yujin Huang）、胡晗（Han Hu）、陈春阳（Chunyang Chen） 。该论文已被第四十三届国际软件工程大会 ICSE 2021 SEIP 接收。