对抗样本:怎么欺骗机器学习模型
在 2017-11-14 发布于 播客 分类
本期嘉宾:王一臻(UCSD 博士生)
话题:对抗样本
iPhone X 发布后网上出现了很多试图“欺骗”它的面部解锁系统的视频,例如人们发现戴眼镜仍然是可以解锁手机的,但是闭上双眼就不能解锁了。在这个使用场景中,如果面部解锁软件被欺骗而不能认出手机的主人听起来不算是什么大新闻,但如果我们能找到一种方法可以让面部解锁将我们误认成手机的主人,听起来就有点让人紧张了。
这一期节目的内容再一次和针对机器学习算法的攻击有关(我们在差分隐私这一期节目中聊到了另一类攻击方式)。在这一类被称为测试时对抗样本的攻击方式中 …
阅读全文