今晚,微众银行NeurIPS 2019论文分享:重新思考DNN所有权验证,以数字护照抵御模糊攻击

机器之心 NeurIPS 2019 论文线上分享已经进行第三期了,得到了读者们的积极关注。在最新一期线上分享中,我们邀请到了微众银行 AI 研究员吴锦和分享 AI 与知识产权相结合的一项研究。


12 月 8 日-14 日,NeurIPS 2019 将于加拿大温哥华举办。作为人工智能领域的国际顶级会议,如同往年一样,今年的 NeurlPS 如同往年一样备受关注,因注册人数过多,今年参会门票都要凭运气抽彩票决定了。


在论文方面,今年大会投稿数量也创下了历史新纪录,一共提交 6743 篇有效论文,接收 1428 篇,接受率为 21.17%。


本届 NeurIPS,机器之心为读者们精心策划了 NeurIPS 2019 专题,包括线上分享、论文解读、现场报道以及线下活动等。这是机器之心 NeurIPS 2019 线上分享的第三期,我们邀请到了微众银行 AI 研究员吴锦和为我们分享主题:重新思考 DNN 所有权验证:以数字护照抵御模糊攻击。



吴锦和,微众银行 AI 研究员,马来亚大学计算机系学士。师从微众银行人工智能首席科学家范力欣博士和马来亚大学陈志胜教授。研究兴趣主要包括计算机视觉深度学习,目前主要研究方向为对抗学习,联邦学习和人工智能知识产权保护。


  • 论文主页:https://kamwoh.github.io/DeepIPR/

  • 论文地址:https://arxiv.org/abs/1909.07830


演讲概要:随着各大公司在探索和开发深层神经网络(DNN)上投入了大量时间、资源和人力,神经网络知识产权保护成为当务之急,必须确保这些发明不被侵权者非法复制,再分配或者滥用。


在分析了相关研究的最新进展后,我们发现,一种旨在通过伪造水印来对所有权验证产生疑问的模糊攻击,对多种基于水印的 DNN 所有权验证方法对 DNN 的知识产权保护构成了严重威胁。


针对上述安全漏洞,本文提出了一种新颖的基于数字护照的 DNN 所有权验证方案,该方案既对网络剪枝及微调等修改具有鲁棒性,又能够抵御模糊攻击。


嵌入数字护照的关键在于,以一种巧妙的方式设计和训练 DNN 模型,从而使原 DNN 的工作性能在使用伪造护照时大大降低。


也就是说,真正的数字护照不仅可以依据预定义的数字签名来进行验证,而且还可以根据 DNN 模型的工作性能来认定。

本分享会将详细说明如何使用数字护照保护 DNN 以及抵御模糊攻击。


时间:北京时间 11 月 28 日 20:00-21:00


NeurIPS 2019 机器之心线上分享


在 NeurIPS 2019 收录的大量优秀论文中,我们将选出数篇优质论文,邀请论文作者来做线上分享。整场分享包括两个部分:论文解读和互动答疑。论文解读包括使用技术介绍、理论方法解读和具体代码实现。


线上分享将在「NeurIPS 2019 交流群」中进行,加群方式:添加机器之心小助手(syncedai4),备注「NeurIPS」,邀请入群。入群后将会公布直播链接。



戳「阅读原文」,查看机器之心 NeurIPS 2019 专题报道并参与其中。