Talk预告 | 清华大学在读博士李一鸣: 后门攻击简介

Talk·信息

▼

主题：后门攻击简介

李一鸣

地点：TechBeat人工智能社区

http://www.techbeat.net/

长按识别二维码，一键完成预约！

Talk·提纲

▼

后门攻击是一种新兴的针对深度学习模型的攻击方式，攻击者旨在模型的训练过程中通过某种方式对模型植入后门。当后门未被激发时，被攻击的模型具有和正常模型类似的表现；而当模型中埋藏的后门被攻击者激活时，模型的输出变为攻击者预先指定的标签，以达到恶意的攻击目的。后门攻击可以发生在训练过程并非完全受控的很多场景中，包括但不限于使用第三方数据集、使用第三方平台进行训练、直接调用第三方模型等，因此对模型的安全性造成了巨大威胁。在本次分享中，我们将介绍后门攻击的基础知识和一些经典方法，并介绍我们在这个领域的一些探索。

本次分享主要为：

1、后门攻击的基础知识

2、后门攻击的代表工作

3、我们的相关探索

Talk·参考资料

▼

Paper List:

[1] Gu T, Liu K, et al. Badnets: Evaluating Backdooring Attacks on Deep Neural Networks, 2017.

[2] Chen X, Liu C, et al. Targeted Backdoor Attacks on Deep Learning Systems using Data Poisoning, 2017.

[3] Turner A, Tsipras D, Madry A. Label-Consistent Backdoor Attacks, 2019.

[4] Saha A, Subramanya A, Pirsiavash H. Hidden Trigger Backdoor Attacks, 2020.

[5] Tang R, Du M, et al. An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks, 2020.

[6] Li Y, Wu B, et al. Backdoor Learning: A Survey, 2020.

[7] Li Y, Zhai T, et al. Rethinking the Trigger of Backdoor Attack, 2020.

[8] Li Y, Li Y, et al. Invisible Backdoor Attack with Sample-Specific Triggers, 2021.

[9] Zhai T, Li Y, et al. Backdoor Attack against Speaker Verification, 2021.

Github Resources: 

https://github.com/THUYimingLi/backdoor-learning-resources

知乎入门介绍文章链接：

https://zhuanlan.zhihu.com/p/160964591

知乎相关专栏链接：

https://www.zhihu.com/column/c_1340010673653395456

Talk·提问交流

▼

通过以下两种方式提问都将获得微信现金红包奖励哦！

方式 ①

在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

方式 ②

在本文留言区直接提出你的问题，或扫描下方二维码提问！

快来提问啦！

Talk·嘉宾介绍

▼

李一鸣

清华大学四年级在读博士生

李一鸣，清华大学四年级在读博士生，师从夏树涛和江勇教授。其研究主要专注于AI安全，尤其是后门学习，对抗学习和数据隐私保护。

个人主页：

http://liyiming.tech

长按识别二维码，一键完成预约！

如果你也想成为讲者

▼

 自荐 / 推荐 

单人Talk | 团队专场 | 录播or直播 | 闭门交流

多种方式任你选择！

推荐讲者成功也有奖励哦~

关于TechBeat人工智能社区

▼

TechBeat(www.techbeat.net)隶属于将门创投，是一个荟聚全球华人AI精英的成长社区。

我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。

期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>TechBeat，一个荟聚全球华人AI精英的学习成长社区

报名传输门在此，即刻报名参加！