Talk预告 | 港科大硕士、字节研究实习生李铎: 探索新的神经网络算子involution

原创让创新获得认可将门创投今天

收录于话题

#持续上新 | Talk合辑

108个

本周为TechBeat人工智能社区第304期线上Talk，这也是CVPR 2021系列Talk第①期。

北京时间5月13日(周四)晚8点，香港科技大学在读硕士、字节跳动研究实习生—李铎的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是: “探索新的神经网络算子involution ”，届时将介绍有关深度学习、计算机视觉、神经网络架构的相关研究与近期的一些进展和思考。

Talk·信息

▼

主题：探索新的神经网络算子involution

嘉宾：香港科技大学在读硕士李铎

时间：北京时间 5月13日 (周四) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

长按识别二维码，一键完成预约！

Talk·提纲

▼

我们重新思考了卷积核在空间和通道维度的固有特性，即空间不变性和通道特异性。我们通过反转以上的两个设计准则，提出了一种新颖的神经网络算子，称为involution。另外我们将最近应用广泛的自注意力操作作为一种复杂的特例归入了involution的范畴。我们提出的involution算子可以替代普通卷积来搭建新一代的视觉神经网络，在不同的视觉任务中支持多种多样的深度学习模型，包括ImageNet图像分类，COCO目标检测和实例分割，Cityscapes语义分割。基于involution的深度神经网络相较于卷积神经网络模型，在上述任务中显著减少计算代价的同时能够提高识别性能。

本次分享的主要内容如下：

1. 动机：与卷积的反对称性

2. 介绍involution及其实例化

3. 讨论：与自注意力的关系

4. 实验结果

Talk·参考资料

▼

这是本次分享中将会提及的资料，建议提前预习哦！

论文链接：

https://arxiv.org/abs/2103.06255

代码链接：

https://github.com/d-li14/involution