直播 | 商汤科技龚睿昊&李雨杭: 基于块重建的离线量化算法

让创新获得认可将门创投昨天

收录于话题

#持续上新 | Talk合辑

99个

本周为商汤 x TechBeat系列直播课，也是ICLR 2021系列Talk第⑤期。

北京时间4月14日(周三)19:00，商汤科技高级研究员—龚睿昊、见习研究员—李雨杭的直播课将准时在将门B站直播间开播！

本次Talk的主题是: “基于块重建的离线量化算法”，届时将分享有关模型压缩、离线量化、高效推理等方面的研究与思考。

课程信息

主题：基于块重建的离线量化算法

嘉宾：商汤科技见习研究员李雨杭

商汤科技高级研究员龚睿昊

时间：4月14日(周三) 19:00

地点：将门-TechBeat社区 B站直播间

https://live.bilibili.com/22183939

长按复制链接进入网页

或扫描二维码进入直播间

课程摘要

在深度学习的各个垂直领域中，模型量化被广泛应用以加速推理部署。然而现在的量化感知训练方法需要消耗大量的训练资源，成本极高。如何使用离线量化来快速生产一个效果媲美量化感知训练的模型至关重要，因此基于块重建的离线量化算法具有极高的工业落地价值。

本次分享的主要内容如下：

1. 模型量化基本概念

2. 量化感知训练和离线量化区别

3. 离线量化的难点

4. 基于块重建的离线量化

5. 如何实现离线混合精度

6. 实验对比

7. 讨论

参考资料

这是本次分享中将会提及的资料，建议提前预习哦！

1. Up or Down? Adaptive Rounding for Post-Training Quantization

https://arxiv.org/pdf/2004.10568.pdf

2. Brecq: Pushing The Limit Of Post-Training Quantization By Block Reconstruction

https://arxiv.org/pdf/2102.05426.pdf

主讲人

龚睿昊

商汤科技高级研究员

龚睿昊，硕士毕业于北航计算机学院，大三下加入商汤科技实习，现为商汤科技高级研究员。期间先后从事视频结构化解析系统开发，模型量化压缩框架的设计开发和相关算法研究，服务大量业务线模型的压缩落地。曾获得商汤科技未来之星、腾讯犀牛鸟人才培养计划、CCF优秀大学生、北京市三好学生、国家奖学金等，在ICCV、CVPR、ICLR、PR等期刊会议上发表10篇论文(其中2篇一作，4篇二作)。现主要研究和工作方向为: 深度学习模型压缩和部署编译，致力于打破硬件彩票假设，最大化榨取模型和系统的潜力。