百度飞桨适配MediaTek人工智能芯片，为智能产业落地开启新局

联发科技 今天

AI人工智能产业又一重磅合作！百度飞桨（PaddlePaddle）深度学习平台携手IC设计领导厂商MediaTek，完成Paddle Lite轻量化推理引擎与MediaTek的NeuroPilot人工智能通用软件平台适配。如此一来，所有MediaTek的人工智能芯片APU (Artificial intelligence Processing Unit ) 都能够使用Paddle Lite快速部署。透过推进智能技术与产品的进步，双方有着共同的目标，即加速AI科技的普及与进步，让AI技术更好的为所有用户服务，并实现产业落地。



MediaTek芯片目前在智能音箱/智能带屏音箱领域市场占有率过半，与百度共同合作开发的智能音箱产品小度在家系列，AI识别技术获得市场好评，销量持续位居前茅。百度在AI技术及生态圈加大了布局， MediaTek 深耕边缘 AI 技术平台，双方以智能屏音箱小度在家产品的合作为基础，携手拓展更广泛的智能家居市场, 共同丰富生态圈。



划重点——什么是百度飞桨？


百度飞桨是自主研发、开源开放、功能最完备的产业级深度学习平台，集深度学习核心框架、基础模型库、端到端开发套件、工具组件和服务平台于一体，包含完整的开发、训练、推理的端到端深度学习AI模型开发工具链。飞桨源于产业实践，致力于与产业深入融合，目前飞桨已经广泛应用于工业、农业、服务业等领域，不仅如此，在边缘端口、移动端和部分服务器端等场景内，Paddle Lite这一轻量化推理引擎也可以进行AI模型部署、高性能推理等工作。如智能闸机、智能音箱、智能抠图、AR/VR手机等应用。与MediaTek探索的边缘应用的方向不谋而合。


飞桨PaddlePaddle协助万千行业落地AI应用


MediaTek芯片技术优势及特点


MediaTek是唯一支持泛消费类产品的芯片方案公司，此前在AI领域发布多形态的智能产品，包括应用于汽车电子、智能音箱、智能红酒柜、智能家居、智能支付设备、智能电视、智能手机等众多领域的芯片方案。MediaTek拥有广泛技术组合开发和跨平台及操作系统(Android, Linux, RTOS, 其他)的强大优势，在面向主流智能家居应用领域。

MediaTek 推出了新一代端侧 AI 平台 MT8175，其特点包含：


✔ 12 纳米制程 : 先进制程提升性能，降低功耗 30%

✔ APU (AI神经网络加速处理器) 支持 Paddle Lite轻量化推理引擎

✔ AI 摄像头功能 : 支持 广角镜头/移动侦测/人脸识别/手势识别

✔ Audio DSP : 支持低功耗语音助理设备

✔ MiraVision : 支持芯片级护眼及屏显参数依环境自调节技术

✔ WiFi : 内置 802.11ac 及蓝芽 Mesh 组网



MediaTek 芯片解决方案


MediaTek与百度飞桨的合作成果


MediaTek 弹性的AI框架NeuroPilot 与百度 Paddle Lite 集成，实现端上实时智能推理的产品应用。Paddle Lite 运行在MediaTek APU 上的效率相比于传统 ARM CPU 性能提升 6 倍，功耗降低90%，实现低功耗，便携式产品应用。通过下方的系统架构图可以见到，相比于离线的工具转换，透过Delegate的子图直接调用，可以降低软件时延，确保维持Paddle Lite上模型的效能。


Paddle Lite 与 MediaTek NeuroPilot 框架图


如下图所示, 从实测结果可以看出，与手机等移动端常用的国内外主流CPU相比，MT8175 APU在MobileNET_v1的耗时表现更出色，由此证明在AI相关领域，如图像分割、点击率预估、目标检测、语义理解上，语音合成、图像分类等，专用的AI芯片将带来更出色的效果。


MT8175 芯片在MobileNET_v1模型上对比主流CPU时延明显优化


NeuroPilot 与 Paddle Lite兼容性认证书


Paddle Lite支持MediaTek 人工智能APU芯片



Paddle Lite 全新升级及双方后续合作展望


Paddle Lite即将在近期上线的V2.6版本中新增支持无校准量化模型，8bit精度损失从 2%减少到0.1%，编译脚本分不同后端平台硬件做分支优化，单个场景编译更简单。而在全新更新的文档中，也详细介绍了如何使用Paddle Lite在MediaTek 人工智能APU硬件上做预测部署，支持的芯片、设备、Paddle模型与算子列表及参考示例演示等。

https://paddle-lite.readthedocs.io/zh/release-v2.6.0/demo_guides/mediatek_apu.html


未来，百度飞桨与 MediaTek 人工智能平台除了在硬件上进行全面适配，还将携手拓展更广泛的智能应用。针对主流行业应用场景做进一步的性能优化，推出行业标杆的解决方案，共同助力人工智能场景规模化，赋予AI更多可能。