详解英伟达最新自动驾驶芯片-Atlan

英伟达在2019年12月推出Orin后沉寂一年半推出新一代自动驾驶SoC，即Atlan，从命名来看，Nvidia 还在使用《海王》（Aquaman）系列中的名字。在2019年开始，Nvidia宣布的Orin SoC，就是以亚特兰蒂斯的第一统治者命名的。而今天 Nvidia 宣布了以 Orin 之父命名的 Atlan SoC。相对Orin，Atlan可谓颠覆性的，与Orin远非一个系列的产品，与其说它是一个车载芯片，不如说它是一个大型数据中心服务器芯片，不太考虑成本，不太考虑功耗。

英伟达从未公开Orin芯片的内部布局图，但Atlan一开始就公布了，或许是对Atlan信心更足。

英伟达在2019年11月发布的Orin芯片官方图片。不过在网上可以找到Orin的大致布局图。

资料来源https://en.wikipedia.org/wiki/Tegra#Orin

Atlan不再沿用使用了近10年ARMv8的指令集，改为ARM Neoverse V1指令集。开发人员可能需要花大量精力来熟悉这种从未出现过的指令集。最大的改动是CPU使用了ARM针对服务器领域的Zeus架构，增加了Bluefield即DPU部分，增加了针对功能安全的安全岛设计。

先来看CPU部分。

ARM在2019年3月针对服务器市场推出Neoverse平台，按照计划最初是Ares，即希腊神话里的战神；2020年是Zeus，即希腊神话里二代天神中的最高神的宙斯；2021年是Poseidon，即希腊神话里的海神波塞冬。或许不会有Hades，冥王哈迪斯。至少这个系列代号可以用11代。

Neoverse平台再分3个系列，分别是V、N、E三个系列，分别对应高性能、高效率、低功耗三大应用场景。V系列中第一个产品，顺便说一下，N2平台代号是Perseus，即希腊神话里的宙斯之子，砍下美杜莎脑袋的希腊英雄珀尔修斯。英伟达破天荒推出的CPU即是以宙斯为平台的CPU。

V1可以看作ARM刚刚发布的ARM v9指令集的SVE强化版，ARM v9指令集中最大变化就是增加了SVE，SVE(Scalable Vector Extension)是ARM AArch64架构下的下一代SIMD指令集，旨在加速高性能计算。

ARM v7的高级SIMD (即ARMNEON 或"MPE" 多媒体处理引擎) 指令集自2005年发布，已经面世十几年了。ARM v7 NEON的主要特性如下：

支持8/16/32位整数操作，支持非IEEE兼容单精度浮点操作，支持指令条件执行
32个64位矢量寄存器，也可视为16个128位矢量寄存器
旨在CPU端加速多媒体处理任务

在升级到ARMv8架构时，AArch64 NEON指令集做出了许多改进，比如：

支持IEEE兼容单精度和双精度浮点操作和64位整数矢量操作
2个128位矢量寄存器
这些改进使NEON指令集更适用于通用计算，而不仅仅是多媒体计算

但是到了现在，ARMv8的新市场需要更彻底的SIMD指令改进。需要能够并行处理非常规数据和复杂数据结构，也需要更长的矢量，SVE因此而生，SVE旨在加速高性能计算。

128位的整数倍. 最高可支持2048位
不同的实现可以适应不同的应用场景，不用更改指令集
每通道预测
支持复杂嵌套循环和if/then/else条件跳转，没有循环尾数。
聚集加载和分散存储支持复杂数据结构，如步长数据存取、数组索引，链表等。
横向操作
支持基本的reduction操作，降低循环依赖性

SVE2于2019年4月和V1一起发布，SVE和SVE2的优势还在于其可变的向量大小，范围从128b到2048b，从而允许向量的可变粒度为128b，无论实际运行的硬件是什么。纯粹从向量处理和编程的角度来看，这意味着软件开发人员将只需要编译一次其代码，并且如果将来某个CPU带有本机512b SIMD执行管道，该代码将能够已经充分利用了单元的整个宽度。

SVE2是针对机器学习设计的，通用矩阵乘法GEMM指令是其最突出特色。我们都知道AI加速器就是乘和累加MAC的堆砌，其特色就是一次可以执行乘和加两个指令。实际是一种矩阵乘法累加器，在ARM v8.6中也加入了GEMM指令，乘法累加器中，乘法要遍历每一个矩阵中的数值（通常是像素），这是最费时间的地方，加法器则要快的多，ARM的CPU不能像AI那样堆砌MAC，但是可以加速矩阵乘法，让后端的多核处理器部分工作量大大减轻。这近似于一个超高速DSP，频率不高，但带宽很高。

V1的突出特色还有CCIX和CXL，也就是大名鼎鼎的小芯片chiplet，chiplet的概念其实很简单，就是die级别的重用。设计一个系统级芯片，以前的方法是从不同的IP供应商购买一些IP，软核（代码）或硬核（版图），结合自研的模块，集成为一个SoC，然后在某个芯片工艺节点上完成芯片设计和生产的完整流程。

未来，对于某些IP，你可能不需要自己做设计和生产了，而只需要买别人实现好的die片，然后在一个封装里集成起来，很像SiP（ System in Package），但两者有很大不同，chiplet是晶圆级的，晶圆制造的中段mid-end封装，只有晶圆厂Foundry才能做，封装之间是超高速的bump连线，SiP是芯片级的封装，是专业封装厂的业务范畴，是锡球级别的。

小芯片的另一个名字叫MCM，Multi-Chip-Module。

2017年英伟达、德州大学、亚利桑那州立大学、巴塞罗那超算中心、加泰罗尼亚理工大学联合出品一篇研究论文：MCM-GPU: Multi-Chip-Module GPUs for Continued Performance Scalability，对此有详细的研究，在2017年加拿大多伦多ISCA上发表。

简单地说就是用4个小芯片合成一个大芯片，英伟达称为MCM技术。

上图为英伟达采用MCM-GPU和多GPU性能对比。英伟达在2019年VLSI大会上提出RC-18概念，采用36个小芯片。

不仅GPU或者说AI芯片可以这样做，CPU也可以，这就是AMD在服务器领域崛起的关键，最典型的是AMD的32核（应该是32小芯片）EPYC，这种方式最大优点是成本低，如果将32核封装到一块芯片中成本是1，那它们的MCM方式只有0.59，换言之，节省了41%的成本。

把小芯片合成一个大芯片，貌似就是一个“胶水”大法，但实际门槛是很高的，能支持的只有台积电CoWos和英特尔的EMIB工艺，英伟达一向不喜欢台积电，更喜欢三星。和高通一样，英伟达知道不能过分依赖台积电，否则容易出现供应链问题，也就是后来英伟达基本放弃MCM路线。

回到Atlan，Atlan可能用了ARM V1提供的CXL小芯片，即内存扩展，减少内存于处理器间的物理距离是解决AI处理器内存瓶颈的最有效方式。CCIX比较复杂，可能下一代会用。

再来看Bluefield即DPU部分，2020年4月英伟达花70亿美元收购了以色列芯片公司Mellanox Technologies, Ltd.（迈络思科技有限公司），通过融合Mellanox的技术，新的NVIDIA将拥有从人工智能计算到网络的端到端技术，以及从处理器到软件的全堆栈产品，拥有足够的规模去推进下一代的数据中心技术。

Mellanox的主要产品就是名为Bluefield的芯片，英伟达将其改名为DPU。其实际上是一个高级的网卡。DPU专门执行原本需要CPU处理的网络、存储和安全等任务。这就意味着如果在数据中心中采用了DPU，那么CPU的不少运算能力可以被释放出来，按照英伟达的说法，一个DPU顶125个CPU的网络处理能力。

英伟达计划在2022年推出3代Bluefield。复杂一点的说法是DPU是一个可编程的电子部件，其处理数据流，数据可作为信息的复用包与组件传输。DPU具有中央处理单元(CPU)的通用性和可编程性，但专用于处理网络数据包、存储请求或分析请求上高效运行。DPU通过更大程度的并行性（可同时处理更多的数据），因而对比起CPU更胜一筹。

同时，DPU的MIMD架构相比图形处理单元(GPU)的SIMD架构更为优秀，其每个请求都需要做出不同的决定并遵循不同的路径通过芯片，从而使其区别于GPU 。也就是英伟达说的软件定义网络，Mellanox NVMe SNAP （软件定义的网络加速处理）技术可以为远程存储提供2.5M + IOPS读/写访问，这是4KB块大小时100Gb / s的线速性能。相比之下，入门级NVMe SSD可以提供带有4 KB块的300K IOPS。此外，BlueField-2 DPU毫不费力地以100 Gb / s的速度添加了IPSec加密和解密功能。

上图为二代Bluefield，内含8个ARMA72，Atlan里的要处理数据带宽远小于传统服务器，两个A72足够。Atlan里的DPU主要针对车载骨干以太网和外接的PCIe网络，内置网络控制器和PCIe交换，以太网可轻易支持到100G，PCIe则支持到第四代，也可以做数据采集车的网络接口芯片，与超高速固态硬盘连接。不过物理层芯片还是绕不开Marvell、德州仪器和博通。

最后是功能安全隔离岛，应该就是ARM发布的Cortex-R52。英伟达所说的功能安全岛与ARM所说的安全岛的宣传词都基本一致。R系列是ARM专门为实时性要求高的场合开发的内核，R52是R系列旗舰产品，之前英伟达芯片从未采用过R内核。

R52是ARM在2016年发布的专为自动驾驶安全市场供应的内核，Cortex-R52最高支持4核心锁步技术，相比Cortex-R5，有35%的性能提升，上下文切换（乱序）提高14倍，入口抢占提高2倍，支持硬件虚拟化技术。

按照ARM的说法，简单的中控系统可直接用Cortex-R52，但是像工业机器人和ADAS（先进辅助驾驶）系统则建议配合Cortex-A、MaliGPU等提升整体运算。另外，ARM Cortex-R52通过多项安全标准认证，包括有IEC 61508（工业）、ISO 26262（车用）、IEC60601（医疗）、EN 50129（车用）以及RTCA DO-254（工业）等。2021年3月还推出了R52+架构。可以最高支持8个核心锁步。

R52包括三大功能，软件隔离：通过硬件实现的软件隔离，意味着软件功能互不干扰。对于安全相关的任务，这也意味着需要认证的代码更少，从而节省了时间、成本和工作量。

支持多个操作系统：借助虚拟化功能，开发人员能够在单个CPU内，使用多个操作系统来整合应用。这样可以简化功能的添加，而无需增加电子控制单元的数量。
实时性能：Cortex-R52+的高性能多核集群可为确定性系统提供实时响应能力，且在所有Cortex-R产品中产生的延迟最低。

Atlan拥有多达1000TOPS的算力，是Orin的4倍，看其内部布局，仍然是12个安培GPU模块，与Orin差不多，面积似乎也差不多，似乎还略微小了点，只不过Atlan的CPU die 面积远比Orin的要大，Atlan能取得1000TOPS的成绩，主要功劳应该是CPU、DPU和存储的功劳，单Ampere架构的改进不大可能取得如此高的提升。

Atlan是针对服务器超大规模模型而设计的，而自动驾驶车载模型的趋势是越来越小，精度越来越低，已经有人喊出1比特精度。Atlan反其道行之，特别支持服务器领域常见而自动驾驶领域少见的BFloat16精度。

显然英特尔对车载领域的兴趣度在逐渐下降，无论是CPU还是DPU，都是借服务器领域的，而非专为车载领域开发。而在ARM服务器这个领域，依靠与ARM的深度合作与深厚的技术积累，英伟达能像英特尔笔记本电脑那样每两年就产品换代一次，不过一款车的生命周期至少是7-8年，车厂可不会认同这样的更新频率。但英伟达不在意，英伟达核心业务还是显卡和数据中心处理器，车载只是顺手做的，发挥CPU\GPU\DPU的余热。

而Orin的ARM A78内核是专为自动驾驶引进的新内核，在英伟达其他产品见不到A78的身影，足见对A78的重视，而Atlan只能见到对数据中心的重视。英伟达的另一个用意是拉上对手做算力军备竞赛，在宣传上大造声势，压迫对手必须跟进算力游戏，直到拖垮对手。其他厂家恐怕不会跟进这种算力数字游戏，这脱离了实际需求。Orin恐怕将是英伟达未来数年的主力产品。

佐思 2021年研究报告撰写计划

智能网联汽车产业链全景图（2021年3月版）

2021年佐思汽车会议活动计划

「佐思研究年报及季报」

主机厂自动驾驶	低速自动驾驶	汽车视觉（上）
汽车视觉（下）	商用车自动驾驶	新兴造车
汽车MLCC	汽车分时租赁	高精度地图
汽车仿真（上）	汽车仿真（下）	汽车与域控制器
APA与AVP	车用激光雷达	毫米波雷达
处理器和计算芯片	ADAS与自动驾驶Tier1	乘用车摄像头季报
HUD行业研究	驾驶员监测	汽车功率半导体
Radar拆解	OEM车联网	T-Box市场研究
汽车网关	车载语音	汽车线束、线缆
汽车智能座舱	人机交互	V2X和车路协同
汽车操作系统	L4自动驾驶	专用车自动驾驶
计算平台与系统架构	车载红外夜视系统	共享出行及自动驾驶
高精度定位	汽车OTA产业	汽车IGBT
座舱多屏与联屏	戴姆勒新四化	特斯拉新四化
大众新四化	比亚迪新四化	智能后视镜
华为新四化	四维图新新四化	燃料电池
AUTOSAR软件	座舱SOC	线控底盘
车载显示	路侧智能感知	自主品牌车联网
汽车数字钥匙	汽车云服务平台	无线通讯模组
ADAS/AD主控芯片	Tier1智能座舱（上）	Tier1智能座舱（下）
商用车车联网	Waymo智能网联布局	智能网联和自动驾驶基地
OEM信息安全	商用车ADAS	自动驾驶法规
传感器芯片	L2级自动驾驶	智慧停车研究
汽车5G	TSP厂商及产品	合资品牌车联网
汽车座椅	智能汽车个性化	新势力Top4
农机自动驾驶	矿山自动驾驶	ADAS数据年报
无人接驳车	飞行汽车报告

「佐思研究月报」

报告订购联系人: 符先生 15810027571（同微信）廖女士 13718845418（同微信）