[原创] Arm全新GPU深度解读:一次重大的飞跃

2019-05-28
14:00:14
来源: 半导体行业观察

[原创] Arm全新GPU深度解读:一次重大的飞跃

今天 ,Arm 推出了 新的 Cortex-A77 CPU微架构, 但更重要的 推出 了新的 Valhall GPU 架构和新的 Mali-G77 GPU Bifrost 架构 推出 已有三年,随着行业和工作负载的不断发展, Arm GPU 也必须与时俱进。

Valhall和新款Mali-G77继上三代Mali GPU之后,在性能、密度和效率方面都有了一些显著的改进。尽管去年的G76对执行引擎的计算架构进行了一些重大更改,但G77更进一步,并且脱离了Arm相对不同寻常的计算核心设计。

回顾Bifrost——第三次是魅力

过去几年对Arm的GPU IP产品不太友好,这不是什么大秘密。当第一款Bifrost GPU——Mali-G71于2016年推出,并在当年晚些时候在麒麟960和Exynos 8895上投入生产时,我们曾期待会有良好的性能和效率提升。

Bifrost是Arm的第一个标量GPU架构,不同于上一代(Midgard:T-600,700&800系列)的矢量指令设计。这一变化是根本性的,就像我们看到AMD和英伟达这样的台式计算机GPU供应商在过去十年中推出了新的GCN和Tesla架构。

不幸的是,前两代Bifrost,Mali-G71和随后的G72都不是很好的GPU。Arm的两大主要授权商,海思和三星,用这两代架构推出的GPU都非常令人失望。麒麟960和970在这方面尤其糟糕,我认为它对华为和荣耀的产品规划和营销产生了相当大的影响。

[原创] Arm全新GPU深度解读:一次重大的飞跃

[原创] Arm全新GPU深度解读:一次重大的飞跃

在Bifrost架构的最后一次迭代中,Mali-G76对于Arm而言是一次更重要的飞跃,IP在很大程度上能够解决其前代产品的一些关键问题,从而为Exynos 9820和麒麟980芯片组带来了相对较好的结果。

不幸的是,当Arm迎头赶上并解决BiFrost的问题时,竞争对手并没有止步不前,而且还在挑战极限。高通的Adreno GPU架构多年来一直在移动领域处于领先地位,尽管Adreno 640今年没有取得令人印象深刻的改进,但它在性能、效率和密度方面仍明显领先于Arm。更令人担忧的是,苹果A12的GPU在性能和效率方面绝对是一个重大飞跃,甚至比高通最好的GPU都要好得多,更不用说Arm的Mali GPU了。

 

Valhall简介:一次重大的改进

 

今天我们要介绍Arm的全新GPU架构:Valhall(古挪威语Valhöll,即Valhalla)。新架构带来了全新的ISA和计算核心设计,试图解决Bifrost架构的主要缺点,并且看起来与我们看到的其他GPU供应商采用的设计方法非常相似。

[原创] Arm全新GPU深度解读:一次重大的飞跃

Valhall GPU的第一次迭代是新的Mali-G77,它将实现我们今天将要讨论的所有架构和微架构改进。

[原创] Arm全新GPU深度解读:一次重大的飞跃

Arm承诺的是,能效和面积密度(基于ISO性能和工艺)提高30%,以及GPU上的机器学习推理工作负载性能提高60%。

[原创] Arm全新GPU深度解读:一次重大的飞跃

更有趣的是,在即将到来的2019年底和2020年,SoC的性能预计将比2019年的器件提高40%。下一代SoC预计只有很小的工艺节点改进,因此这里引用的大部分提升都归功于新Mali-G77 GPU的架构和微架构的飞跃。

Valhall简介:一个用于现代工作负载的新ISA

新的Valhall架构的核心是Arm的新执行核心,这与它的前代产品有很大的不同。它仍然是一个标量设计,但是不同于Bifrost不同寻常的狭窄的8-wide设计,新的执行核心更类似于我们从AMD和英伟达等台式计算机GPU供应商那里看到的样子。

[原创] Arm全新GPU深度解读:一次重大的飞跃

Bifrost在Mali-G71和G72的初始迭代中,核心中的执行块由4-wide标量SIMD单元单元组成,其warp/wavefront大小也是4。在去年的G76上,它增加到了2个4-wide单元,warp大小是8。最初,在BiFrost的设计中,Arm使用如此窄的单元和如此小的warp的理由是为了减少ALU上的空闲周期。当时的工作负载无法有效地填充足够的线程来支持更大的warp设计。这样做的好处是,理论上Arm可以以更多的控制逻辑为代价实现更好的ALU利用率。

然而,随着新一代工作负载的不断发展,这种方法突然变得没有什么意义了。今天的游戏正在快速地向更复杂的计算发展,特别是在过去的一两年中,我们看到了起源于PC的游戏被移植到了移动设备上。

随着着色计算复杂性的增加,发出更多线程并对其进行更宽的warp设计变得更加容易。在这种情况下,新的Valhall架构支持16-wide的基于warp的执行模型。虽然仍然没有英伟达的32-wide或AMD的64-wide设计那样的宽度,但考虑到去年之前Mali GPU使用的是4-wide warp执行模型,因此这是一次巨大的飞跃。

Arm也改变了ISA本身,简化了很多指令。虽然我们没有更多细节,但据说新的ISA更易于编译,并且其设计可以更好地配合现代API(如Vulkan)。

对于此前的BiFrost GPU甚至是Midgard GPU,我们看到的是单个GPU核心采用多个执行引擎。这3个引擎有自己专用的数据路径控制逻辑、自己的调度程序和指令缓存,以及自己的寄存器文件和消息传递块,这自然会产生相当多的开销晶体管。特别是在高端,这没有任何意义,因为GPU IP自4年前的T860/880系列以来就没有改变过执行引擎的数量。

新的G77将前几代“小型”执行引擎整合到一个具有共享控制逻辑的较大的IP块中。新引擎的IP设计仍然存在一些重复:实际的ALU流水线被组织成两个“集群”,每个集群都有自己的16-wide FMA单元以及相应的执行单元。

[原创] Arm全新GPU深度解读:一次重大的飞跃

新ISA的一部分是一种新的编码,它比我们在Bifrost中看到的更加规则。Valhall架构的一个重要新特性是,新ISA摆脱了固定的问题调度、子句和元组。在Bifrost中,Arm将指令的调度委托给编译器,将它们分组到所谓的子句中。这在实践中是有效的,尽管它在编译器上花费了大量的工作来获得最佳的结果,并试图隐藏指令和数据访问之间的延迟。

在ValHall中,调度完全由硬件完成,这本质上更类似于无序CPU的工作方式。这种新设计还意味着实际的ISA与实现的微架构更加脱节,这是一种更具前瞻性的设计选择。

新的ISA还将重点放在优化纹理指令上,这与新架构大幅增强的纹理能力有关。

其他变化包括对现有技术的增量更新和数据结构的演变,其中包括对几何流的优化和对AFBC(ARM帧缓冲压缩)的优化。

[原创] Arm全新GPU深度解读:一次重大的飞跃

我们深入研究了执行引擎的结构,发现该结构一般可以分为四个模块:包含有warp调度和I-cache的前端、两个相同的数据路径集群(处理单元),以及连接到加载/存储单元和固定功能块的消息块。

前端支持多达64个warp或1024个线程。每个处理单元都有三个ALU:FMA和CVT(Convert)单元是16-wide,而SFU(特殊功能单元)是4-wide。

[原创] Arm全新GPU深度解读:一次重大的飞跃

前端创建和撤消warp,并保持必要的状态。在前端内有一个动态调度程序,它决定每个warp执行哪些指令。等待dependency 的warp将替换为准备执行的warp。

I-cache在处理之间共享,是16KB(2048指令)4路组相联(4-way set associative),根据带宽每个周期能够发出4条指令。

[原创] Arm全新GPU深度解读:一次重大的飞跃

在实际的处理单元(集群)中,我们有四个提取单元发出到算术单元中。每个提取单元都有一个紧密耦合的寄存器文件,以及一个减少访问寄存器文件的延迟的转发缓冲区。

FMA ALU每周期支持16个FP32 FMA,是FP16的两倍,也是INT8 dot产品的两倍。convert单元处理基本整数操作和自然类型转换操作,并充当分支端口。

SFU是4-wide而不是16-wide,因为它处理不太常用的指令,不需要那么大的吞吐量。

[原创] Arm全新GPU深度解读:一次重大的飞跃

总体而言,通过在Mali-G77与Mali-G76的执行引擎之间进行更高级别的比较,我们看到了单引擎同三个引擎的对决。单引擎在主数据路径上有更多实体,而控件和I-cache的实体更少,从而提高了整个块的区域效率。

ALU延迟方面的一个重要变化是,数据路径现在是4-cycle的深度,而不是以前的8-cycle,这可以在不进行链式操作时提高性能。

同样,新核心具有类似超标量的发布,而不是过去的桶形流水线设计,在过去的桶形流水线设计中,流水线必须对上述延迟做出适当的妥协。这一变化也是新编译器被大大简化的原因之一,因为它不再需要像以前的流水线设计那样同时发出匹配指令。

Mali-G77微架构

前文介绍完了负责算术处理的执行引擎,这一节的微架构只是更宽的核心设计的一部分。此处,Arm通常保持了与上一代GPU非常相似的总体设计,但是在几个区块中有一些重要的变化。

[原创] Arm全新GPU深度解读:一次重大的飞跃

着色器核心仍然包含执行引擎、带有缓存的加载/存储单元、属性单元、变化单元、纹理映射单元和像素后端,以及其他各种3D固定功能块。

这里最大的变化是纹理单元块,与我们在Mali-G76上发现的已经加倍的单元相比,它的吞吐量翻了一番。

[原创] Arm全新GPU深度解读:一次重大的飞跃

从高级功能的角度来看,新的TMU看起来与其前代产品非常相似,但是我们发现新设计在吞吐量方面有一些非常重要的变化。

该设计被分成两条“路径”,一条命中路径(hit-path)和一条未命中路径(miss-path),它们可以处理缓存内部或纹理缓存外部的“未命中”(miss)。命中路径自然是一种更短的、经过延迟优化的路径。

在命中路径上,纹理缓存本身已得到改进,现在是32KB,并且能够达到16 texel/cycle吞吐量。滤波单元也得到了改进,其吞吐量也得到了提高,现在双线性纹理每cycle支持一个四边形,三线性纹理每cycle支持半个四边形,两者都是G76吞吐量的2倍。

有趣的是,Arm表示,新的TMU与之前的TMU大致相同,但仍能实现能力翻番,堪称极为优秀的工程壮举。

[原创] Arm全新GPU深度解读:一次重大的飞跃

从根本上说,核心纹理能力的这种大幅增加改变了ALU,即GPU的Tex比率。尽管ALU能力提升了33%,但TMU吞吐量翻番意味着我们现在回到了一个更低的比率,更倾向于纹理吞吐量,而过去的GPU专注于提高计算性能。Arm认为这是一个必要的改变,因为现在的工作负载开始加重GPU在这方面的负担。

需要注意的是,虽然纹理过滤吞吐量增加了,但是实际像素后端吞吐量没有增加。这里的着色器核心仍然只能为每个时钟绘制2个像素,因此我们现在的texel(像素比率)是2:1,而在过去它仍然是1:1。

[原创] Arm全新GPU深度解读:一次重大的飞跃

着色器核心块中的另一个重新设计是新的加载存储缓存块。从功能上讲,它与过去一样,但是现在经过重新设计,考虑到了更多的吞吐量。在同一区域内,流水线阶段的数量减少了一半,进一步降低了核心操作的延迟。带宽已被扩大到全cacheline宽度,这应该是其前身的两倍。

实际的缓存大小为16KB,4路组相联(4-way set associative),据说对于机器学习工作负载非常有用。

[原创] Arm全新GPU深度解读:一次重大的飞跃

[原创] Arm全新GPU深度解读:一次重大的飞跃

将所有的部分放在一起,并从着色器核心缩小到GPU级别,我们再次看到了Arm将全部的模块组织到一起的方法。该架构支持将着色器核心从1核扩展到32核,尽管G77的微架构目前仅支持16核。此外,Arm目前为RTL准备的最小的设计是7核配置,使用不同的IP(例如G52,或者未来在相同范围内的未推出的IP)可以更好地为客户提供较小的配置。

L2缓存仍然由四个部分组成,每个片的大小从256KB到1MB不等。目前,大多数供应商都采用2MB配置,我认为没有任何被授权方实现过4MB配置。在带宽方面,L2到LSC的带宽也从32B/cycle增加了一倍,达到64B/cycle(一个完整的cacheline),而外部带宽则取决于供应商为L2的每个部分实现128位还是256位AXI接口。

性能目标:提高30%的PPC和效率

从纸面上看,新的Valhall架构和新的Mali-G77看起来确实是一个很大的变化,但更重要的是知道Arm宣称的性能、效率和面积如何。

[原创] Arm全新GPU深度解读:一次重大的飞跃

Arm的性能声明非常有趣,因为Arm公布的性能是基于每mm²。基于供应商实现他们的GPU的方式,他们可以改变核心数量以及频率,实际上很难给出一个清晰的数字来描述两个独立GPU配置之间的改进。对于G77,Arm声称新IP能够提供比G76的每mm²性能提高1.2~1.4倍。就绝对值而言,G77着色器核心的大小据说与G76核心的大小相同。

这意味着这可以直接为供应商转换成更小的GPU,或只是更多的空间,以增加额外的GPU核心,从而提高性能。特别是,Arm声称G77在纹理重的游戏中表现得非常好,因此,关注器件实际的样子,以及不同工作负载的表现将是一件有趣的事情。

[原创] Arm全新GPU深度解读:一次重大的飞跃

另一种提高性能的方法是提高GPU的时钟。这里的根本限制是智能手机的4~5W TDP限制。在ISO流程和性能方面的比较中,据说新的G77使用17%~29%的能源和功率来完成同样的工作负载。或者换言之,性能/W提高了1.2~1.39倍。Arm表示G76和G77之间的基本频率根本不会发生太大变化,内部Arm的目标仍然是850MHz。

今年我不打算尝试任何性能和效率预测,因为有太多的变量在发挥作用。我预计,明年更大的变化之一是SoC将支持LPDDR5,这可能会显着改变智能手机的功率动态。

Arm的确指出,他们预计明年使用G77的SoC性能将提高1.4倍。以三星的Exynos9820作为G76的参考,这意味着未来的G77 SoC将以更高的功率效率(假设维持功率水平不变)接近苹果的A12 GPU性能。这将使高通陷入麻烦,因为它将明显超越当前一代Adreno 640,但我们预计高通也将推出新一代GPU。

[原创] Arm全新GPU深度解读:一次重大的飞跃

G77的机器学习性能是Arm引以为豪的。这不仅仅是因为内核的处理单元数量增加了33%,而且LSC的设计和带宽也有了很大的改进,这使得G77的推理性能比G76提高了1.6倍。

[原创] Arm全新GPU深度解读:一次重大的飞跃

最后,Arm对最近两代Mali GPU进行了代际比较。在相同的工艺和相同的性能下,新的G77继续实现30%的同比能效改进,并且比Mali-G72节省50%的能源。

结论

在TechDay活动期间,Arm显然对新的Valhall架构和新的Mali-G77感到非常兴奋。他们非常有理由感到兴奋,因为看起来Arm似乎将展示Mali GPU IP的重大代际飞跃。

新的G77采用了一种全新的架构,从根本上改进了ARM的执行核心,旨在实现更现代的、符合台式计算机GPU的架构。这似乎是一个长期的转变,虽然G76是一个相对较好的GPU,但前代的G72和G71不是。

[原创] Arm全新GPU深度解读:一次重大的飞跃

我期待今年晚些时候和明年年初在下一代三星Exynos和海思Kirin SoC中看到Mali-G77。从理论上讲,如果一切顺利,G77应该能够缩小与苹果和高通在性能和效率方面的差距。尤其是G77应该能够超越高通的Adreno GPU,至少是当前一代的Adreno。

我对此相当乐观,现在Arm和被授权的合作伙伴只需要正确地执行,就可以让用户享受最终成果。

原创文章,作者:admin,如若转载,请注明出处:http://www.eefans.com/archives/1648

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注