AI大模型时代 Arm赋能合作伙伴打造定制芯片

在ChatGPT引发的热潮推动下，有越来越多的企业入局，也有越来越多的大模型出炉。随着对芯片算力需求的提升，科技大厂纷纷选择亲自下场开发AI芯片。面对这一趋势，Arm公司持续赋能合作伙伴打造定制芯片加以应对。

在日前举办的Arm Tech Symposia 年度技术大会上，Arm 高级副总裁兼基础设施事业部总经理Mohamed Awad就表示，近年来Arm 已转型为一家计算平台公司。一直以来，Arm向市场提供 IP 产品，合作伙伴基于Arm的 IP 来开发他们的解决方案和产品。此外，Arm 现在也更专注于建立完整且全面的解决方案，帮助合作伙伴更快地将产品推向市场，让他们能够把更多的时间和精力集中在开发创新的解决方案上，以提供更多的新产品和解决方案，带来差异化。

大模型推动算力需求爆发 定制芯片受青睐

Mohamed Awad强调，从人工智能到 5G，再到云数据中心以及边缘，打造新一代计算基础设施的技术先行者都在转向寻求定制芯片，以实现规模化所需的专用处理能力。Arm公司推出，Arm全面计算解决方案、Arm Neoverse平台、Arm Corstone以及SOAFEE等，都是Arm的计算平台分别在移动、基础设施、物联网与汽车等市场当中得以广泛应用的例证。这些平台可以向生态伙伴提供一个完整、集成的解决方案，帮助用户快速采用并推出自身的解决方案。

在谈到基础设施方面时，Mohamed Awad介绍，传统的服务器系统往往采取一个标准的CPU通过标准化的总线，连接几个加速器的架构模式。这种传统架构一直适用了几十年。但是在 AI 时代，这样的架构已经很难满足日益增长的数据和计算量需求。因为它无法获得足够的内存带宽。为此，越来越多的模型厂商开始选择定制芯片，以便灵活调整芯片架构，重新构建系统。

以NVIDIA GH200 Grace Hopper 超级芯片架构为例，NVIDIA与Arm合作对系统进行了进一步优化。定制CPU包括72 颗 Arm Neoverse 核心，加上来自 NVIDIA 的 GPU的组合。每个核心都会直接连接到每个加速器上，在加速器和 CPU 之间建立高性能连接，并在整个设备间实现内存一致性，其AI 性能较传统架构下的系统可以提升10倍。

而为了帮助合作伙伴实现这样的定制芯片，Arm还推出Arm Neoverse 计算子系统 (CSS)、Arm全面设计 (Arm Total Design)生态项目，降低打造定制芯片的成本和难度，加速产品的上市进程。同时，Mohamed Awad也表示，Arm仍致力于IP授权业务，为合作伙伴提供更高的自由度，最适合自身的方式进行产品开发。

从云端到终端  Arm打造全面解决方案

AI大模型正向边缘与终端延伸，如AI手机、AI PC的推出，这需要进一步改善芯片性能、降低功耗。那么，AI大模型的轻量化发展将给移动芯片生态带来哪些变化？对此，Mohamed Awad指出，考虑到生成式AI是大模型，训练肯定主要在云端进行。推理工作可以在各个节点发生，可以是在移动设备、在云端，也可以是在终端或边缘设备，以及像 VR 头显这样的新设备上。

就 Arm 而言，几十年来一直专注于计算性能的研发，专注于计算性能与软件的紧密藕合。计算不仅包括CPU，也包括NPU等，还包括整个系统、软硬件之间如何协同工作。这也是为什么 Arm 针对用例打造全面解决方案，可覆盖从低端到高端，从智能手表、手机到笔记本等。

展望未来，从最小的终端、移动设备，到网络边缘、数据中心，AI将无处不在。事实上，AI将革新计算的方方面面，这将带来更多的专用计算以及加速处理的需求。Mohamed Awad还表示，明年推出的基于Armv9 架构的 2024 Arm全面计算解决方案 (TCS24) ，也将会着重解决这些需求。

与安谋科技合作，继续助中国本土合作伙伴

中国市场一向是Arm最主要的市场之一。有数据显示，中国大陆市场占据Arm收入的近1/4。本次会议之上，Mohamed Awad再次强调了Arm始终致力于支持其中国客户和在中国的生态系统。Mohamed Awad表示：“来自中国市场的创新是Arm不断发展，并在业务上取得成功的原因之一。我们相信，Arm 所提供的基础平台能够赋能生态伙伴持续创新，打造出更卓越的产品和解决方案。我相信在中国，很重要的一点就是通过不断努力来加速创新，而正是这样的持续创新的精神，牵引着 Arm 和我们的生态伙伴一起取得了显著成就，并向市场推出更多新的产品。”

如今，中国合作伙伴基于 Arm 架构芯片的总出货量已累计达300亿颗。目前，Arm在中国有近400家技术授权客户。此外，Arm也一直通过与安谋科技合作以进一步助力本土合作伙伴。