Arm技术研讨会:人工智能技术转型需要前所未有的生态系统合作

Arm Tech Symposia 2024在中国、日本、韩国和台湾举办的活动是Arm有史以来在亚洲举办的规模最大、出席人数最多的活动之一。所有活动的规模都与科技行业面临的巨大机遇相匹配。正如安谋客户业务线高级副总裁兼总经理Chris Bergey在台湾科技研讨会主题演讲中所说:“这是科技史上最重要的时刻。”人工智能有巨大的机会改变全球数十亿人的生活,但前提是生态系统以前所未有的方式协同工作。

对硅的重新思考
这些生态系统合作的核心是对行业如何开发和部署技术的广泛重新思考。这尤其适用于半导体行业,硅不再是一系列无关的组件,而是成为满足人工智能需求的“新主板”。这意味着多个组件在同一个包中共存,提供更好的延迟、更高的带宽和更高的能效。硅技术已经改变了全世界人们的日常生活,在智能手机上实现了创新的人工智能功能,如语言的实时翻译和文本摘要等。

正如Arm客户业务线产品管理副总裁James McNiven在韩国技术研讨会主题演讲中所说:“人工智能是为了让我们的未来变得更好。人工智能的潜在影响是变革性的。”Arm计算平台的重要性
Arm计算平台在人工智能的发展中发挥着重要作用。它结合了硬件和一流的技术解决方案,适用于广泛的市场,无论是人工智能智能智能手机、软件定义的车辆还是数据中心。

这得到了世界上最大的软件生态系统的支持,有2000多万软件开发人员在Arm上为Arm编写软件。事实上,所有技术研讨会的主题演讲都发表了以下声明:“我们知道,没有软件,硬件什么都不是。”软件如何“驱动技术飞轮”软件一直是Arm计算平台不可或缺的一部分,Arm通过三种关键方式为开发人员提供了理想的平台,使他们的梦想(应用程序)成为现实。首先,Arm的一致性计算平台触及了全球100%的联网人口。

这意味着开发人员可以“编写一次并部署到任何地方”该平台的基础是Arm架构,并通过定期引入新功能和指令集不断发展,加速关键工作负载,使开发人员和最终用户受益。SVE2是基于新联发科Dimensity 9400芯片组构建的支持AI的旗舰智能手机中存在的一项功能。它结合了矢量指令来提高视频和图像处理能力,从而获得更高质量的照片和更持久的视频。其次,通过具备加速能力,为开发人员的应用程序提供优化的性能。

这不仅仅是关于高端加速器芯片,而是可以访问支持AI的软件来解锁性能。Arm Kleidi就是一个例子,它与领先的框架无缝集成,以确保AI工作负载在Arm CPU上运行最佳。然后,开发人员可以解锁这种加速的性能,而不需要额外的工作。在Arm Tech Symposia Japan活动上,Arm汽车业务线高级副总裁兼总经理Dipti Vachani表示:

“我们致力于将硬件从开发人员身上抽象出来,这样他们就可以专注于创建改变世界的应用程序,而不必担心性能或集成方面的任何技术复杂性。”这意味着,当Meta的Llama、Google AI Edge的MediaPipe和腾讯的浑源的新版本上线时,开发人员可以确信,Arm CPU不会留下任何性能。

Kleidi集成将加速Arm计算平台上数十亿的人工智能工作负载,最近的PyTorch集成将在运行Llama 3大型语言模型(LLM)时,在基于Arm的AWS Graviton处理器上实现2.5倍的首次代币发布速度。最后,开发人员需要一个易于访问和使用的平台。Arm通过大量的软件投资实现了这一目标,确保在Arm计算平台上的开发是一种简化、无缝的体验,“只是有效”

正如每一位Arm Tech Symposia主题演讲人所总结的那样:“Arm和我们的生态系统的力量在于,我们提供了开发人员简化流程、加快上市时间、节省成本和优化性能所需的东西。”Arm生态系统的作用
在主题演讲中,Arm生态系统在实现新技术方面的重要性得到了强调。对于需要在许多不同领域结合核心专业知识的新硅设计来说尤其如此。

正如Arm基础设施业务线产品管理副总裁Dermot O’Driscoll在中国上海举行的Arm技术研讨会上所说:“没有一家公司能够单独涵盖设计和集成的每一个层面。”增强这些强大的生态系统协作是Arm Total Design的核心目标,它使生态系统能够加速开发和部署更有效、高效和高性能的硅解决方案。该计划在全球范围内不断发展,自2023年底启动以来,成员人数翻了一番。

每个Arm Total Design合作伙伴都提供了一些独特的东西,可以加速未来的硅设计,特别是那些基于Arm Neoverse计算子系统(CSS)构建的硅设计。总部位于韩国的Rebellions是体现Arm Total Design精神和价值的一家公司。最近,它宣布开发一个新的大规模人工智能平台REBEL AI平台,以提高人工智能工作负载的能效。

该平台基于Arm Neoverse V3 CSS构建,使用了来自Samsung Foundry的2nm工艺节点和封装,并利用了ADtechnology的设计服务。这展示了真正的生态系统协作,不同的公司提供不同类型的高价值专业知识。Dermot O’Driscoll说:

“人工智能时代需要定制硅,这之所以成为可能,是因为这个生态系统中的每个人都在共同努力,相互提升,从而能够快速有效地满足人工智能日益增长的需求。”Arm Total Design还帮助实现了一个新的蓬勃发展的小芯片生态系统,该生态系统已经涉及50多个领先的技术合作伙伴,他们正在与Arm合作开发小芯片系统架构(CSA)。

这正在创建标准框架,以实现蓬勃发展的小芯片市场,这是应对人工智能时代持续的硅设计和计算挑战的关键。运行AI的1000亿台基于Arm的设备之旅
所有主讲人在结束Arm技术研讨会时都强调了Arm首席执行官Rene Haas于2024年6月在COMPUTEX上做出的承诺:到2025年底,将有1000亿台基于Arm的设备运行人工智能。

然而,只有来自技术行业各个角落的生态系统合作伙伴以前所未有的方式共同努力,这一目标才有可能实现。幸运的是,正如所有主题演讲中所解释的那样,已经有许多这项工作正在进行中。Arm计算平台位于这些生态系统合作的中心,为人工智能提供技术基础,这将有助于改变全球数十亿人的生活。