在昨日举办的“Advancing AI”峰会上,AMD CEO Lisa Su除了带来精彩的MI 300系列芯片介绍外,“Ryzen AI”也成为了她昨天演讲中不可忽略的一个重点。IDC在日前发布的一份白皮书中也表示,到2024年,人工智能将成为PC行业的“必备功能和主流选择”。
以中国市场为例,根据IDC提供的数据,2024年中国新增的个人电脑将有54.7%是人工智能个人电脑,但在2023年这一比例仅为8.1%。展望2027年,这个数字将快速飙升至84.6% 。
而伴随着AI PC的火热,整个PC市场也有望迅速回温。
研究公司Canalys在最近的报告中表示,由于宏观经济环境改善以及假期通常是销售旺季,所以本季度PC出货量将增长 5%,一扭过去七个月连续下降的局势。报告进一步指出,在AI进入PC这个概念的推动下,整个PC出货量在2024 年将进一步加速,全球增速将达到 8%。
面对这“泼天的富贵”,AMD也正在加紧其布局。
率先将NPU引入X86处理器
首先说明一下,将AI引入PC,AMD是x86领域的第一个。
早在年初发布锐龙7040系列处理器的时候,AMD就领先于竞争对手,率先将一个NPU集成到其X86处理器中,从而引出了公司的“Ryzen AI”概念。据了解,这是一种集成的 AI 引擎,可以处理诸如在视频通话期间进行背景模糊、自动取景、眼神矫正等任务。从技术层面看,如下图所示,AMD通过在X86处理器中加入一个NPU,让消费者在 AI PC 上更接近个人计算的强大功能,将工作、协作和创新的效率提升到一个全新的水平,以便您可以更好地与周围的世界保持联系。
在行业盛会Hotchips 2023上,AMD更是通过锐龙7040 Phoenix系列,概览公司“Ryzen AI背后的神秘面纱——XDNA架构,这也是其NPU的核心技术。如图所示,AMD 在Phoenix 中集成了16 个AIE-ML 区块,并可功能分割,让多个应用共用人工智能引擎。
虽然AMD并没有详细介绍AIE,但据台媒引述相关资料介绍,这是一个来自AMD收购的Xilinx公司的技术,集成了六个指令的超长指令集架构(6-way VLIW),单一指令含两个纯量(Scalar)运算、一个向量乘法(Vector Multiplication)、两个存储载入(Load)和一个存储回存(Store)。AIE 有两个向量暂存器档案,一组6kB 提供浮点乘法器输入,另一组8kB 保存累加值。此外,AIE 有16kB 指令存储和64kB 数据存储,16 个AIE 共用2MB L2 快取。
值得一提的是,和Nvidia A100 / H100 一样,AIE 支援50% 稀疏率(Sparsity),特定场合可提高一倍理论效能。
AMD Lisa Su表示,目前市场上已经有50多款笔记本产品采用基于锐龙7040系列处理器的Ryzen AI。AMD 现在也已发货超过数百万颗内置 XDNA NPU 的处理器。不过,他们并未止步,开始迈入了Ryzen AI的第二个阶段,Ryzen 8040则是其首个重磅产品。
Ryzen AI,新的路线图
据AMD介绍,代号为“Hawk Point”的锐龙8040 系列移动处理器AI性能将提升60%。该芯片采用与现有锐龙7040“Phoenix”处理器相同的 4nm Zen 4 核心、RDNA 3 显卡和 XDNA AI 引擎,但性能却有不同程度的提升。
AMD透露,以 8 核锐龙9 8945HS为首的锐龙8040系列芯片在 Llama 2 和 AI 视觉模型性能方面比前代产品快了 1.4 倍。其游戏速度更是比英特尔高端i9-13900H芯片快 1.8 倍,内容创建速度快 1.4 倍。与竞品相比,在视频编辑、3D渲染和游戏性能等方面也是大幅领先。
而AI性能也提升显著,AMD表示,锐龙7040 的 NPU AMD XDNA 能够达到 10 TOPS,而 8040 的 NPU 可以达到 16 TOPS。展望 2024 年,AMD 还预告了其下一代 NPU 架构的处理器,代号为“Strix Point”,它将提供“超过 3 倍的生成式 AI NPU 性能”。这主要得益于全新改进的 XDNA 2 NPU 引擎。
与此同时,AMD 还发布了新的 Ryzen AI 软件,这是一款可以让爱好者和开发人员可以在其芯片上部署与 XDNA AI 引擎配合使用的预先训练的 AI 模型。据介绍,Ryzen AI 软件 1.0 版的新增功能是支持开源 ONNX Runtime 机器学习加速器,其中包括对混合精度量化的支持,当中包括 UINT16/32、INT16/32 和 FLOAT16 浮点格式。同时,AMD Ryzen AI 1.0 版还支持 PyTorch 以及 TensorFlow 2.11 和 2.12,这拓宽了软件开发人员在模型和 LLM 方面运行的能力,从而为软件创建新的创新功能。
具体而言,用户只需选择在 PyTorch 或 TensorFlow 等框架上训练的机器学习模型,并使用 AMD 的 Vitis AI 量化器将模型量化为 ONNX 格式。然后软件对模型进行分区和编译,然后在 Ryzen AI NPU 上运行。
借助新的软件,AMD让开发者可以获得基于 XDNA 的 NPU 硬件能力,以促进高级 AI 应用程序的开发,例如手势识别、生物识别身份验证和其他辅助功能(包括相机背景)。AMD表示,Ryzen AI 软件现已免费提供,公司同时还在 Hugging Face 上提供了预先优化的模型供用户使用。值得一提的是,该软件目前仅适用于 Windows,但据AMD方面透露,公司Linux 版本的软件将在未来几个季度推出。
过去几十年里,PC处理器的竞争主要集中在性能和功耗等多个方面。但从现在开始,AI将会给PC带来新的革命,这值得我们所有人期待。