PyTorch 2.9：发布AMD ROCm、Intel XPU支持与Arm改进

介绍

PyTorch 2.9 增强了对 AMD ROCm、Intel XPU 和 Arm 的硬件支持，改进了 AI 模型在多样化生态系统中的部署。

增强的硬件兼容性

PyTorch 2.9 引入了对 AMD ROCm、Intel XPU 和 NVIDIA CUDA 13 的 wheel 支持，提供了稳定的 ABI 用于扩展和用于多 GPU 编程的对称内存。开发者受益于 AI API 和 SDK 的集成。

性能和优化特性

FlexAttention 支持 Intel GPU，flash decoding 优化了 CPU 后端，torch.compile 提供了更好的错误处理。对于 性能分析 工作流很有用。

优点和缺点

优点

• 扩展了对 AMD、Intel 和 NVIDIA 平台的硬件支持
• 通过对称内存改进了多 GPU 编程
• 增强了 Arm 处理器的性能和测试覆盖
• 在 torch.compile 操作中更好的错误处理
• 跨 GPU 类型一致的 FlexAttention 性能
• CPU 后端的 Flash decoding 优化
• 用于第三方扩展兼容性的稳定 ABI

缺点

• 新硬件平台的潜在学习曲线
• 多 GPU 配置中增加的复杂性
• 不同 GPU 之间可能的性能变化

结论

PyTorch 2.9 通过支持 AMD ROCm、Intel XPU 和 Arm，使 ML 硬件民主化，增强了 AI 模型托管 和部署灵活性。