跳到正文
Hugging Face Blog·· 1 天前精选

PyTorch 2.15更新MPS后端:新增FP8并加速Mac上的模型推理

MPS in PyTorch 2.15

研究任务与主要进展

PyTorch 2.15为Apple Silicon Mac的MPS后端加入float8_e4m3fn和F.scaled_mm支持,并通过专用Metal内核加速语言模型解码、线性代数、卷积、填充、Softmax和训练操作。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请阅读原文核验。

本站判断

PyTorch 2.15通过将更多MPSGraph路径迁移到专用Metal内核,改善Mac上的大模型解码、线性代数、音视频处理和训练性能,并引入FP8支持。对Wan2.2视频VAE的显存峰值改善显示工程优化具有实际资源收益,但当前材料主要来自PyTorch团队的发布说明,2.15仍以候选版本形式提供,跨设备复现与完整兼容性仍需关注。

来源:Hugging Face Blog · huggingface.co