TorchNeuron 发布:PyTorch 应用可低成本迁移至 AWS Trainium
先了解这件事
AWS 发布 TorchNeuron 工具,为 Trainium 芯片提供 PyTorch 原生后端。据 AWS 称,开发者只需修改一行配置即可让 PyTorch 应用在 Trainium 上运行,无需重写代码;工具同时支持训练和推理。Hugging Face 官方博客介绍,Transformers、Diffusers、Accelerate、PEFT 和 TRL 等库可直接使用该设备,开发者无需离开 PyTorch 工作流。 报道归属有差异:Hugging Face 博客将发布写为 Hugging Face 为 Trainium 推出后端,TechCrunch 则称发布主体是 AWS。AWS 还表示将向 PyTorch 上游提交代码,减少框架对特定芯片的绑定,并称约 85% 的 AI 应用使用 PyTorch。作为案例,AWS 称 Deepgram 迁移到 Trainium 后以生产级精度处理每美元多 70% 的音频,该数据为 AWS 说法,未经独立核验。
AI 根据报道生成 · 58 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
- TechCrunch · AIAWS发布TorchNeuron开发工具,支持将PyTorch应用迁移至Trainium
AWS发布TorchNeuron工具,使开发者可通过修改一行配置将PyTorch AI应用迁移到Amazon的Trainium芯片,无需重写代码,AWS称约85%的AI应用使用PyTorch。TorchNeuron同时支持训练和推理,并与AWS云基础设施集成;AWS还表示将向PyTorch提交代码,以减少框架对特定芯片的绑定。
- Hugging Face Blog精选Hugging Face 为 AWS Trainium 推出 PyTorch 原生后端 TorchNeuron
Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供原生 PyTorch 后端,并让 Transformers、Diffusers、Accelerate、PEFT 和 TRL 直接使用该设备。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。