跳到正文
热点事件持续更新

TorchNeuron 发布:PyTorch 应用可低成本迁移至 AWS Trainium

2 篇报道2 个报道来源1 小时前更新

先了解这件事

AI 综述

AWS 发布 TorchNeuron 工具,为 Trainium 芯片提供 PyTorch 原生后端。据 AWS 称,开发者只需修改一行配置即可让 PyTorch 应用在 Trainium 上运行,无需重写代码;工具同时支持训练和推理。Hugging Face 官方博客介绍,Transformers、Diffusers、Accelerate、PEFT 和 TRL 等库可直接使用该设备,开发者无需离开 PyTorch 工作流。 报道归属有差异:Hugging Face 博客将发布写为 Hugging Face 为 Trainium 推出后端,TechCrunch 则称发布主体是 AWS。AWS 还表示将向 PyTorch 上游提交代码,减少框架对特定芯片的绑定,并称约 85% 的 AI 应用使用 PyTorch。作为案例,AWS 称 Deepgram 迁移到 Trainium 后以生产级精度处理每美元多 70% 的音频,该数据为 AWS 说法,未经独立核验。

AI 根据报道生成 · 58 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. TechCrunch · AI
    AWS发布TorchNeuron开发工具,支持将PyTorch应用迁移至Trainium

    AWS发布TorchNeuron工具,使开发者可通过修改一行配置将PyTorch AI应用迁移到Amazon的Trainium芯片,无需重写代码,AWS称约85%的AI应用使用PyTorch。TorchNeuron同时支持训练和推理,并与AWS云基础设施集成;AWS还表示将向PyTorch提交代码,以减少框架对特定芯片的绑定。

10月19日
  1. Hugging Face Blog精选
    Hugging Face 为 AWS Trainium 推出 PyTorch 原生后端 TorchNeuron

    Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供原生 PyTorch 后端,并让 Transformers、Diffusers、Accelerate、PEFT 和 TRL 直接使用该设备。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。