产品动态2 分钟读完TechCrunch AI

AWS发布TorchNeuron工具,挑战Nvidia在AI芯片软件生态的统治地位

速览

AWS于周一发布TorchNeuron工具,允许AI初创公司轻松将应用迁移至其Trainium芯片上。该工具与PyTorch框架兼容,仅需修改一行配置即可完成迁移,无需重写代码。此举旨在打破Nvidia通过CUDA软件建立的硬件默认优势,为开发者提供更多芯片选择。

TorchNeuron的发布是AWS对Nvidia软件优势的直接挑战。Nvidia多年来通过CUDA软件基础设施,使其GPU成为运行PyTorch应用的默认硬件选择,而TorchNeuron正是要打破这一绑定。

AWS强调,约85%的AI应用基于PyTorch开发,该框架由Facebook最初开发,2022年起归Linux基金会维护。TorchNeuron从PyTorch改编而来,熟悉PyTorch的开发者可直接上手。此前,PyTorch用户已可通过简单配置将应用移植到AMD或Apple芯片,但AWS认为迁移至Trainium的优势在于能同时获得其整个云服务生态。

AWS Annapurna Labs技术软件副总裁Colin Brace表示,在AWS上构建应用,无需依赖单一用途的计算提供商,从原型到生产所需的基础设施都已具备。他还指出,Trainium同时处理训练和推理任务,并与云基础设施深度集成,能帮助初创公司节省成本。他援引AI语音公司Deepgram的案例称,该公司迁移至Trainium后,每美元处理的音频量提升70%。

除提供迁移工具外,AWS还将向PyTorch上游社区贡献代码,推动该框架减少对特定芯片的依赖,使其对硬件更加中立。不过,这一做法可能带来新的配置复杂度,能否如AWS所言为开发者提供更多选择和更优性价比,仍有待观察。

原文Amazon is taking its biggest shot at Nvidia yet with new TorchNeuron dev tooltechcrunch.com

#亚马逊#PyTorch#AI芯片

本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。