Google 发布 TorchTPU 开源项目，与 Amazon 联手挑战 Nvidia 在 AI 芯片领域的主导地位

TorchTPU 的发布标志着 Google 正式加入 Amazon 的行列，试图打破 Nvidia 在 AI 应用开发领域的垄断。PyTorch 是目前最流行的 AI 开发工具包，据称被 85% 的 AI 应用所使用。它由 Meta 于 2016 年开发，2022 年被移交至 Linux 基金会管理。由于 Nvidia 的 GPU 长期以来是 AI 研究的标准硬件，PyTorch 的许多功能都与其深度绑定。

Google 的 TorchTPU 让 AI 应用可以运行在自家的 Tensor Processing Units（TPU）上，开发者只需进行简单的配置更改即可完成迁移，无需重写应用。Amazon 的 TorchNeuron 也提供类似功能，可将应用移植到其自研芯片 Trainium 上。此外，Amazon 还向 PyTorch 主项目提交了代码，旨在将各种功能与 Nvidia 芯片解耦，使其默认对任何硬件开放。

Google 在某些方面可能更进一步：

• 它与 Meta、Hugging Face、Inferact（vLLM 的开发者）、RadixArk（SGLang 的开发者）等直接合作，确保 TorchTPU 的功能和代码库与这些主流 AI 开发工具良好兼容。
• 推出了专门的 TPU agent suite 工具，帮助开发者将应用迁移到 Google 芯片和云平台，并解决过程中的错误。
• 更新了其 LiteRT 工具，使其更好地支持 PyTorch AI 应用在手机、笔记本电脑和嵌入式设备上运行。

尽管这些举措并不意味着开发者会立即放弃 Nvidia 硬件，但 Amazon 和 Google 显然正在努力削弱 Nvidia 的市场优势。