Google 开源 TorchTPU，加入 Amazon 挑战 Nvidia 的开发者基本盘

周二，Google 宣布，其期待已久的 PyTorch 版本 TorchTPU 现已作为开源项目提供。借此，Google 加入 Amazon，试图打破 Nvidia 对 AI 行业的垄断——目前大多数 AI 应用默认都是为在 Nvidia 的芯片（即 GPU）上运行而编写的。

PyTorch 是广受欢迎的开源工具包，AI 应用开发者和初创公司用它来构建、训练和运行 AI 模型。据一些说法，85% 的 AI 应用都在使用它。PyTorch 最初由 Meta（当时的 Facebook）于 2016 年开发，远在世人意识到 LLM 将改变世界之前。当时，Nvidia 的 GPU 已是 AI 研究的标准硬件，因此 PyTorch 的许多功能都是专门为与之配合而构建的。2022 年，Meta 将 PyTorch 移交给 Linux Foundation，这家非营利组织管理着许多重要的开源项目。

Google 的版本 TorchTPU 让 AI 应用能够在 Google 的 AI 芯片（称为 Tensor Processing Units，即 TPU）上运行。它还让现有 PyTorch 应用轻松迁移到 TPU，进而迁移到 Google Cloud。开发者只需简单更改配置，无需重写应用即可完成。

Amazon 发布了周一的类似公告，当时它推出了自己的 PyTorch 版本，名为 TorchNeuron。TorchNeuron 让 AI 应用无需重写即可移植到 Amazon 自研 AI 芯片 Trainium 以及 AWS。Amazon 还表示，它将更进一步，努力削弱 Nvidia 对 PyTorch 的掌控。它正在向 PyTorch 主项目提交代码，将各项功能与 Nvidia 的芯片解耦，使其默认对任何硬件更加开放。

不过，Google 或许在几个方面更胜 Amazon 一筹。它表示，已直接与 Meta、Hugging Face、Inferact（vLLM 的开发者）、RadixArk（SGLang 的开发者）等合作，以确保 TorchTPU 的功能和代码库能与这些流行的 AI 开发工具良好配合，就像原版 PyTorch 一样。

此外，这家搜索巨头还推出了专用工具 TPU agent suite，帮助开发者将应用迁移到 Google 的芯片和云，并在此过程中修复错误。它甚至更新了广受欢迎的 LiteRT 工具（用于在手机、笔记本电脑和嵌入式设备上运行 AI），使其能更好地配合 PyTorch AI 应用。

这并不意味着 AI 应用开发者会仅仅因为现在可以轻松迁移到替代芯片和云，就自动大规模放弃 Nvidia 的硬件。但 Amazon 和 Google 显然正在努力终结 Nvidia 的优势。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 的初创公司/风险投资编辑部编辑。

您可以发送电子邮件至 [email protected]，或通过 X 上的 @Julie188 联系 Julie，或核实来自她的联络。

查看简介