谷歌开源 TorchTPU:PyTorch 应用可迁移至 TPU,挑战英伟达生态主导地位
10月21日,据报道,谷歌宣布面向 TPU 的原生 PyTorch 框架 TorchTPU 已在 GitHub 上开源。借此,谷歌与亚马逊一同尝试打破英伟达在人工智能行业的垄断,目前绝大多数人工智能应用默认基于英伟达 GPU 开发运行。
PyTorch 是一款热门开源工具库,人工智能应用开发者与初创企业依靠它搭建、训练和部署模型,有统计称 85% 的人工智能应用都在使用 PyTorch。它最初由 Meta 在 2016 年开发,当时英伟达 GPU 已是人工智能研究的标准硬件,因此 PyTorch 的诸多功能都是专门为适配英伟达 GPU 打造。2022 年,Meta 将 PyTorch 移交至 Linux 基金会。
谷歌推出的 TorchTPU 能够让人工智能应用在自研 TPU 上运行,也可以便捷地把现有 PyTorch 应用迁移到 TPU,进而迁移到谷歌云,开发者只需简单修改配置、无需重写应用代码。亚马逊在当地时间周一发布了类似消息,推出自家的 PyTorch 版本 TorchNeuron,可以在无需重写代码的情况下把应用移植到自研芯片 Trainium 以及 AWS,并表示将进一步削弱英伟达对 PyTorch 的掌控力,正在向主项目提交代码把功能与英伟达芯片解耦。
不过谷歌在部分方面的举措力度或许更大。谷歌称,其直接联合 Meta、Hugging Face、英菲拉克特、拉迪克斯阿克等多方合作,保证 TorchTPU 的功能与代码库能够像原版 PyTorch 一样,与这些主流开发工具良好兼容。此外,谷歌推出了专用工具 TPU 智能体套件,帮助开发者把应用迁移到谷歌芯片与云平台并在过程中排查修复错误;还升级了用于在手机、笔记本和嵌入式设备上运行模型的 LiteRT 工具,以更好支持基于 PyTorch 开发的应用。
这些进展并不代表开发者会仅仅因为迁移便捷就集体放弃英伟达硬件,但亚马逊和谷歌显然正在努力终结英伟达的优势地位。