亚马逊开源 TorchNeuron:PyTorch 代码无需重写即可跑在 Trainium 芯片上
10月20日,据报道,亚马逊宣布推出开源工具 TorchNeuron,借助它,开发人员编写的 PyTorch 代码可以直接在亚马逊自研的 Trainium 芯片上本地运行,只需更改一次配置,无需重写。
TorchNeuron 在北美 PyTorch 大会上以开源许可形式正式发布。PyTorch 由 Meta 主导,被大多数人工智能开发者采用;英伟达则投入十多年研发 CUDA 工具,让 PyTorch 代码能在自家芯片上高效运行。
按照介绍,亚马逊工程师在传统芯片和 Trainium 芯片上运行了相同的 AI 训练脚本,唯一的区别只是代码中指定芯片的设置参数。结果显示,模型在两种环境下学到的内容完全一致,学习速度也相同,这意味着开发者原本用于测试、调试和扩展模型的工具,不用任何修改就能直接在 Trainium 上使用。
亚马逊称,TorchNeuron 为行业带来了长期缺失的选择权:当开发者能在不同芯片之间自由切换而不付出额外代价时,芯片厂商就必须用更有竞争力的产品来赢得青睐,开发者则能降低成本、加快迭代。此外,亚马逊正积极参与 PyTorch 上游开发,与社区合作移除将框架与特定芯片绑定的代码,目标是让 PyTorch 对整个社区更具硬件无关性,而不只是服务 Trainium 用户。