IT之家10月20日消息,当地时间10月19日,亚马逊(AMZN)宣布推出开源工具TorchNeuron,借助该工具,开发人员编写的PyTorch代码可以在亚马逊(AMZN)的自研Trainium芯片上本地运行,只需更改一次配置,无需重写。
IT之家获悉,TorchNeuron将于当地时间10月20日在加州圣何塞举行的北美PyTorch大会上以开源许可形式正式发布。
PyTorch是由Meta(META)主导的开源框架,被大多数人工智能(885728)开发者所采用。英伟达(NVDA)投入了十多年的时间研发CUDA工具,能够让PyTorch代码在英伟达(NVDA)的芯片上高效运行。
据介绍,亚马逊(AMZN)工程师分别在传统芯片和Trainium芯片上运行了相同的AI训练脚本。唯一的区别仅在于代码中指定所用芯片的设置参数。结果显示,AI模型在两种环境下学习到的内容完全一致,学习速度也相同。这意味着开发者原本用于测试、调试和扩展AI模型的工具,无需任何修改,即可直接在Trainium上使用。
亚马逊(AMZN)称,TorchNeuron为人工智能(885728)行业带来了一项长期缺失的关键要素:真正可行的选择权。当开发者能够在不同芯片之间自由切换而无需付出额外代价时,芯片厂商就必须通过提供更具竞争力的产品来赢得开发者的青睐;而开发者则能从中受益,实现成本的降低与迭代速度的提升。
此外,亚马逊(AMZN)正积极参与PyTorch上游开发,与PyTorch社区合作,移除那些将该框架与特定芯片相绑定的代码。其目标是让PyTorch对整个开发者社区而言更具“硬件无关性”,而不仅仅是服务于Trainium用户。
