亚马逊 AWS AI 训练芯片 Trainium2 实例全面可用，公布下代 3nm Trainium3

2024-12-04 15:36:31 来源： IT之家

　　IT之家 12 月 4 日消息，亚马逊 AWS 今日宣布，基于其内部团队所开发 AI 训练芯片 Trainium2 的 Trn2 实例广泛可用，并推出了 Trn2 UltraServer 大型 AI 训练系统，同时还发布了下代更先进的 3nm 制程 Trainium3 芯片。

　　单个 Trn2 实例包含 16 颗 Trainium2 芯片，各芯片间采用超高速高带宽低延迟 NeuronLink 互联，可提供 20.8 petaflops 的峰值算力，适合数 B 参数大小模型的训练和部署。

　　亚马逊宣称 Trn2 实例与当前一代基于 GPU 的 EC2 P5e 和 P5en 实例相比性价比提高了 30-40%。

　　而更大规模的 Trn2 UltraServer 则用 NeuronLink 聚合了 4 台 Trn2 服务器，总共包含 64颗 Trainium2 芯片，算力峰值进一步线性扩展到 83.2 petaflops，能满足目前世界上最大规模模型的训练和部署需求。

　　亚马逊还正与其投资的 AI 模型企业 Anthropic 合作，共同构建一个名为 Project Rainier 的 EC2 UltraCluster 巨型计算集群，该集群包含大量 Trn2 UltraServer，总共拥有数十万颗 Trainium2 芯片。

　　IT之家获悉，该集群完成后有望成为迄今为止公开的最大 AI 计算集群，整体算力达 Anthropic 目前用于训练最先进 Claude 模型所需量的 5 倍以上。

　　亚马逊 AWS 还公布了下代 Trainium3 AI 训练芯片，这也是 AWS 首款采用 3nm 制程的芯片产品。亚马逊表示基于 Trainium3 的 UltraServer 性能可达 Trn2 UltraServer 的 4 倍，而首批基于 Trainium3 的实例预计将于 2025 年底推出。

关注同花顺财经（ths518），获取更多机会

0人