谷歌最强 TPU Trillium 芯片商用：性能提升 4.7 倍、内存带宽翻番、节能 67%

2024-12-12 14:20:12 来源： IT之家
收藏(0)

　　IT之家 12 月 12 日消息，谷歌今天（12 月 12 日）发布博文，宣布正式向 Google Cloud 客户开放第六代 TPU Trillium，希望凭借大的计算能力、高效的性能和可持续特性，更好推动 AI 模型发展。

　　Trillium TPU 是 Google Cloud AI 超级计算机（AI Hypercomputer）的关键组件，是一种突破性的超级计算机架构，采用了一个由性能优化的硬件、开放软件、领先的机器学习框架和灵活的消费模型组成的集成系统。

　　IT之家曾于今年 5 月报道，在 I/O 开发者大会上，谷歌正式宣布 Trillium TPU。官方称相比上一代，Trillium TPU 在训练性能上提升 4 倍以上，推理吞吐量提升高达 3 倍，峰值计算性能提升 4.7 倍。

　　在效率方面，Trillium TPU 能源效率提高 67%，每美元训练性能提升高达 2.5 倍，推理性能提升高达 1.4 倍。

　　在规模扩展方面，单个 Jupiter 网络结构可容纳 10 万个 Trillium 芯片，双倍的 HBM 容量和 ICI 带宽，支持大规模 AI 训练。

　　官方称 Trillium 近乎线性的扩展能力，配合高速芯片互连和 Jupiter 数据中心网络，显著加快大型模型训练速度，在训练 gpt3-175b 模型时，即使跨数据中心网络运行，24 个 Pod（6144 个芯片）也能达到 94% 的扩展效率。

关注同花顺财经（ths518），获取更多机会

0人

+1
24小时播报>>
  • 岭南股份
  • 露笑科技
  • 国星光电
  • 瑞斯康达
  • 汇洲智能
  • 光迅科技
  • 瑞芯微
  • 鼎信通讯
    • 我的自选股自选股新闻
    代码|股票名称 最新 涨跌幅
      日排行评论排行
      1.独家资金：早盘主力买入前10股 2.独家资金：早盘主力进散户逃前10股 3.独家资金：主力进散户逃前10股 4.独家资金：今日主力买进前10股 5.中船系个股异动拉升 中船科技涨停 6.A股收评：微盘股指数重挫7% 超300只个股跌超9% 7.黄山谷捷12月23日申购指南 8.化学制药概念局部异动 小方制药、双鹭药业涨停
      592增资！A股利好来了 550高盛预计MSCI中国指数2025年盈利将增长7% 2026年将增长10% 520特朗普表示赞成TikTok继续在美国运营 495A股收评：微盘股指数重挫7% 超300只个股跌超9% 372年内新高！“大肉签”频现，赚钱效应带动打新者回归 336长安汽车与亿航智能签约，5年投资超200亿元发展飞行汽车 321微盘股指数大跌7%，原因：周末一份“退市风险名单”在各大投资群疯传 导致今天大面积杀跌 308A股午评：微盘股指数半日跌5.38% 全市场超4500家个股下跌