IT之家4月2日消息,科技媒体Wccftech昨日(4月1日)发布博文,报道称基于英特尔(INTC)发布的MLPerf v6.0基准测试结果,在AI推理性能方面,全新Arc Pro B70显卡较上代B60飙升80%。
本次核心测试平台采用四卡并联方案,搭载四张Arc Pro B70显卡(总显存达128GB)与最新至强6处理器,能轻松驾驭1200亿参数的大型语言模型。与竞品相比,B70在多卡协同运行时,最多可提供1.6倍的KV缓存容量,极大地提升了长文本处理能力。
IT之家附上相关测试结果如下:
英特尔(INTC)MLPerf v6.0GPT-OSS-120B推理基准测试:
| GPU Config | Offline(Tokens/s) | Server(Tokens/s) |
|---|---|---|
| 4x Arc Pro B70(128GB) | 1536.90 | 951.67 |
| 4x Arc Pro B60Dual(192GB) | 1601.91 | 884.24 |
| 4x Arc Pro B60(96GB) | 841.04 | 452.19 |
英特尔(INTC)MLPerf v6.0llama2-70b-99推理基准测试:
| GPU Config | Offline(Tokens/s) | Server(Tokens/s) |
|---|---|---|
| 4x Arc Pro B70(128GB) | 2459.18 | 1698.57 |
| 4x Arc Pro B60Dual(192GB) | 3270.66 | 2199.50 |
| 4x Arc Pro B60(96GB) | 1697.66 | 1106.26 |
英特尔(INTC)MLPerf v6.0llama3.18b推理基准测试:
| GPU Config | Offline(Tokens/s) | Server(Tokens/s) |
|---|---|---|
| 4x Arc Pro B60Dual(192GB) | 52.83 | 49.17 |
| 4x Arc Pro B70(128GB) | 36.07 | 32.58 |
| 4x Arc Pro B60(96GB) | 26.15 | 24.57 |
| 4x Arc Pro B50(64GB) | 13.45 | 9.27 |
| 2x Xeon6(128Cores) | 9.61 | 3.68 |
该媒体指出提升AI推理效率的关键,不仅看显卡,处理器同样是核心枢纽。至强6处理器凭借内置的AMX和AVX-512加速引擎,实现最高90%的代际性能飞跃。
除硬件迭代外,英特尔(INTC)持续深耕AI软件栈优化。测试数据显示,现有Arc Pro B60显卡用户无需更换硬件,仅通过软件升级即可直接获得18%的性能提升。
