云天励飞:IPU-X6000加速卡已支持30+开源大模型
2025-04-01 16:29:27
来源:
同花顺7x24快讯
云天励飞在互动平台表示,公司推出的IPU-X6000加速卡,目前已经支持适配云天天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型,涵盖1.5B参数到70B参数量,并针对大模型推理任务设计,打造了一系列符合大模型演进趋势的统一工具链,包括分布式并行策略、基于硬件的流水线排布、先进的量化策略、多机并行的编译机制等,在同等条件下能够做到推理性能更高、消耗成本更低。
285人