据阿里云消息,7月27日晚,阿里云灵骏真武M890超节点实例已成功适配2.8万亿参数大模型Kimi K3,基于芯片、推理平台和模型的联合优化,有效提升模型推理效率,双方将进一步展开国产算力合作。据实测结果统计,该超节点运行Kimi K3的首Token时延降低约35%,长上下文场景下用户体验更流畅。另外,千问AI平台和阿里云百炼也将提供Kimi K3的模型API。
据阿里云消息,7月27日晚,阿里云灵骏真武M890超节点实例已成功适配2.8万亿参数大模型Kimi K3,基于芯片、推理平台和模型的联合优化,有效提升模型推理效率,双方将进一步展开国产算力合作。据实测结果统计,该超节点运行Kimi K3的首Token时延降低约35%,长上下文场景下用户体验更流畅。另外,千问AI平台和阿里云百炼也将提供Kimi K3的模型API。