至强实测:更低时延,更高沙箱并发创建量,更大规模智能体部署

2026-10-16 12:34:24
作者:英特尔
分享
文章提及标的
英特尔--
AI智能体--
周期--
载通--
化工--
查看股票机会下载客户端

作者:Nithya Rao,英特尔(INTC)公司系统与软件优化工(850102)程师

英特尔(INTC) 至强 6和至强 6+ CPU可在保持低沙箱预置时延的同时,支持更多沙箱化智能体工作流的并发运行。

智能体AI系统已不再局限于简单的问答交互。现代AI智能体(886099)能够代表用户执行代码、处理文件、查询数据库、调用应用程序编程接口(API),自主完成多步骤工作流。这些能力推动流程自动化迈向新的阶段,也对基础设施和系统可靠性提出了新要求。如果直接在主机系统上运行智能体生成的代码,企业可能会面临软件漏洞、提示词注入攻击、数据泄露或权限升级的风险。

面对这些问题,智能体AI框架通常采用隔离执行环境,我们称之为沙箱。对于普及程度逐渐提高的AI智能体(886099)而言,沙箱不再仅仅是和安全相关的特性。智能体可以在数秒内反复创建、使用并销毁沙箱。因此,沙箱的预置效率会大幅影响整体的响应速度和可扩展性。智能体AI大规模部署的需求,要求基础设施不仅能够可靠隔离,还需要沙箱的快速预置。

沙箱化:智能体AI的核心组成部分

常见的沙箱方案包括虚拟机、容器、微型虚拟机,以及开源腾讯云Cube Sandbox。这些技术在提升可靠性和隔离能力的同时,也对基础设施提出新要求——即能够大规模地高效预置和管理隔离执行环境。

沙箱的生命周期

在典型的智能体AI部署中,沙箱创建是任务执行的关键路径。无论是运行代码还是调用工具,智能体都必须先完成沙箱的预置和初始化,并使其可用。

简化的执行流程如下:

智能体发起请求→创建沙箱→执行任务→返回结果→销毁沙箱

在大规模智能体部署中,沙箱会伴随工作流的持续运行,被不断地创建和销毁。因此,沙箱生命周期(883436)的效率会直接关系到应用的响应速度、基础设施利用率和系统整体的吞吐量。

评估沙箱预置性能

为了在更贴近实际运行的条件下,评估沙箱预置性能,英特尔(INTC)采用了cube-bench创建/删除工作负载,用于衡量平台提供新沙箱环境的效率。

该工作负载通(HK0062)过CubeSandbox API持续发送沙箱创建请求,并逐步提高总体并发量。这种方法可评估,当并发沙箱请求数量增加时,平台持续满足沙箱预置需求的能力。

这项评估,以200毫秒沙箱创建服务级别协议(SLA),为关键衡量标准。该SLA规定了交付可用沙箱环境的目标响应时延阈值。平均创建时延、吞吐量和尾时延等指标,可反映平台在负载不断增加时,保持响应性能的能力。

英特尔至强处理器展现了更出色的沙箱预置扩展能力

图:当总体并发量从100增至350,英特尔(INTC)至强6990E+处理器的平均创建时延始终更低

图中展示了,随着并发预置请求从100增至350,各平台的平均沙箱创建时延的变化。结果显示,当负载加重时,所有平台的时延都会上升。但搭载了英特尔(INTC)至强处理器的平台,显示出更低的创建时延,并能在满足200毫秒服务级别目标(SLO)的情况下,支持更高的沙箱预置并发量。在并发预置请求约达到313个时,英特尔(INTC)至强6990E+处理器的预置时延,仍低于200毫秒的SLA阈值。在同一SLA阈值下,英特尔(INTC)至强6980P处理器可处理277个并发请求。相比之下,同类产品A在并发请求约为246个时,便已经超过了200毫秒的SLA阈值。与同类产品A相比,英特尔(INTC)至强6990E+处理器在200毫秒SLA阈值内,所支持的预置并发量高约27%,英特尔(INTC)至强6980P处理器则高约12%。

随着沙箱预置需求不断提升,搭载英特尔(INTC)处理器的两个平台均持续展现出良好的扩展能力,以及稳定且可预测的时延特性。搭载英特尔(INTC)至强6990E+处理器的平台,在满足200毫秒目标时延范围内,实现了最高的沙箱预置并发数。基于英特尔(INTC)至强6980P处理器的平台,在沙箱预置并发水平远高于同类产品A的情况下,仍能满足该SLA。测试结果表明,英特尔(INTC)至强平台能够在保持服务响应性和性能一致性的同时,支持更高的沙箱预置速率。

总结

当智能体AI系统能力不断提升,沙箱化执行成为了可靠部署的基础要求。企业不仅需要让执行环境具备隔离能力,还需要兼顾响应速度。由于沙箱创建直接影响智能体执行路径,其预置性能会显著影响用户体验和基础设施的整体可扩展性。

测试结果表明,英特尔(INTC)至强6和至强6+处理器,为大规模沙箱化智能体部署提供了坚实基础,既能支持不断增长的智能体工作流所需的可扩展性,也能满足现代行动型AI系统对响应速度的要求。当智能体AI工作负载开始大规模落地,基础设施需要高效完成智能体的编排、隔离与预置。英特尔(INTC)至强6和至强6+处理器针对这些需求而设计,在本次测试中,相较于其他测试平台,实现了更高的智能体部署密度和更快的沙箱预置速度。

本文贡献者

Jun I Jin,英特尔云与系统性能首席工程师

Michael Zhang,英特尔云软件架构师

Rohan Vaidya,HCL科技软件工程师

产品与性能信息

配置详情:测试结果可能因具体情况而异。

腾讯云CubeSandbox

英特尔(INTC)至强6+:单节点Supermicro SYS-212HA-TN系统;搭载一颗英特尔(INTC)至强6990E+处理器,288核,450W TDP;不适用超线程;启用英特尔(INTC)睿频加速技术;768GB内存(12条64GB DDR5-6400,6,400 MT/s);BIOS 1.5b;微码0x1000120;两台以太网控制器X550、两台用于QSFP的以太网控制器E835-CC;一块1.7TB铠侠KCMYXRUG1T92硬盘和一块1.7TB三星MZ1L21T9HCLS-00A07硬盘;CentOS Stream 9,版本7.1.0。英特尔(INTC)于2026年9月完成测试。

英特尔(INTC)至强6:单节点英特尔(INTC)Avenue City系统;搭载一颗英特尔(INTC)至强6980P处理器,128核,500W TDP;启用超线程和英特尔(INTC)睿频加速技术;768G内存(12条64GB DDR5-8800,8,800 MT/s);BIOS BHSDCRB1.IPC.3545.P40.2603170757,微码0x1000430;一个I210千兆网络连接、两台以太网控制器10-Gigabit X540-AT2;两块1.7TB铠侠KCD8XPUG1T92硬盘和一块894.3GB Samsung MZ1L2960HCJR-00A07硬盘;CentOS Stream 9,版本7.1.0。英特尔(INTC)于2026年9月完成测试。

同类产品A:单节点Supermicro AS-2126HS-TN系统;搭载一颗192核其他厂商处理器;启用同步多线程和加速功能;768GB内存(12条64GB DDR5-6400,6,400 MT/s);BIOS版本1.9,微码0xb101059;配备两台用于QSFP的以太网控制器E810-C和一个AX88179千兆以太网设备;配备一块1.7TB铠侠KCD8XPUG1T92硬盘和一块1.7TB三星MZ1L21T9HCLS-00A07硬盘;CentOS Stream 9,版本7.1.0。英特尔(INTC)于2026年9月完成测试。

测试方法

基准测试:使用各平台通用模板运行CubeSandbox创建/删除工作负载;instance_type cubebox,模板版本v2;(OCI——开放容器倡议)源镜像cube-sandbox-cn.tencentcloudcr.com/cube-sandbox/sandbox-code@sha256:743d264fad8c9dc9a49f07e931166d24d025363360ae770ca4b70e3f19540944。

负载:每个沙箱配置2,000 milliCPU(相当于两个CPU)和2,000mebibytes 内存(约2 GiB)。该测试采用了基于mTLS(双向传输层安全协议)的in-path egress架构。cube-egress证书颁发机构已预置于镜像中。总体并发量从100个逐步增加至350个并发沙箱创建请求。

指标:测试测量了随并发量增加的沙箱平均创建延迟(单位:毫秒);交叉点标记了平均延迟超过200毫秒参考阈值的位置。

性能表现因使用方式、配置及其他因素而异。更多信息请访问Performance Index网站。

性能测试结果基于配置说明中列出的测试日期,可能未反映所有已公开的后续更新。配置详情请参阅附录。没有任何产品或组件能够做到绝对安全。

实际成本和测试结果可能因情况而异。

英特尔(INTC)技术可能需要启用特定硬件、软件或激活相关服务。

英特尔(INTC)公司,英特尔(INTC)、英特尔(INTC)logo及其它英特尔(INTC)标识,是英特尔(INTC)公司或其分支机构的商标。文中涉及的其它名称及品牌属于各自所有者资产。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME