天融信出席2025江苏互联网大会,畅谈智能体安全体系建设
近日,由江苏省互联网协会主办的2025江苏互联网大会暨互联网产业创新供需对接会在南京举行。本届大会以“智联新业态·网聚新动能”为主题,江苏省委常委、省委宣传部部长徐缨出席并致辞。
江苏省委常委、省委宣传部部长徐缨在致辞中强调,要持续提升基础保障能力,有序引导算力基础设施建设,推进网络安全防御体系和能力建设,加强人工智能常态化监管。
在多智能体协同与独立智能体作业日益复杂的背景下,确保智能体执行任务时的安全与合规已成为核心挑战。会议同期,由江苏省互联网协会主办、江苏电信承办、天融信(002212)协办的“AI+智云”分论坛圆满举行,江苏省通信管理局、江苏省互联网协会、江苏电信及相关企业、科研机构的负责人及专家学者等各界代表汇聚一堂,天融信科技集团江苏平台解决方案专家梁锦就“智能体安全挑战和应对”进行主题分享。
梁锦表示,智能体的构建是基于智能体建立、感知、规划、行动和记忆的持续闭环过程,任何环节出现风险,都可能促使大模型安全风险放大而导致不可预估的后果。智能体面临的“一致性与差异性”“边界模糊性风险”“工具调用(MCP)的‘盲区’”等社会性风险潜伏于生命周期的每一个环节。
针对智能体安全领域的核心挑战,天融信通过精细化安全管控点,在多个关键环节(如用户对话、LLM交互、智能体协同与MCP服务访问)部署管控节点,对Agent的违规行为进行前置防御与实时监控。同时,对敏感数据泄露、越权调用等内容与行为风险进行前置拦截和实时监测,形成从感知、防御到检测的闭环防护体系。
此外,面对智能体驱动的复杂业务流程中的安全风险,进行持续漏洞扫描与行为基线分析,防范潜在的供应链风险。最后,通过建立全生命周期操作追溯平台,记录从用户意图映射、思维链推理到工具调用的全流程日志,实现行为可审计、问题可定位、责任可追溯。
梁锦在演讲最后指出,智能体安全将进入“人机共治”的新阶段,攻击与防御均走向智能化、自动化、常态化。唯有通过生态协同、标准共建与技术融合,才能构建可持续的智能体安全体系。
大会同期,举行了联通安全产业链合作伙伴战略签约仪式,江苏联通与天融信等产业链合作伙伴达成战略合作。大家将共同面向客户赋能,全力打造一个市场共享、产品融合、生态共建的持续互动交流平台,携手共拓AI+网络安全新生态。
随着人工智能技术的飞速发展,智能体已成为企业数字化转型的关键信号。据Gartner预测,到2028年,人类可读的数字界面交互中将有20%由AI智能体完成,约15%的日常业务决策可由AI智能体自主完成,预计三分之一的企业级软件将集成AI智能体。天融信坚持安全与智算并进,聚焦前沿技术领域,持续提升智能体安全能力水平,加快形成人工智能安全治理格局,为各行业数智化转型保驾护航。
0人