近日,“可信赋能·智安同行——AI智能体(886099)可信测评与安全保障发展论坛”在北京举行,天融信(002212)科技集团出席并作主题分享,同与会嘉宾一道探讨AI智能体(886099)安全治理的新路径、新模式。
本次论坛由中国信息协会大数据分会主办,国家工业信息安全发展研究中心、武清京津产业新城高村数智创新园、中国太平(HK0966)洋财产保险股份有限公司等共同承办。
随着大模型等新一代人工智能(885728)技术迅猛发展,智能体正加速与网络空间、物理世界深度融合,深刻改变人类生产生活方式和社会治理模式。今年5月,《智能体规范应用与创新发展实施意见》发布,我国AI智能体(886099)安全治理正式迈入有规可依、有章可循的新阶段。
“AI智能体(886099)安全不是传统安全的延伸,而是一场范式革命。”天融信(002212)科技集团副总裁王奇飞在《AI智能体(886099)安全的技术探索与行业展望》主题演讲中,系统梳理了AI智能体(886099)带来的四大维度「新」风险,包括内生脆弱性、新型攻击面、系统性传导和决策失控。
今年以来,工信部多次针对国外主流智能体产品发布安全风险提示,AI智能体(886099)安全问题已从“理论探讨”进入“实战应对”阶段。王奇飞认为,当前亟需破解三大核心命题:如何「度量」智能体安全?如何「管控」智能体行为?如何「治理」安全生态?
“智能体安全的核心,是驾驭AI的不确定性。”他提到,基于在AI安全领域的持续探索和创新实践,天融信(002212)提出“1中心+6大安全能力支撑+X项标准化防护”架构,为各行业客户构建覆盖全生命周期(883436)、多层次、多维度的智能体安全防护体系。
该体系以AI安全运营中心统筹管控,将6大安全能力进行有机整合,打造基于AI的统一协同平台,依托自研多款安全产品构建能力矩阵,提供安全评估、安全防护、安全监测和资源整合等全方位能力保障,实现AI智能体(886099)全生命周期(883436)治理。
智算云平台:作为算力底座,集成“智、算、存、网、安”五大能力,全新升级“融算一体”架构,打造通用+AI全栈工作负载引擎,提供数据、模型与应用全流程处理平台,同时内置训推工具链与开发框架,支撑快速构建知识管理、智能问答、智能运维等企业级AI应用,为智能体提供可信的“裸金属”级执行环境。
大模型安全网关:基于GB/T 45654-2025《网络安全(885459)技术 生成式人工智能(885728)服务安全基本要求》等国家标准,针对恶意提示词注入、违规价值观、数据隐私泄露、API异常调用、DDoS攻击等威胁,提供一体化安全防护。
大模型安全评估系统:面向基础模型、AI应用、推理框架等评估对象,利用多轮深度检测和“AI对抗AI”的智能研判能力,覆盖内容安全、应用安全、语料安全等维度,帮助企业在智能体上线前就“把好关”。
大模型数据安全(885942)监测系统:使用探针实时收集网络安全(885459)数据,基于智能化风险研判引擎驱动多种安全策略持续监测,实现安全事件的自动化处置和人工干预协同。
“从单点防护走向全生命周期(883436)治理,从规则驱动走向‘AI对抗AI’,从企业自建走向生态协同,是AI智能体(886099)安全未来发展的三大演进趋势。”在演讲最后,针对行业生态建设,王奇飞提到,天融信(002212)将加强与保险机构、产业园区的紧密配合,通过实践推动真实业务数据的双向流通沉淀,实现保险需求驱动安全技术,不断推动行业高质量发展。
作为网络安全(885459)与智算云解决方案提供商,天融信(002212)将凭借深厚安全积淀、全栈产品矩阵和开放生态战略,与产业各界紧密协同、聚力攻坚,让每个智能体都值得信赖,让安全成为发展的助推剂,共同构建可信任的AI智能体(886099)未来,让AI真正服务于人。
