7月28日,以“智守安全·内容求真”为主题的2026AIIA安全治理专题会成功召开。启明星辰(002439)北冥AI实验室负责人李陟出席大会并发表《AI智能体(886099)安全治理关键技术》主题演讲。
会上,李陟表示,AI智能体(886099)在自主决策和工具调用方面的能力为企业降本增效提供了支撑,但其自主性和权限提升也带来新的安全风险,传统边界防护和静态权限模型难以有效应对。AI智能体(886099)安全治理需从组织、业务、数据、基础设施及应用等维度协同推进,形成“事前可防、事中可控、事后可溯”的闭环管理机制。
基于智能体全生命周期(883436)防护,启明星辰(002439)构建了覆盖“可检测、可防护、可审计、可管控、可观测”的安全治理与防护体系。
在AI资产治理层面,通过影子AI发现与资产纳管机制,借助全网服务端口扫描、流量旁路镜像分析及智能体行为日志分析,全场景识别未登记的大模型、智能体、MCP及RAG等AI资产,并将已纳管AI服务统一通过AI安全网关暴露,有效阻断影子AI的越权访问。同时,上线前安全评估机制集成了漏洞扫描、Skills安全分析、多模态内容检测、配置基线核查、模型溯源及渗透测试等能力,确保AI资产在投产前完成全面安全体检。
在智能体运行时安全防护层面,基于AI安全增强代理的日志采集与Skill行为监测,结合AI安全网关的安全护栏、零信任访问控制能力,并协同AI安全运营管理平台的智能体行为分析,系统可实时检测提示注入攻击、意图漂移及业务违规行为。一旦发现失控风险,即可通过AI安全网关快速执行熔断处置。权限管控方面,零信任动态连续授权机制通过AI安全增强代理自动截获访问请求并注入权限令牌,由AI安全网关与AIDR鉴权管理中心,依据智能体实时意图动态派生最小权限令牌,贯彻“一次认证、持续授权;最小权限,随需而变”的原则,并叠加行为风控,精准阻断高风险操作。
此外,Skills运行时安全防护机制在Skill安装后和执行前进行指纹比对和安全扫描,保证Skill的安全性,执行时自动加载无侵入式安全沙箱并基于溯源图对Skill执行的CLI 命令实施进程级监测,实现Skill行为透明审计与安全隔离。针对OpenClaw类智能体,方案还专项强化了配置基线安全、权限管控与隐私保护等能力。
AI智能体(886099)的安全治理并非单纯的技术叠加,而是需要将安全能力深度嵌入智能体的全生命周期(883436)。启明星辰(002439)将持续深耕AI安全领域,不断优化产品及方案体系,深化行业场景适配,支撑各行业在AI落地过程中实现可信、可控、可追溯。
