近日,国家金融监督管理总局发布《关于银行业保险业人工智能(885728)安全开发应用的指导意见》(以下简称《指导意见》),旨在有序推进人工智能(885728)科技创新与金融业务深度融合,引导金融领域人工智能(885728)应用朝着有益、安全、公平方向健康有序发展。
当前,我国金融行业不断加大人工智能(885728)技术资源投入,加快人工智能(885728)应用场景落地,已形成一定的应用实践基础。《指导意见》确立了人工智能(885728)开发应用四大核心原则——谁使用谁负责、自主可控、务实高效、安全发展,同时从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等方面提出了32项指导性意见。以下内容尤为值得关注:
人工智能治理架构为整体技术建设提供制度与流程底座
《指导意见》提出人工智能(885728)治理架构,包括AI治理顶层架构要求和AI建设管理要求。其中提出:
机构董(理)事会指定专门委员会统筹AI管理,搭建跨业务、科技、数据协同机制。
建立覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出的全生命周期(883436)管理体系,配套算法风险筛查、伦理审查、责任追溯等管理机制。
通过技术手段划定AI功能边界、系统与数据权限,完善人机协同业务流程,为基础设施建设、风险管控、安全开发提供统一管理约束。
人工智能风险治理框架搭建新型全域风控体系
《指导意见》要求完善人工智能(885728)风险治理框架,严管高风险应用并强化外部合作供应链安全。具体包括:
将AI风险全面纳入现有风险管理体系,并依据场景重要性、应用规模、对客影响度、模型依赖度、复杂度实施人工智能(885728)风险分类分级管控。
将资金交易、信贷审批、承保理赔等客户利益相关生成式人工智能(885728)划定为高风险应用,设置风控委员会准入审批、运行实时监测、人工干预、紧急停用、备用人工流程等管理机制。
建立外包风险隔离防火墙,对外包机构实行名单制管理。
完善算力、模型、开源组件供应链管控,常态化开展代码审计、漏洞扫描,防范供应链投毒与集中度风险。
在算力、模型、数据三大基础设施技术建设上明确落地要求
《指导意见》提出规范生成式AI建设,严格模型准入与服务共享,落实全生命周期(883436)数据治理,严防隐私数据泄露,搭建自主可控、共管共享的智能体系。其中要求:
算力侧需搭建自主可控云化智算底座,打通应用、模型、算力、网络一体化监控链路,建立算力外包与软硬件供应链安全管控机制。
模型侧构建一站式开发、测评技术体系,对生成式模型实施全面安全测试评估校验,外部引入模型完成全维度安全准入核验。
数据侧搭建全生命周期(883436)数据治理技术链路,统一数据质量校验标准,部署脱敏、权限隔离等技术手段,严格阻断敏感个人信息流入模型训练推理环节,同时支撑行业合规数据集共建共享。
七大人工智能安全开发应用核心能力是模型落地的硬性技术指标
《指导意见》设定七大人工智能(885728)安全开发应用能力:从稳健、透明、可解释、伦理、数据安全(885942)、网络防御、业务韧性七个方面,规范AI模型全流程。其中要求:
增强模型稳健性,需对模型开展对抗样本检测、压力测试并持续迭代优化。
提高应用透明度,需对AI生成内容进行显著标识,全流程日志留存期限不低于业务存续期。
促进模型可解释性,需对高风险场景配套可解释分析,关键财务决策强制人工复核。
保障伦理道德与公平性,需自动化筛查数据集偏见,开展算法伦理监测。
数据安全(885942)与隐私保护,需部署数据隔离、脱敏、内容过滤防护等措施。
网络安全(885459)防御,需具备抵御提示词注入、多模态攻击、上下文污染等威胁能力。
运营韧性与业务连续性,需配套应急预案、容灾与人工切换技术,保障AI业务稳定运行。
天融信人工智能安全产品与服务矩阵
—筑牢金融安全防线—
依据《指导意见》中的人工智能(885728)治理架构、风险管控框架、三大基础设施和安全开发应用能力等相关要求,金融机构在AI落地应用过程中,需搭建全生命周期(883436)安全管理体系,夯实算力、模型、数据基础设施安全底座,补齐模型安全防护、风险监测、合规校验、应急保障等安全能力,实现从研发、部署、运行到迭代、退出的全流程安全合规可控。
针对这些安全、合规要求,天融信(002212)可以提供智算云基础设施、安全检测评估、安全防护、安全监测等AI安全保障能力,结合覆盖全场景的网络安全(885459)类工具,从模型、算力、数据到网络环境,一站式保障金融机构AI开发应用安全,全面适配监管对AI风险管控、基础设施安全、七大核心安全能力等各项合规落地要求。
智算基础设施
基于超融合架构,搭建自主可控智算基础设施,整合计算(CPU、GPU)、存储、网络虚拟化能力,落地算力、模型、数据三大基础设施合规管控要求,支撑机构搭建AI分级台账与人机权限管控体系。
产品内置AI工程平台,提供数据、模型、应用全生命周期(883436)分层管理能力,配套多租户隔离、数据备份容灾、统一运维监控功能。同时,依托内生安全能力,支持按需配置分布式防火墙、WAF、脆弱性扫描、数据防泄漏、态势感知等安全虚拟化组件,保障大模型开发应用环境安全。
模型安全防护
部署于模型交互链路,深度解析各类大模型协议,通过多模态输入输出内容过滤、敏感数据拦截、访问权限管控、全交互日志留存等措施,有效隔离信贷、资金等高风险场景的内外部访问风险,建立模型流量防线。
模型数据安全监测
帮助金融机构分层实现数据、模型、应用、网络安全(885459)监测,覆盖训练语料扫描、提示词注入攻击识别、API异常监测、开源组件漏洞巡检,实时捕捉模型漂移、数据投毒、隐私泄露风险,形成分级告警与闭环处置链路。
模型检测评估
面向开发测试、应用常态化巡测等场景,提供全面、快速的安全检测评估工具,可同时针对模型内容安全、对抗安全、运行环境安全进行全自动化测试。内置多维度合规题库,自动化开展对抗样本测试、对话机制异常测试、语义理解异常测试等检测,输出标准化合规测评报告。
模型安全服务
面向模型引入、模型上线等场景,提供深度安全检测评估服务,分为通用安全评估和大模型安全评估两大板块。前者含漏洞扫描、基线核查、渗透测试;后者围绕内容安全开展提示词注入、价值观合规、歧视内容等多维度测试,贴合国内AI监管标准,全方位排查部署环境与模型自身安全风险,并出具完整威胁处置方案。
《指导意见》的发布实施,为金融机构AI开发应用划定了“安全底线”与“责任红线”。依托智算底座、流量网关、全域监测、标准化检测评估的完整AI安全能力矩阵,天融信(002212)打通AI开发应用各环节中安全管控链路,形成完整闭环安全体系,一站式解决金融机构AI落地安全防控难题,为金融业数智化转型筑牢安全根基。
