打破算力黑盒,定义智算边界
10月15日,在第41次全国计算机安全学术交流会.人工智能(885728)安全技术创新与发展分论坛上,天融信(002212)正式发布AI网关——面向企业级AI应用场景的统一模型服务入口与算力治理中枢。
作为算力基础设施层的核心组件,AI网关“承上启下”:向上为各类AI Agent和应用供给丰富的模型服务,按业务类型调度合适的模型与算力;向下兼容并统一管理异构算力资源——本地自建、第三方租赁、公有云订阅,一并纳管。
一句话概括它的价值:把“看不见、管不住、算不清”的算力黑盒,变成“看得清、管得住、省得下”的企业级基础设施。在活动现场,天融信(002212)科技集团产品市场高级总监黄雅静分享了AI网关的核心能力与落地价值。
四大核心能力
把算力黑盒变成治理中枢
AI网关围绕“接得进、调得准、算得清、守得住”四个关键环节,构建四大核心能力。
. 统一接入,打破厂商绑定.
一套OpenAI兼容API,即可对接GPT、Claude、Gemini、DeepSeek、通义千问、文心一言,以及Ollama、本地私有化、租赁算力等各类模型与算力资源。
业务代码零侵入,多SDK、多Key、多环境变量全部收口到网关;应用层无需关心底层模型差异,更换模型无需业务系统改造。新增模型服务只需网关侧配置,随时切换底层供应商,业务无感知,实现AI资源的全局统一治理,也让企业不再受单一供应商绑定。
. 智能路由,降本增效.
AI网关内置智能路由引擎,采用Proxy(代理)—Scheduler(调度)分离架构,支持加权轮询、权重比例分配、活跃请求最少、平均延迟最低等多元化路由策略,并具备算力感知与节点健康监控。路由策略可按部门、应用、模型分别配置,让“该省的省、该保的保”落到每一次调用。
系统按任务复杂度自动分流——复杂任务调度到旗舰模型保质,简单任务路由到小模型省钱,在保障业务效果的前提下实现综合成本显著优化。配合虚拟Key备用机制与熔断降级,主路径被限额或故障时自动切换至备用调度池,业务不中断、可用性有保障。
. 成本治理,Token精细管控.
从资源池管控、预算与计费、Token流量、消费(883434)行为四个维度,实现AI成本精细治理。
Token用量按部门、应用、用户、模型维度实时统计与下钻分析,成本分摊一目了然;支持配额管理、三级限流、预算告警与超支自动熔断,有效遏制算力滥用与闲置。让每一个Token都看得见、管得住、算得清,全面释放AI算力价值。
. 安全防护,筑牢合规底线.
基于天融信(002212)NGTOS安全架构,AI网关内置大模型安全引擎(符合GB/T45654-2025),涵盖“提示词注入防护、API交互防护、数据泄露与隐私防护、价值观与深伪对抗”,筑牢AI安全合规底线。
面向企业大模型应用,天融信(002212)AI网关统一收口多模型流量,前置智能路由与成本调度,内置大模型安全防护,实现“安全+成本+体验”一体化治理,目前已在政务、金融、卫生医疗、大型企业、能源(850101)、运营商、制造业等行业持续推进落地,助力各行业客户把AI投入转化为安全可靠的AI生产力。
当AI从“能思考”走向“能实干”,算力治理就是AI规模化落地的最后一公里。天融信(002212)AI网关,让每一份算力都看得清、管得住、省得下,为企业AI创新提供安全、高效、经济的算力底座。
未来,天融信(002212)将持续加大在AI基础设施领域的研发投入,以前沿技术应对企业AI落地的新型挑战,携手广大客户与合作伙伴,共建安全、高效、经济的AI算力新生态,护航千行百业平稳完成数智化转型。
