百度沈抖:AI应用在B端率先爆发
11月12日,以“应用来了"为主题的百度世界2024大会上,百度集团执行副总裁、百度智能云事业群总裁沈抖分享了百度智能云在大模型产业落地方面的最新进展,并在企业级AI原生应用开发、大模型开发调优等方面发布一系列全新功能。
目前,超过六成的央企和大量的民营企业,正在联合百度智能云进行AI创新。百度智能云千帆大模型平台已经帮助客户精调了3.3万个模型、开发了77万个企业应用、文心大模型日均调用量超过15亿次。
沈抖表示,AI应用正率先在B端爆发。由企业级大模型工程平台、异构算力平台组成的新型AI基础设施,将替代传统云计算,为大模型应用在企业生产力场景中的规模落地提供关键支撑。
AI应用率先在B端爆发,60%央企使用百度云AI服务
2024年,大模型产业落地显著提速,百度智能云已经在能源、电力、制造、金融、交通、政务、互联网、教育、电商等数十个行业、几百个场景中落地大模型应用。
在能源电力行业,国家电网正在围绕文心大模型、千帆平台,结合电力行业高质量数据,联合百度共创电力行业大模型基础底座,并在调度、设备、营销等六大专业领域深入探索。目前,已经在电力设备运检、供电服务等电力行业核心场景成功完成应用落地。
在餐饮行业,中国最大的餐饮公司百胜中国,基于文心大模型打造了AI智能客服系统,为旗下包括肯德基在内的多个品牌提供服务。百胜中国CTO张雷表示,目前,AI客服每天能够为百胜中国处理超过15万次消费者沟通,问题解决率高达90%;在辅助人工方面,AI客服能够快速归纳、总结消费者诉求,辅助客服更快速、更精准地回复,整体效率提高10%!此外,大模型还能够实时评估客服服务质量,帮助百胜中国进一步提升服务水平。
目前,已有超过六成的央企和大量的民营企业,正在联合百度智能云进行AI创新,文心大模型日均调用量超过15亿次。
沈抖认为,AI应用正率先在B端爆发,而“企业级”AI应用大量涌现的背后,是产品服务形态的突破性变革与能力的大幅拉升。
以百度智能云“曦灵”数字人平台为例,全新升级的“文生3D数字人视频”功能,能够大幅提升电商、教育、文旅等行业的内容创作、营销推广效率,大幅降低成本支出。
比如,在电商领域,过去拍摄制作真人产品推广短视频需要专业团队花费几天时间才能完成。而“文生3D数字人视频”只需一句话,就能生成符合不同行业场景特色的3D数字人形象和专业灵动的视频,成本仅有传统方式的1%,工作效率提升超过1倍。
千帆平台发布工作流Agent、模型蒸馏两大开发功能
传统的企业业务中,复杂的工作和任务往往过度依赖专家经验和固有流程,即工作流;即便在数字化系统中,传统工作流配置依旧是没有“大脑”的机械执行,难有实质性的突破。
大模型具备强大的意图理解和泛化能力,能够充分理解工作流的目的与内涵,相当于一颗会思考的“大脑”;通过与企业工作流相结合,又可以有效解决大模型“幻觉”问题,增强大模型“控场能力”,保障复杂任务的决策与执行准确。二者结合,构成了智能时代企业真正需要的“数字员工”。
本次大会,百度智能云千帆大模型平台正式发布“工作流Agent”功能,旨在帮助企业快速开发出面向复杂对话场景的AI应用,快速拥有专业水平的“数字员工”。通过学习各种企业流程与规范,工作流Agent能够适应不同岗位职责,快速规模化复制,大幅提升企业运转效率。
以保险行业为例,目前百度智能云正在联合太平洋保险,基于工作流Agent探索、落地车险续保售前数字员工。过去,车险续保的工作指导包含大量流程、子流程、文档等内容,优秀销售人员稀缺,且培养周期往往长达一到两年。基于工作流Agent开发金牌销售数字员工,则最快可以在1小时内完成、上线,大幅提升了企业车险业务的核心生产力。这样的工作流Agent可以快速集成到百度搜索、微信公众号、企业官网等业务系统中,便利触达用户。
目前,由工作流Agent开发的“续保金牌销售”,已在百度智能云智能客服平台“客悦”开放体验。
在医疗行业,杭州全诊医学基于千帆平台和文心大模型打造了AI医疗助理应用,能够在导诊、预诊、诊间、入院、手术、随访等全阶段服务医生患者。以辅助医生撰写病历为例,全诊医学通过使用20万份精标病历数据对大模型进行精调,使AI医疗助理的医学用语更准确、更规范,大幅提升病历内容质量。病历生成的准确度提升了45%,病历书写时间减少75%,医生的接诊量提高了20%,造福更多病患。
大算力管理依然是最大难题,百舸4.0升级十万卡集群跨地域部署能力
大算力是大模型落地的基础条件。沈抖表示,为了支撑大模型的进一步高速发展,百度智能云提前布局,是行业内最早打磨10万卡集群能力的厂商之一,并通过技术创新解决了集群算力供给、跨地域部署两大核心难题。
目前,在万卡规模集群上,百舸能够将两种芯片混合训练大模型的效率折损控制在5%以内,达到业界最领先的水平。未来,“一云多芯”将成为中国企业的必然选择。
另一方面,10万卡规模超大集群需要占据大概10万平方米空间,相当于13个标准足球场;每天则要消耗大约300万千瓦时的电力,相当于北京市东城区一天的居民用电量。这种对于空间和能源的巨大需求,远超传统机房部署的承载能力,而跨地域机房部署又会给网络通信带来巨大挑战。
通过设计高效的网络拓扑结构,结合模型切分优化和跨地域无拥塞高性能网络方案,百舸能够在横跨几十公里的多机房组成的万卡规模的集群上,将单一模型训练任务的性能折损控制在4%以内,达到业界最领先水平。
0人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道
- “机构举报游资”?传闻求证:不实
- 国家统计局:10月份国民经济运行稳中有进,主要经济指标回升明显
- 宁德时代自研机器人并接触多家外部公司
- 机构论市:AI催化下影视、游戏板块或迎业绩+估值双重修复
- 鲍威尔放鹰:美联储无需急于降息!
- 中信证券:资产保值增值为股市客户核心痛点 高客与大众需求明显分化
- 腾讯推出AI搜索ima 机构看好科技产业围绕AI展开(附概念股)
- 11月15日盘前停复牌汇总
- 大模型祛魅 AI应用时代脚步临近