大模型“落地生根”,百融云创展现AI潜力

2024-08-05 10:40:19 来源: 和讯网

  “纯电动车和燃料电池电动车整车制造项目,根据绿色产业指导目录,按照层级输出编号和名称。”任务刚一下达,一个有关绿色金融的三级映射,立刻罗列在屏幕上。这是金融机构,利用百融云创大模型进行绿色识别的一次创新探索。

  2024年政府工作报告中,正式提出“人工智能+”作为新的发展战略。而在人工智能技术领域,大模型以“明星”之姿站到了舞台的正中央,相比锻造大模型,当下产业链上下游聚焦的重心,演变成为如何用好大模型。

  不断落地、搭桥

  大模型的本质,是世界知识的压缩,目前最好的大模型产品可以实现30倍以上的信息压缩比。

  不要小瞧这个数字,因为大模型的压缩功能并不止于简单信息的符号化,而是能研读海量的信息,并从中总结出一定的规律。

  慢慢的,大模型有了类似于人脑般的解读能力,即使面对完全生涩的问题,也能根据当下的情景进行解答,甚至举一反三。

  此前,AI产业界已经掀起锤炼模型的浪潮,从最初的卷参数、卷榜单,到如今的卷价格、卷应用,好生热闹。

  从OpenAI、微软和谷歌等AI巨头的近期动向上来看,随着数据和算力愈发短缺,2024年生成式AI的关键词将是多模态和产业大模型。一方面,企业将愈发重视多模态能力,用于理解更复杂的现实世界,另一方面,参数小但性能更强、更具针对性的产业大模型将更加深入人心。

  百融云创便是其中的先行者。作为人工智能代表性企业,百融云创持续推进模型应用一体化的协同战略布局,自主构建了大模型预训练、微调、推理工程优化、应用开发套件等一整套技术栈,其中就包括适用于垂直行业场景的BR-LLM。

  经过一段时间的打磨,走过造锤子的阶段,市场考验来到了钉钉子的能力。站在细分行业的角度来看,产业大模型的落地并非一蹴而就。从早期市场过渡到成熟市场,摸着石头过河并不容易,如何串联起多个场景,拆解B、C两端的需求,让产业大模型变得好用、易用,考验的是一家AI企业对大模型技术的理解能力。

  显然,百融云创率先找到了过河的工具。依托大模型的能力,打造了系列的“大模型家族产品”,如对话大模型VoiceGPT,适用于自动编程的BR-Coder等。

  比如在编程领域,位于研发端的工作人员,可利用通用的编程大模型BR-Coder,将开发岗位中的自动生成代码渗透率提升至10%。

  实际上,大模型输入提示词、模型处理和输出结果的工作模式,与编程的流程基本吻合。因此,将一部分代码交给大模型去写,已经成为不少头部科技企业的共识。

  当然,这也不意味着人类程序员绝对会失业。AI时代的创新精神是:人类要学会利用编程大模型来辅助自己,进而提升效率。

  除此以外,随着大模型的发展,需要重新定义人与机器的交互方式,被技术大咖李飞飞、吴恩达预测有望成为下一个风口的智能体(AI Agent),也是大模型从通用走向垂直的关键扳手,百融云创同样没有错过。

  百融云创AI Agent由大模型、工具调用、记忆能力、本地知识库等多个模块组成,能提供基础Agent的构建能力,如工具调用、基于知识库文件记忆能力等。

  现在,基于AI Agent,企业内部的数字系统中,每位员工都可以构建一个bot(机器人)作为专属助理。bot就像是知识库和工具箱,除了语言处理的功能外,员工还能对bot下达任务进行工具调用,从而达成业务的提质增效。

  要知道,大模型在B端的落地并不容易。站在企业与行业的角度,他们关注的核心并不难理解:作为新兴的技术,大模型可以带来什么价值和增量,以及投入产出比如何。

  对此,百融云创的破题思路,具备一定的参考价值,即深挖垂直与刚需场景,降低产业大模型应用门槛,将场景价值做深打透。

  针对企业应用大模型门槛高的痛点,百融云创选择将智能语音技术与3D场景结合打造数字人,数字人能够以数字大屏的形式应用于机场、旅行社或商场等公共场所。这种创新的应用不仅能够降低人工成本,还能开拓更广阔的市场空间。

  可以预见,做大客户规模,从而触达更多生态,将是百融云创在当下真实商业场景中保持竞争力的壁垒。

  据了解,现在,百融云创已经服务了7000多家客户,覆盖银行、消金、保险、电商、汽车、物流、票务、能源和建筑等多个行业,充分展现出AI潜力。

  大模型,如何避免“幻觉”

  2024年被称作大模型落地元年,国产市场的角斗场上也出现了不少新故事,一方面,价格战为国产大模型的起飞送来了东风,另一方面,产业对新技术的发展历经了祛魅的过程。

  其实,远在传统AI时代,叫好不叫座一直是产业的难题,在市场回归理性后,许多企业在挤去泡沫的过程中被洗牌出局,也让大家明白了一个共识:只有能为细分行业创造价值,才有美好的未来。

  在这一次大型祛魅过程中,检测产业大模型的能力,已经不在于榜单上的分数,或者是否能远超GPT-4,而是比拼谁的商业化做得好,进而为自身的迭代提供更佳的造血能力。

  市场才是最好的试金石。实际上,一线已经听得见炮火。

  众所周知,百融云创是以“AI+金融”起跑。在金融行业,对绿色金融进行精准识别是发展绿色金融的重要前提,面对国内外多套绿色标准,产业大模型可以发挥至关重要的作用。

  现在,通过百融云创大模型,金融机构在收集大量的绿色金融政策文件时,合并国内外多套绿色标准,以及金融机构内部的认定原则和标准。不管是表格、文档还是PPT,大模型都能无压力“笑纳”,最终形成全行级别的且独一无二的绿色金融知识库。

  如何让大模型保证时效性,一直是AI企业重要的课题,这一点百融云创大模型也迎刃而解。面对最新的政策调整,金融机构可以随时上传文档,更新和完善知识库。这样一来捕捉最新产业300832)动向,完成最新内容的生成,只需“更新知识库”,而不用“更新大模型”。

  当然,大模型虽然好用,但相对而言也并不完美,有时会产生“幻觉”,甚至会犯事实性错误。最近,9.11和9.9哪个数字更大?一道小学生难度的数学题便难倒了一众海内外AI大模型,引发了行业热议。

  针对大模型可能出现的“幻觉”问题,百融云创引入了检索增强生成技术(RAG),它的技术原理是整合外部知识库,在大模型接收到提问时,先去检索外部知识库,并将其提供给大模型。而后,大模型在生成答案时,能够参考这些外部数据库中的信息,从而生成更准确和相关的答案。这种方式不仅增强了大模型的输出质量,还避免了重新训练模型的繁琐过程。

  现在,RAG技术的落地已经产生了切实的成效,使得百融云创大模型能在绿色金融知识库中实现精准的检索和生成,而且引用还会“注明出处”,实用性倍增。

  可以说,已经多次迭代和革新的百融云创大模型,展现出低调、务实的姿态,在开发上坚持应用导向,注重实际落地和收益转化,这也是百融云创大模型备受垂直行业认可的缘由。

关注同花顺财经(ths518),获取更多机会

0

+1
  • 联创电子
  • 深圳华强
  • 科森科技
  • 华懋科技
  • 大众交通
  • 好上好
  • 欧菲光
  • 日发精机
  • 代码|股票名称 最新 涨跌幅