昆仑万维获23家机构调研:由于国内市场向C端用户提供服务需要在监管部门完成备案,因此我们的天工AI搜索目前仍处于内测阶段(附调研问答)

2023-11-01 16:38:15 来源: 同花顺iNews

  昆仑万维300418)10月31日发布投资者关系活动记录表,公司于2023年10月30日接受23家机构调研,机构类型为保险公司、其他、基金公司、海外机构、证券公司。 投资者关系活动主要内容介绍:

  问:公司C端和B端应用当前的进展及未来的展望,包括年内的重要节点及明年的主要期望如何?

  答:公司布局AI大模型、AI搜索、AI游戏、AI社交、AI动漫及AI音乐等六大方向,目前AI大模型、AI搜索及AI游戏已经逐步落地。 大模型方面,天工大模型保持高频迭代并取得重要突破。 “天工”的逻辑推理能力、文本理解能力、多模态能力在多个全球知名测评集中表现突出。逻辑推理方面,在权威推理榜单Benchmark GSM8K测试中,“天工”以80%的正确率大幅领先GPT-3.5(57.1%)和LLaMA2-70B(56.8%),推理能力达到全球领先水平;多模态方面,在腾讯优图实验室联合厦门大学开展的多模态大语言模型测评中,“天工”综合得分排名第一,而LLaMA的多模态大语言模型排名第12。今天,我们也正式宣布开源天工Skywork-13B系列,并配套开源了600GB、150B Tokens的超大高质量中文数据集。Skywork-13B系列在多个权威评测与基准测试上都展现出同等规模模型的最佳效果,其中文能力尤为出色。具体来看,在主流英文能力评测集MMLU和中文能力测评集C-Eval测试中Skywork-13B系列大模型正确率均超过60%,远超LLaMa-213B模型的36.6%和36.5%; Skywork-13B在中文、科技、金融、政务等领域表现均高于其他开源模型。 AI搜索方面,公司8月23日正式发布中国第一款AI搜索产品“天工AI搜索”。该产品既有ChatGPT式的问答交互,又可以像普通搜索引擎列出相关链接。弥补了之前ChatGPT不能联网、结果难以考证、利用数据库训练信息更新慢等问题,有效帮助用户提升工作效率,全面重塑中文搜索体验。自发布以来,“天工AI搜索”持续优化升级,现已可处理超长上下文。同时,为了向用户呈现更加全面、优质的搜索内容,我们不断扩展信息来源,目前搜索结果已覆盖图片以及视频等模态内容。此外,我们引入了全新的AI档案功能,用户可以提前设定好自己的职业、关注领域、兴趣爱好以及搜索用途等信息,AI搜索将结合用户的知识面和认知水平反馈更加个性化的搜索结果。 AI游戏方面,我们的首款AI游戏《Club Koala》于8月25日正式亮相德国科隆游戏展。这将是一款以UGC为主打的高DAU游戏,它的Koala Editor游戏编辑器面向没有编程经验的普通玩家,使得玩家可以自行制作关卡及Party Game。 同时,这款游戏通过引入大量AIGC元素为用户带来全新的AI游戏体验。我们还实现了更具智能性和多样性的AI NPC,为玩家提供更逼真、更具沉浸感的模拟游戏玩法。商业化方面,则主要通过玩家充值购买时装等道具以及VIP服务,从而完成变现。 此外,AI社交与AI动漫产品预计于年内上线,全新AI音乐产品也在研发中,各AIGC垂类应用落地均在稳步推进。

  问:如何看待芯片端的限制性政策?天工大模型的训练和推理是否可以兼容不同的算力芯片方案?公司投资的自研芯片进展如何?

  答:首先,昆仑万维算力芯片储备充足。我们从2020年就开始大模型的研发,所以在芯片采购方面领先于同行和其他创业企业。截至本季度末,公司此前采购及租赁的芯片已经到货约6,000张,另外还有约3,000张待交付。 其次,训练和推理算法基本上以每半年提升10倍的速度进行优化。从长期来看,我们认为储备的算力可以应对下一代多模态甚至MoE大模型的研发。 在自研领域,为应对潜在的芯片限制,公司投资控股了艾捷科芯。艾捷科芯计划开发一款可编程、高性能的NPU产品,同时应用于模型训练和推理。核心团队由芯片研发、集成电路、人工智能、大语言模型等领域的知名专家学者组成,其中蒋博士是芯片领域的领军人物,担任清华大学企业家协会半导体行业分会会长,同时担任国内安路科技等多家半导体企业的董事,并主导投资了盛科通信、派瑞股份300831)、云英谷等高科技企业,是芯片和半导体领域知名企业家与投资人。

  问:公司的大模型训练和推理成本大概是什么水平?在商业化之前,计划将成本优化到什么水平?会采取哪些措施?

  答:首先在硬件端,自2020年起,我们便前瞻性地进行算力储备,现已构建了自主可控的算力集群。目前公司芯片储备达9,000张,预计能够满足未来1~2年除视频AIGC之外的大模型算力需求。 其次,与大模型不同,应用端调用的模型是经过针对性优化的小模型,对算力的消耗相对较小,公司现有的硬件储备足以支撑其应用。 另外,关于推理和训练的优化工作,全球范围内都在进行。 我们可以观察到,基本上我们所有的推理成本都在快速下降。 在海外推出的基于UGC社区的C端产品形态中,大部分用户是使用阅读、收听或观看AIGC内容的C端用户,而真正进行UGC创作的用户占比相对较小。我们认为这种新的商业形态有望进一步降低我们对训练和推理成本的需求。从我们的业务模式来看,我们在商业化方面对算力成本的依赖和需求非常低。

  问: 天工大模型和天工AI搜索相关的用户数据,以及后续的迭代和商业化计划如何?与艾捷科芯的合作进展以及后续合作方向如何?

  答:首先,由于国内市场向C端用户提供服务需要在监管部门完成备案,因此我们的天工AI搜索目前仍处于内测阶段。 我们正在积极配合监管的备案审查工作,并同时准备了一系列针对天工AI搜索的市场营销活动。我们希望在正式完成备案后,再与大家分享相关数据。 第二,艾捷科芯专注于AI大模型配套芯片的研发,尤其聚焦于生成式AI的智能计算。其核心团队汇集了来自芯片研发、集成电路、人工智能及大型语言模型等领域的顶尖专家和学者。公司创始人蒋毅敏博士是芯片领域的领军人物。他于1996年毕业于清华大学电子工程系,并在美国马里兰大学取得了电机工程硕士和博士学位。蒋毅敏博士在卫星、无线通信、数字电视、可配置矢量数字信号处理器等领域有重要创新突破。艾捷科芯算是蒋毅敏博士的第二次创业。 艾捷科芯旨在开发一款可编程的、具有高性能的NPU产品。与传统AI芯片相比,生成式AI芯片的研发难度更高。首先,AI应用的计算量很大,需要更高的并行处理能力,而且处理的数据量很大,因此对内存带宽有更高的需求,数据读取速度要更快。最后,基于Transformer结构的大模型大量采用了注意力机制,与基于卷积神经网络和递归神经网络的AI芯片相比,生成式AI芯片中的神经元间连接众多,因此需要强大的扩展能力。我们可以看出生成式AI今天面临的挑战主要有三个方面,一是如何提高计算速度;二是如何优化存储;三是如何有效地进行互联。艾捷科芯的创新点即在存储密度与读取速度之间做权衡,为了在技术上取得新的突破,将考虑采纳一系列创新的架构设计;

  调研参与机构详情如下:

参与单位名称参与单位类别参与人员姓名
中邮创业基金公司--
诺安基金基金公司--
银华基金基金公司--
东吴证券证券公司--
中信建投证券公司--
中泰证券证券公司--
信达证券证券公司--
兴业证券证券公司--
华泰证券证券公司--
国信证券证券公司--
国泰君安证券公司--
安信证券证券公司--
广发证券证券公司--
开源证券证券公司--
招商证券证券公司--
民生证券证券公司--
海通证券证券公司--
首创证券证券公司--
太平洋人寿保险公司--
荷宝投资海外机构--
高盛海外机构--
中信保诚其他--
工银国际其他--

关注同花顺财经(ths518),获取更多机会

0

+1
  • 川宁生物
  • 中海达
  • 鲁抗医药
  • 凌云股份
  • 蔚蓝生物
  • 正丹股份
  • 国联股份
  • 百川股份
  • 代码|股票名称 最新 涨跌幅