随着时间来到9月,一年一度的高通(QCOM)骁龙峰会也越来越近了,下一代骁龙旗舰平台也将揭开面纱。而关于全新的骁龙旗舰平台,高通(QCOM)不久前已经通过官方博客分别披露了全新Oryon CPU以及Adreno GPU的部分特性,还是非常有看点的。而今天,高通(QCOM)又发文介绍了全新Hexagon NPU的升级看点。下面我们具体来看一下。
在博客文章中,高通(QCOM)表示他们正在打造全新的AI基础能力,其核心是全新的Hexagon NPU以及两大关键创新特性。
第一大特性为全新的Element Accelerator,专为驱动面向当今的生成式AI和智能体AI的Transformer工作负载而打造。
结合向量计算单元和标量计算单元,它能够加速大模型中最关键的运算,帮助智能体更快地响应、更高效地推理,并在保证移动端能效的前提下,提供更丰富的体验。
Hexagon NPU还将大容量共享内存(Large Shared Memory)最大扩容达50%。这能将上下文和KV-cache数据保留在NPU内部,同样可以减少访问DDR的次数,降低内存读取和时延,并为其他工作负载释放宝贵的内存带宽。
由此NPU得以专注于推理,更快、更高效地交付结果。即使端侧模型要处理更长的上下文窗口、更复杂的推理、更多的工具调用以及并发任务,智能体体验也将实现更及时的响应。
全新的Hexagon NPU旨在实现更快、响应更及时的AI。针对INT4模型,其预填充速度提升50%,这将提升提示词处理和上下文理解的速度,实现近乎即时的交互体验——针对INT4模型首个词元生成时间低于1.5秒。
高通(QCOM)的NPU架构设计也与更完整的精度策略相辅相成。除INT4外,这次还支持INT2、INT8、FP8、FP16精度,为开发者提供更大的灵活性,以在性能、内存、模型质量和功耗之间取得平衡。
这些技术提升让全新骁龙旗舰平台的NPU能够支持下一代模型架构。高通(QCOM)表示他们正与领先的内存和模型厂商合作,引入新一代端侧架构。这一架构围绕从闪存加载的混合专家(MoE)模型构建,MoE模型在推理和规划方面明显更为先进。
当前的DDR内存无法承载300亿参数规模的模型,因此高通(QCOM)与合作伙伴携手,将其从闪存中调度加载。例如,一个300亿参数的MoE模型在保持数百亿参数可用的同时,在NPU上每次生成一个词元仅需激活约30亿个被路由选中的参数。
更重要的是,考虑到现有的内存瓶颈,这一方式能够减轻内存负担。结合智能的专家模块闪存到内存加载管理机制与缓存技术(Intelligent(IPM) Flash-to-Memory Expert Management),这种方法能够以低功耗和低内存需求的方式实现更大模型级别的AI体验。
除了NPU,根据之前官方已经披露的消息,新一代骁龙旗舰平台的Oryon CPU主要有两大核心升级,一是突破性的5G(885556)Hz主频,二是全新的缓存架构。全新Oryon CPU是一颗完全定制的CPU,每一项微架构特性都由高通(QCOM)自主调校,每个核心还拥有自己的时钟域,可以独立进行频率扩展。这套设计思路与主频达到5G(885556)Hz的骁龙X2系列一脉相承,如今在移动平台上落地。而在缓存上,全新Oryon CPU做了两层设计,一是缓存分层架构,每个核心均配备大容量的L1指令缓存,避免CPU周期(883436)浪费,L2缓存集成在CPU内部,能以极低的时延访问更大的缓存池;二是这次的重点Oryon FlexCache,它把L2缓存统一成所有核心都能直接访问的共享缓存池,并可动态调整缓存资源分配。
再看新一代Adreno GPU的变化,最重要的新设计是加入Adreno矩阵核心。高通(QCOM)公布的示意图显示,GPU预计配备3个矩阵核心,专门负责以更低延迟和更低功耗处理本地AI任务。Adreno矩阵核心将为新的Adreno神经融合技术提供算力支持。与此前的方案相比,Adreno神经融合可以减少闪烁、重影等画面瑕疵,让运行表现更加稳定、细节更加清晰,同时最多降低40%的功耗。对于游戏(881275)玩家而言,最直接的变化预计是帧生成和画面升频效果进一步改善。此外,新一代Adreno GPU频率提高到1.45G(885556)Hz,高于第五代骁龙8至尊版的1.2GHz。18MB Adreno高性能内存继续保留,高通(QCOM)同时宣称GPU能效提升12%。
可以看到,全新一代骁龙旗舰平台在CPU、GPU和NPU上都对AI能力做了强化,Oryon CPU负责指挥、规划、推理,并协调整个工作流程。若任务需要调用云端API,Oryon能够快速进行恰当的调度路由。针对多种模型在终端侧同时运行的混合场景,Hexagon NPU和Adreno GPU共同承担AI推理,这正是高通(QCOM)下一代旗舰平台赋能智能体体验的方式。
当然,目前已经披露的消息相信都还只是新一代骁龙旗舰移动平台各方面功能看点的冰山一角,大家可以持续关注官方的消息,也期待2026骁龙峰会的到来,届时我们一起来看高通(QCOM)面向AI智能体(886099)时代还准备了哪些大招。
