上证报中国证券网讯(记者窦世平)AI算力正在经历从训练到推理、从云端到终端的多重变化。2026世界人工智能(885728)大会期间,摩尔线程(688795)高级副总裁董龙飞接受记者采访时表示,端侧AI算力将是未来重要市场,而在更大规模智算基础设施建设中,十万卡集群也不是万卡集群的简单扩容,而是涉及互联、散热、可靠性和工程调校的系统级工程。
在今年摩尔线程(688795)“词元时代万物智能”主题论坛上,公司发布和展示了三大“AI工厂”、AI原生终端等相关布局。围绕这些产品与方案背后的产业判断,董龙飞重点谈到三个变化:AI算力从云端向终端渗透,训练和推理对芯片及系统的要求不同,超大规模集群将推动算力基础设施进入新的工程阶段。
端侧AI算力是“看得到的市场”
作为GPU企业,摩尔线程(688795)展示的MTT AICUBE家庭AI中枢和MTT AIBOOK AI算力本,引发外界对其进入C端场景的关注。董龙飞表示,从全球科技企业发展看,AMD、英特尔(INTC)、英伟达(NVDA)等算力企业都有面向终端或消费(883434)者的产品。
在他看来,技术演进通常遵循“先做大、后做小”的规律。“一开始都是往云上做,然后慢慢向终端渗透,这件事已经发生过无数次了。”董龙飞表示,从早期大型计算机到个人电脑,再到移动互联网时代的手机,基础设施能力最终会不断下沉到更接近用户的终端设备,人工智能(885728)时代也会出现类似趋势。
董龙飞认为,C端和端侧设备上的AI算力,是未来市场的重要方向。大模型并不一定只部署在云端,也不一定都要以万亿参数规模运行。随着模型能力下沉,手机、PC、家庭设备、机器人等终端都有可能承载不同层级的AI能力。
他介绍,目前MTT AICUBE具备50TTOPS算力,未来桌面设备算力可能进一步提升。算力进入家庭、个人和终端,对摩尔线程(688795)而言不只是产品销售,也关系到开发者生态建设。通过更便利、更低门槛的端侧算力设备,开发者可以更容易接触和使用国产算力。
训练看全功能推理看性价比
在训练和推理资源投入上,董龙飞表示,训练和推理都是摩尔线程(688795)最重要的方向,但两类场景对产品能力的要求并不相同。
他认为,训练是摩尔线程(688795)与国内不少企业差异较大的方向之一。大规模训练要求芯片和系统具备较好的通用性,不能只在单一指标上突出。“做训练得是一个五项全能的产品,哪一项也不能差。”董龙飞表示,训练涉及显存、带宽、可靠性、GPU算力、通用性、功能完备性和精度完备性等多方面能力,全功能GPU的价值由此体现出来。
推理则更强调成本和系统方案。董龙飞以PD分离为例解释,大模型推理中,回答第一个字时的Prefill计算负载较重,后续Decode生成阶段则更依赖显存访问和带宽能力。这意味着,推理系统可能需要用不同产品、不同方案组合,才能取得更优性价比。
在超大规模算力集群方面,董龙飞认为,万卡到十万卡不是数量上的简单放大,而是技术产品方案的一次迭代。他表示,做万卡集群时不一定需要超节点,但十万卡集群需要通过超节点机柜内的scale up互联,再依靠机柜间scale out互联解决系统扩展问题。
他还表示,十万卡集群还会放大可靠性挑战。如果万卡系统中单点故障率可以接受,放大到十万卡后,可靠性压力会呈指数级增加。互联、散热、功耗、模组解耦和工程调校,都成为超大规模集群必须解决的问题。“十万卡不是说做一个标品。”董龙飞说,这类系统更像超级工程,需要专门团队在标准产品基础上为客户进行调试和优化。
从端侧设备到训练集群,再到推理系统和超节点,董龙飞认为,从本次WAIC来看,AI算力不再只比拼单卡性能,而是越来越取决于芯片、软件栈、互联、系统工程和应用场景之间的协同。
