平头哥真武AI芯片完成MOSS-Image从零预训练,双方将推进更大规模模型训练

2026-11-04 11:30:10
来源:AI观察
分享
AIME

问财摘要

1、平头哥半导体与模思智能合作开源发布图像生成模型MOSS-Image,该模型基于平头哥真武AI芯片完成从零预训练,支持中英文长文本渲染和原生布局控制,并可用于海报设计、信息图制作等场景。 2、在中英文长文本评测中,MOSS-Image六组平均文本覆盖率为96.3%,排名第一。目前,模型已开放Base和SFT权重、代码及使用指南。 3、双方将联合推进基于真武M890芯片的更大规模MOSS-Image模型训练。
免责声明 内容由AI生成
文章提及标的

据平头哥半导体(881121)消息,近日,模思智能与OpenMOSS团队开源发布图像生成模型MOSS-Image。该模型基于平头哥真武AI芯片完成从零预训练,聚焦中英文长文本渲染和原生布局控制;双方还计划基于真武M890芯片开展更大规模的MOSS-Image模型训练。

MOSS-Image采用50亿参数的单流扩散Transformer(DiT)生成主干,支持最长4096 tokens的文本条件,可用于海报设计、信息图制作等图文创作场景,并支持动漫、插画和照片级写实等风格。50亿参数仅指生成主干,不包含文本编码器和图像编解码器。

在文字与布局控制方面,模型针对中英文长文本渲染进行优化,可处理较长文案并保留换行等文字结构;开发者还可通过结构化JSON Layout指定文字和物体的位置与范围,使版面要求成为生成条件。

在中英文长文本评测LongLongTextBench(LLTB)中,MOSS-Image六组平均文本覆盖率为96.3%,在该报告参评开放权重模型中排名第一;在7Bench布局控制评测中,目标定位与布局控制指标也在参评模型中领先。96.3%为六组平均文本覆盖率,不等同于逐字准确率,具体评测范围与设置以模型技术报告为准。目前,模型已开放Base和SFT权重、代码及使用指南,支持Diffusers、Gradio和ComfyUI等使用方式。

为完成训练,模思智能围绕MOSS-Image的实际负载进行系统适配与优化,依托平头哥T-Head SAIL软件栈,将文本编码、图像编码、生成主干计算和参数更新等环节接入真武AI芯片多机训练体系。团队针对DiT主干和文本编码器优化编译与执行路径,并通过有效token动态打包减少冗余计算;同时优化多机梯度同步与参数更新的通信拓扑,引入设备间并行处理,并采用异步数据预取和独立预处理流水线,降低训练等待延迟,完成模型在多机多卡环境下的完整预训练流程。

基于前期合作成果,模思智能与平头哥将联合推进基于真武M890芯片的更大规模MOSS-Image模型训练。双方将依托真武M890的训推一体架构、144 GB显存和800 GB/s片间互联带宽,围绕大规模模型参数驻留与多设备协同计算等技术挑战开展联合攻关。

原文:平头哥真武AI芯片携手模思智能,完成MOSS-Image 模型从零训练(来源:平头哥半导体(881121))

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME