据平头哥半导体(881121)消息,近日,模思智能与OpenMOSS团队开源发布图像生成模型MOSS-Image。该模型基于平头哥真武AI芯片完成从零预训练,聚焦中英文长文本渲染和原生布局控制;双方还计划基于真武M890芯片开展更大规模的MOSS-Image模型训练。
MOSS-Image采用50亿参数的单流扩散Transformer(DiT)生成主干,支持最长4096 tokens的文本条件,可用于海报设计、信息图制作等图文创作场景,并支持动漫、插画和照片级写实等风格。50亿参数仅指生成主干,不包含文本编码器和图像编解码器。
在文字与布局控制方面,模型针对中英文长文本渲染进行优化,可处理较长文案并保留换行等文字结构;开发者还可通过结构化JSON Layout指定文字和物体的位置与范围,使版面要求成为生成条件。
在中英文长文本评测LongLongTextBench(LLTB)中,MOSS-Image六组平均文本覆盖率为96.3%,在该报告参评开放权重模型中排名第一;在7Bench布局控制评测中,目标定位与布局控制指标也在参评模型中领先。96.3%为六组平均文本覆盖率,不等同于逐字准确率,具体评测范围与设置以模型技术报告为准。目前,模型已开放Base和SFT权重、代码及使用指南,支持Diffusers、Gradio和ComfyUI等使用方式。
为完成训练,模思智能围绕MOSS-Image的实际负载进行系统适配与优化,依托平头哥T-Head SAIL软件栈,将文本编码、图像编码、生成主干计算和参数更新等环节接入真武AI芯片多机训练体系。团队针对DiT主干和文本编码器优化编译与执行路径,并通过有效token动态打包减少冗余计算;同时优化多机梯度同步与参数更新的通信拓扑,引入设备间并行处理,并采用异步数据预取和独立预处理流水线,降低训练等待延迟,完成模型在多机多卡环境下的完整预训练流程。
基于前期合作成果,模思智能与平头哥将联合推进基于真武M890芯片的更大规模MOSS-Image模型训练。双方将依托真武M890的训推一体架构、144 GB显存和800 GB/s片间互联带宽,围绕大规模模型参数驻留与多设备协同计算等技术挑战开展联合攻关。
