蚂蚁集团推出两款不同规模MoE大语言模型 使用国产AI芯片训练成本进一步降低
近日,蚂蚁集团Ling团队发表了一篇技术成果论文。论文显示,蚂蚁集团推出了两款不同规模的MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿),两者性能均达到行业领先水平。除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE(混合专家)大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。(证券时报)
655人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道


- 上海传重磅!重组潜力股名单出炉!
- 与小米合作推出新一代AI眼镜?歌尔股份回应:不便透露客户信息
- 离“不卖就禁”只剩两个多月!特朗普团队:将兑现承诺,拯救TikTok
- 涨停复盘:创业板指探底回升收涨1.11% AI应用方向集体走强
- 春节8天 2025年法定节假日安排来了
- 沪深 300 相对成长指数报3474.62点,前十大权重包含贵州茅台等
- 沪深 300 相对价值指数报4285.61点,前十大权重包含中国平安等
- 机构论市:目前指数上行的趋势并没有改变
- 【机会挖掘】低空经济政策频发 相关产业有望受益