亿道信息(001314)在投资者关系活动记录表中表示,亿灵AISSD异构推理技术针对MoE混合专家架构大模型进行底层调度优化,通过动态专家驻留策略降低内存占用,并可在内存、速度之间灵活调档,使普通PC、NAS等内存受限的端侧设备能够运行35B或更大的模型。
亿道信息(001314)在投资者关系活动记录表中表示,亿灵AISSD异构推理技术针对MoE混合专家架构大模型进行底层调度优化,通过动态专家驻留策略降低内存占用,并可在内存、速度之间灵活调档,使普通PC、NAS等内存受限的端侧设备能够运行35B或更大的模型。