据后摩智能消息,后摩智能芯片算法部正式推出官方微信公众号,将团队在存算一体芯片上适配主流大模型的一线工程经验进行系统化输出,聚焦端侧大模型算法实践与M50芯片生态。
该账号背后是一支活跃于学术前沿与工程一线的技术团队,成员来自后摩智能软件平台部芯片算法部,由多名核心技术骨干牵头,并配备算法与工程方向的实习生参与内容输出。团队在北京、南京、上海三地协同研发,多年来深耕大模型压缩、低比特量化、端侧部署及软硬件协同优化等方向,在ICML、ICLR、NeurIPS、AAAI等国际顶会发表数十篇论文,累计申请数百项发明专利。
这些研究成果已直接落地。团队在后摩智能M50存算一体芯片上,完成了Qwen3.5、Gemma4、GPT-OSS、Deepseek-V4-flash等数十款主流大模型的适配,积累了丰富的一手端侧AI工程经验。
未来,账号的核心内容将围绕五条主线展开:
模型适配实战:聚焦M50芯片上大模型与CV模型的移植、量化与性能调优,呈现踩坑记录和可复现的部署案例。
落地解决方案:分享端侧AI业务中硬件与算法结合的完整工程实践,为实际项目提供参考。
前沿技术拆解:对存算一体技术进行深入解读,包括前沿论文拆解以及行业技术观点的探讨。
创新Demo案例分享:提供可动手复现的技术Demo,提供实操参考。
开发支持:开发工具使用指南、开发实践经验分享,服务一线算法与软件开发(881272)者。
原文:一群在芯片上死磕大模型端边推理的工程师,开了个新账号(来源:后摩智能)
