虹软科技：端侧大模型应用整体仍处于相对早期阶段

证券日报网5月27日讯，虹软科技（688088）在接受调研者提问时表示，目前，端侧大模型应用整体仍处于相对早期阶段，端侧大模型运用在手机端更难，但端侧的价值在于时效性和安全性，无需网络也能运行，且大量数据不需要上传云端。云端大模型已高度成熟，而端侧部署难点在模型大小、显存、功耗、性能、授权和特征对齐。端侧生成技术历经Stable Diffusion、SDXL、双模态/图像表征+Embedding等阶段。公司PSAI现在主要在云端实现，但公司内部在尝试通过特征压缩、低维表示、类似PCA的主成分思想等方式减少端侧计算和存储消耗(如：把与图像生成最相关的特征保留，丢弃无关空间，以降低使用成本)。公司在计算机视觉中的长期积累可以用于端侧大模型优化。