据腾讯混元消息,腾讯混元发布Hyra 2.0,目标从让通用智能体直接解决科研问题,进一步延伸到研发和升级科学模型、研究工作流及软件工具,使成果能够被后续任务反复使用。Hyra 2.0已在蛋白质模型、分子模拟、数学证明、量子纠错、机器人结构设计和处理器研发等领域取得初步进展,相关成果将持续发布在GitHub仓库,供社区检验和复用。
从解题到造工具
Hyra 2.0提出,科研智能体的价值不应只体现在解出一道题,也应体现在为一类问题留下可复用的模型、流程和验证方法。工具升级后,所有使用该工具的后续任务都有机会受益;工具越通用,能够支持的研究范围也越广。
为研发周期(883436)较长、涉及多项实验的任务,Hyra 2.0搭建了分层协作机制:Overall与研究者沟通并协调项目优先级、资源和关键决策;Mission长期负责研究问题,制定路线、安排实验并评估结论;Worker承担代码开发、实验执行和结果分析。任务可进入持久化队列,在等待实验结果或人工审批时,其他工作仍可继续。
系统通过Research Board记录研究进展,并要求Worker提交代码版本、实验结果和运行记录等证据。必要时,Hyra 2.0会安排独立Review Worker复核。项目状态、智能体工作记忆和跨任务可复用经验分别保存;验证过的方法还可整理成skill,供后续研究调用和改进。
模型与科研工具取得进展
HyInv:Hyra 2.0从头训练了参数量为196万的蛋白质逆折叠模型,并完成预训练、监督微调、强化学习和推理优化。该模型用于根据目标骨架设计蛋白质序列;与ProteinMPNN相比,HyInv生成的序列与目标结构吻合度更好,生成速度快57倍。
HyPLM:Hyra 2.0训练了参数量为6.5亿的蛋白质语言模型HyPLM-Flash,累计使用7260亿训练token,约为ESM-2 650M训练用量的0.73倍,是E1-600M和ESM C 600M的五分之一至八分之一。在比较的12个蛋白质语言模型中,HyPLM-Flash推理速度最快,在35项评测任务中的平均排名为第三。
HyFF:这款面向分子模拟的原子级基础模型提供五种规模,参数量从230万到12亿,覆盖83种元素,并支持带电和开壳层体系。与16个公开模型对比,五种规模的HyFF均处于评测精度与速度的帕累托前沿。模型已用于近6万原子的水通道蛋白膜体系100纳秒模拟,也在4.6万原子的酶体系中观察到一次完整的断键、成键反应过程。
HyProver:这套数学证明工作流通过资料搜索、问题转化、提出猜想和独立复核组织研究探索。HyProver已完整解决多个开放数学问题;其中,丘成桐先生的圆周作用猜想与五维Petty等距点猜想的证明,已由团队协同数学家核验并整理。
HyQEC:这套量子低密度奇偶校验码构造与验证系统,支持新码构造、码距搜索和精确证明。Hyra 2.0设计的Split Pauli-CPM算法构造并严格验证了量子码[488,123,22],编码效率指标kd /n为122.0;在非CSS、校验权重不超过8的条件下,比qLDPC Challenge原榜首提升约48%。系统的码距搜索吞吐量达到原有8线程CPU工具的8至55倍,并为排行榜187个条目中的178个完成精确码距认证。
机器人与处理器研发
在灵巧手设计中,Hyra 2.0自主探索出五指绕掌心排列、长度依次递增的“旋梯手”。在DR5仿真评测中,经相同预算的策略微调后,其物体旋转速度达到3.277 rad/s,比论文中的最优设计快28.6%,目标完成数提升21%,失稳率也更低。团队指出,该结果目前仍限于仿真,尚未经过真机验证。
围绕开源RISC-V处理器项目香山,Hyra 2.0开展性能优化和正确性验证。针对SPEC CPU2006测试暴露的问题进行修复和调优后,香山每GHz得分的几何平均值提升5.79%,单核频率不变,面积增加0.3%。Hyra 2.0还通过模糊测试发现7个此前未列入官方issue的问题,连同另外3个独立发现共计10个;形式化验证则找到一个多核缓存一致性反例,相关修复已贡献给开源末级缓存OpenLLC。
参与下一代Hy模型研发
Hyra 2.0也已参与混元内部下一代模型的研发工作,包括优化预训练基础设施、验证新训练技术,搭建自动化数据合成管线,以及改进推理系统和镜像,以降低部署、训练、评测和大规模实验的开销。团队希望通过工具升级帮助训练更强的Hy模型,再借助新模型推动下一轮工具研发与迭代。
原文:Hyra 2.0 发布:为模型研发打造可复用工具(来源:腾讯混元)
