IT之家7月18日消息,英伟达(NVDA)昨日(7月17日)发布博文,宣布开源推出Nemotron3Embed系列模型,主要面向AI智能体(886099)和检索增强生(JNJ)成(RAG)场景。
该系列以开放权重形式发布,支持商业使用,目前已通过Hugging Face与NVIDIA NIM免费提供。
Nemotron3Embed配备32K上下文窗口,可执行高精度检索。NVIDIA称,这一设计可减少AI智能体(886099)重复检索,压低不必要的推理触发频率,并显著降低Token消耗量。
英伟达(NVDA)针对不同部署环境,同步公开微调和蒸馏版本,覆盖精度优先、成本与时延优先,以及针对特定GPU架构优化的使用需求,推出3个模型版本:
Nemotron-3-Embed-8B-BF16模型为系列为最高规格版本,参数规模为80亿。英伟达(NVDA)称,该模型适合对精度要求较高、且伴随较高风险的企业业务场景。该模型基于Ministral-3-8B-Instruct-2512构建。
Nemotron-3-Embed-1B-BF16为高效率版本,参数规模为11.4亿。NVIDIA称,该模型适合重视时延与成本的部署环境。该模型由基于Ministral-3-3B-Instruct-2512的父模型蒸馏得到。
Nemotron-3-Embed-1B-NVFP4则是在高效率版基础上,面向Blackwell架构GPU优化的版本。原文称,借助NVFP4,该模型在维持与高效率版相同检索精度的同时,可进一步降低内存占用,并将吞吐量最高提升至2倍。
性能方面,Nemotron-3-Embed-8B-BF16在RTEB跑分上斩获第一,得分78.5%,在MMTEB检索中得分75.5%。
IT之家注:RTEB(Retrieval Embedding Benchmark(BHE),检索嵌入基准)是由Hugging Face团队及MTEB(海量文本嵌入基准)社区推出的新型检索与嵌入模型评估标准。它专为评估大模型在真实场景(如RAG系统和智能体)中的实际检索质量而设计。
