NVIDIA突破DeepSeek推理性能记录：每秒3万Tokens

2025-03-20 22:25:12 来源： 金融界
收藏(0)

　　NVIDIA在2025 GTC大会上宣布了重大突破 - 搭载8颗Blackwell GPU的DGX系统在DeepSeek-R1模型(6710亿参数)推理任务中创下世界纪录:

　　·单用户推理速度超过每秒250个token

　　·峰值吞吐量超过每秒30,000个token

　　核心技术创新

　　Blackwell架构升级

　　·第五代Tensor Core支持FP4精度，AI算力提升5倍

　　·第五代NVLink和NVLink Switch带宽提高2倍

　　·扩展NVLink网络域规模能力

　　TensorRT生态系统优化

　　1.TensorRT Model Optimizer 0.25

　　·支持Blackwell FP4精度

　　·提供量化、蒸馏、剪枝等优化技术

　　2.TensorRT-LLM 0.17

　　·针对Blackwell架构深度优化

　　·支持动态批处理、KV缓存管理等特性

　　3.主流框架支持

　　·PyTorch、JAX、TensorFlow全面支持Blackwell

　　·vLLM与Ollama已完成适配

　　性能提升效果

　　与上一代Hopper架构相比:

　　·Llama 3系列和DeepSeek-R1推理吞吐量提升3倍以上

　　·FP4精度下显存占用降低5.2倍

　　·图像生成速度提升3倍

　　应用场景突破

　　1.大语言模型推理

　　·DeepSeek-R1、Llama 3.1(405B)等模型性能大幅提升

　　·保持高精度的同时显著降低延迟

　　2.AI图像生成

　　·Flux.1模型系列在FP4精度下性能显著提升

　　·图像质量保持不变的同时提升生成速度

　　这些突破性进展标志着NVIDIA在AI推理性能方面达到了新的高度，为未来AI应用的大规模部署奠定了基础。

关注同花顺财经（ths518），获取更多机会 返回首页举报 >

205人

+1
advert
advert
advert
advert
24小时播报>>

04:54

美国总统特朗普近期频繁推出贸易保护主义举措，引发国际社会对全球经济前景的普遍担忧。分析人士指出，美国政策不确定性将扰乱全球经贸秩序。作为全球经济的重要一环，欧洲势必受到损害。德国经济高度依赖出口，对国际贸易的稳定尤为敏感。德国经济界的共识是，美欧贸易战不会有赢家。德国分析人士表示，全球经济最不需要的就是美国注入不确定性。（央视新闻）

04:42

台湾气象部门23日发布消息，当天12时23分，高雄市政府东北方66.7公里（位于高雄市甲仙区）发生4级有感地震，震源深度14公里。（央视新闻）

04:41

据央视新闻，为期两天的中国发展高层论坛2025年年会今天在北京钓鱼台国宾馆举行。这是两会后举办的首个国家级大型国际论坛，吸引了100多位外方代表参加，今年首次参会的跨国企业数量创下新高。中央财经委员会办公室分管日常工作的副主任、中央农村工作领导小组办公室主任 韩文秀表示，这些年，我们变压力为动力，推动科技自立自强取得积极的进展。我们将坚持科技引领、创新驱动，因地制宜发展新质生产力，大力发展新兴产业，积极培育未来产业，积极运用数字技术、绿色技术、人工智能改造提升传统产业。近期，我们看到许多国际投资者纷纷看好中国经济和中国的资产，我们真诚地欢迎国际资本回归中国，深耕中国投资的沃土，共享中国发展的红利。

04:40

财政部部长蓝佛安在“中国发展高层论坛2025年年会”上表示，加快培育发展新质生产力。中央财政将强化对教育、科技、人才的支持，促进科技创新和产业创新深度融合，继续加大财政科技投入，完善经费分配和管理审核机制，全力支持关键核心技术攻关。统筹运用税收激励、政府采购、投资基金等政策工具，推动“人工智能+”行动，培育壮大新兴产业、未来产业，提升改造传统产业。企业是创新创业的主体，将完善各项惠企助企政策，扎扎实实落实促进民营经济发展的政策措施，帮助企业解决实际困难、更好地创新发展。 (21世纪经济报道)

04:31

据人民财讯，2025年3月21日，中国证监会主席吴清在京会见了德意志银行集团主席卫礼思（Alexander Wynaendts）。双方主要就中德经济金融形势、中国资本市场对外开放、德意志银行集团在华展业等议题进行了交流。

04:22

2025年3月23日，山西省阳泉市郊区人民政府发布通报，3月22日16时许，郊区平坦镇李家山发生火情，事发后，当地第一时间组织500多名救援人员进行扑救。目前，明火已经基本扑灭，正在清理零星燃点，未造成人员伤亡。起火原因正在调查中。（央视新闻）

04:17

据人民财讯，2025年3月20日，中密控股与京东战略合作签约仪式在京东西南总部（成都）举行。此次签约仪式标志着双方在数字化采购及供应链管理领域的深度合作正式启动。中密控股将依托京东强大的数字供应链网络、多元化商品服务，全面提升公司采购效率与产品供给效率。

04:03

中国福彩发布消息称，近期，一些不法分子打着“AI预测彩票号码，百分百中奖”的幌子，诱导购彩者付费购买所谓的“预测服务”，让不少人上当受骗。彩票是一种概率游戏，AI进行预测的逻辑基础是统计学、机器学习和数据挖掘，通过分析历史数据中的模式和规律，推断未来事件或结果的可能性。但是，彩票每次开奖具有随机性和独立性，往期开奖数据与未来开奖结果之间没有关系，即使AI能对历史开奖号码进行所谓的“复杂”分析，也无法预测下一次开奖号码，因为彩票的每次开奖都是独立事件，不受之前结果的影响。那些声称用AI能预测中奖号码的不法分子，只不过是利用了人们渴望中奖的心理，编造了一个看似“科学”的骗局。（央视新闻）

04:02

当地时间3月22日，在南非萨尔达尼亚举行的西海岸航展上，一架“黑斑羚”MKII小型飞机坠毁，飞行员试图弹射逃生，但最终不幸遇难。坠机发生在指定飞行区内，没有其他人员伤亡报告。目前，南非民航局和南非空军事故小组正调查这起事件。（央视新闻）

03:59

总台记者获悉，当地时间3月22日午夜以来，以色列针对加沙地带南部的汗尤尼斯和拉法发动的一系列袭击，已造成23人死亡、数十人受伤。（央视新闻）

03:56

中央财经委员会办公室副主任、中央农村工作领导小组办公室主任韩文秀在“中国发展高层论坛2025年年会”上表示，去年四季度以来，房地产市场交易和价格出现了积极的变化，一线城市回暖态势比较明显，将继续推动房地产市场止跌回暖，加快构建房地产发展新模式，促进房地产市场长期持续健康发展。（央视新闻）

03:55

中国发展高层论坛2025年年会在北京举行，在此次年会上，中央财经委员会办公室分管日常工作的副主任、中央农村工作领导小组办公室主任韩文秀表示，我国将综合施策扩大消费，不断形成高质量发展与高品质生活相互促进，相得益彰的局面。韩文秀表示，我国将增强消费能力，在促进经济增长，提高劳动生产率的基础上，增加城乡居民的收入，优化收入分配结构，提升居民收入在国民收入中的比重，让消费者有钱能消费。同时，要扩大服务消费。韩文秀介绍，这是下一步扩大消费的重点领域。要积极发展首发经济、健康经济、冰雪经济、银发经济，把文化旅游业发展成为重要的支柱产业，创造更多高质量的服务消费产品和场景，让消费者有更多中高端服务可以消费。韩文秀表示，我国将继续优化消费环境。形成保护消费者权益的强大政策。减少后顾之忧。（央视新闻）

03:47

据日本广播协会报道，当地时间22日20时30分左右，在日本三重县南部的一条国道上，一辆客车撞上路边防风林，造成1名司机死亡，21名乘客受伤。中国驻名古屋总领事馆23日向新华社记者确认，目前暂无中国籍人员伤亡报告。（新华社）

03:39

从今天（3月23日）召开的全国群众体育工作会上了解到：截至2024年底，全国共有体育场地484.2万个，体育场地面积42.3亿平方米，人均体育场地面积达到3平方米。“十四五”期间累计建设体育公园1102个，提前完成规划目标。 （央视新闻）

03:28

日前，美国国务卿鲁比奥宣布南非驻美国大使拉苏尔为“不受欢迎的人”，要求其在72小时内离开美国。总台记者就此事对南非金山大学非洲-中东研究中心执行主任纳伊姆·吉纳进行了专访。他表示，特朗普政府的外交政策不仅缺乏对国际法和外交规范的尊重，还试图通过霸凌手段迫使包括南非在内的各国屈服。（央视新闻）

03:25

3月23日，中国发展高层论坛2025年年会期间，绿地集团董事长、总裁张玉良建议，着力稳定资产价格，提升居民收入水平，改善社会预期。特别需要呼吁的是，要全力以赴稳定不动产和股权的资产价格，因为它们是普通老百姓和中高收入群体的主要财富形式，会极大影响大家的消费能力和消费意愿。要下更大力气稳楼市、稳股市，努力让老百姓的消费底气更足、预期更稳、信心更强。

03:19

当地时间3月22日，墨西哥总统辛鲍姆表示，面对即将到来的美国对墨产品征收25%关税威胁，墨西哥作为一个独立的主权国家，主权“不容谈判”。辛鲍姆同时呼吁，墨西哥人民团结一致，捍卫自己的主权。（央视新闻）

02:52

欧盟峰会日前在比利时布鲁塞尔举行。分析人士认为，在美国新一届政府对欧政策转向背景下，加速摆脱对美依赖、实现防务自主已经成为欧洲国家的普遍共识。然而，欧洲防务自主仍面临诸多挑战，“准备就绪”需要大量时间和金钱，而且欧洲内部仍存在大量分歧难以解决。分析人士表示，欧洲目前面临的一大问题是无法再信任美国。峰会前夕，欧盟委员会发布一份名为《2030年准备就绪》白皮书，希望通过多项措施使欧洲在2030年拥有强大的国防能力。本届峰会上，欧盟27个成员国领导人原则上认同这份白皮书的方针。英国国际战略研究所网站刊文说，当前背景下美国已经不再是欧洲的可靠伙伴，欧洲需要摆脱对美国的依赖。然而，在安全认知和防务开支问题上，欧盟成员国意见却并不统一，各国围绕防务的利益诉求存在差异。此外，欧盟成员国在如何支持乌克兰的问题上仍存分歧。据欧洲媒体报道，本届峰会后，除匈牙利外的26个欧盟成员国领导人签署了一份支持乌克兰声明，但对支持乌克兰的具体金额、方式未达成共识。（央视新闻）

02:38

以太坊站上2000美元/枚，日内涨0.97%。

02:32

据灯塔专业版，饺子导演内地票房成绩超200亿元（2部电影），位列导演票房榜第一。

02:13

在美国政府每天都在宣扬美国在国际贸易中被其他国家“占便宜”、并持续挥舞关税大棒之际，世贸组织总干事恩戈齐·奥孔乔-伊维拉近日发表《美国是贸易大赢家》一文，以翔实的数据和分析，揭示了一个被美方刻意掩盖的真相：美国不仅是全球贸易体系的受益者，更在服务贸易领域占据绝对优势。（央视新闻）

02:11

前不久，在江苏苏州张家港市的西墩新村，一栋崭新的浅灰色2层小楼前，2名产权人领到了新的不动产权证书和钥匙。这是苏州首个由产权人自筹资金进行恢复性重建的自主更新项目，对于房主，这意味着，“危房解危”终于画上了句号。西墩新村21幢始建于20世纪70年代末，2022年被认定为危房。全体居民达成共识，8户共同出资，实施原地恢复性重建。本周，居民们刚刚拿到了新的不动产权证。（央视新闻）

02:08

据四川省纪委监委消息：四川农商联合银行党委委员、副行长刘杰涉嫌严重违纪违法，目前正接受四川省纪委监委纪律审查和监察调查。

01:55

海通证券研报称，2025年政府工作报告提出，要推动深海科技等新兴产业安全健康发展。深海科技涵盖广泛，深海资源开发技术与石化关联较大。从全球油气勘探开发趋势看，深海已成为油气增储上产的主要贡献来源。近年来，深海油气发现占全球油气新发现的一半以上，深海油气可采资源量为1560亿吨，占全球可采资源量的15%以上。中国在深海油气开发领域技术积累较多，通过深水半潜式钻井平台等装备，实现了作业能力从300米到1500米超深水的突破，支撑“深海一号”等深水油气田高效开发。随着深海科技发展，深海油气资源将持续得到开发，相关企业有望受益。

01:46

瑞士阿尔卑斯山区的最大冰川——阿莱奇冰川目前在快速消融，并且面临完全消失的危机。阿尔卑斯山一半以上的冰川位于瑞士境内，由于气候变化，这里的气温上升幅度是全球平均水平的两倍左右。世界气象组织等联合国机构日前表示，全球各地冰川正以前所未有的速度融化。仅在2024年，全球冰川就损失了4500亿吨。自1975年以来，冰川的融化累计达到9000亿吨。（央视财经）

01:40

据中国驻美国大使馆消息，3月22日，中国驻美国大使谢锋应邀以视频方式在第二届吉米·卡特中美关系对话会上发表致辞。谢锋指出，中美合作从来不是你输我赢的零和游戏，美对华出口、中企赴美投资分别拉动约100万个就业岗位，41%在华美企将中国视为全球第二大营收来源，46%表示有望实现盈利或大幅盈利。把中国市场和企业拒之门外是自废武功，将关税武器化如同回旋镖、终将反噬自身。中方为美应对芬太尼问题提供了各种帮助，以芬太尼为由无端加税是恩将仇报。世界各国都面临很多挑战、压力很大，中美合作才能解难事、办实事、做大事。谢锋强调，中国人讲究礼尚往来，来而不往非礼也。我们愿在平等和相互尊重的基础上通过对话磋商解决彼此关切，如果美方执意甩锅推责、遏制打压，中方必将采取一切必要措施维护自身正当权益。中美完全可以通过良性互动相互成就，而不应恶性竞争导致摩擦螺旋升级。美方应该改弦更张，回到对话合作的正确道路上来，同中方相向而行，落实好习近平主席同特朗普总统通话达成的重要共识，争取中美关系稳定、健康、可持续发展。

01:36

中国发展高层论坛2025年年会主要外方代表名单发布，西门子股份公司董事会主席、总裁、首席执行官博乐仁（Roland Busch）、苹果公司首席执行官蒂姆·库克（Tim Cook）、三星电子会长李在镕（Jay Y. Lee）、宝马集团董事长齐普策（Oliver Zipse）、梅赛德斯-奔驰集团股份公司董事会主席康林松（Ola K llenius）、高通公司总裁、首席执行官安蒙（Cristiano Amon）等将参加。

01:21

今天（3月23日）上午，由国务院发展研究中心主办、中国发展研究基金会承办的中国发展高层论坛2025年年会在北京拉开帷幕。本届论坛为期两天，主题为“全面释放发展动能，共促全球经济稳定增长”。中外嘉宾将围绕宏观政策与经济增长、改革激发增长新动能、提振消费与扩大内需、以科技创新引领新质生产力发展、人工智能普惠包容发展等议题展开交流研讨。来自国际组织、世界500强跨国企业，以及全球工商界的100多位外方代表将参加今年的年会。（央视新闻）

01:13

自本月18日以军恢复对加沙地带军事行动以来，加沙地带已经有超过600人在以军的袭击下死亡，其中包括大量儿童。根据联合国儿童基金会的数据，仅18日当天，就有超过130名儿童在以军的袭击下死亡。联合国儿童基金会在一份声明中说，以军的军事行动令100万加沙儿童再次陷入充满恐惧和死亡的世界。（央视新闻）

01:06

23日凌晨0时15分，乌克兰首都基辅市陆续传出爆炸声。新华社记者在基辅市第聂伯罗区看到，乌军防空火力对低空飞行的无人机实施了拦截。据记者观察，俄军无人机群在基辅市上空盘旋近一个小时。在第聂伯罗区，记者清晰听到多架无人机低空盘旋的轰鸣声，在探照灯协助下，乌军防空火力对无人机实施了跟踪拦截，多架无人机在空中爆炸。（新华社）
  • 三德科技
  • 沃尔核材
  • 电光科技
  • 钧崴电子
  • 金安国纪
  • 长盛轴承
  • 广和通
  • 科泰电源
    • 我的自选股自选股新闻
    代码|股票名称 最新 涨跌幅
    300153 科泰电源41.151.5%
    300515 三德科技17.09-3.17%
    300638 广和通32.75-8.6%
    300718 长盛轴承89.39-6.45%
    301458 钧崴电子36.75-3.29%
    002130 沃尔核材21.40-4.08%
    日排行评论排行
    1.美国总统特朗普20日签署行政令 要求短视频社交媒体平台TikTok“不卖就禁用”法律在未来75天内暂不执行 2.独家资金：主力进散户逃前10股 3.独家资金：早盘主力买入前10股 4.独家资金：早盘主力进散户逃前10股 5.独家资金：今日主力买入前10股 6.乳业板块局部异动 天润乳业涨停 7.PVDF概念板块短线走低 黑猫股份跌停 8.国家能源局：截至2024年12月底全国累计发电装机容量约33.5亿千瓦 同比增长14.6%
    976TikTok通知美国用户将暂停服务 766即将上任的美国国家安全顾问：计划于下周一重新上线TikTok 486今夜！暴涨 427美国当选总统特朗普表示，所有拜登的行政命令都将被撤销 381工信部：将加快研究出台促进数字产业高质量发展的文件 377美国总统特朗普20日签署行政令 要求短视频社交媒体平台TikTok“不卖就禁用”法律在未来75天内暂不执行 362美国总统特朗普：我们正在考虑对墨西哥和加拿大征收25%的关税 355央行、证监会联合召开股票回购增持再贷款座谈会 进一步发挥政策工具稳定资本市场作用
    advert
    advert
    advert
    advert