英伟达新核弹B200发布,一台服务器顶一个超算,万亿参数大模型30倍推理加速 siyushenqi.com • 2025 年 8 月 13 日 下午11:08 • 行业动态 • 阅读 410 老黄这次主题演讲题目为《见证AI的变革时刻》,但不得不说,英伟达才是最大的变革本革。 AI春晚GTC开幕,皮衣老黄再次燃爆全场。 时隔两年,英伟达官宣新一代Blackwell架构,定位直指“新工业革命的引擎” ,“把AI扩展到万亿参数”。 作为架构更新大年,本次大会亮点颇多: · 宣布GPU新核弹B200,超级芯片GB200 · Blackwell架构新服务器,一个机柜顶一个超算 · 推出AI推理微服务NIM,要做世界AI的入口 · 新光刻技术cuLitho进驻台积电,改进产能。…… 8年时间,AI算力已增长1000倍。 老黄断言“加速计算到达了临界点,通用计算已经过时了”。 我们需要另一种方式来进行计算,这样我们才能够继续扩展,这样我们才能够继续降低计算成本,这样我们才能够继续进行越来越多的计算。 老黄这次主题演讲题目为《见证AI的变革时刻》,但不得不说,英伟达才是最大的变革本革。 GPU的形态已彻底改变 我们需要更大的GPU,如果不能更大,就把更多GPU组合在一起,变成更大的虚拟GPU。 Blackwell新架构硬件产品线都围绕这一句话展开。 通过芯片,与芯片间的连接技术,一步步构建出大型AI超算集群。 4nm制程达到瓶颈,就把两个芯片合在一起,以10TB每秒的满血带宽互联,组成B200 GPU,总计包含2080亿晶体管。 没错,B100型号被跳过了,直接发布的首个GPU就是B200。 两个B200 GPU与Grace CPU结合就成为GB200超级芯片,通过900GB/s的超低功耗NVLink芯片间互连技术连接在一起。 两个超级芯片装到主板上,成为一个Blackwell计算节点。 18个这样的计算节点共有36CPU+72GPU,组成更大的“虚拟GPU”。 它们之间由今天宣布的NVIDIA Quantum-X800 InfiniBand和Spectrum™-X800以太网平台连接,可提供速度高达800Gb/s的网络。 在NVLink Switch支持下,最终成为“新一代计算单元”GB200 NVL72。 一个像这样的“计算单元”机柜,FP8精度的训练算力就高达720PFlops,直逼H100时代一个DGX SuperPod超级计算机集群(1000 PFlops)。 与相同数量的72个H100相比,GB200 NVL72对于大模型推理性能提升高达30倍,成本和能耗降低高达25倍。 把GB200 NVL72当做单个GPU使用,具有1.4EFlops的AI推理算力和30TB高速内存。 再用Quantum InfiniBand交换机连接,配合散热系统组成新一代DGX SuperPod集群。 DGX GB200 SuperPod采用新型高效液冷机架规模架构,标准配置可在FP4精度下提供11.5 Exaflops算力和240TB高速内存。 此外还支持增加额外的机架扩展性能。 最终成为包含32000 GPU的分布式超算集群。 老黄直言,“英伟达DGX AI超级计算机,就是AI工业革命的工厂”。 将提供无与伦比的规模、可靠性,具有智能管理和全栈弹性,以确保不断的使用。 在演讲中,老黄还特别提到2016年赠送OpenAI的DGX-1,那也是史上第一次8块GPU连在一起组成一个超级计算机。 从此之后便开启了训练最大模型所需算力每6个月翻一倍的增长之路。 GPU新核弹GB200 过去,在90天内训练一个1.8万亿参数的MoE架构GPT模型,需要8000个Hopper架构GPU,15兆瓦功率。 如今,同样给90天时间,在Blackwell架构下只需要2000个GPU,以及1/4的能源消耗。 在标准的1750亿参数GPT-3基准测试中,GB200的性能是H100的7倍,提供的训练算力是H100的4倍。 Blackwell架构除了芯片本身外,还包含多项重大革新: · 第二代Transformer引擎 动态为神经网络中的每个神经元启用FP6和FP4精度支持。 · 第五代NVLink高速互联 为每个GPU 提供了1.8TB/s双向吞吐量,确保多达576个GPU之间的无缝高速通信。 · Ras Engine(可靠性、可用性和可维护性引擎) 基于AI的预防性维护来运行诊断和预测可靠性问题。 · Secure AI 先进的加密计算功能,在不影响性能的情况下保护AI模型和客户数据,对于医疗保健和金融服务等隐私敏感行业至关重要。 · 专用解压缩引擎 支持最新格式,加速数据库查询,以提供数据分析和数据科学的最高性能。 在这些技术支持下,一个GB200 NVL72就最高支持27万亿参数的模型。 而GPT-4根据泄露数据,也不过只有1.7万亿参数。 英伟达要做世界AI的入口 老黄官宣ai.nvidia.com页面,要做世界AI的入口。 任何人都可以通过易于使用的用户界面体验各种AI模型和应用。 同时,企业使用这些服务在自己的平台上创建和部署自定义应用,同时保留对其知识产权的完全所有权和控制权。 这上面的应用都由英伟达全新推出的AI推理微服务NIM支持,可对来自英伟达及合作伙伴的数十个AI模型进行优化推理。 此外,英伟达自己的开发套件、软件库和工具包都可以作为NVIDIA CUDA-X™微服务访问,用于检索增强生成 (RAG)、护栏、数据处理、HPC 等。 比如通过这些微服务,可以轻松构建基于大模型和向量数据库的ChatPDF产品,甚至智能体Agent应用。 NIM微服务定价非常直观,“一个GPU一小时一美元”,或年付打五折,一个GPU一年4500美元。 从此,英伟达NIM和CUDA做为中间枢纽,连接了百万开发者与上亿GPU芯片。 什么概念? 老黄晒出AI界“最强朋友圈”,包括亚马逊、迪士尼、三星等大型企业,都已成为英伟达合作伙伴。 最后总结一下,与往年相比英伟达2024年战略更聚焦AI,而且产品更有针对性。 比如第五代NVLink还特意为MoE架构大模型优化通讯瓶颈。 新的芯片和软件服务,都在不断的强调推理算力,要进一步打开AI应用部署市场。 当然作为算力之王,AI并不是英伟达的全部。 这次大会上,还特别宣布了与苹果在Vision Pro方面的合作,让开发者在工业元宇宙里搞空间计算。 此前推出的新光刻技术cuLitho软件库也有了新进展,被台积电和新思科技采用,把触手伸向更上游的芯片制造商。 当然也少不了生物医疗、工业元宇宙、机器人汽车的新成果。 以及布局下一轮计算变革的前沿领域,英伟达推出云量子计算机模拟微服务,让全球科学家都能充分利用量子计算的力量,将自己的想法变成现。 One More Thing 去年GTC大会上,老黄与OpenAI首席科学家Ilya Sutskever的炉边对谈,仍为人津津乐道。 当时世界还没完全从ChatGPT的震撼中清醒过来,OpenAI是整个行业绝对的主角。 如今Ilya不知踪影,OpenAI的市场统治力也开始松动。在这个节骨眼上,有资格与老黄对谈的人换成了8位—— Transformer八子,开山论文《Attention is all you need》的八位作者。 他们已经悉数离开谷歌,其中一位加入OpenAI,另外7位投身AI创业,有模型层也有应用层,有toB也有toC。 这八位传奇人物既象征着大模型技术真正的起源,又代表着现在百花齐放的AI产业图景。在这样的格局中,OpenAI不过是其中一位玩家。 而就在两天后,老黄将把他们聚齐,在自己的主场。 要论在整个AI界的影响力、号召力,在这一刻,无论是“钢铁侠”马斯克还是“奥特曼”Sam Altman,恐怕都比不过眼前这位“皮衣客”黄仁勋。 …… 最后,再来欣赏一段英伟达为Blackwell架构制作的精彩动画短片。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33588.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 200万上下文!月之暗面Kimi又长长长了,一次处理500个文件,还能读懂甄嬛传了 上一篇 2025 年 8 月 13 日 下午11:07 苹果正与谷歌、OpenAI洽谈,为苹果手机提供大模型支持 下一篇 2025 年 8 月 13 日 下午11:08 相关推荐 行业动态 Meta宣布收购AI可穿戴挂坠Limitless Meta已正式签约收购AI可穿戴初创公司Limitless,交易金额未披露。 siyushenqi.com 2025 年 12 月 10 日 394000 行业动态 哪些产业适合当下做外贸生意? 外贸生意是指国家与国家之间的产品或者技术交易,如今我国的经济快速发展,对外贸来说有一定的促进作用,在当前全球化日益加剧的背景下,外贸行业正成为越来越多企业的关注焦点,然而,要成功涉足外贸领域,选择合适的产业和用私域神器来开发外贸客户至关重要。2024年的外贸生意简单推荐以下几种比较常见的产业: 电子产品与零部件: 随着科技的飞速发展,电子产品市场需求持续增长… siyushenqi.com 2025 年 8 月 13 日 下午11:08 410000 让300万人从“坐牢”到“沉迷加班”,这个离谱的产品只花了4个晚上 这个全新的领域,或许会成为游戏之外的另一种可能。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 423000 行业动态 Aura from Unity 作为非游峰会-联合赞助出席PAGC 2025丨第五届全球产品与增长展会 Aura from Unity 作为非游峰会-联合赞助出席PAGC 2025丨第五届全球产品与增长展会 siyushenqi.com 2025 年 8 月 17 日 493000 行业动态 10亿,开年第一笔机器人融资,字节红杉都出手了 字节跳动首次出手,与红杉、深创投、北京/无锡国资等共同注资,自变量成为国内唯一集齐BAT+美团+字节投资图谱的具身智能公司。 siyushenqi.com 2026 年 1 月 12 日 363000 行业动态 暴雪国服回归1个月内官宣,网易雷火营销互娱运营 4-6月上线应该没跑 siyushenqi.com 2025 年 8 月 18 日 423000 用游戏语言讲好三国故事,《真·三国无双 霸》如何撬动港澳台新马玩家 进入移动互联网时代,伴随着中国手游产业的爆炸式发展,真·三国无双又经由光荣特库摩授权,中手游和天戏互娱联合打造《真·三国无双 霸》。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 423000 从海外婚礼定制专家到芒果电商:一位85后北京CEO的转型之路 7月,烈日蒸腾,广西百色市田东县的空气中,除了翻滚的热浪,还弥漫着一股淡淡的果香。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 373000 行业动态 爆款收入增长162%之后,点点互动开始发力中轻度游戏了? 点点互动的《无尽冬日(Whiteout Survival)》在国内外市场均取得了巨大成功,收入同比增长超过162%,这为公司提供了探索新领域的底气。 siyushenqi.com 2025 年 8 月 17 日 478000 爆款猫玩具走红TikTok,5天播放破千万! “猫经济”的崛起,或将诞生巨大商机 siyushenqi.com 2025 年 8 月 12 日 • 行业动态 558000 行业动态 4399拿《菇勇者》打法“发海彼的游戏”? 早在今年四月,4399便发行过《射射英雄》的欧美版本《Zombie.io》。如今,《射射英雄》的港澳台版本上线十天拿下超1000万元的收入。 siyushenqi.com 2025 年 8 月 18 日 396000 行业动态 微软开源创新框架:可将DeepSeek,变成AI Agent 微软发布了OmniParser的最新版本V2.0,这是一个视觉Agent解析框架,能够将DeepSeek-R1、GPT-4o、Qwen-2.5VL等大模型转化为可在计算机上使用的AI Agent。与V1相比,V2在检测较小的可交互UI元素时准确率更高,推理速度更快,延迟降低了60%,在ScreenSpot Pro基准测试中,V2+GPT-4o的准确率达到了39.6%,相比原始GPT-4o的0.8%有显著提升。 siyushenqi.com 2025 年 8 月 13 日 465000 行业动态 “寒冬”中的羽绒服:欧洲订单涨了,但不多 没有外界所传的爆发式增长,不过相比往年的确有所提升,涨幅大概20%-30%。 siyushenqi.com 2025 年 8 月 13 日 403000 行业动态 《高能英雄》推出在即,全球射击赛道也正进行新一轮的洗牌 腾讯旗下新射击手游《高能英雄》即将上线 siyushenqi.com 2025 年 8 月 19 日 416000 行业动态 苹果IDFA“灰犀牛”落地:iOS端买量成本将暴涨,中国游戏出海何去何从? 4月21日凌晨1点,一年一度的苹果春季发布会如期召开。 siyushenqi.com 2025 年 8 月 25 日 512000 行业动态 私域神器每周合作精选No.163|角色扮演类RPG游戏、三消混变、SLG游戏寻国内外发行;寻海外流量联运变现合作;休闲游戏寻巴西支付 本期精选的合作类型涵盖角色扮演类RPG游戏、三消混变、SLG游戏寻国内外发行;寻海外流量联运变现合作;休闲游戏寻巴西支付等。接下来就一起看看吧~ siyushenqi.com 2025 年 8 月 15 日 399000 行业动态 如何利用 AIGC 智能体提升企业运营与内容生产效能 AIGC智能体技术在企业中发挥着日益重要的作用,涵盖内容创作、客户服务与数据分析等多个领域。通过智能化的生成内容与服务系统,企业得以提升生产效率,优化客户体验,同时降低成本。AIGC的多模态技术助力企业在创作质量和速度上取得突破,带来... siyushenqi.com 2026 年 1 月 24 日 398000 行业动态 疯狂对标OpenAI,智谱AI要背水一战 自2024年5月以来,大模型领域价格战愈演愈烈,智谱AI也参与其中,通过降低模型调用价格以吸引用户,但这种策略可能会对其盈利能力造成压力。 siyushenqi.com 2025 年 8 月 13 日 684000 玩了《最终幻想16》,我对这个古老系列再次重拾信心 三年前的PS5资讯发布会上,《最终幻想16》第一次公布了预告宣传片。 siyushenqi.com 2025 年 8 月 23 日 • 行业动态 444000 行业动态 PAGC2025丨蓝海市场突围:短剧出海增长如何构建加速引擎? 短剧出海增长提速干货内容分享。 siyushenqi.com 2025 年 8 月 17 日 437000 行业动态 公测前1天《鸣潮》全球多地登顶 近期,游戏行业热闹非常,对于玩家而言,可以说是佳作一个接一个。 siyushenqi.com 2025 年 8 月 18 日 437000 行业动态 没想到Sora发布后,最先破防的是马斯克,他真的急了... 马斯克:特斯拉研发“真实世界视频生成工具”大约已有一年时间。 siyushenqi.com 2025 年 8 月 13 日 415000 行业动态 OpenAI将发布AI Agent浏览器,挑战谷歌Chrome 路透社消息,OpenAI计划在未来几周内发布一款由AI Agent驱动的网络浏览器,旨在通过人工智能彻底改变用户浏览网页的方式。 siyushenqi.com 2025 年 8 月 13 日 468000 行业动态 外贸独立站 SEO 优化技巧:提高谷歌搜索排名 针对外贸独立站的SEO优化,需结合国际化和本地化策略,重点关注谷歌算法偏好及目标市场用户需求。以下是提升谷歌搜索排名的核心技巧,分步骤解析: 一、精准定位目标市场与关键词策略 1.多语言/地区关键词研究 - 使用工具(Ahrefs、SEMrush、AnswerThePublic)挖掘目标国家/地区的搜索习惯,例如美国用户可能搜索“wholesale supp… siyushenqi.com 2025 年 8 月 13 日 下午11:08 410000 行业动态 知名AI产品被控“抄袭”,华人团队靠AI“鉴假”抢占400亿美元市场 用AI对战AI,市场空间有多大? siyushenqi.com 2025 年 8 月 13 日 450000 行业动态 FunPlus致力于SLG技术玩法创新 联手Facebook Gaming加速云游戏扩张 Facebook邀请了多个游戏厂商联合开发云游戏,FunPlus就是其中之一。不管从哪一方面看,云游戏都是未来游戏发展的重点趋势。这个认识让FunPlus决定与Facebook Gaming进一步合作追逐这股潮流 siyushenqi.com 2025 年 8 月 25 日 455000 行业动态 杀入韩国畅销TOP9,但这次的Habby新作有些不一样 Habby试图开垦其他新赛道 siyushenqi.com 2025 年 8 月 19 日 573000 融资1.5亿美元,估值超10亿美元 社交赛道已出现AI+“抢跑者” 访问次数过亿,估值超过10亿美元,Character.AI什么来头? siyushenqi.com 2025 年 8 月 14 日 • 行业动态 392000 行业动态 美国提出《COPIED法案》,针对ChatGPT、Udio、Suno等产品 7月12日晚,美国参议院官网公布了一个由,Cantwell、Blackburn和Heinrich三位两党国会议员提出新的法案——COPIED Act。 siyushenqi.com 2025 年 8 月 13 日 381000 行业动态 2024年9月全球移动游戏市场快报:模拟手游领跑下载量增长排行榜 2024年9月全球手游下载量增长榜Top10中,休闲模拟游戏占据了前三名中的三个位置,显示了这一类型的游戏在全球范围内的持久吸引力。 siyushenqi.com 2025 年 8 月 18 日 529000 发表回复 请登录后评论...登录后才能评论 提交