最强AI芯片H200?黄仁勋又在挤牙膏了 siyushenqi.com • 2025 年 8 月 13 日 下午10:50 • 行业动态 • 阅读 457 英伟达又赢麻了。 11月13日晚,英伟达在国际超算大会上推出新一代GPU,NVIDIA HGX H200。 对这块GPU,黄仁勋给的学术名称是“新一代AI计算平台”,专为大模型与生成式AI而设计,翻译一下: 只看算力H200和H100基本相同,但为了加速AI推理速度,我们优化了显存和带宽。 又一块史上最强芯片 先看具体的参数升级,官方新闻稿是说相比H100而言性能提升了60%-90%,具体来看则是四个方面: 1、跑70B Llama2,推理速度比H100快90%; 2、跑175B GPT-3,推理速度比H100快60%; 3、显存容量达到141GB,是H100的近1.8倍; 4、带宽达到4.8TB,是H100的1.4倍。 换句话说,虽然算力没有提升,但更高速的推理就意味着大量时间和金钱成本的节约,虽然还没有公布定价,新卡的“单美元效率”有了显著的提升。 虽然当下H200的具体架构还没有曝光,根据已有信息我们推测,最重要的三个部分中,逻辑芯片应该还是台积电的4N工艺,CoWoS封装也没有变化,但HBM存储芯片却由原先的HBM3升级到了HBM3e。 H100拆机图 原先的6颗HBM3芯片由SK海力士独供,内存带宽为3.35TB/s,内存为80GB,而全球首款搭载HBM3e内存的H200,内存带宽达到4.8TB/s,内存达到141GB。 141GB内存这个数字还挺奇怪,但这也是惯例。之前的HBM3芯片单颗内存为16GB,堆叠6颗理论上应该是96GB,但实际只有80GB,就是英伟达为了保证良率,保留了一部分冗余空间。 而这次的HBM3e单颗容量为24GB,6颗算下来是144GB,等于说这次英伟达只保留了3GB冗余,更大程度的压榨了内存的空间,以实现性能上的突破。 这或许带来产能爬坡速度较慢的问题。 至于供应商方面,英伟达暂时没有公布,SK海力士和美光今年都公布了这一技术,但美光在今年在9月份表示,它正在努力成为英伟达的供应商,不知道H200有没有选上它。 这块最强GPU要到2024年二季度才正式发售,现在大家依然得抢H100。 今年8月英伟达发布的GH200超级芯片,实际上是由Grace CPU与H100 GPU组合而成的。 这套组合在NVLink的加持下与H200完全兼容,也就是说原先用H100的数据中心既可以直接升级H200,也可以再堆几块H200进去增加算力。 另一方面,根据此前英伟达公布的更新路径图,在2024年的四季度就将发布下一代Blackwell架构的B100,性能将再次突破。 再结合我们上文提到的,相比于H100,H200只是在推理能力上有所提升,更接近老黄一贯以来的挤牙膏产品,真正的大招还得看明年的B100。 问题是,英伟达为什么要出一款这样的产品? H200称不上传奇 显卡玩家都知道,老黄的刀法是出了名的精湛。 所谓刀工,就是你去买肉的时候说要一斤肉,老板一刀下去刚好一斤。放到显卡这里,则是厂商通过分割性能设计出不同价位的产品,以满足各类不同需求的消费者。 比如下图所示的五款同一年发售的显卡,采用相同制程和架构,但通过屏蔽不同量的流处理器以诞生性能有所差异的五款显卡。 发售价基本呈等差数列,如果把他们变成性能差异的话,则会出现下面这张层层递进的得分图。 很明显,消费者多花一分钱,就能多得到一点性能,号称“每500元一档,每5%性能一级”。 毕竟打游戏这事,有人只玩热血传奇,也有人就喜欢4K光追120FPS玩赛博朋克2077,不同人群的需求千差万别,不同价位都有市场。 图片来源:极客湾 至于这么操作有什么好处——抢占市场,节约成本。 抢占市场比较好理解,在所有价格带和各种性能档次上铺满自家产品以挤压对手生存空间,这套做法各行各业都有,看看白酒和车企就知道了。 成本这边,一片晶圆能够切割出若干块“die”(也就是芯片封装前的晶粒),而这切割出来的die质量参差不齐,也就有了良品率的概念。 因此简单来说,以16xx系显卡为例,英伟达就会把质量最高的芯片做成性能最强的1660Ti,差一点的做成1660Super和1660,再差一点的继续降级。 这样就能够保证在芯片制造过程中的损耗尽可能的降低。 同时这种刀法还能用来清库存,比如22年矿机市场崩盘,英伟达30xx系芯片堆在仓库里卖不动,老黄就把用在高端显卡上的芯片放进低端显卡系列里,降价出售。 比如说原先放在3090上的ga102核心,22年3月首发价11999元,到了11月就搭载到新版的3070Ti V2上,价格直接打到了3500左右。 回到H200这里,H100已经是最强的AI芯片了,但英伟达就是要在B100和H100之间再切出一个H200,同样也是上述的两个原因。 这里需要科普一下内存带宽的意义,一套服务器的真实计算速度(FLOPs/s),是在“计算密度x带宽”与“峰值计算速度”这两个指标间取最小值。 而计算密度和带宽的上限都是受到内存技术影响的。(这里划个线,后面讨论中国特供H20还会提到。) 通俗来说,就是如果芯片内部计算已经结束,但新的数据没传过来,下一次计算也就不能开始,这部分算力实际上是被浪费的。 这也是为什么我们看到一些服务器的算力(FLOPs)相对较低,但计算速度却更高的原因。 因此对于一款高性能芯片来说,算力和带宽应当同步提升才能使计算速度最大化。 对于H系列GPU来说,在不改架构和所用制程的情况下,可能算力上的突破已经比较困难,但在HBM3e的加持下,内存和内存带宽得以继续提升。 另一方面,相较于此前训练大模型所强调的庞大算力,在当下AI应用大量落地的时代厂商开始重视推理速度。 推理速度和计算速度可以划上约等号,即是将用户输入的数据,通过训练好的大模型,再输出给用户有价值的信息的过程,也就是你等ChatGPT回复你的那段时间。 推理速度越快,回复速度越快,用户体验自然越好,但对于AI应用而言,不同难度等级的推理所需要的运算量天差地别。 打个比方,假设现在有一款和GPT-4同样强大的模型,但问他附近有什么好吃的足足花一分钟才能给出答案,但GPT-4只要一秒,这就是推理速度带来的差异。 这种推理速度上的差异延伸到应用生态上,则会影响应用的广度与深度,比如即时性要求更强的AI就必须拥有更高的带宽,最典型的案例就是自动驾驶技术。 在这一逻辑下,头部大厂自然会愿意为更高的内存买单。 而成本这一块,英伟达就更鸡贼了,咱们来看看中国特供版GPU:H20。 深厚刀工下的产物:H20 日前有消息称,英伟达现已开发出针对中国区的最新改良版系列芯片:HGX H20、L20 PCle和L2 PCle,知情人士称,最新三款芯片是由H100改良而来,预计会在16号正式公布。 这有三款芯片,但L20和L2是基于intel的第三代平台,这里暂且不表,重点是采用H100/H800架构的H20。 H20的诞生背景这里就不再赘述,单看这名字,足足落后H200十倍,拜登看了直点头。 先看参数,H20在内存上用的还是H100相同的HBM3,6个16G堆叠完完整整96GB,完全没有任何留存部分,意味着该技术良率早已不是问题,明显的成熟制程。 但为了规避禁令限制,计算密度(下图中的TPP/Die size)被大幅阉割,根据上文所述,计算速度也就是推理速度差了不止一星半点。 然后再看这张表,计算能力的核心参数FP32为44TFLOPS,相较于H100/200并没有下降多少。 但在张量核心(Tensor Core)的部分则是大砍特砍,BF16、TF32都被砍到只剩一个零头。 简单来说就是生成比GPT-3更高级的大模型所必备的,专为深度学习而设计的计算核心,张量核心被砍,基本意味着这块GPU当下训练不出比GPT-3更高级的模型。 张量核心被砍,同样意味着生产这卡可以用成熟制程,品相差一点的晶粒,也就意味着更低的成本。 想想这是不是和显卡玩法差不多? 看到这里感觉就是个全面阉割版,用国产替代不行吗? 老黄刀法厉害就厉害在这:4.0TB的内存带宽比H100还高,卡间、服务器间带宽NVlink速度900GB/s和H100持平。 也就是说,即便禁令影响不能出售高端GPU到中国,但中国客户可以通过多买几张堆一起用来弥补单卡算力不足的问题,粗略算算2.5张H20可以等效于一张A100。 NVlink再加上CUDA生态,再算上成熟制程带来的低成本优势,即便国内厂商不得不给英伟达缴更多的贡,H20依旧是国内厂商最好的选择。 还是那句话,老黄这么多年积淀下的刀功确实能给蚊子腿做手术,这一刀下来,既规避了禁令限制,又让国内厂商继续买他们家的产品。 英伟达又赢麻了。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33293.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 把客户逼成敌人,英伟达走向两万亿的方法 上一篇 2025 年 8 月 13 日 下午10:50 英伟达捅了AMD一刀 下一篇 2025 年 8 月 13 日 下午10:50 相关推荐 莉莉丝二次元新游首发表现优异 大厂海外收入增长迅猛 | 欧美出海秀 莉莉丝的二次元新品《神觉者》本月初在海外上线。《神觉者》是一款3D回合制卡牌游戏,以中国、北欧、希腊、埃及四大神话中人物为角色,目前已经在全球范围内上线。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 498000 行业动态 Anthropic估值或将反超OpenAI Anthropic年化收入飙升至300亿美元反超OpenAI,估值或快速逼近。公司凭借"宪法AI"技术打造安全可控产品,企业客户翻倍增长。但安全理念也限制了部分商业化机会,如拒绝军工订单。 转自扬帆出海 2026 年 4 月 18 日 227000 行业动态 阶跃星辰计划年内港股上市 AI独角兽阶跃星辰启动Pre-IPO融资,投前估值最高60亿美元,计划年中港股交表,或成第三家上市的中国大模型企业。 siyushenqi.com 2026 年 3 月 2 日 310000 全媒派 | 为了对付假新闻,YouTube这些内容巨头最近都做了什么? 新冠流行期间,内容谣言泛滥,YouTube、《纽约时报》等内容巨头采取了哪些应对措施? siyushenqi.com 2025 年 8 月 26 日 • 行业动态 545000 data.ai 6 月中国游戏厂商及应用出海收入 30 强:Ujoy Games 入围收入榜 2023年6月中国游戏厂商及应用出海收入30强榜单出炉 siyushenqi.com 2025 年 8 月 18 日 • 行业动态 487000 都市/潮酷题材,游戏行业新一代流量密码? 这些产品的题材,或者说视觉风格大多聚焦到了一些明显可见的标签上:都市 、潮流/潮酷、科技、近未来……这些元素,开始集中爆发。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 485000 销售额最高飙升460倍,多款环保产品迎增长期 随着可持续意识深入人心,不少企业和平台都推出了绿色举措,一些环保产品也获得消费者的青睐。其中,一款可重复使用的厨房用纸的销售额在过去三个月中增长了超400倍。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 414000 二次元大世界MMO新游首曝,森系治愈风会是MMO的未来吗? 都说,曾经称霸国内游戏市场的MMO正在跌落神坛。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 463000 成立第四家日本自研工作室,网易游戏的全球化布局做得怎么样了? 历数网易近两三年在海外的动作可以发现,通过吸收优质制作人、成立自研工作室,这家巨头已经在日本游戏业扎下了较深的根基,全球化之势箭在弦上。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 479000 行业动态 WhatsApp绿标号行业应用案例分析 WhatsApp绿标号概述 WhatsApp绿标号的优势 WhatsApp绿标号在行业中的应用 WhatsApp绿标号的未来趋势 WhatsApp绿标号概述 WhatsApp绿标号是WhatsApp推出的一项身份认证功能,旨在提高品牌与客户之间的信任度和沟通效率。通过绿色验证标识,企业能够证明其账号为真实、可信的官方账号。用户能够通过绿标号识别并信任该品牌,… siyushenqi.com 2025 年 8 月 13 日 下午10:50 457000 行业动态 2023年,跨境电商还是一座金矿吗? 电商市场这座金矿,对品牌和商家的“勘探能力”和“淘金能力”有了更高的要求。 siyushenqi.com 2025 年 8 月 13 日 418000 行业动态 苦等20年,苹果终于在印度推出线上商店 苹果公司在印度市场经营已经超过20年历史,但其实很多人不知道他们从来没有启动过线上商店 siyushenqi.com 2025 年 8 月 26 日 427000 行业动态 从单点突破到生态协同:构建你的外贸数字营销增长飞轮 本文探讨如何将分散的外贸营销工具整合为协同增长的“生态飞轮”,以独立站为数据中枢,Teams强化内部协作,设计跨平台叙事流,实现从单点突破到系统化获客的升级。 siyushenqi.com 2026 年 3 月 6 日 287000 Google教程存档 Google教程存档 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 429000 行业动态 渗透率飙升,AI开始“血洗”游戏买量市场 AI创意素材正以惊人的速度席卷游戏买量市场,成为行业的大热趋势。成都某广告团队透露其合作项目中素材AI占比达30%-40%,部分游戏产品单月新素材的AI渗透率甚至超80%,已有一批游戏厂商通过AI工具提升了创意素材的产出效率和投放效果。 siyushenqi.com 2025 年 8 月 15 日 449000 品牌出海,怎么做好声誉管理? 用好社交媒体这把双刃剑 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 407000 行业动态 一周要闻NO.164丨马斯克起诉OpenAI和苹果垄断;腾讯光子日本工作室新增大阪分部;亚马逊突发新规,卖家成本再次暴涨 一起看看这周有哪些出海圈值得关注的大事记吧! siyushenqi.com 2025 年 8 月 31 日 539000 行业动态 聊聊国内「类Sora模型」发展现状,和 Sora 的差距到底有多大? 伴随着 Sora 的出现,国内的 AI 企业呢?有无类似 Sora 的产品?有无相应的技术积累?有无快速组建团队跟进文生视频技术的能力? siyushenqi.com 2025 年 8 月 13 日 455000 超级发行商的独特技能:在榜单Top1000也能捡到爆款 近日,一款与市面上大多数超休闲游戏风格相差甚远的产品——《Shoal of Fish》被CrazyLabs推上了7个国家和地区的榜单TOP 1和多个国家的榜单前列。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 459000 行业动态 抖音短剧会员制,用户争夺下的折中尝试 抖音推出了新的商业模式——短剧卡,提供7天周卡、月卡和连续包月三种付费模式,价格分别为5元、18元和8元(指导价15元),旨在为短剧爱好者提供更便捷的观看体验和免除广告的特权。 siyushenqi.com 2025 年 8 月 17 日 570000 从Steam热销榜首杀到TapTap热门榜首,这款国产肉鸽动作“爽”爆了 铲雪一时爽,一直铲雪一直爽。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 493000 行业动态 干了10年外贸,我聊聊那些让你营销矩阵从流量到订单的转化漏斗设计 干了十年外贸,我发现流量不等于订单。很多人的营销矩阵只是个流量收集器,缺了关键的转化漏斗设计。本文将用实战案例,详解如何以独立站为核心,设计从WhatsApp、Facebook到LinkedIn的完整转化路径,把泛流量变成高质量订单。 siyushenqi.com 2026 年 3 月 6 日 373000 获米哈游投资的密室逃脱龙头已去做手游了,转行的还有他们 曾经的直营店只剩一家 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 476000 哪些画风最吸金?中日美头部手游美术风格研究报告 美术是游戏给玩家留下第一印象最关键的因素之一,对于同行们来说,选择合适的品类和画风无异于给自己的项目定方向。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 497000 手游模拟器用户规模破亿背后:Gameloop领航海内外增长 全球市场空间广阔,作为国内手游模拟器中比较领先的一员,腾讯手游助手正在海内外市场中同步发掘更大的发展空间。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 869000 一个卖1000块!现象级爆款就这么凉了? 曾经3个月内热度超3亿,如今却受到消费者质疑…… siyushenqi.com 2025 年 8 月 13 日 • 行业动态 451000 技术审美遥遥领先,《以闪亮之名》受邀登陆2024 ChinaJoy“鸿蒙原生游戏”展区 近日,女性向时尚生活类游戏《以闪亮之名》官宣上架华为渠道,并将于2024 Chinajoy期间登陆「华为鸿蒙原生游戏」线下展区。这是《以闪亮之名》首次以华为鸿蒙原生游戏的身份在线下亮相,届时将为现场玩家上演一场华美有趣的线下体验。 siyushenqi.com 2025 年 8 月 18 日 • 行业动态 445000 行业动态 上线3个月积累300万用户,月收入暴涨428%,又一新晋短剧平台闪耀东南亚 短剧网文联动,冲榜势头强劲。 siyushenqi.com 2025 年 8 月 17 日 494000 行业动态 怎么通过社交媒体平台找到外贸客户?外贸新人不得不知的步骤! 随着互联网的快速发展,社交媒体已成为外贸客户寻找和建立业务关系的重要渠道之一。以下是一些关于如何通过社交媒体找到外贸客户的建议: 1. 确定目标客户群体 在开始使用社交媒体之前,需要明确自己的目标客户群体,例如年龄、性别、职业、兴趣爱好等等。只有明确了目标客户群体,才能更有针对性地使用社交媒体,提高客户转化率。 2. 选择合适的社交媒体平台 不同的社交媒体平… siyushenqi.com 2025 年 8 月 13 日 下午10:50 457000 不到一年,腾讯死磕的新兴赛道崛起了 前不久,腾讯魔方工作室旗下《暗区突围》在新版本“黑门”上线之际公布了最新数据,迄今为止已有5000万名用户注册游戏。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 325000 发表回复 请登录后评论...登录后才能评论 提交