你的GPT跟ChatGPT可能只差了一个DPU siyushenqi.com • 2025 年 8 月 14 日 上午12:26 • 行业动态 • 阅读 403 “人类永远不会嫌网络太快,就像永远不会嫌高铁太快,你只会嫌它慢,希望它更快些。” “人类永远不会嫌网络太快,就像永远不会嫌高铁太快,你只会嫌它慢,希望它更快些。” 一个月内,百度、阿里、腾讯、商汤、讯飞、360等国内大厂扎堆发布“中国版 GPT ”,这家的名字还没记清楚,另一家的又蹦了出来,一时间 AI 大模型“诸神混战”。可实话实说,和 ChatGPT 相比,国内的 GPT 还存在一定差距,但大家对于 AI 的狂热渴求已经被点燃,越来越多的企业意识到, AI 这班车,再不上,就来不及了。 01 大语言模型的成功与挑战 以 GPT 系列模型为代表的大语言模型成为近来最受关注的技术之一。 图 | OpenAI-ChatGPT ChatGPT 凭什么落别人那么远? 模型越大, AI 回馈的效果越好。 OpenAI 的 GPT-1 模型有50亿个参数, GPT-3.5 有1750亿个参数,到现在的 GPT-4 预计将有超过一个T的参数。可以看出参数是成倍甚至成指数级增长。这种增长模型的变化,首先对内存性能有着极高要求,因为训练它需要海量数据,同时需要处理海量数据集;此外,是数据中心的计算能力,还有 GPU 与 CPU 之间的通信;更重要的是网络的带宽,这些因素将决定大语言模型的整体性能。 整体性能决定了大模型运行、训练所需的时长,也决定了对大模型后续调优再训练的周期。比如你的大语言模型训练需要6个月,一年可能最多训练2次,而别人训练只需要2或3个月,一年就可以训练多次,那么最后 AI 的迭代效果是完全不一样的。 图 | NVIDIA 如今,不只是提出大语言模型的公司,越来越多的企业已经意识到 AI 可能会优化工作流程或是给客户提供相应的服务,大家纷纷开始尝试做自己的产品。但一旦大家都在这个模型的基础上去做,就会遇到吞吐量和性能的瓶颈。要支撑这么一个大模型做训练,投入成本是非常高的。 图 | NVIDIA 此外还有电力的限制,能做大模型训练的数据中心的功耗和电力需求是非常大的,且增长趋势明显。数据显示,数据中心一年消耗电力200 T瓦时,也就是2000亿度电,占全球电力使用量的2%。2000亿度电是什么概念?2021年我国三峡水电站发电量为1036亿度,也就是三峡水电站两年发的电量才够全球数据中心用一年。而随着 AI 数据中心的部署和持续增长,到2030年,全球电力使用的预测份额将达到5%,这将为全球能源、环保、碳排放等带来巨大挑战。 02 你跟ChatGPT可能只差了一个DPU 在 AI 的竞赛中,有两种方式:第一种是用资源去堆,就像造车一样,后造车的永远要比先造车的人烧更多的钱去打市场;第二种是在同等资源下,比谁快,快就需要效率,而提高效率就需要 DPU 。 微软此前发布的博客透露了 OpenAI 的 ChatGPT 采用的硬件是基于 NVIDIA 智能网卡和 InfiniBand 200G 网络所做的产品,未来也有意部署 DPU 。 图 | 微软官博 而为了应对 AI 模型训练、推理带来的需求和挑战, NVIDIA 近日发布了其最新一代数据处理器 BlueField-3 DPU ,并宣布全面量产。 图 | NVIDIA NVIDIA 创始人兼首席执行官黄仁勋先生表示, AI 时代需要云数据中心基础设施来支持非凡的计算需求。“ NVIDIA BlueField-3 DPU 实现了这一进步,将传统的云计算环境转变为加速、节能和安全的基础设施,以处理生成 AI 的苛刻工作负载。” 据 NVIDIA 介绍, BlueField-3 DPU 是一款专为数据中心设计的、软件定义、硬件加速的云服务计算平台。它集成了高达16个计算核心,可提供高达400Gbp/s的网络带宽,并且支持多种协议和功能,包括网络虚拟化、弹性负载均衡、数据中心互连等。 BlueField-3 DPU 还拥有世界领先的存储加速功能,可提供高达1.6Tbp/s的存储带宽,并支持 NVMe-over-Fabric 和 RDMA 等高性能存储协议。 大语言模型背后的硬件构成是怎样的?各家都不同。以 NVIDA DGX 为参照,支持大语言模型的服务器由8颗 NVIDIA 高性能 GPU 、4个 NVIDIA NVSWITCHES 、2颗x86 CPU、9块 NVIDIA BlueField-3 DPU 、2T DDR5内存、PCIe Gen5.0,以及服务器间的 NVIDIA Quantum-2 InfiniBand 网络构成。 其中 NVIDIA BlueField-3 DPU 发挥了怎样的作用?首先是加速性能:NVIDIA BlueField-3 DPU 具有丰富的硬件加速器,可以满足大语言模型严格的性能要求,并运行苛刻的工作负载;其次,云规模效率:NVIDIA BlueField-3 DPU 可以释放 CPU 核心,使大语言模型应用具有更好的性能和可扩展性,提升服务器的效率和能效,降本增效;第三是强大的零信任安全:安全的基础设施都可以运行在 NVIDIA BlueField-3 DPU 之上,并基于此构建零信任安全模型,在不影响性能的情况下,确保数据中心安全;第四是完全可编程的基础设施:NVIDIA DOCA 2.0 体现了 NVIDIA BlueField-3 DPU 的软件可编程性,借助 NVIDIA BlueField-3 DPU 可以获得完全可编程的加速数据中心平台。 图 | NVIDIA 简单地说,NVIDIA BlueField-3 DPU 可以提升整个网络性能,配合高算力 GPU ,可以支撑更大规模的大语言模型训练,从而缩短训练时间。根据模型需求动态调整部署以共享算力资源,并应对不同规模的模型训练;提升服务器能效、释放算力资源,用更少的服务器完成更多的任务,从而帮助企业实现节能环保、降本增效。 据 NVIDIA 介绍,大语言模型和生成式AI主要会构建在云基础设施之上,以云服务的方式服务于市场,因此,DPU 会主要应用于云服务提供商、AI 技术公司以及采用 AI 技术的企业。据悉,NVIDIA BlueField-3 DPU 已经在部分国内公有云服务提供商进行测试,后续会逐步开始采用。 在不久前的 GTC 2023 大会上,NVIDIA 创始人兼首席执行官黄仁勋先生坚定表示“ AI 迎来了‘ iPhone 时刻’”,回想当年苹果手机刚问世,当时的用户还都想着手机不就是用来打电话、发短信的?而今天,我们几乎已经遗忘了当时的想法和其他手机。同样,你会发现生活将慢慢被 AI 改变。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/34947.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 AIGC+影视股:行至阶段性分化路口,影视工业概念有望被加速,长期或调整产业链条 | 「共同虚拟」行研库 上一篇 2025 年 8 月 14 日 上午12:26 尔等请入坐,看AI新秀AutoGPT如何颠覆生产力 下一篇 2025 年 8 月 14 日 上午12:27 相关推荐 市场新机!品牌和自有品牌卖家在eBay或迎来新一轮爆发 对很多自有品牌卖家而言,eBay似乎从来不在优先级之列。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 298000 行业动态 关税战下的游戏消费:一场价格与价值的思考 自4月初美国加征“对等关税”以来,全球市场秩序受到扰乱,游戏行业因依赖复杂供应链受到显著冲击。任天堂和索尼等日本游戏机制造商成为首批受害者,分别出现产品推迟发售和涨价的情况。 siyushenqi.com 2025 年 8 月 17 日 424000 行业动态 文字实录|Checkout.com大中华区销售总监陈晓昆:《游戏泛娱乐出海三方支付直充最佳实践》 通过具体案例和成功经验,深入剖析三方支付直充模式的运营机制和实施步骤,为游戏出海发展提供宝贵的参考和借鉴。 siyushenqi.com 2025 年 8 月 18 日 444000 一年三十万件!出海品牌Orolay如何靠“亚马逊外套”走红欧美? 无论出海与否,无论是B2C还是DTC,培养品牌意识,进行品牌建设,才是一个品牌崛起的关键。 siyushenqi.com 2025 年 8 月 12 日 • 行业动态 474000 行业动态 短剧出海剧目榜|丧女复仇短剧出海,翻译剧发力美英加 女主十分在线的演技和荒谬的剧情一直到素材结束的最后1秒都在牵动着我的心,只能说渣男+复仇的剧情永不过时。 siyushenqi.com 2025 年 8 月 18 日 415000 行业动态 休闲益智游戏在哪里最火爆? 艾瑞数据显示,2017年至2019年这三年以来,休闲益智游戏是所有游戏品类中渗透率最高的游戏类型,有着最大规模的用户基础。 siyushenqi.com 2025 年 8 月 26 日 436000 这家深圳上市公司带着新作,杀进了“合成”游戏赛道 《合合岛》尝试的是一条怎样的赛道?它所面临的挑战又是什么? siyushenqi.com 2025 年 8 月 24 日 • 行业动态 485000 拼多多跨境平台或9月1日上线!商家后台曝光 卖家收到平台通知,拼多多跨境电商平台将于9月1日上线,要确保商品9月1日有库存。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 489000 行业动态 OpenClaw自动化邮件处理与日程管理技术示例 OpenClaw是一款开源的AI代理框架,提供强大的自动化邮件处理和智能日程管理功能。通过与IMAP和SMTP协议的集成,它能帮助用户高效管理邮件、会议安排,并支持自动分类、筛选和回复邮件,为个人及企业带来显著的效率提升。 siyushenqi.com 2026 年 3 月 10 日 506000 行业动态 大模型卖不动,智谱正在变成一家投资公司 2023年智谱的合同销售额上亿,已是大模型业内商业化天花板 siyushenqi.com 2025 年 8 月 13 日 410000 行业动态 从京东携手中国品牌出海中东,我们可以看到什么未来大势? 京东正式宣布出海中东电商市场,与本土时尚电商Namshi和零售商Emaar Malls成为合作伙伴。 siyushenqi.com 2025 年 8 月 13 日 408000 行业动态 微软裁员9000人背后的 “AI残酷物语” 2025年微软裁员9000人,40%为开发者;全球科技巨头(IBM、谷歌等)数万个技术岗位因“AI战略重组”消失,初级编码岗位首当其冲。 siyushenqi.com 2025 年 8 月 13 日 423000 行业动态 外贸人面对这类订单,一定要谨慎又谨慎! 很多刚入行的外贸新人,碰到订单就兴奋不已,然而一不小心就掉坑里了。在此,特别提醒外贸新人,面对下面这些订单千万要谨慎。 客户背景信息少 在外贸沟通过程中,你会发现有些客户不管是发邮件还是和你直接在线沟通,对自己的公司信息都是遮遮掩掩,当你询问对方具体信息的时候,他们不愿意给出详细的公司信息和联系方式,如果你注意他们邮件的签名位置,你会发现除了邮箱地址,什么信… siyushenqi.com 2025 年 8 月 14 日 上午12:26 403000 国外视频会议应用哪家强?微软、谷歌都被一个华人做的APP打败了 新冠肺炎在全球肆虐之际,受各国纷纷采取居家隔离政策的影响,视频会议、网络授课等成为人们工作生活的新选择。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 475000 行业动态 Reddit Karma是什么?Post Karma和Comment Karma的提升指南 在Reddit这一用户活跃度高的社区里,想要获得更好的曝光,我们就需要提升我们的Karma值,什么是Reddit Karma?怎么样才能提升以获得更大的影响力?本文将为你提高一套切实可行的提升方案。 一、什么是Reddit Karma? Reddit Karma是用户在Reddit上发帖和评论后,由其他用户通过点赞(upvote)和点踩(downvote)来… siyushenqi.com 2025 年 8 月 14 日 上午12:26 403000 行业动态 前OpenAI姚顺雨,出任腾讯首席AI科学家 腾讯新设AI Infra、AI Data、数据计算平台三大部门,形成“研究—工程—数据”闭环,强化大模型全链路能力。 siyushenqi.com 2025 年 12 月 19 日 438000 行业动态 8月版号喜下发,鹰角、腾讯、冰川、壳木、4399均有产品过审,IP大作、小游戏成主角! 这一批有不少值得期待。 siyushenqi.com 2025 年 8 月 17 日 408000 行业动态 数据干货:榜首前10产品比对 美国市场为何休闲游戏大爆发 随着游戏行业竞争愈加激烈,移动游戏出海逐渐成为国内游戏厂商增长的主要动力。 siyushenqi.com 2025 年 8 月 3 日 491000 行业动态 2021CEO大会丨出海2.0技术力驱动 来听听这些资深CTO对于海外千亿市场的思考 12月9日-10日,为期2天的2021全球互联网产业CEO大会在北京圆满落幕! siyushenqi.com 2025 年 8 月 3 日 425000 行业动态 年收入超亿美元,出海AI营销新势力赴港IPO:高增长背后的平衡与挑战 冲击资本市场,也意味着需要在更公开、透明的环境中接受市场检阅。 siyushenqi.com 2026 年 3 月 18 日 267000 行业动态 Shein和Temu加大在欧广告投放力度 在美国政府加征关税和取消小额包裹免税政策的背景下,中国快时尚电商平台Shein和Temu减少了在美国的数字广告支出,同时大幅增加了在欧洲的广告投入。这一调整表明它们正在将业务重心从美国市场转向欧洲市场。 siyushenqi.com 2025 年 8 月 5 日 500000 Netflix危险,只有做游戏能救? 奈飞押注游戏? siyushenqi.com 2025 年 8 月 25 日 • 行业动态 436000 行业动态 2022年欧美地区品类洞察——时尚篇 盘点在2021-2022年的时尚流行趋势,对年末⼤促季的热门单品进行预测。 siyushenqi.com 2025 年 8 月 13 日 457000 行业动态 网易、暴雪时隔一年「复合」,《魔兽世界》国服版要回来了|36氪独家 随着考迪克时代的落幕,暴雪游戏国服玩家的春天也不远了。 siyushenqi.com 2025 年 8 月 18 日 496000 行业动态 TikTok短剧出海攻略: 官方入驻通道与全流程操作步骤详解 想入驻TikTok短剧却无从下手,看这篇就够了! siyushenqi.com 2026 年 1 月 12 日 763000 行业动态 Netflix 827亿美元收购华纳兄弟探索遭美司法部调查 Netflix拟827亿美元收购华纳兄弟探索,美国司法部调查其是否存在反竞争行为,交易或面临监管挑战。 siyushenqi.com 2026 年 2 月 10 日 317000 行业动态 次日达在欧洲“杀疯了”?京东正从亚马逊手中抢走用户 京东海外电商Joybuy近一年在欧洲试运营,靠“次日达”等收获首批用户,重资产布局带来盈利等挑战。 siyushenqi.com 2026 年 3 月 18 日 239000 行业动态 苹果反水:OpenAI的1500亿“史上最大”融资轮,难了 有金主已经决定收手。 siyushenqi.com 2025 年 8 月 13 日 413000 行业动态 一年下载170万,AI音乐产品霸榜多地Top10,背后玩家竟敢all in AI? AI音乐再现新“明星”。 siyushenqi.com 2025 年 10 月 14 日 387000 行业动态 私域神器每周合作精选No.177|休闲射击游戏寻海外发行;短剧APP寻求合作;寻找欧美支付通道;私域神器双11会员狂欢节开启 本期精选的合作类型涵盖休闲射击游戏寻海外发行;短剧APP寻求合作;寻找欧美支付通道;私域神器双11会员狂欢节开启等。接下来就一起看看吧~ siyushenqi.com 2025 年 10 月 30 日 396000 发表回复 请登录后评论...登录后才能评论 提交