DeepSeek连开三源,解开训练省钱之谜 siyushenqi.com • 2025 年 8 月 13 日 下午9:51 • 行业动态 • 阅读 405 DeepSeek在2月24日至2月28日举办“开源周”,陆续开源5个项目,旨在展示其在AI技术优化方面的实力。此前,DeepSeek因声称以较低成本训练其V3模型而受到质疑,此次开源被视为对质疑的有力回应。 摘要 前三天开源项目及技术亮点。Day 1:FlashMLA —— 针对英伟达Hopper架构GPU的高效MLA(多头潜在注意力)解码内核,优化变长序列处理,提升推理效率。Day 2:DeepEP —— 首个用于MoE(混合专家)模型训练和推理的开源EP(专家并行)通信库,优化多专家模型的数据传输效率。Day 3:DeepGEMM —— 支持稠密和MoE模型的FP8计算库,通过CUDA核心的两级积累方法提升计算精度和效率,代码简洁(约300行)。 开源项目展示了DeepSeek在极致优化英伟达芯片性能方面的技术实力,尤其是在FP8计算和MoE架构的应用上。DeepGEMM在GitHub上迅速获得2600个星标,显示出开发者社区的高度关注和认可。开发者反馈称,DeepSeek的工具显著提升了GPU的计算效率。 DeepSeek的开源策略不仅展示了其技术实力,也对竞争对手和行业生态产生了影响。其高效的技术优化可能对英伟达的市场地位构成一定压力,同时也让OpenAI的闭源策略受到更多质疑。DeepSeek的开源被一些人视为“真正的OpenAI”,推动了AI技术的开放和协作。 DeepSeek的开源周引发了对AI行业未来发展的广泛讨论。一方面,人们期待OpenAI是否会真正回归开源路线;另一方面,英伟达作为AI硬件的核心供应商,其股价和市场表现受到关注。DeepSeek的开源项目不仅展示了技术实力,也为AI行业的商业化和开源文化带来了新的思考。 “DeepSeek有效地驳斥了频繁出现的在训练方面‘他们撒谎了’的言论。” 旧金山人工智能行业解决方案提供商 Dragonscale Industries 的首席技术官 Stephen Pimentel在X上如是评论DeepSeek“开源周”。 “是的。以及关于5万张H100的虚假传闻(也被驳斥了)……”全球咨询公司DGA Group合伙人、中美技术问题专家Paul Triolo也附和道。 DeepSeek“开源周”从2月24日至2月28日,共持续5天。会陆续开源5个项目。 过去三天的开源项目分别是: l Day1:FlashMLA,针对英伟达Hopper架构GPU的高效MLA(多头潜在注意力)解码内核; l Day2:DeepEP,首个用于MoE(混合专家)模型训练和推理的开源EP(专家并行)通信库; l Day3: DeepGEMM,支持稠密和MoE模型的FP8计算库,可为V3/R1的训练和推理提供强大支持。 刚进行到第三天,“开源周”已经让怀疑DeepSeek在训练成本上“撒谎”的人噤声了。因为每个开源项目都在向世界展示DeepSeek极致压榨英伟达芯片的功力。 还有什么比“贴脸开大”更能打败质疑的呢? 我们先来看看DeepSeek最新开源的DeepGEMM,只能说,在压榨英伟达芯片、AI性能效率提高这方面,DeepSeek已经出神入化。 这是当初团队专门给V3模型用的,现在就这么水灵灵地开源了,要不怎么说DeepSeek的诚意实在感人呢。 在GitHub上发布不到10个小时,就已经有2.6千个星星了。要知道一般来说,在GitHub上获得几千星星就已经算很成功了。 “DeepGEMM像是数学领域的超级英雄,快过超速计算器,强过多项式方程。我尝试使用DeepGEMM时,现在我的GPU在计算时以每秒超过1350 TFLOPS(万亿次浮点运算)的速度运转,好像已经准备好参加AI奥运会了!”一位开发者兴奋地在X上表示。 DeepSeek新开源的DeepGEMM究竟是什么、意味着什么? DeepSeek官方介绍DeepGEMM是一个支持密集型和MoE 模型的FP8 GEMM库: l 无重度依赖,像教程一样简洁; l 完全JIT(即时编译) l 核心逻辑约300行代码,在大多数矩阵尺寸下优于经过专家调优的内核 l 同时支持密集布局和两种MoE布局 一句话定义:DeepGEMM是一款专注于FP8高效通用矩阵乘法(GEMM)的库,主要满足普通矩阵计算以及混合专家(MoE)分组场景下的计算需求。 利用该库,能够动态优化资源分配,从而显著提升算力效率。 在深度学习中,FP8(8位浮点数)可以减少存储和计算的开销,但是缺点(特点)也有,那就是精度比较低。如果说高精度格式是无损压缩,那FP8就是有损压缩。大幅减少存储空间但需要特殊的处理方法来维持质量。而由于精度低,就可能产生量化误差,影响模型训练的稳定性。 在报告中DeepSeek介绍:“目前,DeepGEMM仅支持英伟达Hopper张量核心。为了解决FP8张量核心积累的精度问题,它采用了CUDA核心的两级积累(提升)方法。” 而DeepSeek为了让FP8这种速度快但精度偏低的计算方式变得更准确,利用了CUDA核心做了两次累加,先用FP8做大批量乘法,然后再做高精度汇总,以此防止误差累积。既大幅减少空间,同时又保有精度,效率也就由此提升。 JIT(即时编译)和Hooper张量核心也是绝配。 Hopper张量核心是专门为高效执行深度学习任务而设计的硬件单元,而JIT则意味着允许程序在运行时根据当前硬件的实际情况,动态地编译和优化代码。比如,JIT编译器可以根据具体的GPU架构、内存布局、计算资源等实时信息来生成最适合的指令集,从而充分发挥硬件性能。 最最最惊人的是,这一切,都被DeepSeek塞进了约300行代码当中。 DeepSeek自己也说:“虽然它借鉴了一些CUTLASS和CuTe的概念,但避免了对它们模板或代数的过度依赖。相反,该库设计简单,只有一个核心内核函数,代码大约有300行左右。这使得它成为一个简洁且易于学习的资源,适用于学习Hopper FP8矩阵乘法和优化技术。” CUTLASS是英伟达自家的CUDA架构,专门给英伟达GPU来加速矩阵计算。毕竟官方出品,它的确非常好用。但它同时也很大很沉,如果手里的卡不太行,那还真不一定跑得了。 吃不上的馒头再想也没用啊,而DeepSeek的极致压榨哲学就在这里闪烁光芒了。优化更激进、更聚焦,也更轻。 轻的同时表现也很好,在报告中,DeepSeek表示,DeepGEMM比英伟达CLUTLASS 3.6的速度提升了2.7倍。 还记得DeepSeek在春节时大火,人们使用后都在为其“科技浪漫”风触动不已。 如今看来,DeepSeek的“科技浪漫”绝不仅仅在最终呈现给用户的文字当中,DeepGEMM就像一把锋利的小刀,在英伟达芯片上雕出漂亮的小花,线条简洁又优雅。 不仅是DeepGEMM,DeepSeek前两个开源项目也将其“科技美学”体现得淋漓尽致。 第一天,DeepSeek开源了FlashMLA。 用DeepSeek的话说,这是“用于Hopper GPU的高效MLA解码内核,针对可变长度序列进行了优化。” 略过技术细节,我们来看看FlashMLA如何发挥作用。 首先,在大型语言模型推理时,高效的序列解码对于减少延迟和提高吞吐量至关重要。FlashMLA针对变长序列和分页KV缓存的优化,使其非常适合此类任务。 其次,像聊天机器人、翻译服务或语音助手等应用需要低延迟响应。FlashMLA的高内存带宽和计算吞吐量确保这些应用能够快速高效地返回结果。 以及,在需要同时处理多个序列的场景(如批量推理)中,FlashMLA能够高效地处理变长序列并进行内存管理,从而确保最佳性能。 最后,研究人员在进行新的AI模型或算法实验时,可以使用FlashMLA加速实验和原型开发,尤其是在处理大规模模型和数据集时。 还是两个字:压榨。在报告当中,DeepSeek表示,这个工具专门针对英伟达H800做优化——在H800 SXM5平台上,如内存受限最高可以达到3000GB/s,如计算受限可达峰值580 TFLOPS。 第二天,DeepSeek开源了DeepEP。 用DeepSeek的话说,这是“首个用于 MoE 模型训练和推理的开源 EP 通信库”。 MoE即混合专家(Mixture of Experts),这种架构利用多个“专家”子模型来处理不同的任务。和使用单一大模型处理所有任务不同,MoE根据输入选择性地激活一部分专家,从而使模型更高效。 顺带一提,MoE和前文提到的MLA(多头潜在注意力)正是DeepSeek所使用的降低成本的关键先进技术。 而DeepEP当中的EP则是指专家并行(Expert Parallelism),是MoE中的一种技术,让多个“专家”子模型并行工作。 DeepEP这个库,可以在加速和改善计算机(或GPU)之间在处理复杂机器学习任务时的通信,特别是在涉及混合专家(MoE)模型时。这些模型使用多个“专家”(专门的子模型)来处理问题的不同部分,而DeepEP确保数据在这些专家之间快速而高效地传递。 就像是机器学习系统中一个聪明的交通管理员,确保所有“专家”能够按时收到数据并协同工作,避免延迟,使系统更加高效和快速。 假设你有一个大型数据集,并且想让不同的模型(或专家)处理数据的不同部分,DeepEP会将数据在合适的时机发送给正确的专家,让他们无需等待或造成延迟。如果你在多个GPU(强大的处理器)上训练机器学习模型,你需要在这些GPU之间传递数据。DeepEP优化了数据在它们之间的传输方式,确保数据流动迅速而顺畅。 即便你不是一个开发者,对以上内容并不完全理解,也能从中读出两个字来:高效。 这正是DeepSeek开源周所展现的核心实力——这家公司究竟是怎样最大化利用有限的资源的。 自从DeepSeek开启开源周,就不怎么见到此前对其发出质疑的人再有什么评论了。 正如本文开头引用Pimentel的辣评:“DeepSeek有效地驳斥了频繁出现的在训练方面‘他们撒谎了’的言论。” 在去年12月关于V3的技术报告中,DeepSeek表示该模型使用了大约2000块英伟达H800进行训练,成本约为600万美元。这个成本远低于规模更大的竞争对手,后者动辄就是几十亿、上万亿美元的投入,OpenAI甚至在DeepSeek的R1模型走红前,刚刚和甲骨文、软银携手宣布了5000亿美元的合资项目。 这也引发了对DeepSeek在开发成本方面误导公众的指控。 持有怀疑态度的包括但不限于Anthropic创始人达里奥·阿莫迪(Dario Amodei)、Oculus VR的创始人帕尔默·卢基(Palmer Luckey)。Oculus已经被Meta收购。 卢基就称,DeepSeek的预算是“虚假的”,而阿莫迪干脆撰写檄文呼吁美国加强芯片出口管制,指责DeepSeek“偷偷”用了大量更先进的芯片。 这些批评声并不相信DeepSeek自己的表态——DeepSeek 在其技术报告中表示,高效训练的秘诀是多种创新的结合,从MoE混合专家架构到MLA多头潜在注意力技术。 如今,DeepSeek开源周零帧起手,就从这些技术的深度优化方面做开源。 Bindu Reddy在X上表达振奋的心情:“DeepSeek正在围绕MoE模型训练和推理开源极高效的技术。感谢DeepSeek,推动AGI的发展,造福全人类。”Reddy曾在谷歌担任产品经理、在AWS担任人工智能垂直领域总经理并,后创办Abacus AI,是开源路线的信仰者。 有媒体评论道:“对于热爱人工智能的人来说,FlashMLA就像一股清新的空气。它不仅关乎速度,还为创造力和协作开辟了新途径。” 在Github相关开源项目的交流区,不仅有技术交流,也有不少赞美之声,甚至有中文的“到此一游”打卡贴。在中文互联网上,人们已经开始把DeepSeek称为“源神”。 DeepSeek有自己的难题吗?当然有,比如商业化这个老大难问题,DeepSeek或许也得面对。但在那之前,它先将压力给到了对手。 同样是在Github的交流区,不少人想起了OpenAI,将DeepSeek称为“真正的OpenAI”。OpenAI已经走上闭源之路好几年,甚至被戏称为“CloseAI”,直到DeepSeek出现,OpenAI的CEO山姆·奥特曼(Sam Altman)才终于松口,称在开源/闭源的问题上,自己或许站在了历史错误的一边。 一周前,他曾经在X上发起投票,询问粉丝希望OpenAI的下一个开源项目是什么类型的。 不过到目前为止,这一切都还在承诺中,并未见之于世。 另一边,马斯克的xAI,仍然在新一代发布时,开源上一代大模型。刚刚发布了Grok 3,宣布会开源Grok 2。 与此同时,DeepSeek的开源周,让更多人担心起英伟达,这个在AI浪潮中最大的受益者之一。 有人看着DeepSeek的开源项目一个接一个发布,在X上表示:“这是第三天看到我的英伟达股票正在火上烤。” 北京时间2月27日,既是DeepSeek开源周的第四天,是OpenAI放出开源信号的第九天,也是英伟达财报发布的日子。 OpenAI的开源项目会来吗?英伟达的股价能稳住吗?DeepSeek还将开源什么?人工智能战场上,总是不缺少令人期待答案的问号。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/32918.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 AI硬件们火了,OpenAI也想挤上牌桌 上一篇 2025 年 8 月 13 日 下午9:51 小米 AI 眼镜,为什么肯定不能卖「999」 ? 下一篇 2025 年 8 月 13 日 下午9:51 相关推荐 行业动态 中国最摇滚的AI公司月之暗面:用数据改变世界 如果所有人都觉得你正常,你的理想是大家都能想到的,那它对人类的理想总量就没有增量。 siyushenqi.com 2025 年 8 月 13 日 520000 莉莉丝在TapTap新上了一款末日生存游戏 近期,游戏新知发现TapTap上一款颇具爆款潜力的末日生存题材游戏《终末幸存者》。根据TapTap页面显示,游戏的开发团队为「Z.E.R.O工作室」,目前处于预约阶段,关注度并不高,仅有1万多人参加预约。在海外市场,游戏也以《Ark of survival》的名称上架了Google Play。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 447000 获快手投资,单品流水数亿,CEO自述:现在中小团队难得要死 他们如何起死回生? siyushenqi.com 2025 年 8 月 25 日 • 行业动态 459000 行业动态 SHEIN是这么做的!大卖黑五攻略曝光 “黑五大促,你准备好了吗?” siyushenqi.com 2025 年 8 月 12 日 467000 活动回顾 | 这场汇集行业精英的物流沙龙太赞了! 后疫情时代,数字化浪潮席卷全球,伴随跨境贸易的高速发展,供应链拥堵也在不断加剧,跨境电商卖家及物流企业经历着一轮又一轮的过山车行情,缺箱、延误、涨价…… siyushenqi.com 2025 年 8 月 3 日 • 行业动态 393000 行业动态 开年狂飙!不到2个月,出海企业扎堆赴港IPO,AI/跨境电商/云服务齐发力 港交所,全球化“新主场”。 siyushenqi.com 2026 年 2 月 21 日 407000 行业动态 漫剧启示录:互联网最差的生意,可能是AI最好的生意 "下一个字节跳动”正在此中酝酿。 siyushenqi.com 2025 年 11 月 26 日 404000 私域神器每周精选 No.32|多款精品游戏寻海外发行 企业寻东南亚电商店铺 本期精选的合作类型涵盖多款精品手游资源合作与流量需求,寻东南亚电商店铺主等。接下来就一起看看吧~ siyushenqi.com 2025 年 8 月 24 日 • 行业动态 453000 全新中东消费者行为研究:本地产品将更受青睐 中东地区的消费者购买产品时更可能考虑到对于健康的益处和物有所值。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 418000 行业动态 朝夕光年真是大冤种?沐瞳估值腰斩传闻背后 成王败寇。 siyushenqi.com 2025 年 8 月 18 日 436000 行业动态 月销百万美元!文具大卖在SHEIN上爆单 许多文具制造商和品牌商纷纷加入SHEIN平台,开启了向海外市场卖中国文具的新征途。 siyushenqi.com 2025 年 8 月 12 日 490000 怒冲20亿流量的“扇耳光比赛” 被Rollic做成了一款养成游戏 超20亿热度加持的赛事,被做成了游戏。 siyushenqi.com 2025 年 8 月 19 日 • 行业动态 451000 行业动态 海外苹果ID注册 海外苹果ID注册 siyushenqi.com 2025 年 8 月 3 日 465000 《曲中剑》:用古曲与水墨,讲一个与命运和解的故事 近日,腾讯旗下天美工作室一款水墨武侠音游在TapTap 上开启了测试,并在各玩家社区中获得了广泛的好评。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 430000 去东南亚、巴西,寻找游戏界的“抖音” 云游戏也要走出国门 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 437000 东南亚金融科技发展的四大趋势 其中最耀眼的就是金融科技了 - 今年上半年和去年上半年相比投资总额增长了340%。 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 446000 重视非品牌词,你的Apple Ads获量或许能再提升50% Apple Ads(ASA)中对于品牌词流量保护的重要性。 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 398000 追平日本厂商、碾压韩国同行:中国游戏在日本真赢了么? 时至今日,出海早已成为一个老生常谈的话题。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 486000 金山世游的这款新品,让我找回了20年前的快乐 由比瑞柏恩研发、金山世游发行的《全民泡泡超人》在6月1日正式上线,首日便斩获了App Store免费榜和Tap Tap热门榜第一,之后更是在端午节假期间连续稳坐榜首5天 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 456000 行业动态 日卖5万件,情人节商品热度上升!TikTok Shop美国小店(1.22-1.28)新榜 本期(2024年1月22日—1月28日)TikTok Shop 美国站“品类周榜”及“店铺周榜"销量数据分析,帮助卖家及时了解 TikTok Shop 美国小店最新市场现状,掌握选品趋势。 siyushenqi.com 2025 年 8 月 12 日 521000 Allegro在捷克大搞营销,拿下市场势在必行 成功攻入捷克电商市场后,Allegro开始想尽一切办法快速崛起 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 466000 行业动态 腾讯阿里的子弹,命中同一IPO 成立不足4年即登陆港交所,公开发售超购1209倍、孖展2533亿港元创纪录,市值按发行价已破500亿港元。 siyushenqi.com 2026 年 1 月 9 日 425000 卖家销量暴涨30倍,TikTok直播购物在东南亚风口正盛.... 数据显示,TikTok 在印尼拥有超过 1.069 亿的成年用户。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 488000 行业动态 【海外热门·狼人题材】基础向科普 狼人题材属于欧美市场具有“本地化特色”的题材内容,也是海外短剧中比较特殊的一个种类。 siyushenqi.com 2025 年 8 月 18 日 1.0K000 行业动态 日均收入破20万美金,这款监狱题材的模拟经营+SLG有点意思 上线 50 天,全球累计下载 520 万+,日均 10 万;内购收入已破 700 万美元,日流水稳定在 20 万美元以上。 siyushenqi.com 2025 年 8 月 28 日 501000 行业动态 曾被欧美垄断的FPS赛道,正在被中国厂商悄悄改写 国产FPS完成“逆袭”,2024 年以来 Steam 同时在线前五的免费 PvP 射击游戏全部由中国厂商包揽,腾讯独占两席。 siyushenqi.com 2025 年 12 月 31 日 405000 PAGC2024|打通全链上中下游 短剧对接会30+对接阵容曝光! PAGC2024|打通全链上中下游 短剧对接会30+对接阵容曝光! siyushenqi.com 2025 年 8 月 18 日 • 行业动态 534000 行业动态 AI明星创业公司大地震:创始人淡出,合伙人及多名高管离职 从去年开始,多名大企业高管离职涌入AI创业大潮,如今这股潮水正在退去。 siyushenqi.com 2025 年 8 月 13 日 552000 行业动态 那些出走亚马逊的中国卖家,都去哪里了? 5月初的广东,正值初夏雨季,阴雨连绵。深圳市龙岗区坂田街道,曾被誉为跨境电商的大本营,云集了数量庞大的跨境电商公司。曾经热闹非常、日进斗金之处,如今正笼罩在灰暗的情绪之中。 siyushenqi.com 2025 年 8 月 13 日 422000 行业动态 苹果被爆正在打造系统级AI聊天机器人 苹果将推系统级AI聊天机器人Campos,支持多轮对话与屏幕分析,6月亮相9月随iOS 27全球上线,出海团队可提前布局适配。 siyushenqi.com 2026 年 1 月 29 日 309000 发表回复 请登录后评论...登录后才能评论 提交