Zilliz联手英伟达发布全球首个GPU加速向量数据库!CUDA加持性能飙升50倍,未来十年或暴涨1000倍 siyushenqi.com • 2025 年 8 月 13 日 下午11:08 • 行业动态 • 阅读 469 5年前上海厂房里的一行代码,竟开启了一个时代。 在旧金山时间3月20日上午,Zilliz 与英伟达携手在 GTC 2024 大会上发布了 Milvus 2.4 版本。 这是一款革命性的向量数据库系统,它在业界首次采用了英伟达 GPU 的高效并行处理能力和 RAPIDS cuVS 库中新推出的 CAGRA(CUDA-Accelerated Graph Index for Vector Retrieval)技术,提供基于GPU的向量索引和搜索加速能力。 Milvus 2.4 的 GPU 加速性能提升效果令人惊叹。 基准测试显示,与目前市面上最先进的基于CPU处理器的索引技术相比,新版 GPU 加速 Milvus 能提供高达 50 倍的向量搜索性能提升。 目前,Milvus 2.4 的开源版本已经对外发布。 对于希望使用全托管云数据库服务的企业用户来说,还有一个好消息,那就是 Zilliz 提供的 Milvus 商业版全托管云服务 Zilliz Cloud 计划将在今年晚些时候升级推出 GPU 加速功能。 截至当前,Zilliz 已成为全球首家提供海内外多云服务的向量数据库企业。 Zilliz Cloud 已经实现包括阿里云、腾讯云、AWS、谷歌云和微软云在内的全球 5 大云 13 个节点的全覆盖,除了分布在杭州、北京、深圳的 5 个国内服务区,其他 8 个节点分布在海外,包括美国的弗吉尼亚州、俄勒冈州、德国的法兰克福、新加坡等城市和地区。 Milvus 是什么? Milvus 是一款为大规模向量相似度搜索和 AI 应用开发设计的开源向量数据库系统。它最初由 Zilliz 公司发起开发,并在 2019 年开源。2020 年,该项目加入 Linux 基金会并成功毕业。 自推出以来,Milvus 在 AI 开发者社区中大受欢迎并被广泛采用。 在GitHub上,Milvus 拥有超过 26,000 个星标和 260 多位贡献者,全球下载和安装量超过 2000 万次,已经成为全球使用最广泛的向量数据库之一。 目前,Milvus 已经被 5,000 多家企业所采用,服务于AIGC、电子商务、媒体、金融、电信和医疗等多个行业。 部分 Milvus 企业用户列表(来源:Milvus官网) 为什么需要 GPU 加速? 在数据驱动的时代背景下,快速准确地检索大量非结构化数据对于支持前沿AI应用至关重要。无论是生成式AI、相似性搜索,还是推荐引擎、虚拟药物发现,向量数据库都已成为这些高级应用的核心技术。 然而,对于实时索引和高吞吐量的需求不断挑战着基于CPU的传统解决方案。 实时索引 向量数据库通常需要持续且高速地摄取和索引新的向量数据。实时索引的能力对于保持数据库与最新数据的同步至关重要,避免产生瓶颈或积压。 高吞吐量 许多使用向量数据库的应用程序,例如推荐系统、语义搜索引擎和异常检测等,都需要实时或近实时的查询处理。高吞吐量确保向量数据库能够同时处理大量涌入的查询,为最终用户提供高性能的服务。 向量数据库的核心运算包括相似度计算和矩阵运算,这些运算具有并行性高和计算密集等特点。GPU 凭借其成千上万的运算核心和强大的并行处理能力,成为了加速这些运算的理想选择。 技术架构 为了应对这些挑战,英伟达开发了CAGRA。这是一个利用GPU的高性能能力为向量数据库工作负载提供高吞吐量的GPU加速框架。 接下来,我们来看看 CAGRA 是如何与 Milvus 系统整合的。 Milvus 专为云原生环境设计,采用模块化设计理念,将系统分为多个组件,分别处理客户端请求、数据处理以及向量数据的存储和检索。 得益于这种模块化设计,Milvus 可以轻松地更新或升级特定模块,而无需改变模块间的接口,使得在 Milvus 中集成 GPU 加速变得简单可行。 Milvus 2.4 架构图 Milvus 2.4 的架构包括协调器、访问层、消息队列、工作节点和存储层等组件。工作节点进一步细分为数据节点、查询节点和索引节点。其中,索引节点负责构建索引,查询节点负责执行查询。 为了充分利用GPU的加速能力,CAGRA 被集成到了 Milvus 的索引节点和查询节点中。这种集成使得计算密集型任务,如索引构建和查询处理,能够被转移到 GPU 上执行,从而利用其并行处理能力。 在 Milvus 的索引节点中,CAGRA 被集成到了索引构建算法中,利用 GPU 硬件来高效地构建和管理高维向量索引,显著减少了索引大规模向量数据集所需的时间和资源。 同样,在 Milvus 的查询节点中,CAGRA 被用于加速执行复杂的向量相似度查询。借助GPU的处理能力,Milvus 能够以前所未有的速度执行高维距离计算和相似性搜索,从而加快查询响应时间并提升整体吞吐量。 性能评测 在性能评估过程中,我们使用了 AWS 上的三种公开实例类型: m6id.2xlarge:搭载Intel Xeon 8375C 处理器的 CPU 实例 g4dn.2xlarge: 配备NVIDIA T4 处理的GPU加速实例 g5.2xlarge:配备NVIDIA A10G 处理器的GPU加速实例 我们通过这些不同的实例类型来评估 Milvus 2.4 在不同硬件配置下的性能和效率,其中m6id.2xlarge 作为基于 CPU 处理器的性能基准,而 g4dn.2xlarge 和 g5.2xlarge 则用来评估GPU 加速的优势。 基于 AWS 的评测环境 在评测中,我们选用了 VectorDBBench 的两个公开向量数据集,评估 Milvus 在不同数据量和向量维度下的性能和可扩展性: OpenAI-500K-1536-dim:包含 50 万个 1,536 维的向量,由 OpenAI 语言模型生成 Cohere-1M-768-dim:包含 100 万个 768 维的向量,由Cohere语言模型生成 索引构建时间 在索引构建时间的评测中,我们发现对于 Cohere-1M-768-dim 数据集,使用 CPU(HNSW)的索引构建时间为 454 秒,而使用 T4 GPU(CAGRA)仅为66秒,A10G GPU(CAGRA)更是缩短到了 42 秒。 对于 OpenAI-500K-1536-dim 数据集,CPU(HNSW)的索引构建时间为359秒,T4 GPU(CAGRA)为45秒,A10G GPU(CAGRA)则为22 秒。 评测索引构建时间 这些结果清楚地表明,GPU 加速框架 CAGRA 在索引构建方面明显优于基于 CPU 的 HNSW,其中 A10G GPU 在两个数据集上都是最快的。 与 CPU 实现相比,CAGRA 提供的 GPU 加速将索引构建时间缩短了一个数量级,展示了利用 GPU 并行性进行计算密集型向量运算的优势。 吞吐量 在吞吐量方面,我们比较了集成 CAGRA GPU 加速的 Milvus 与使用 CPU 上 HNSW 索引的标准 Milvus 实现。评估指标是每秒查询数(QPS),用于衡量查询执行的吞吐量。 在向量数据库的不同应用场景中,查询的批量大小(单条查询处理的查询数量)往往不同。在测试过程中,我们采用了 1、10 和 100 这三种不同的批量大小,获取真实而全面的评测结果数据。 评测吞吐量 从评估结果来看,对于批量大小为 1 的情况,T4 GPU 比 CPU 快 6.4 到 6.7 倍,A10G GPU 则快 8.3 到 9 倍。 当批量大小增加到 10 时,性能提升更加显著:T4 GPU 快 16.8 到18.7倍,A10G GPU 快25.8 到 29.9 倍。 当批量大小为 100 时,性能提升持续增长:T4 GPU 快 21.9 到 23.3 倍,A10G GPU 快 48.9 到 49.2 倍。 这些结果表明,利用 GPU 加速向量数据库查询可以获得巨大的性能提升,尤其是对于更大的批量大小和更高维度的数据。 集成 CAGRA 的 Milvus 释放了 GPU 的并行处理能力,实现了显著的吞吐量改进,非常适合要求极致性能的关键场景下的向量数据库工作负载。 开启新纪元 将英伟达 CAGRA GPU 加速框架集成到 Milvus 2.4 中,标志着向量数据库领域的一项重大突破。 通过利用 GPU 的大规模并行计算能力,Milvus 在向量索引和搜索操作方面实现了前所未有的性能水平,开启了实时、高吞吐量向量数据处理的新时代。 5年前, Zilliz 的工程师们在上海漕河泾的厂房里敲下了向量数据库历史上的全球第一行代码,开启了研发面向非结构化数据管理的新一代数据库的探险。 今天,Zilliz 和英伟达合作推出 Milvus 2.4,展现了开放创新和社区驱动发展的力量,为向量数据库带来了 GPU 加速的新纪元。 这一里程碑事件预示着又一个技术变革的来临,向量数据库有望经历类似于英伟达在过去 8 年中将 GPU 算力提高 1000 倍的指数级性能飞跃。 在未来十年,我们将见证向量数据库性能的 1000 倍飞跃。这将引发一场数据处理方式的范式转变,重新定义我们处理和利用非结构化数据的能力。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33597.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 AI爆火,阿联酋想抢占先机 上一篇 2025 年 8 月 13 日 下午11:08 估值40亿美元的AI独角兽被金主微软“生吞活剥”了,创始人还很高兴 下一篇 2025 年 8 月 13 日 下午11:08 相关推荐 行业动态 一周要闻NO.125丨OpenAI被曝打造浏览器;11月国产/进口版号下发;阿里整合国内和海外电商;杨植麟还没有解开月之暗面的局 一起看看这周有哪些出海圈值得关注的大事记吧! siyushenqi.com 2025 年 8 月 14 日 401000 登顶免费榜,TapTap 8.6分,腾讯发行了一款不肝不氪的「世外桃源」 今天,由苏州五十一区研发,腾讯极光计划发行的《桃源深处有人家》上线了。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 516000 行业动态 Valve 等六家发行商因游戏锁区违反被欧盟处罚,金额合计780万欧元 近日欧盟委员会宣布,对 Valve 等六大游戏发行商进行处罚,罚金合计为780万欧元(约合人民币6105.68万元)。 siyushenqi.com 2025 年 8 月 25 日 471000 行业动态 WaveSpeedAI 联合创始人&CTO 李样兵 确认担任 GICC2025丨第六届全球互联网产业CEO大会主峰会圆桌嘉宾! WaveSpeedAI 联合创始人&CTO 李样兵 确认担任 GICC2025丨第六届全球互联网产业CEO大会主峰会圆桌嘉宾! siyushenqi.com 2025 年 9 月 24 日 456000 行业动态 TikTok电商折戟印尼,树大招风? 中国电商出海,政治风险是最大变量。 siyushenqi.com 2025 年 8 月 12 日 452000 行业动态 黄金时段的中东,亚马逊阿联酋站和沙特站市场特性盘点 亚马逊阿联酋站:69%的受访者会在线购物 siyushenqi.com 2025 年 8 月 3 日 452000 行业动态 国外客户要考察我们工厂,我们该如何准备? 首先要了解来你们公司考察的客户的身份,不同身份的人过来,准备应该有差别。 如果来访的是技术总监或者质量总监,重点是技术或者质量方面的交流。这些人比较懂行,技术术语比较多,公司一定要派总工程师、技术人员质量控制人员、检验人员等有技术背景的人接待,准备好一些设备清单、工艺布局图、质量保证体系的流程、主要检验项目(如机械性能、化学成分、材料、外形等),对一些技术指… siyushenqi.com 2025 年 8 月 13 日 下午11:08 469000 行业动态 短视频公司CRISP Momentum Inc. 任命郑志刚为董事会主席 引领公司全球增长新征程 Crisp Momentum Inc. 是一家总部位于美国纽约的新兴短视频内容领域公司,其前身为 Open Locker Holdings, Inc.,并于 2025 年 8 月正式更名。 siyushenqi.com 2025 年 10 月 13 日 374000 海外 Z 世代最爱哪些中国品牌?Snapchat 联手凯度发布出海 50 强榜单 Snapchat 携手凯度(KANTAR)正式发布首个 “Z 世代最喜爱的中国全球化品牌 50 强”榜单。 siyushenqi.com 2025 年 11 月 3 日 • 行业动态 440000 中东欧增量蓝海:波兰跨境电商市场全景洞察 |欧洲跨境电商 波兰 中东欧第一大电商市场, 增长快、人群年轻、物流便捷,是性价比极高的欧洲切入点 2025年波兰电商市场规模已达1400亿兹罗提(约合人民币 2492 亿元),跨境交易已占波兰电商总额的7%以上。预计未来四年将以8%的年增长率继续增长,2028年或将达到1920亿兹罗提(约合人民币3418亿元)。 作为中东欧地区的核心经济体,波兰凭借庞大的人口基数、较高的… siyushenqi.com 2025 年 8 月 13 日 下午11:08 • 行业动态 469000 约会应用的收入和使用量持续飙升:我们能用金钱能买到爱情吗? 对于全球不断增长的约会应用而言,2023 年将会是最成功的一年 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 468000 行业动态 拼多多黄峥挤入中国富豪榜第二 黄峥:做好该做的事,剩下的就交给老天。 siyushenqi.com 2025 年 8 月 12 日 414000 用情绪打造爆款,《实况足球》“踢”出了整个盛夏 8月2日,《实况足球》手游官方在B站发布了一条名为《让我们踢出一整个盛夏》的视频。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 364000 行业动态 海外获客私域流量运营:十大关键技巧助力企业拓展国际市场 在全球化的大背景下,海外市场的拓展已成为众多企业的重要战略方向。私域流量运营作为一种低成本、高效果的获客方式,逐渐受到越来越多企业的青睐。那么,在海外市场中,如何有效进行私域流量运营呢?本文将为您介绍十大关键技巧,助您轻松拓展国际市场。 1、深入了解目标市场:在进行海外私域流量运营之前,首先要对目标市场进行深入了解,包括文化背景、消费习惯、行业趋势等方面。这… siyushenqi.com 2025 年 8 月 13 日 下午11:08 469000 行业动态 迪士尼、环球影业、华纳兄弟起诉MiniMax 迪士尼、环球影业、华纳兄弟联合起诉中国AI公司MiniMax,指控其生成式AI应用“海螺AI”未经授权使用蜘蛛侠、达斯·维达、史莱克等经典角色,用于商业推广。 siyushenqi.com 2025 年 9 月 22 日 411000 行业动态 乙游卷入物理世界,叠纸想靠机器人赚「陪伴费」,硬件的坑好填吗? 虚拟恋人那么容易搬进现实? 转自扬帆出海 2026 年 4 月 7 日 348000 行业动态 OpenAI拟募资400亿美元,沙特阿联酋主权基金或成关键金主 OpenAI正在洽谈新一轮高达400亿美元的融资,沙特公共投资基金(PIF)和阿联酋主权财富基金MGX是其重点争取的关键投资者。 siyushenqi.com 2025 年 8 月 13 日 457000 文心一言面世:能打硬仗的百度回来了 3 月 16 日,李彦宏现场展示了「文心一言」在五个场景中的应用案例,并分享了大模型带来的三大产业机会。 siyushenqi.com 2025 年 8 月 14 日 • 行业动态 425000 行业动态 马来西亚成立国家AI办公室 马来西亚成立NAIO旨在聚焦政策制定和监管问题,推动人工智能领导力,将马来西亚打造为人工智能区域中心。 siyushenqi.com 2025 年 8 月 13 日 482000 行业动态 Steam下架风波还没完?CS组织喊话:合法不是挡箭牌,你们在对女性犯罪 Steam 7 月起大规模下架成人游戏,导火索是澳大利亚激进组织 CS 成功游说支付处理商(Visa、MasterCard 等)切断恋物癖游戏的资金通道。 siyushenqi.com 2025 年 9 月 2 日 473000 行业动态 WhatsApp精聊内容策划与客户管理 提升客户互动 定制化内容策划 精准客户管理 增强客户满意度 提高客户粘性 提升客户互动 WhatsApp精聊内容策划的核心在于提升客户互动。这一方面,企业可以通过推送个性化内容、参与式话题以及实时互动来增强用户的参与感和反馈率。通过WhatsApp,企业能够实现更加即时、灵活的沟通,从而建立起与客户之间的紧密联系。 关键策略:定期推送与互动 例如,企业可以定… siyushenqi.com 2025 年 8 月 13 日 下午11:08 469000 行业动态 TikTok在英国“卷”成拼多多 “TikTok英国站已陷入0.99磅包邮的价格战,中国卖家用力过猛。” siyushenqi.com 2025 年 8 月 13 日 447000 行业动态 周鸿祎,拼命给360 AI 找出路 模型能力暂未挤进第一梯队的AI玩家,开始另辟蹊径了。 siyushenqi.com 2025 年 8 月 13 日 469000 XREAL亮相WAIC 2025:One Pro旗舰首秀,引领AR+AI融合新时代 私域神器讯 在世界人工智能大会(WAIC 2025)“智能时代,同球共济”主题号召下,XREAL作为全球领先的智能眼镜品牌,以一场全维度的旗舰首秀与体验革新,向世界展示了“下一代计算平台”的具象答案。作为全球唯一与Google建立深度战略合作的AR企业,XREAL不仅是开放合作的代表样本,更是中国科技力量参与全球智能终端演进的核心力量。 XREAL不仅带来了… siyushenqi.com 2025 年 8 月 13 日 下午11:08 • 行业动态 469000 《暗黑破坏神:不朽》正在打破玩家们的偏见 SensorTower数据统计,游戏海外上线不到两个月已经超过1亿美元收入,7月在国内上线至今也保持在畅销榜TOP10,今年还没有新品能够在排名靠前之余还保持稳定成绩。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 512000 中国内衣品牌出海印尼,没有官网全靠TikTok|出海品牌洞察 如果一个品牌打算入局东南亚,就算没有首选印尼市场,也必然有进入印尼市场的打算。在跨境卖家眼中,印尼就是东南亚市场的半边天。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 456000 行业动态 《海外泛娱乐的一些思考》——广州时间在线网络 -CEO-袁红 《海外泛娱乐的一些思考》演讲视频完整回放 siyushenqi.com 2025 年 8 月 3 日 441000 行业动态 网易梦幻事业部林云枫离职,《漫威争锋》制作人接管 网易梦幻事业部“元老”、20年老兵、《梦幻西游》端游主策划至事业部负责人林云枫,1月7日正式离任,暂无创业计划。 siyushenqi.com 2026 年 1 月 8 日 387000 行业动态 OpenAI史上最贵API上线!o1-pro比DeepSeek-R1溢价千倍 OpenAI正式开放了o1-pro API,其价格非常昂贵,比o1-mini贵100多倍,被网友称为“大模型界的劳斯莱斯”。 siyushenqi.com 2025 年 8 月 13 日 459000 行业动态 拼多多百亿扶持计划:新质商家的春天,迎接新挑战 重仓新质商家,拼多多要下苦功夫。 siyushenqi.com 2025 年 8 月 5 日 470000 发表回复 请登录后评论...登录后才能评论 提交