阿里开源创新大模型搜索引擎 siyushenqi.com • 2025 年 8 月 13 日 下午10:09 • 行业动态 • 阅读 450 ZeroSearch是阿里巴巴开源的一种强化学习框架,旨在无需与真实搜索引擎交互的情况下,激励大语言模型(LLMs)的搜索能力。它通过轻量级监督微调,将大模型转化为一个检索模块,能够根据查询生成相关或噪声文档,并通过课程学习机制逐步提升模型的推理能力。 摘要 ZeroSearch通过模拟搜索引擎的交互过程,避免了与真实搜索引擎交互带来的高昂成本和不可控性。它利用大模型在预训练中积累的知识,通过动态调整生成文档的质量,为模型提供多样化的检索场景,从而增强其搜索能力。此外,它还通过课程学习机制逐步增加任务难度,提升模型的推理能力和鲁棒性。 研究人员在多个问答数据集上对ZeroSearch进行了综合评测。结果显示,使用ZeroSearch的模型在搜索能力上超过了谷歌搜索,且成本大幅降低。例如,140亿参数的模型使用ZeroSearch后,搜索能力达到33.97,超过了谷歌搜索的32.47,同时训练成本降低了80%以上。 ZeroSearch采用多种强化学习算法(如近端策略优化、组相对策略优化等)来优化模型的搜索策略。它通过奖励函数(基于F1分数)来衡量答案的准确性,并引入损失掩蔽机制以提高训练的稳定性。此外,ZeroSearch还设计了多轮交互模板,明确区分模型的推理、搜索和回答阶段,增强了模型的透明度和可靠性。 ZeroSearch的开源为大语言模型的搜索能力提升提供了一种低成本、高效的技术方案。它不仅能够解决传统检索增强生成(RAG)方法对提示依赖过高的问题,还能在不依赖真实搜索引擎的情况下实现高效的搜索能力增强,对推动大语言模型在实际应用中的广泛部署具有重要意义。 昨天,阿里巴巴开源了一种创新大模型搜索引擎——ZeroSearch。 ZeroSearch是一种无需与真实搜索引擎交互即可激励大模型搜索能力的强化学习框架。主要利用了大模型在大规模预训练过程中积累的丰富知识,将其转化为一个检索模块,能够根据搜索查询生成相关内容。同时,还可以动态控制生成内容的质量,这是传统搜索引擎所不具备的特殊功能。 研究人员在NQ、TriviaQA、PopQA、HotpotQA等7大问答数据集上进行了综合评测。结果显示,一个70亿参数的监督微调模型使用ZeroSearch后,其搜索能力达到了33.06;140亿参数的模型则达到了33.97,超过了谷歌搜索的32.47。 在成本方面,研究人员通过SerpAPI使用谷歌搜索进行约64,000次搜索查询的训练,成本约为586.70美元;而在四个A100GPU上使用140亿参数的大模型进行模拟时,成本仅为70.80美元,成本降低了80%以上。 开源地址:https://github.com/Alibaba-nlp/ZeroSearch 笑脸:https://huggingface.co/collections/sunhaonlp/zerosearch-681b4ce012b9b6899832f4d0 目前,为了解决大模型幻觉以及扩大外部知识范围,检索增强生成(RAG)已成为标配。不过,早期的RAG主要采用基于提示的策略,通过引导大模型进行查询生成、查询分解和多轮信息检索来整合外部知识,但这些方法对提示要求较高,且对模型的推理能力依赖较大。 还有研究尝试通过监督微调、蒙特卡洛树搜索等方法来增强搜索能力,虽然取得了一定成果,但算力消耗很大,在实际部署中面临很多难题。 随着DeepSeek-R1、o1等模型的出现,强化学习成为了一项改变模型逻辑推理能力的关键技术。这些模型完全依赖于奖励驱动的学习,而无需明确的逐步监督。 因此,有不少研究将强化学习应用在大模型搜索中。例如,Search-R1通过强化学习自主生成多个搜索查询,而ReSearch则通过强化学习教授模型通过搜索进行推理,无需对中间推理步骤进行监督。但这些方法需要与谷歌等商业搜索引擎搭配使用才能达到最佳效果,成本方面非常高。 ZeroSearch则通过强化学习激励大模型的搜索能力,同时避免了与真实搜索引擎交互带来的高昂成本和不可控性。 ZeroSearch通过轻量级监督微调将大模型转化为一个检索模块。这一过程利用了大模型在大规模预训练中积累的丰富知识,使其能够根据给定的查询生成相关或噪声文档。通过调整提示中的关键词,模型可以灵活地控制生成文档的质量,从而为后续的训练提供多样化的检索场景。 这种能力是通过收集与真实搜索引擎交互的轨迹数据,并对这些数据进行标注和微调来实现的。主要是让大模型与真实搜索引擎展开多轮交互,直至得出最终答案。 在此过程中,详细记录下所有交互轨迹,这些轨迹涵盖了从模型发起查询,到搜索引擎返回文档,以及模型据此生成最终答案的全过程。接着,对这些交互轨迹进行细致标注,将能产生正确答案的交互轨迹标记为正样本,意味着其中检索到的文档发挥了积极作用;而导致错误答案的交互轨迹则归为负样本,表明对应的检索文档属于干扰信息。 从正样本和负样本交互轨迹中精准提取查询-文档对,以此为基础对大模型实施轻量级监督微调。微调时,研究人员巧妙调整提示中的少量词汇,例如,加入“有用信息”“噪声信息”等,引导大模型学习生成不同质量的文档。同时,将输入问题及其对应的答案融入提示内容,拓宽大模型的知识边界。 ZeroSearch还通过引入“课程学习机制”,用于在训练过程中逐步调整生成文档的质量。其核心思想是,随着训练的进行,逐渐增加任务的难度,使模型从简单的检索场景开始,逐步适应更具挑战性的环境。 通过一个概率函数动态调整生成噪声文档的可能性。在训练初期,模型主要接触高质量的文档,以便快速学习基本的输出格式和任务要求。随着训练的深入,模型逐渐暴露于更多噪声文档,这迫使模型不断提升其推理能力和鲁棒性,以应对更具挑战性的检索任务。 在强化学习的框架下,ZeroSearch采用了多种算法来优化模型的搜索策略。这些算法包括近端策略优化、组相对策略优化等,通过最大化策略模型的期望奖励来训练模型,同时考虑参考模型和奖励函数。 奖励函数的设计专注于答案的准确性,采用基于F1分数的奖励机制,以平衡精确度和召回率。此外,为了提高训练的稳定性,ZeroSearch还引入了损失掩蔽机制,确保梯度仅针对模型自身的输出进行计算,从而避免了由于外部生成的文档标记引入的噪声。 ZeroSearch的训练模板是一个多轮交互模板,明确区分了模型的推理、搜索和回答阶段。在推理阶段,模型在其内部进行思考,并在<think>...</think>标签内阐述其推理过程。如果模型认为需要额外的信息,它会在<search>...</search>标签内发出搜索查询。检索到的文档由模拟搜索引擎生成,并在<information>...</information>标签内返回给模型。 最后,大模型在<answer>...</answer>标签内提供最终答案。这种结构化的模板不仅提高了模型的透明度,还增强了其在实际应用中的可靠性。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33112.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 DeepSeek爆火100天,大厂又找回初心了 上一篇 2025 年 8 月 13 日 下午10:09 OpenAI再迎人事变动 下一篇 2025 年 8 月 13 日 下午10:09 相关推荐 行业动态 上线2个月收获200万用户,出海游戏公司转型做AI,赢麻了? AIGC+DeepSeek,碰撞新体验。 siyushenqi.com 2025 年 8 月 13 日 495000 在卡牌底子上“涅槃重生” 36岁格斗IP强势席卷欧美下载榜 要如何做才能将格斗的爽感和卡牌晚饭完美融合在手机上?它给出了答案。 siyushenqi.com 2025 年 8 月 22 日 • 行业动态 403000 行业动态 蜗牛睡眠 CEO 竹东翔 确认担任 GICC2025丨第六届全球互联网产业CEO大会主峰会圆桌嘉宾! 蜗牛睡眠 CEO 竹东翔 确认担任 GICC2025丨第六届全球互联网产业CEO大会主峰会圆桌嘉宾! siyushenqi.com 2025 年 9 月 30 日 469000 为什么同样是玩游戏,TA居然喜欢看广告? 从贴吧论坛到TapTap,越来越多游戏社区里的玩家开始热衷于对广告的讨论。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 453000 31款国产游戏入围Top100畅销榜,出海韩国怎么做差异化? 近一年以来,韩国的手游市场发展相较往年来看也呈现出利好上升的趋势,且与二次元文化浓重的日本市场不同,韩国手游市场的品类的竞争赛道的头部产品更为多元一点,这也给想要出海的中国厂商提供了许多机遇。 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 520000 残酷的AI赛场,就像一个无情的过滤器 残酷的AI赛场,就像一个无情的过滤器,筛除了任何缺乏求生之技的企业 siyushenqi.com 2025 年 8 月 14 日 • 行业动态 432000 Colorkey珂拉琪出海启示录:用“一支唇釉”打开东南亚市场 通过Colorkey珂拉琪的经历与去找寻一套新消费品牌可复制的出海生意经。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 447000 登顶海外28国iOS免费榜,这款游戏国内正式上线了! 七年的探索与蛰伏后,《我的安吉拉2》如期“爆红” siyushenqi.com 2025 年 8 月 25 日 • 行业动态 454000 PAGC2024丨“头号玩家”倾情分享,共探俄语市场新机遇 前线·俄罗斯出海峰会等你来! PAGC2024丨“头号玩家”倾情分享,共探俄语市场新机遇 前线·俄罗斯出海峰会等你来! siyushenqi.com 2025 年 8 月 18 日 • 行业动态 432000 行业动态 OpenAI「Her」领头人离职,GPT-4o前途未卜 GPT-4o语音功能还没正式上线,OpenAI「Her」项目负责人官宣:离职创业。 siyushenqi.com 2025 年 8 月 13 日 448000 行业动态 网易海外新手游《黎明杀机》开启预注册 近日,网易的非对称对抗竞技手游《黎明杀机》移动版在外海开启预约 siyushenqi.com 2025 年 8 月 25 日 476000 行业动态 月流水近6万美元,单月收入暴增800%,AI社交产品迎来新增长期了? AI社交产品短时间内靠什么赚到钱? siyushenqi.com 2025 年 8 月 18 日 487000 行业动态 淘宝挖不来“养家”主播 淘宝直播在内容建设上犹豫不决,错过了最佳时机,而抖音等平台的网红和带货黑马层出不穷,丰富了内容生态。淘宝直播需要从内部挖潜,培育更多本土头部主播。 siyushenqi.com 2025 年 8 月 5 日 440000 行业动态 打破行业风控,解锁WhatsApp稳发新姿势,稳定群发和接粉 打破行业风控,解锁WhatsApp稳发新姿势 WhatsApp群发策略的核心优势 实现稳定群发的技术与实践 提升接粉效率,优化用户互动 增强营销效果与未来趋势 打破行业风控,解锁WhatsApp稳发新姿势 随着全球数字营销环境的不断变化,企业面临着越来越严格的行业风控措施。特别是在使用即时通讯工具进行营销时,如何突破这些限制,确保信息的有效传达,成为了市场推… siyushenqi.com 2025 年 8 月 13 日 下午10:09 450000 连Facebook都忌惮的Snapchat,为什么没有中国本土同 满足巨头没精力关注的小众需求,聚集一小群用户,同样有可能流行起来,就像Snapchat。 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 457000 行业动态 腾讯突然曝光:一款全球跨平台旗舰大作浮出水面 腾讯通过Level Infinite拿下Shift Up新作《Project Spirits》全球发行权,双方合作从投资、发行升级为联合研发。 siyushenqi.com 2025 年 11 月 27 日 389000 行业动态 刚刚,Tiktok干了一件大事:给超过1.7 亿美国用户弹窗! Tiktok干了一件大事:给超过1.7 亿的美国用户弹窗,引导他们给国会议员打电话,要求国会撤销关停Tiktok的议案。 siyushenqi.com 2025 年 8 月 9 日 444000 行业动态 阿里向东南亚电商平台Lazada追加投资,总额超过58亿美元 阿里持续看好东南亚电商市场,向东南亚电商平台Lazada追加投资。 siyushenqi.com 2025 年 8 月 13 日 439000 阿凡达手游海外首曝,祖龙+腾讯+迪士尼能形成什么化学反应? 登顶全球影史票房13年后,这个重磅IP公布了一款新手游。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 299000 行业动态 亚马逊,TEMU自养号:如何降低砍单风险,实现高效采购? 在跨境电商竞争白热化的当下,Temu与亚马逊等平台对批量采购行为的监管持续升级。传统第三方采购模式因成本高、风险不可控逐渐失宠,而自养号下单技术凭借“模拟真实用户行为、构建独立账号生态”的特性,成为商家突破平台限制、实现高效采购的核心策略。本文将从技术架构、操作流程、风险控制三个维度,系统解析自养号技术的实施要点。 一、技术架构:构建独立账号生态的基石 1.… siyushenqi.com 2025 年 8 月 13 日 下午10:09 450000 行业动态 英伟达力挺,四年估值560亿!Coreweave到底是何方神圣? 筹集23亿美元债务融资,英伟达力挺的Coreweave是何方神圣? siyushenqi.com 2025 年 8 月 13 日 471000 生命周期报告:研发费用增13%、营销投入见顶降7%,如何降本增效? 近日,伽马数据与腾讯云联合发布了《2023年游戏生命周期洞察报告》。 siyushenqi.com 2025 年 8 月 19 日 • 行业动态 435000 定制恋人、角色扮演 和AI谈赛博恋爱成了一门好生意 更多人开始相信AI能够担任提供情感陪伴的角色 siyushenqi.com 2025 年 8 月 20 日 • 行业动态 555000 行业动态 7月8日之后,韩国电商市场“走进新时代” 对于做韩国第一大电商平台Coupang的卖家来说,7月8日是一个极其特殊的时间:Coupang在近期做了一个重大决定,7月8日后不再接受自发货,只能接受CGF/CGFlite的产品(即官方物流服务),已注册的商品不受影响。 siyushenqi.com 2025 年 8 月 13 日 458000 行业动态 2025年8月成功出海的中国手游 - 《Whiteout Survival》与《Kingshot》蝉联收入榜冠亚军 点点互动旗下《Kingshot》8月收入再度劲增26%,强势登顶出海手游收入增长榜,并继续携手《Whiteout Survival》包揽出海手游收入榜冠亚军。 siyushenqi.com 2025 年 9 月 11 日 519000 行业动态 亚马逊系统突发故障!大批链接报错 一到旺季,本是亚马逊卖家冲刺销量的黄金周期,大批卖家却突发陷入“集体报错”。 — 1 — 亚马逊编辑页面出现故障 从10月31日开始,就有卖家反映亚马逊库存编辑页面出现异常情况: 卖家无法修改“单位计数类型”字段、价格编辑功能锁死、配对模板变为“只读模式”,甚至部分 ASIN 被下架、搜索结果清零。 此次涉及卖家非常多,涵盖了3C、家居、美妆等多个类目;有拥… siyushenqi.com 2025 年 8 月 13 日 下午10:09 450000 行业动态 全球化背景下出海营销的核心战略框架解析 战略基石:深度本地化与跨文化洞察 渠道整合:构建全域数字化营销矩阵 品牌建设:从产品出海到品牌出海 数据驱动:精细化运营与敏捷迭代 在全球化浪潮与数字技术深度融合的当下,企业出海已从可选项演变为众多行业寻求增长的必由之路。然而,跨越地理与文化边界进行营销,远非简单的市场平移或渠道复制。成功的出海营销要求企业构建一套系统性的核心战略框架,以应对复杂的国际环境、… siyushenqi.com 2025 年 8 月 13 日 下午10:09 450000 行业动态 众筹92万美元、营收翻倍!移动办公品牌MOFT踏浪出海 聚焦移动办公新品类!MOFT另辟蹊径踏浪出海 siyushenqi.com 2025 年 8 月 12 日 497000 行业动态 学会这几招,Telegram单向私信群发效率翻倍 本文分享了Telegram单向私信群发的技巧与经历,避免封号、撰写高回复率消息、分析数据等实战经验,助你提升外贸业务。 siyushenqi.com 2026 年 3 月 6 日 251000 行业动态 2024年2月全球热门移动游戏收入TOP10 2月全球热门移动游戏收入TOP10榜单出炉 siyushenqi.com 2025 年 8 月 18 日 441000 发表回复 请登录后评论...登录后才能评论 提交