谷歌机器人专家:机器人在现实中碰过的壁,AI也会碰 siyushenqi.com • 2025 年 8 月 13 日 下午11:37 • 行业动态 • 阅读 401 机器学习一直生活在一个令机器人专家、化学家、生物学家和神经科学家羡慕不已的泡沫中,随着它真正开始发挥作用,我们所有人都将遇到其他人多年来一直在应对的同样的现实壁垒。 有人说,机器人领域进展缓慢,甚至和机器学习的其他子领域相比显得毫无进展。 谷歌 DeepMind 机器人科学家,SayCan、RT-1、RT-2 等具身智能项目参与者 Alex Irpan 同意这一说法。但他认为,这是因为机器人学是一个和现实紧密连接的领域,现实的复杂性决定了他们不免碰壁。他还指出,这些问题不是机器人技术所独有的。同样的问题也适用于大语言模型(LLM)等技术。这些模型在面对现实世界时,会遇到与机器人学类似的复杂性问题。 最近,他写了一篇题为「The Tragedies of Reality Are Coming for You(现实的悲剧正在向你袭来)」的博客来阐述这一观点。 现实的悲剧正在向你袭来 2023 年,我参加了一次 ML 会议。夜未央,酒酣耳热,话题转到了一个问题上:「如果你能把任何一个机器学习子领域的资源都给另一个子领域,你会砍掉哪个,把资源给谁?」 我不记得别人是怎么说的,但有一个人说他们会砍掉机器人。当我进一步追问时,他们说机器人技术进展太慢,相对于其他领域来说,什么都没有发生。 他们说机器人技术比纯软件的机器学习子领域进展缓慢,我认为他们说得没错,但我还想补充两点: 机器人学习进展较慢的原因是:如果不解决难题,就很难有所作为。 机器人技术的难题并非机器人独有。 在机器人技术领域,人们常说的一句话是「现实是混乱的」。相对于代码而言,我会将其延伸为「现实是复杂的」。在机器人技术中,你往往要将混乱的现实推向一个足够好的抽象层,以便代码能够在其上发挥作用。作为一个领域,计算机科学花了数十年时间在硬件和软件之间创建了良好的抽象层。代码描述了如何将电力输送到硬盘、处理器和显示器,它足够可靠,我甚至不需要考虑它。 这样做有很多好处。一旦你完成了这项艰巨的工作,并将你的工作进展转移到抽象的逻辑空间中,一切都会变得更容易。代码和数据的可复制性令人难以置信。我在 3 台设备上同步了代表这篇博文草稿的文件副本,甚至不用花费任何精力思考。 不过,就像 Joel Spolsky 所说,所有抽象在某种程度上都有漏洞,而我发现机器人技术中的漏洞往往更大。有很多出错的方式与代码的正确性无关。 这和这个学科的一些基本原理有关吗?有一点。很多机器人硬件比笔记本电脑或 Linux 服务器更具实验性。消费类机器人还不是一大产业。「实验性」往往意味着「奇怪的、更容易出现故障的状态」。 但是,我不认为硬件是造成问题的主要原因。现实才是问题的根源。Benjamin Holson 在他的「Mythical Non-Roboticist(神话般的非机器人学家)」一文中说得非常好: 第一个难点在于,机器人要处理的是现实世界中不完美的感知和不完美的执行。全局可变状态是一种糟糕的编程风格,因为它真的很难处理,但对于机器人软件来说,整个物理世界都是全局可变状态,你只能不可靠地观察它,并希望你的行动能接近你想要实现的目标。 机器人研究依赖于在现实与软件之间搭建新的桥梁,但这也发生在机器人研究之外。任何与现实对接的软件,对现实的了解都是不完美的。任何试图影响现实世界变化的软件,都必须应对现实的全局可变状态。任何软件,如果其行为依赖于现实中发生的事情,就会招致对抗性的噪声和复杂性。 游戏 AI 就是一个很好的例子。国际象棋 AI 是可靠的超人。然而,如果你以特定方式下棋,一些超人围棋 AI 是可以击败的,正如 Tony T. Wang 等人在 ICML 2023 论文「Adversarial Policies Beat Superhuman Go AIs」中发现的那样。对抗性技术找到了足够清晰以至于人类可以复制的策略。 在附录 G.2 中,我们的一位作者,一位围棋专家,能够在没有任何算法帮助的情况下,通过学习对手的对局记录来实现这种 [cyclic] 攻击。他们在 KGS 在线围棋服务器上以标准人类条件对局,在与作者无关的顶级 KataGo 机器人对局中取得了超过 90% 的胜率。 作者甚至在给机器人 9 个让子的情况下获胜,这是一个巨大的优势:拥有这些让子的人类职业棋手在面对任何对手(无论是人类还是人工智能)时,胜率几乎都是 100%。他们还击败了 KataGo 和 Leela Zero,二者每局棋的搜索次数都达到了 10 万次,这通常远远超出了人类的能力范围。此后,其他人类也利用 cyclic 攻击击败了其他各种顶级围棋 AI。 与此同时,几年前,OpenAI 创建了一个系统,该系统击败了 Dota 2 的卫冕世界冠军。在向公众开放该系统以测试其稳健性后,一个团队设计了一套策略,取得了 10 场连胜。 基于这一点,你可能会持一种悲观的观点,认为即使是连接 19 x 19 围棋棋盘或 Dota 2 这样一个简单的「现实」,其额外复杂性就足以使稳健行为具有挑战性。我认为这种观点有失公允,因为这两个系统都没有将稳健性作为最高目标,但我确实认为它们是一个有趣的案例研究。 最近,围绕 LLM 的炒作浪潮一浪高过一浪 —— 他们能做什么,他们能在哪里应用。这其中隐含的一个信念是,LLM 可以极大地改变人们在工作和休闲中与技术交互的方式。换句话说,LLM 将改变我们与现实交互的方式。事实上,我也加入了这股炒作浪潮,具体来说,我怀疑基础模型短期炒作过度,长期炒作不足。然而,这也意味着,对于一个历来不善于考虑现实的领域来说,现实的一切混乱都将到来。 就在这个人说机器人技术是浪费资源的同一个 ML 会议上,我提到我们正在用真实机器人进行基础模型实验。有人说这似乎有点吓人,我向他们保证这只是一个研究原型。但我也觉得 LLM 生成和执行软件有点吓人,我觉得他们隐隐担心一个却不担心另一个很有意思。硅谷的人有点自相矛盾。他们既相信软件能推动初创企业实现惊人的变革,又相信他们的软件不值得深思或反省。我认为,比特世界与原子世界一样,都是现实的一部分。它们在不同的层面上运行,但都是现实的一部分。 我注意到(有些幸灾乐祸),LLM 从业者也开始遭遇之前机器人技术碰到过的痛点。比如「我们无法复制这些训练,因为这太耗费资金了」。是啊,这个问题在机器人领域已经讨论了至少十年。再比如,「我没法让必应告诉我《阿凡达 2》的上映日期,因为它一直在调出关于自己的新闻报道,并在生成前进行自我修正。」 我们现在所处的世界,任何公开的互联网文本都会不可逆转地影响检索增强生成。欢迎来到全局可变状态。每当我看到有人声称 ChatGPT 的行为出现了倒退,我就会想起我和其他人为了解释机器人性能突然莫名下降而想出的各种「阴谋论」,以及问题究竟是出在模型、环境,还是我们的过度推断。 俗话说「所有的机器人 demo 都在撒谎」,人们发现所有的 LLM demo 也都在撒谎。我认为,从根本上说,这是无法避免的,因为人类的注意力是有限的。重要的是评估谎言的类型、大小和重要性。他们是否展示了模型 / 机器人如何泛化?他们有没有提到这些例子是如何精挑细选的?一旦将现实联系起来,这些问题就会变得更加复杂。梅西目前看起来是个不错的球员,但「他能在斯托克城寒冷的雨夜做到这一点吗」? 让问题变得复杂的是,这些问题的答案并不总是「否」。梅西可以在斯托克城的寒冷雨夜做到这一点。他足够优秀。这让问题变得困难,因为正确地回答一个「是」比正确地回答一个「否」要重要得多。随着 LLM 越来越优秀,随着 AI 在日常生活中越来越常见,作为一个社会,我们需要越来越善于判断模型是否已经证明了自己。我对未来的主要担忧之一,就是我们不善于评估模型是否已经证明了自己。 但是,我期望机器人学家会走在曲线的前面。在 LLM 操纵通用基准测试的说法出现之前,我们就在抱怨评估问题。早在「我们需要更好的数据覆盖率」成为基础模型预训练团队的口号之前,我们就在努力获取足够的数据,以捕捉自动驾驶的长尾效应。机器学习一直生活在一个令机器人专家、化学家、生物学家和神经科学家羡慕不已的泡沫中,随着它真正开始发挥作用,我们所有人都将遇到其他人多年来一直在应对的同样的现实壁垒。这些挑战是可以克服的,但会很艰难。欢迎来到现实世界。欢迎来到痛苦的世界。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33960.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 美国AI芯片公司,疯狂融资 上一篇 2025 年 8 月 13 日 下午11:37 AI争霸战开启!OpenAI急建10万块GB200超算,马斯克10万块H100月末开训 下一篇 2025 年 8 月 13 日 下午11:37 相关推荐 私域神器每周精选|多款新游寻发行、投资、支付合作,热岗招聘等你来聊 (第5期) 关注私域神器公众号,回复关键字“合作集”查看合作精选专题。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 434000 行业动态 想做中国版Shopify,服务中国出海电商的「Shoplazza店匠」完成B轮融资 36氪获悉,专注海外B2C独立站商务销售平台的企业级技术公司「Shoplazza店匠」近日完成融资 siyushenqi.com 2025 年 8 月 13 日 545000 行业动态 宇树科技的IPO之路 宇树科技已完成C轮融资交割,由移动、腾讯、锦秋、阿里、蚂蚁、吉利资本等共同领投,老股东跟投,共募集约7亿元,投后估值约120亿元。 siyushenqi.com 2025 年 8 月 13 日 395000 6年前已问鼎苹果谷歌年榜,这家英国开发商的新作带着91%的好评回来了 教你打牌的独游在市场上已经出现了不少,而教你如何“出千”的独游显然并不太多。不过最近由Nerial(“王权”开发团队)开发,Devolver发行的“记忆+动作+类魂”(bushi)游戏《千爵史诗》就是其中的一朵“奇葩”。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 438000 私域神器每周精选 No.50|网易完整团队寻第一轮融资 多款精品游戏寻海外合作 本期精选的合作类型涵盖多款精品游戏寻海外合作。接下来就一起看看吧~ siyushenqi.com 2025 年 8 月 24 日 • 行业动态 474000 腾讯成立新洛杉矶工作室,加速布局海外游戏 十年磨一剑 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 484000 行业动态 Aura from Unity 作为非游峰会-联合赞助出席PAGC 2025丨第五届全球产品与增长展会 Aura from Unity 作为非游峰会-联合赞助出席PAGC 2025丨第五届全球产品与增长展会 siyushenqi.com 2025 年 8 月 17 日 493000 行业动态 回顾去年游戏行业,似乎只是手游在经历寒冬 一直以来,游戏业都被认为是一个常青行业,因为无论全球经济形势如何,它都蓬勃发展。 siyushenqi.com 2025 年 8 月 18 日 447000 行业动态 首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用 中文 AI 社区迎来了一个好消息:与 Sora 同架构的开源文生图大模型来了! siyushenqi.com 2025 年 8 月 13 日 465000 行业动态 春节大厂AI大战,不过是道「开胃菜」 2026春节大厂AI入口争夺战打响:腾讯元宝派10亿现金,阿里千问投入30亿,字节拿下春晚独家合作。红包背后是AI生态布局,从社交到电商的全面竞争。 siyushenqi.com 2026 年 2 月 10 日 310000 热搜第一背后“推手”浮现!《羊了个羊》如何操作?杨幂、鹿晗、虞书欣、周冬雨等一众明星躺枪! 《羊了个羊》突然爆了!刚拿下微博热搜榜一,服务器却崩了! siyushenqi.com 2025 年 8 月 24 日 • 行业动态 458000 曾在游戏行业低调发育的AI工具 “躁”起来了 不同阶段的游戏AI应用 siyushenqi.com 2025 年 8 月 14 日 • 行业动态 407000 行业动态 AI短剧:资本追逐的新风口 抖音《奶团太后》68集破2.1亿播放;国内首部付费AI短剧《兴安岭诡事》21小时千万播放,10天5613万;海外《AfterDivorce》热力值500万,首登全球短剧畅销榜。 siyushenqi.com 2025 年 10 月 23 日 543000 行业动态 解决方案|聚焦跨境业务安全,业务风险防范有奇招 2020年以来,疫情驱动全球消费需求加速转往线上,数字化重构国际贸易运营模式。趋势之下,一批中国电商、泛娱乐等企业利用自身的平台、技术、服务等优势跨境出海,在众多新兴市场迎来发展机遇。 siyushenqi.com 2025 年 8 月 3 日 455000 行业动态 如何用私域神器黑科技海外社媒营销? 在海外社媒营销中,结合“私域流量”概念和工具(常被称作“私域神器”或“黑科技”)需要谨慎操作,避免违反平台规则或触犯法律。以下是合规且高效的策略框架,分为工具应用和运营方法两部分: 一、工具应用:自动化与数据驱动1. 智能客服与聊天机器人工具:ManyChat、Chatfuel(Facebook Messenger)、Intercom应用:自动回复粉丝消息,… siyushenqi.com 2025 年 8 月 13 日 下午11:37 401000 行业动态 试用完谷歌的Gemini,我只想说GPT-4有点菜。 谷歌推出了最新的人工智能模型 Gemini(双子座 )。 siyushenqi.com 2025 年 8 月 13 日 377000 行业动态 董宇辉变成了董老板,彻底翻身了 董老板招人吗? siyushenqi.com 2025 年 8 月 5 日 466000 行业动态 小游戏后,今年第二个游戏公司创业风口已出现 短剧的制作成本较低、制作周期短,可以快速跟踪热点制作上线,多重情绪而非内容……这一连串的描述听起来是不是有些耳熟? siyushenqi.com 2025 年 8 月 18 日 526000 行业动态 Valve 等六家发行商因游戏锁区违反被欧盟处罚,金额合计780万欧元 近日欧盟委员会宣布,对 Valve 等六大游戏发行商进行处罚,罚金合计为780万欧元(约合人民币6105.68万元)。 siyushenqi.com 2025 年 8 月 25 日 464000 行业动态 东南亚塞不下小腾讯 碰壁的闪电式扩张 siyushenqi.com 2025 年 8 月 12 日 401000 美妆篇:把“东方特产”种到海外 美妆出海浪花滚滚,暗礁潜伏无孔不入 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 432000 行业动态 ChatGPT正式成为AI搜索,免费可用 OpenAI 在 ChatGPT 两岁生日时宣布推出 ChatGPT search,这标志着 ChatGPT 消除了即时信息获取的短板,现在可以通过网络资源链接快速、及时地获取答案。 siyushenqi.com 2025 年 8 月 13 日 500000 重磅!Send to Door全球到门一站式物流平台正式上线啦 2023年8月15日,Sendto Door 正式上线啦! siyushenqi.com 2025 年 8 月 13 日 • 行业动态 437000 不在东南亚卷,王者荣耀海外服首选巴西 不必要,还是不要直接对垒 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 477000 三消之后合成玩法再爆发 这款新作上线即登顶韩国iOS免费榜 三消赛道竞争激烈,合成赛道有望成为下一个主流 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 486000 行业动态 亚马逊转变时尚零售战略,关闭实体店专注线上 强者更善于适应变化,并做出调整。 siyushenqi.com 2025 年 8 月 12 日 435000 游戏玩法和付费模式正在悄悄迎来巨变 不知道从什么时候开始,那些最赚钱的新游戏,都很难用一个词解释清楚。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 527000 行业动态 AMD、OpenAI联合发布超强AI芯片 AMD在2025全球AI发展大会上发布了Instinct MI400和MI350系列AI芯片,与英伟达的Blackwell芯片竞争,OpenAI联合创始人Sam Altman出席并参与发布。 siyushenqi.com 2025 年 8 月 13 日 518000 自 iOS 14.5 发布以来,热门 SDK 有哪些? iOS 14.5 的影响是毋庸置疑的——在失去用户级别数据的情况下,移动市场数据变得比以往任何时候都更加重要。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 538000 行业动态 突发!OpenAI CTO Mira Murati离职,高层动荡继续 一波接着一波,OpenAI 到底怎么了? siyushenqi.com 2025 年 8 月 13 日 428000 发表回复 请登录后评论...登录后才能评论 提交