超级AI不会主宰人类,但人工智能必须开源!LeCun最新采访引全网300万人围观 siyushenqi.com • 2025 年 8 月 13 日 下午10:52 • 行业动态 • 阅读 414 LeCun最新访谈视频中,再次坦露了自己对开源AI的看法。超级AI终有一天会诞生,但不会主宰人类。 LeCun一段近5分的视频,引起了全网300+万人的关注。 视频中,他再次重提对开源人工智能的几点看法: - 未来将出现超越人类智能的人工智能 - 这些人工智能将受到我们的控制 - 它们不会成为我们的主宰,也不会对我们构成威胁 - 它们将成为我们与数字世界互动的中介 - 因此,这些人工智能需要是开放的平台,这样每个人都能参与进来,帮助它们学习和优化。 对此,马斯克表示,我们的数字上帝将以csv文件的形式出现。LeCun回应道,如果它是开源的,无论你选择什么格式,都会有导入过滤器。 COSS创始人Joseph Jack调侃道,我们能不能直接让LeCun担任AI总统,然后就此结束今天的讨论。 智能与统治毫无干系,开源是必然 在未来的某个时刻,也许是几十年后,我们将拥有智能与人类相媲美的AI系统。 因为人类在不同领域有各自的专长,这些AI系统不仅同样如此,而且在人类擅长的领域中,甚至可能都要比人类聪明。 现在你可能会想,「天呐!这样的系统会不会掌控世界?」 No!智能与统治之间并没有必然的联系。 就拿人类来说,人类中有一部分人有控制欲,但并非人人都有,并且,想要统治的并不是我们当中最聪明的人。 其实,国际政治舞台上的各种事件都在证明这一点。这背后的原因可能来自自然进化,不够聪明的人需要依赖他人,因此也会应影响他人,但聪明的人可以独立生存。 第二个观点是,我们习惯于比自己更聪明的人一起工作。对于我来说,我曾经领导过的一个研究实验室,只雇佣比我聪明的人,与聪明的人一起工作的感觉很棒。 我们与未来AI助手的关系,它会在日常生活中帮助我们。 想象一下,未来10-20年,AI助手会在日常生活中帮助我们,而且可能会比我们更聪明。但它们的存在,是为了让我们更聪明。 我们命令它们,便会听命于我们。并不是因为它们聪明,就想要统治。 而这种统治欲其实源于,我们是社会性物种的本性。因此,我们需要有能力去影响他人。这也就是统治和服从的来源。 我们是一个有等级秩序的社会性物种,这也是进化论赋予我们的特征,像黑猩猩、狒狒狼等社会性动物一样。 但即便是猩猩这样的物种,智力接近人类,却没有被赋予控制他人的特征。 因此,控制和智能完全没有关系。 我们可以设计一个极其智能但不具备统治欲的系统,且非常聪明,也就是说,你给它们一个目标,就能帮你实现。 设定目标由我们人类来做,而这些系统会制定子目标。至于如何做到这一点的技术问题还没有解决,我们只是在想象未来的事情。 包括我之前谈到的「目标驱动的AI」,这只是未来。 想象一下,如果未来我们与数字世界、信息世界所有交互都是通过AI智能体来完成。 这些AI智能体将成为所有人类知识的宝库,与一个能进行对话和推理的「超级百科」类似,但知识比维基百科更丰富。 这将成为一个像现在的互联网一样的公共平台,它必须是开放的,而不是专有的,因为掌握在少数公司的超级AI将是非常危险的。 如果少数人控制着超级AI,便可以左右每个人的观点、文化等等。 所以,唯一的解决方案就是开源基础架构。这也是Meta开源Llama2的原因之一,因其是基础设施的一部分。 在此之前,Meta还发布了PyTorch,一个构建AI系统的软件系统,ChatGPT就是基于PyTorch构建的。 因此,这些系统必须是开源的,并且训练方式也必须是众包的,以确保它们成为所有人类的知识库。 这样,所有人类都可以为其中做贡献,而不是仅仅贡献给OpenAI、Meta或其他公司的专有系统。 它必须是开源的,无论听起来有多危险,但这是未来的必然趋势。 我们需要世界模型 对于超级AI的发展,LeCun一直以来都站在开源队列中。 就在本月初,他曾号召1700+位人工智能领域的专家和研究人员签署了一封联名信,呼吁AI更加开放。 在LeCun看来,当前自回归模型的能力远远不及人类,甚至都不如阿猫阿狗。 当被TED负责人问道,有没有一个理论能够证明人类大脑,而不是LLM能够推理。 LeCun表示,LLM以每个token的固定计算量生成答案。它们没有办法投入更多(可能是无限的)「时间和精力」来解决难题。这非常类似于人类快速和潜意识的「系统1」决策过程。 真正的推理和计划将允许系统搜索解决方案,使用潜在的无限时间。这种迭代推理过程更类似于人类有意识「系统2」。 这就是人类和许多动物在新情况下找到新问题的新解决方案的原因。 一些人工智能系统具有规划能力,即玩游戏或控制机器人的系统。AlphaGo、AlphaZero、Libratus和Cicero等游戏AI系统具有规划能力。与动物和人类相比,这些系统的规划能力仍然相当有限。 为了实现更通用的规划能力,人工智能系统需要拥有一个「世界模型」,即一个可以预测动作序列后果的子系统:给定时间t的世界状态,以及我可以采取的想象行动,在时间t+1时世界的合理状态是什么。通过世界模型,系统可以计划一系列行动以实现目标。 如何建立和训练这样的世界模型仍然是一个悬而未决的问题。更复杂的是如何将一个复杂的目标分解为一系列子目标。 这将实现分层规划,这是人类和许多动物可以毫不费力地做到的,但仍然完全超出了人工智能系统的能力范围。 网友热议 马库斯看后表示,他的每一句话中非常肯定,给人留下了深刻的印象。但如果他的一些前提(再次)被证明是错误的怎么办? 更多智能并不意味着更多危险。人工智能的威胁取决于编写损失函数的人是谁。 LeCun的演讲金句已被画出。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33320.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 秘密研发,“威胁人类”,一个代号就引发全网恐慌?OpenAI的Q*到底是啥? 上一篇 2025 年 8 月 13 日 下午10:52 字节跳动又放弃两个业务,想重新变回 AI 公司 下一篇 2025 年 8 月 13 日 下午10:52 相关推荐 行业动态 ChatGPT 越用人越傻? 随着大型语言模型(LLM)如ChatGPT的广泛应用,人们对其在教育领域的使用产生了诸多关注和担忧。本研究旨在探究使用LLM进行写作任务时的认知成本,以及这种使用方式对学生学习技能的潜在影响。 siyushenqi.com 2025 年 8 月 13 日 411000 行业动态 一个哪够?是时候让一群AI替你打工了 智能体,集合! siyushenqi.com 2025 年 8 月 13 日 455000 行业动态 春节AI红包战愈演愈烈 腾讯元宝借微信社交链低成本引流,豆包绑定春晚IP推科技礼包,阿里通义千问因流量过载系统崩溃,生态壁垒成AI竞赛决胜关键。 siyushenqi.com 2026 年 2 月 12 日 526000 点点首登发行商收入榜第2 世纪华通2024年游戏业绩大增 世纪华通又传捷报:在Sensor Tower发布的2024年12月中国手游发行商全球收入排行榜中,旗下点点互动凭借《Whiteout Survival》及《无尽冬日》在国内外市场的出色表现,全球收入增长11%,登上中国手游发行商全球收入榜第2的位置。 siyushenqi.com 2025 年 8 月 17 日 • 行业动态 457000 行业动态 苹果Search Ads的转化与点击如何提升?请关注元数据 此前,我们曾经谈到过苹果Search Ads(ASA)的点击和转化问题,也就是TTR和CVR。 siyushenqi.com 2025 年 8 月 3 日 389000 俄罗斯市场ASA开始投放两周,哪些产品冲在前线抢占红利? 5月4日,苹果正式在俄罗斯市场开放Apple Search Ads(ASA)投放,至今已经有约两周时间。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 491000 狼真来了?传亚马逊在内测类似Temu的全托管模式 目前,亚马逊内测全托管模式的消息,仅在跨境电商行业中流传,有待亚马逊官方进一步确认。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 433000 行业动态 限时下载|超百份能源化工行业干货PPT整理@跨盈年度B2B CMO峰会系列 本期我们将重点为大家分享能源化工行业的内容,这也是我们历年CC演讲嘉宾与参会代表所在的重点行业,相信对其他来自B2B行业的市场同仁,有一定的启发! siyushenqi.com 2025 年 8 月 3 日 429000 行业动态 Claude 4系列模型来了!编码能力强于o3和GPT-4.1,记忆性能大幅提升 人工智能初创公司Anthropic在美国旧金山举办的首届开发者大会上发布了两款Claude 4模型——Claude Opus 4和Claude Sonnet 4。Claude Opus 4向付费用户开放,Claude Sonnet 4向免费和付费用户开放。这两款模型都针对编程任务进行了优化,具备分析大型数据集、执行长期任务和采取复杂行动的能力。 siyushenqi.com 2025 年 8 月 13 日 521000 浙江大卖押中TikTok爆品,9个月营收11亿 高压清洗机恰好命中了TikTok爆火社群 siyushenqi.com 2025 年 8 月 12 日 • 行业动态 451000 行业动态 2024年,AI大厂押注东南亚 生成式AI继续火热。 siyushenqi.com 2025 年 8 月 13 日 446000 36地区榜单登顶,冲进多国热搜,《幻塔》在海外火了 《幻塔》国际版在海外市场打响了第一枪。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 491000 行业动态 一周要闻NO.133丨TikTok禁令将由特朗普新政府执行;网易连砍三家海外工作室;“洋抖难民”勇闯小红书 一起看看这周有哪些出海圈值得关注的大事记吧! siyushenqi.com 2025 年 8 月 14 日 388000 行业动态 卡普空宣布将生成式AI用于游戏开发,但禁用AI生成内容 卡普空计划在游戏开发中应用生成式AI提升效率,但明确不会在游戏内容中使用AI生成资产,强调AI是工具而非创意替代。 转自扬帆出海 2026 年 3 月 27 日 217000 行业动态 快手游戏《无尽梦回》台港澳新马服宣布停运 《无尽梦回》台港澳新马服宣布 2025 年 12 月 31 日正式停运,12 月 8 日双平台下架、关闭充值并开放退费,理由是“不可抗力”。 siyushenqi.com 2025 年 12 月 10 日 336000 用MMO思维做女性向产品?祖龙新作首日登顶港澳台新马免费榜 意料之外。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 461000 行业动态 跨境电商运营服务商SCI Ecommerce获4.4亿元融资 以下文章来源于 电商报 ,作者电商报,内容仅供网友参考学习。扬帆出海欢迎行业优质稿件投稿。 据36氪报道,近期 跨境电商 运营服务商赛一 电子商务 有限公司(SCI Ecommerce,简称: siyushenqi.com 2025 年 8 月 13 日 467000 曾创下游戏圈暴富神话,DAU破亿,它的续作正悄悄抢量“主打快准狠” 又来一个“智商检测器”? siyushenqi.com 2025 年 8 月 20 日 • 行业动态 426000 行业动态 2020年美国游戏市场收入569亿美元,任天堂成最大赢家 市场研究公司NPD集团近日发布了2020年美国游戏市场报告 siyushenqi.com 2025 年 8 月 25 日 509000 行业动态 Yalla也入局男性向三消游戏,还有多款自研产品即将上线?Q3财报亮了 营收、净利润、月活、付费用户数量均在增长,Yalla怎么做到的? siyushenqi.com 2025 年 11 月 12 日 385000 行业动态 昆仑万维发布全球首款音乐推理大模型Mureka O1,中国AI音乐革命领跑全球 3月26日,昆仑万维正式发布Mureka O1(全球首款音乐推理大模型)和Mureka V6模型。Mureka O1在性能上超越了Suno等竞争对手,登顶SOTA(State of the Art),展现了中国在AI音乐领域的创新实力。 siyushenqi.com 2025 年 8 月 13 日 575000 一周要闻 NO.89丨TikTok面临“二选一”;Yalla Q4净利增79%;ShortTV登顶美国下载榜 一周出海新鲜事汇总 siyushenqi.com 2025 年 8 月 14 日 • 行业动态 441000 行业动态 买不到用户的大模型,开始倒闭了 国内AI用户本来就不多,和大厂相比,B端企业拼不过价格,半年几乎没有商单可拿,C端用户推广,更是砸不过。 siyushenqi.com 2025 年 8 月 13 日 414000 年收3亿美金,复购率91%!又一“丑鞋”品牌占领鞋类市场? “丑鞋”热度依然居高不下。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 484000 行业动态 电商安全愈发重要,自建站卖家如何提高网站安全性? 随着关于网络安全威胁(如DDoS攻击、网络钓鱼、网站攻击等)的新闻报道层出不穷,电商安全对在线企业来说越来越重要。 siyushenqi.com 2025 年 8 月 13 日 436000 SHEIN 超越 Zara 成为全球最受欢迎的时装零售商 根据比价网站Money.co.uk分析的关键词数据,SHEIN已经取代 Zara 成为全球搜索次数最多的时装零售商。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 437000 行业动态 国产游戏俄罗斯ASA投放观察:数量少力度大,精品和细分领域开拓积极 众所周知,在ASA领域,每块新开放市场均会有不同时长的红利期,而在此期间进行ASA投放,是以相对较低成本获得优质流量的最佳时期。 siyushenqi.com 2025 年 8 月 26 日 490000 Slots游戏赛道:出海美国需注意哪些合规红线 随着中国手游海外发行经验的积累,美国市场成为各大厂商争夺的战略重点地区。 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 579000 行业动态 马化腾欲再造AI时代新微信 马化腾亲自站台元宝春节分10亿现金拉新,内测社交功能"元宝派",腾讯战略急转从跟随到进击,全力争夺AI超级入口。 siyushenqi.com 2026 年 1 月 29 日 434000 行业动态 陈天桥入局小模型 30B参数的MiroThinker 1.5以1/20成本、1/30参数,在复杂推理基准上追平万亿级大模型,验证“算力非唯一路径”。 siyushenqi.com 2026 年 1 月 9 日 361000 发表回复 请登录后评论...登录后才能评论 提交