GPT-5恐被叫停!马斯克、图灵奖得主等千名专家呼吁暂停超强AI研发,至少6个月 siyushenqi.com • 2025 年 8 月 14 日 上午12:22 • 行业动态 • 阅读 385 GPT-4强到发指,不止群众们恐慌,今天,全世界的AI大佬们也出手了!千人发表联名信,呼吁所有人暂停训练比GPT-4更强的AI。 就在刚刚,网上曝出了一封千位大佬的联名信,要封杀所有比GPT-4强的AI! 在这封联名信上,超过1000位大佬呼吁——我们应该立即停止训练比GPT-4更强大的AI系统,暂停期至少6个月。 目前签名的有,图灵奖得主Yoshua Bengio、Stability AI首席执行官Emad Mostaque、苹果联合创始人Steve Wozniak、纽约大学教授马库斯、马斯克,以及「人类简史」作者Yuval Noah Harari等等。 看看这根本看不到头的签名,大佬含量过高了。 能够集齐一千多位大佬的签名,想必这项联名已经准备多时了。 不过,同样作为图灵奖得主的Yann LeCun并没有签署:「我不同意这个前提。」 另外,签名中还出现了一个所谓的「OpenAi CEO」,但根据马库斯和一众网友的推测,应该不是本人签的名。整件事非常扑朔迷离。 截止发稿前,他还特地@了一下Sam Altman确认消息。 大佬联名:叫停比GPT-4强的AI 公开信表示,大量研究表明,得到顶级AI实验室的认可、具有人类竞争智能的AI系统,可能对社会和人类构成深远的风险。 正如广泛认可的Asilomar AI原则中所述,高级AI可能意味着地球生命史上的深刻变化,我们应该投入相应的考量和资源,对之进行规划和管理。 不幸的是,到现在为止,还没有任何人采取行动。 最近这几个月,全球的AI实验室已经完全失控了,它们疯狂地开展AI竞赛,来开发和部署更强大的AI,而没有任何人可以理解、预测、控制这些AI,连它们的创造者都不能。 如今,AI系统在一般系统上已经变得和人类一样有竞争力,我们必须扪心自问: 是否应该让机器用宣传和谎言充斥我们的信息渠道? 是否应该让所有的动作都变得自动化,即使是令人满意的工作?是否应该发展可能某一天会超越我们、淘汰我们、取代我们的非人类智能?是否应该冒险失去对人类文明的控制? 任何未经选举产生的技术领导者,都没有权利做出如此重要的决定。 只有当我们确信,这种AI的影响是积极的、风险是可控的时候,才应该开发强大的AI系统。而且,我们必须有充分的理由相信这一点,潜在的影响越大,我们就更加需要确信这一点。 OpenAI最近关于通用人工智能的声明指出,「某个阶段,在开始训练未来的系统之前,进行独立的审查可能非常重要,而对于创建新模型所用算力的增长速度,也应该有所限制。」 我们同意这一点,而那个时间点,就是现在。 因此,我们呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统,至少6个月。 这种暂停应该向所有人公开,所有人都可验证,并且要涉及所有关键成员。如果不能迅速暂停,就应该让政府介入。 在这6个月内,所有AI实验室和独立学者都应该合力开发一套共享安全协议,用于高级AI的设计和开发。协议完成后,应该由独立的外部专家进行严格的审计和监督。这些协议必须确保这些AI系统毋庸置疑的安全。 这并不是说,我们要绝对暂停AI的开发,只是说,我们应该从危险的竞赛中退后一步,转向具有涌现能力的、更大的、不可预测的黑箱模型。 所有的人工智能研究和开发,都应该重新聚焦于这一点——让当如今最强大的SOTA模型更加准确、安全、可解释、透明、稳健、对齐,值得人类信赖,对人类忠诚。 与此同时,开发者必须与政策制定者合作,大幅加快开发强大的AI管理系统。 系统至少应该包括: 专门负责监管AI的机构 出处和水印系统,从而帮助区分真实与生成的内容,并且能够跟踪模型的泄漏 强大的审计和认证系统 在AI造成伤害后,明确谁该承担责任 为AI安全技术研究提供强大的公共资金 人类可以享受AI带来的繁荣未来。在成功创建了强大的AI系统后,我们可以享受「AI之夏」,收获回报,设计上述系统,以造福所有人,给全人类一个适应的机会。 现在,我们的社会已经暂停其他可能造成灾难性影响的技术。对于AI,我们也该如此。 让我们享受一个漫长的AI夏天,而不是毫无准备地进入秋天。 很快,这封千位大佬签署公开信就引发了舆论的轩然大波。 支持的人认为对于AI的恐慌是合理的,因其训练效率太高,智能的水平每天都在膨胀。 反对的人甚至贴出了爱迪生指示人画的交流电害死人的宣传海报,认为这不过莫名的指控,在别有用心的势力在误导不明真相的群众。 Sam Altman,态度耐人寻味 从最近发生的事来看,这封信的到来,可谓是千呼万唤始出来。 从去年11月底,ChatGPT仿佛叩响了发令枪,全世界的AI机构都在疯狂冲刺,卷到红了眼。 而「始作俑者」的OpenAI,脚步也丝毫没有放慢,联合着金主爸爸微软,它隔一阵就给我们来一个暴击。 先进的AI工具带给人们的恐慌,一波又一波冲击着所有人。 今天,大佬们终于出手了。 而在昨日公开的访谈中,Sam Altman的话中,竟有了一些耐人寻味的表达。 他说,GPT系列为何会出现推理能力,OpenAI的研究者自己搞不明白。 他们只知道,在不断测试中,人们忽然发现:从ChatGPT开始,GPT系列开始出现了推理能力。 另外Altman在访谈中还说了这样石破天惊的一句:「AI确实可能杀死人类」。 而除了Altman,人工智能教父Geoffrey Hinton、比尔盖茨、纽约大学教授Gary Marcus最近也纷纷发出警示:AI消灭人类,真的不是空谈。 OpenAI研究员预测:AI将知道自己是AI 无独有偶,来自OpenAI治理团队的Richard Ngo,也对两年后AI的发展程度进行了预测。 在此之前,他是DeepMind的AGI安全团队的研究工程师。 根据Richard的预测,神经网络在发展到2025年底时将具备以下特性: 拥有人类水平的态势感知,比如知道自己是神经网络等 在撰写复杂且有效的计划方面超过人类 比大多数同行评审做得更好 可以自主设计、编码并分发完整的应用程序 在任何一项白领工作者可以在10分钟内完成的计算机任务上胜过任何人 编写能获奖短篇小说,以及长达5万字的书籍 生成连贯的20分钟电影 不过,优秀的人类在以下几个方面仍然会做得更好(尽管速度要慢得多): 写小说 连续数天稳定地执行一个计划 在科学研究上取得突破,比如定理的创新(尽管神经网络至少已证明了一个) 与神经网络控制的机器人相比,完成典型的体力劳动任务 此处补充一下,通俗地讲,态势感知(situational awareness)是指个体对周围环境中发生的事件和情况的感知、理解和预测。这包括了解周围环境的动态变化,评估这些变化对自己和他人的影响,以及预测未来可能出现的情况。 有关态势感知在AI研究中的具体定义,可以参阅下面这篇论文: 论文地址:https://arxiv.org/abs/2209.00626 Richard表示,自己的预测其实更接近2年,但由于不同人会采用不同的评估标准,所以2.75年似乎更稳健。 此外,这里提到的「预测」是指,Richard认为这个观点的可信度超过50%,但不一定比50%高很多。 需要注意的是,预测并没有基于任何与OpenAI有关的特定信息。 网友翘首以待GPT-5 相比于十分谨慎的大佬,网友们在体验了性能炸裂的GPT-4之后,显然已经迫不及待地等着GPT-5的到来了。 最近,关于GPT-5的预测,更是就像雨后春笋一般冒个不停…… (非官方) 根据一个神秘团队的预测,GPT-5将在GPT-4的基础上,带来一系列令人兴奋的功能和增强的性能,比如在可靠性、创造力和适应复杂任务方面的全面超越。 · 个性化模板:根据用户的特定需求和输入变量进行定制,提供更个性化的体验。 · 允许用户调整AI的默认设置:包括专业性、幽默程度、说话语气等。 · 自动将文本转换成不同格式:如静态图像、短视频、音频和虚拟模拟。 · 高级数据管理:包括记录、跟踪、分析和共享数据,从而简化工作流程并提高生产力。 · 辅助决策:通过提供相关信息和见解,协助用户做出明智的决策。 · 更强的NLP能力:增强AI对自然语言的理解和响应,使其更接近人类。 · 集成机器学习:允许AI不断学习和改进,随着时间的推移适应用户需求和偏好。 作为过渡的GPT-4.5 此外,这个团队还预测,作为过渡的GPT-4.5模型将在2023年9月或10月推出。 GPT-4.5将建立在2023年3月12日发布的GPT-4的优势基础上,为其对话能力和上下文理解带来更多的改进: 处理更长的文本输入 GPT-4.5可能会在保持上下文和连贯性的同时处理和生成更长的文本输入。这一改进将提高模型在处理复杂任务和理解用户意图方面变的性能。 增强的连贯性 GPT-4.5可能会提供更好的连贯性,确保生成的文本在整个对话或内容生成过程中始终关注相关主题。 更准确的回应 GPT-4.5可能会提供更准确和上下文相关的回应,使其成为各种应用的更有效工具。 模型微调 此外,用户可能也可以更加便捷地微调GPT-4.5,从而更有效地定制模型并应用于特定任务或领域,客户支持、内容创建和虚拟助手等。 参照目前GPT-3.5和GPT-4的情况,GPT-4.5很可能也会为GPT-5的创新奠定坚实基础。通过解决GPT-4的局限性并引入新的改进,GPT-4.5将在塑造GPT-5发展过程中发挥关键作用。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/34726.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 联网之后的ChatGPT,已经远不止“iPhone时刻”那么简单 上一篇 2025 年 8 月 14 日 上午12:21 上线3个月月流水70万+美金,一波“仿冒者”正乘AIGC风口低调捞金 下一篇 2025 年 8 月 14 日 上午12:22 相关推荐 行业动态 中国电商平台们,正在美国扮演鲶鱼 海外电商日子不好过了,但事情更有意思了。 siyushenqi.com 2025 年 8 月 12 日 432000 助力中企出海营销 中国版Adobe万兴科技启动“数字人共创事业合伙人”计划 5月25日,出海龙头、创意软件A股上市公司万兴科技(300624.SZ)在2023全球短视频直播电商峰会上,正式宣布旗下AIGC短视频出海营销神器万兴播爆(Wondershare Virbo)焕新发布。 siyushenqi.com 2025 年 8 月 14 日 • 行业动态 448000 年营收近10亿美元,他的独立站冲上类目第三 可穿戴技术已经存在了很长时间,它可以提供智能设备的大部分功能,并记录日常活动中的生物数据,可用来调节和监控个人的生活方式。由于COVID-19,可穿戴技术的使用出现了前所未有的增长。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 419000 行业动态 10亿,开年第一笔机器人融资,字节红杉都出手了 字节跳动首次出手,与红杉、深创投、北京/无锡国资等共同注资,自变量成为国内唯一集齐BAT+美团+字节投资图谱的具身智能公司。 siyushenqi.com 2026 年 1 月 12 日 362000 搜索量飙升!又一款可爱服装走红TikTok搜索量飙升!又一款可爱服装走红TikTok 随着出生率的下降,婴儿衣服和玩具的成本开始越来越少地分摊给多个孩子,这使得消费者能接受比在以往看来更为昂贵的宝宝产品,由此也将带动新一轮宝宝用品的消费潮。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 369000 王者荣耀国际服扩大测试规模,关于区域化发行策略的几点猜想 国内的“王者”到了海外还能守住“荣耀”吗? siyushenqi.com 2025 年 8 月 24 日 • 行业动态 545000 行业动态 苹果IDFA“灰犀牛”落地:iOS端买量成本将暴涨,中国游戏出海何去何从? 4月21日凌晨1点,一年一度的苹果春季发布会如期召开。 siyushenqi.com 2025 年 8 月 25 日 512000 2022年中东电商市场报告 本报告针对伊朗、以色列、卡塔尔、沙特阿拉伯、土耳其和阿拉伯联合酋长国这六大较有代表性的国家展开分析与对比。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 443000 行业动态 贪玩游戏海外发力,《热血江湖:归来》横扫韩泰越 在保留端游职业、地图、BGM等“原汁原味”元素的基础上,对画面高清化、技能特效升级,并加入自动挂机等移动端优化,实现怀旧与体验的平衡。 siyushenqi.com 2025 年 8 月 26 日 522000 行业动态 PhotonPay洞察:独立站电商如何从容应对“卡拒付”难题? 据Satiata数据显示,2022年全球电子商务因欺诈造成的损失估计为410亿美元,到2023年这一数字将进一步增长至480亿美元;全球近40%的电商卖家遭遇欺诈拒付的侵袭。 siyushenqi.com 2025 年 8 月 3 日 453000 ASA投放观察:国产出海游戏“入侵”日本市场热词 在此前的ASA投放观察中,我们一起纵览了日本区AppStore一部分顶级热门关键词 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 430000 行业动态 WhatsApp耐发号长期运维与管理经验 长期运维与管理经验 定期更新与软件管理 账号安全监控 用户体验优化 隐私保护与数据安全 长期运维与管理经验 WhatsApp耐发号的长期运维与管理经验强调系统的稳定性和安全性。确保WhatsApp账号的正常运行,不仅需要技术的支撑,还需通过日常的监控与优化来保障用户体验。... 定期更新与软件管理 为了应对不断变化的网络安全环境和用户需求,定期更新Whats… siyushenqi.com 2025 年 8 月 14 日 上午12:22 385000 行业动态 AI能否带来广泛繁荣? 初步案例和成本下降显示 AI 可显著提升生产力,但落地受限于数据获取、知识传播和学习曲线。 siyushenqi.com 2025 年 8 月 13 日 516000 2022PAGC | 雷霆/卓动等大厂齐聚深圳 研发发行对接合作别错过 2022年6月16日·深圳·万怡酒店,私域神器举办的2022产品与增长大会正在火热报名中! siyushenqi.com 2025 年 8 月 25 日 • 行业动态 468000 行业动态 一款“不存在”的中国啤酒,是怎么在海外火起来的? 宜昌啤酒畅销俄罗斯,宜昌人却不知道。 siyushenqi.com 2025 年 12 月 16 日 398000 当游戏角色第一次出现在联合国妇女署演讲台 在刚结束的《和平精英》三周年庆上,一位数字人吸引了大众的注意,她就是《和平精英》的数字代言人吉莉。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 447000 国产三消出海的春天来了? 国内厂商又在海外攻下一个品类。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 467000 行业动态 2022年法国跨境网购消费趋势报告 法国消费者正在追赶电子商务浪潮,但同时仍热衷于线下购物。 siyushenqi.com 2025 年 8 月 12 日 457000 从不逼肝不逼氪到主动发起价格战,AI加持的逆水寒手游就这么有底气? 网易正在用AI颠覆MMO。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 474000 行业动态 小米入局AI眼镜赛道:是中国版Meta,还是下一个闪极? 小米在6月26日晚的发布会上推出了首款AI智能眼镜,其产品设计与Meta Ray-Ban Classic高度相似,定价策略也较为接近。尽管Meta已经在智能眼镜领域验证了商业模式的可行性,但小米要想复制成功并非易事,面临着技术壁垒、生态建设、用户习惯培养等多重挑战。 siyushenqi.com 2025 年 8 月 13 日 450000 年售1亿欧元!DTC袜子品牌Happy Socks是如何做到的? Happy Socks的袜子有何特别之处?它为何成为了用户心目中的“快乐袜子”? siyushenqi.com 2025 年 8 月 12 日 • 行业动态 494000 行业动态 Tap4Fun投资创业公司志爱之陆,持股14.7% 大概又是做SLG的公司 siyushenqi.com 2025 年 8 月 19 日 431000 行业动态 万字长文,读懂东南亚玩具和潮玩市场(上篇) 1、东南亚生育率高,利好玩具市场 2、各国偏好不同,益智类玩具被日渐重视 3、玩具线下销售是主流,但线上比例在提升 siyushenqi.com 2025 年 8 月 12 日 520000 行业动态 卖出近10万台Loona后,可以科技融资亿元,推出全新AI桌面机器人,亮相CES 由“手机+基座”组成的桌面助手机器人。 siyushenqi.com 2026 年 1 月 15 日 538000 行业动态 字节大模型内部赛马,下一个爆款 or 烧钱深坑? Sora和Suno作为视频和音乐生成大模型的代表,在全球范围内受到热捧,预示着AI生成内容(AIGC)领域的巨大潜力。 siyushenqi.com 2025 年 8 月 13 日 402000 独立游戏出海时代,如何依靠发行商私域神器起航? 许多独立游戏开发者都会有这样的疑问:自己是否需要与发行商合作?针对这个问题,海外著名独游发行公司CEO David Logan为大家详细列举了发行商所能提供的服务,以此来帮助大家在发行问题上做出正确选择。希望对正在准备独立游戏出海的团队带来一些帮助。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 474000 行业动态 Shopee加入巴西合规计划,卖家迎来重大利好 Shopee正在全力深耕巴西电商市场。 siyushenqi.com 2025 年 8 月 12 日 471000 行业动态 日本二游扛把子?学园偶像大师重铸万代IP荣光 今年5月,原本沉寂了许久的日韩二次元手游市场终于再起波澜。 siyushenqi.com 2025 年 8 月 18 日 472000 双IP加持下 这款无厘头的卡牌类手游迅速在越南打开市场 乌龙院+蘑菇头,无厘头游戏席卷越南 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 409000 行业动态 2023年2月成功出海的中国手游 -《原神》成海外收入和增长双料冠军,多款MMORPG新游海外收入增长亮眼 2023年2月成功出海的中国手游 -《原神》成海外收入和增长双料冠军,多款MMORPG新游海外收入增长亮眼 siyushenqi.com 2025 年 8 月 24 日 525000 发表回复 请登录后评论...登录后才能评论 提交