ChatGPT老板警告:AI可能灭绝人类 siyushenqi.com • 2025 年 8 月 14 日 上午12:36 • 行业动态 • 阅读 423 图灵奖得主Bengio和Hinton,同时警告AI可能灭绝人类! 图灵奖得主Bengio和Hinton,同时警告AI可能灭绝人类! 就在昨夜,一封签署名单多达350人的公开信迅速传播开去,信中核心只有一句话: “降低AI灭绝人类的风险”,应该像流行病和核战争等其它社会规模的风险一样,成为全球的优先事项。 签署这封公开信的,既包括三大AI巨头的CEO,即ChatGPT老板、OpenAI的Sam Altman,DeepMind的Demis Hassabis和Anthropic的Dario Amodei; 也包括不少国内外高校的教授,除了Yoshua Bengio和Geoffrey Hinton以外,清华AIR院长张亚勤和斯坦福教授、图灵奖得主Martin Hellman等人也名列其中。 这段时间来,关于AI风险的各种大小讨论也是接连不断,OpenAI CEO Sam Altman前段时间还倡议称,人们应当像对待核设施一样监管AI。 所以,究竟是谁发起的这封公开信倡议,又是否有AI大牛反对这件事? 为何签署这封信? 发布这封公开信的机构名叫Center for AI Safety(CAIS),是一家关于AI安全的非营利组织。 在这封公开信的开头,CAIS反复强调: 包括AI专家、记者、政策制定者和公众在内,越来越多的人开始讨论AI带来的一系列重要和紧迫的风险。 即便如此,要想表达对先进AI的严重风险,可能还是有一定难度。这封公开信旨在克服这一障碍,并展开对相关议题的讨论,让更多专家和公众人物认识到这一点。 事实上,已经有不少签署了这封信的AI大牛,最近发了关于AI风险的博客文章、或是在访谈中谈到了自己的观点。 例如前段时间,Yoshua Bengio就写了一封长信,警告称“人类大脑是生物机器,一定会有超级智能AI超越它”。 除此之外,包括Stability AI的创始人Emad Mostaque、以及剑桥大学助理教授David Krueger等人,也都在最近的访谈中提到了关于AI带来的潜在危害。 例如,Emad Mostaque认为,10年后包括Stability AI、OpenAI和DeepMind在内,这些AI公司的规模甚至会超过谷歌和Facebook。 也正是因此,AI风险是一个必须要考虑的事情: 我们可能正处于全面变革的风口浪尖,这些变革对于任何一家公司或是国家来说都太过庞大,以至于难以管理。 没签的AI大牛怎么说? 当然,这波闹得沸沸扬扬的“请求AI监管”浪潮下,也有不少反对的声音。 目前为止,包括另一位图灵奖得主Yann LeCun、前特斯拉AI总监Andrej Karpathy还有吴恩达等AI大牛在内,都还没签署这封联名信。 吴恩达发推回应称: 当我想到大部分人类生存面临的风险时:流行病、气候变化导致大规模人口减少、(撞击地球的)小行星…… AI将是我们寻找解决方案的关键部分。所以,如果你想让人类在接下来的1000年里生存和繁荣,那就让AI发展得更快,而不是更慢。 LeCun转发表示同意: “超人级”AI之所以不在风险列表榜首,很大程度上是因为它还不存在。至少我们在设计出达到狗智商(更不用说人类了)的AI之前,讨论它的安全性还为时过早。 对此,纽约大学教授Gary Marcus补充道: 不要把框架缩小到只关注人类灭绝的风险。AI其实还存在许多其他的严重风险,包括可能帮助开发生物武器等。 不过,Gary Marcus同样没有签署这份350人公开信。 显然包括不少AI大牛在内,反对者主要有两种意见。 一种意见认为,AI技术确实存在风险,但这封公开信涉及到的内容太泛泛。 如果有更精确的声明如“减轻AI技术的潜在风险应该是科技行业、政府和该领域学术研究人员的首要任务”,那么这封信还是可以签署的。 这封公开信中的内容根本就是夸大其词了,而且AI在气候变化等领域甚至可以起到降低风险的作用。 另一类意见则认为,这封信只不过是当前掌握最领先AI技术的人,试图控制AI接下来的走向而已。 以OpenAI的CEO Sam Altman为例: Sam Altman要是真的担心,大可以现在直接关掉ChatGPT服务器。 所以,你认为按照现在的进度来看,AI有可能灭绝人类吗? 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/35308.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 All in AIGC 万兴科技旗下万兴播爆桌面端即将开启公测 上一篇 2025 年 8 月 14 日 上午12:36 抢外包饭碗,AI做到了 下一篇 2025 年 8 月 14 日 上午12:36 相关推荐 行业动态 双11大促正式开始,淘宝、京东龙争虎斗 这注定是一场不平凡的双11。 siyushenqi.com 2025 年 8 月 5 日 414000 私域神器每周精选|多款精品游戏找发行,发行寻产品、投资产品团队合作(第7期) 更多优质合作需求可参看往期合集《私域神器每周合作精选》。您也可以关注私域神器公众号,回复关键字“合作集”查看合作精选专题。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 433000 行业动态 评论 | 人民文娱评周星驰进军微短剧 近日,周星驰宣布入局微短剧,和抖音联合开发运营“九五二七剧场”,首部微短剧作品《金猪玉叶》第一季预计今年5月上线。 siyushenqi.com 2025 年 8 月 18 日 462000 行业动态 2024年5月成功出海的中国手游 - 《鸣潮》问鼎增长榜,《Last War:Survival Game》蝉联收入冠军 5月日本收入和下载量同比激增66%和96%,带动海外收入再度提升7%至1.3亿美元,全球月活跃用户规模上涨12%,蝉联本期出海手游收入冠军,成为全球手游畅销榜Top5中最年轻的游戏。 siyushenqi.com 2025 年 8 月 18 日 494000 单品月流水过亿,出海SLG再添大将:三七互娱做对了什么? 凭借《Puzzles & Survival》(下文译作《末日喧嚣》)在全球范围内的高光表现,三七互娱已经连续两个月位居中国厂商出海收入排行的第九位。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 482000 行业动态 DataEye短剧热力榜:一剧排名上升30名,三平台霸榜半数!爆款承制方揭秘! 预计2023年中国微短剧投流规模超300亿元,2024年超400亿,2027年将超800亿元。 siyushenqi.com 2025 年 8 月 18 日 1.5K000 游族的二次元在日本开测,我第一眼就被这立绘吸引住了 将近两年后,游族网络又带来一款主攻日本市场的二次元手游——《Echocalypse -緋紅の神約-》 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 494000 行业动态 外贸单据工作过于琐碎?6个小窍门,让你工作更高效! 外贸公司中有很多岗位是需要协助外贸业务员做单据的工作,比较繁琐,并且都是数字,很容易出错。 所以有什么小窍门可以提高做单据的工作效率,并且保持准确度,减少失误呢? 这个工作说简单也简单,说难也难,虽然主要是一些paper work,但是需要对外贸流程非常熟悉,了解每个单据的作用、功能和要求,对单据和实际业务之间的关系要熟知,做单据的时候能够抓住重点。比如出口… siyushenqi.com 2025 年 8 月 14 日 上午12:36 423000 行业动态 剧点短剧&灵矩动漫 创始人兼CEO 王树波 确认担任 GICC2025丨第六届全球互联网产业CEO大会主峰会演讲嘉宾! 剧点短剧&灵矩动漫 创始人兼CEO 王树波 确认担任 GICC2025丨第六届全球互联网产业CEO大会主峰会演讲嘉宾! siyushenqi.com 2025 年 9 月 23 日 466000 行业动态 EA或将被私有化收购,估值500亿美元破历史记录 银湖+沙特PIF+库什纳Affinity组局,EA估值抬至500亿美元,或成全球史上最大游戏并购案,官宣最快下周。 siyushenqi.com 2025 年 9 月 29 日 410000 2.0更新全球爆火,我们对《原神》还应该有怎样的期待? 正如此前预料的那样,刚刚迈入2.0版本的《原神》,又一次在全球市场“杀疯了”。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 502000 暴击乐高,播放量达660万,国潮风积木走红海外! TikTok上多个视频达百万播放,国潮IP积木正在席卷海外! siyushenqi.com 2025 年 8 月 12 日 • 行业动态 506000 中国应用出海年终总结:2021年增长?吸金?风险?政策?看这篇就对了 魔幻2020年马上就要结束,在过去的一年里我们一起经历了新冠疫情的全球蔓延 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 531000 副镇长辞职,用鹿肉做亚马逊宠物零食,如今上市了 在海外,它不仅在亚马逊开店,也在沃尔玛取得了不错的业绩 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 482000 行业动态 传亚马逊准备推出新的农村配送服务,摆脱对美国邮政的依赖 据报道,亚马逊正在考虑推出自己的农村配送服务,进一步摆脱对美国邮政服务(US Postal Service)的依赖。 siyushenqi.com 2025 年 8 月 13 日 485000 行业动态 中国游戏十年:一个辉煌历程的开端 在这十年里,中国游戏行业完成了弯道超车,成为世界主要的游戏消费市场和主要的生产国 siyushenqi.com 2025 年 8 月 3 日 453000 行业动态 谷歌AI智能体首次上线手机 谷歌依然是科技领域的顶尖公司,其开发的Gemini技术实力不容小觑,尽管在话题度上可能稍逊于ChatGPT。 siyushenqi.com 2025 年 8 月 13 日 389000 行业动态 蜗牛睡眠 CEO 竹东翔 确认担任 GICC2025丨第六届全球互联网产业CEO大会主峰会圆桌嘉宾! 蜗牛睡眠 CEO 竹东翔 确认担任 GICC2025丨第六届全球互联网产业CEO大会主峰会圆桌嘉宾! siyushenqi.com 2025 年 9 月 30 日 476000 行业动态 OpenAI将进军社交网络平台 全球最大财经媒体之一CNBC报道,OpenAI正在考虑进军社交网络平台,与马斯克的X(已被xAI收购)和扎克伯格的Meta展开竞争。该项目目前仍处于早期阶段。 siyushenqi.com 2025 年 8 月 13 日 446000 用1年时间超越ZEPETO 韩国团队做了一个虚拟社交+空间创建+游戏的元宇宙App 玩法创新之后,如何考虑留住用户,扭转口碑,这是下一阶段Inside需要思考的问题 siyushenqi.com 2025 年 8 月 19 日 • 行业动态 512000 行业动态 爱立信:年底全球5G用户将达2.2亿 中国用户增长快于预期 据报道,爱立信今日预计,到今年年底,全球5G移动用户的数量达到2.20亿,高于之前预期的1.90亿。 siyushenqi.com 2025 年 8 月 26 日 524000 掌慧科技、速云科技、Vibe.co 确认入驻 GICC2025丨第六届全球互联网产业CEO大会 掌慧科技、速云科技、Vibe.co 确认入驻 GICC2025丨第六届全球互联网产业CEO大会 siyushenqi.com 2025 年 10 月 11 日 • 行业动态 403000 行业动态 2025,微短剧还会是风口吗? 微短剧因其快速节奏和紧凑剧情受到观众喜爱,市场规模预计将超过电影行业,2024年预计达到504.4亿元,预计到2027年将超过1000亿元。 siyushenqi.com 2025 年 8 月 17 日 478000 行业动态 Facebook将推免费云游戏平台 首发5款游戏含《狂野飙车9:竞速传奇》 Facebook也加入了云游戏平台之战! siyushenqi.com 2025 年 8 月 26 日 473000 行业动态 亚马逊重组AI团队 亚马逊成立全新AI业务单元,将AGI、芯片团队Annapurna Labs与量子计算研究一并整合,由AWS元老彼得·德桑蒂斯统管。 siyushenqi.com 2025 年 12 月 19 日 393000 行业动态 亚马逊开打美国生鲜外卖大战 亚马逊宣布已在1000+城镇上线生鲜杂货“当日达”,年底扩至2300+地区,并允许与百货同单合送。 siyushenqi.com 2025 年 8 月 15 日 430000 行业动态 东南亚塞不下小腾讯 碰壁的闪电式扩张 siyushenqi.com 2025 年 8 月 12 日 406000 中东社交大厂上市两月股价涨45% 游戏增长迅猛 | 中东出海秀 在本期榜单上,《PUBG Mobile》又当仁不让地拿下了沙特和土耳其两国畅销榜冠军。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 501000 登顶全球iOS免费榜近40个市场,《幻塔》为什么如此受全球用户欢迎? 国产游戏出海又一里程碑。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 495000 行业动态 如何通过RCS群发提升用户参与度和转化率 RCS(富通信服务)作为SMS的升级版,提供了更加丰富的消息体验。与传统短信的单向沟通不同,RCS支持多媒体内容传输和互动功能,有效提升品牌与用户之间的互动性。通过RCS群发,品牌能够直接在消息中嵌入互动元素,增强用户参与感,从而提升... siyushenqi.com 2026 年 1 月 25 日 326000 发表回复 请登录后评论...登录后才能评论 提交