OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺 siyushenqi.com • 2025 年 8 月 13 日 下午11:19 • 行业动态 • 阅读 449 人工智能(AI)的安全问题,正以前所未有的关注度在全球范围内被讨论。 人工智能(AI)的安全问题,正以前所未有的关注度在全球范围内被讨论。 日前,OpenAI 联合创始人、首席科学家 Ilya Sutskever 与 OpenAI 超级对齐团队共同领导人 Jan Leike 相继离开 OpenAI,Leike 甚至在 X 发布了一系列帖子,称 OpenAI 及其领导层忽视安全而偏爱光鲜亮丽的产品。这在业界引起了广泛关注,在一定程度上凸显了当前 AI 安全问题的严峻性。 5 月 21 日,图灵奖得主 Yoshua Bengio、Geoffrey Hinton 和姚期智联合国内外数十位业内专家和学者,在权威科学期刊 Science 上刊文,呼吁世界各国领导人针对 AI 风险采取更有力的行动,并警告说,“近六个月所取得的进展还不够”。 他们认为,AI 的无节制发展很有可能最终导致生命和生物圈的大规模损失,以及人类的边缘化或灭绝。 在他们看来,AI 模型的安全问题,已经上升到足够威胁人类未来生存的水平。 同样,AI 模型的安全问题,也已经是可以影响每一个人、每一个人都有必要关心的话题。 5 月 22 日,注定是人工智能史上的一个重大时刻:OpenAI、谷歌、微软和智谱AI 等来自不同国家和地区的公司共同签署了前沿人工智能安全承诺(Frontier AI Safety Commitments);欧盟理事会正式批准了《人工智能法案》(AI Act),全球首部 AI 全面监管法规即将生效。 再一次,AI 的安全问题在政策层面被提及。 人工智能首尔峰会“宣言” 在以“安全、创新、包容”为议题的“人工智能首尔峰会”(AI Seoul Summit)上,来自北美、亚洲、欧洲和中东地区的 16 家公司就 AI 开发的安全承诺达成一致,共同签署了前沿人工智能安全承诺,包括以下要点: 确保前沿 AI 安全的负责任治理结构和透明度; 基于人工智能安全框架,负责任地说明将如何衡量前沿 AI 模型的风险; 建立前沿 AI 安全模型风险缓解机制的明确流程。 图灵奖得主 Yoshua Bengio 认为,前沿人工智能安全承诺的签署“标志着在建立国际治理制度以促进人工智能安全方面迈出了重要一步”。 作为来自中国的大模型公司,智谱 AI 也签署了这一新的前沿人工智能安全承诺,完整签署方名单如下: 对此,OpenAI 全球事务副总裁 Anna Makanju 表示,“前沿人工智能安全承诺是促进更广泛地实施先进 AI 系统安全实践的重要一步。” Google DeepMind 总法律顾问兼治理主管 Tom Lue 说道,“这些承诺将有助于在领先开发者之间建立重要的前沿 AI 安全最佳实践。” 智谱AI 首席执行官张鹏表示,“伴随着先进技术而来的是确保 AI 安全的重要责任。” 日前,智谱AI 也受邀亮相 AI 顶会 ICLR 2024,并在题为“The ChatGLM's Road to AGI”的主旨演讲中分享了他们针对 AI 安全的具体做法。 他们认为,超级对齐(Superalignment)技术将协助提升大模型的安全性,并已经启动了类似 OpenAI 的 Superalignment 计划,希望让机器学会自己学习、自己判断,从而实现学习安全的内容。 他们透露,GLM-4V 即内置了这些安全措施,以防止产生有害或不道德的行为,同时保护用户隐私和数据安全;而 GLM-4 的后续升级版本即 GLM-4.5 及其升级模型,也应当基于超级智能(Superintelligence)和超级对齐技术。 我们也发现,在一篇近期发表的论文中,智谱AI、清华团队介绍了一种通过利用大量自生成的否定词而实现的无反馈(feedback-free)大型语言模型对齐方法——Self-Contrast。 据论文描述,在只有监督微调(SFT)目标的情况下,Self-Contrast 就可以利用 LLM 本身生成大量不同的候选词,并利用预先训练的嵌入模型根据文本相似性过滤多个否定词。 论文链接:https://arxiv.org/abs/2404.00604 在三个数据集上进行的直接偏好优化(DPO)实验表明,Self-Contrast 可以持续大幅超越 SFT 和标准 DPO 训练。而且,随着自生成的负样本数量增加,Self-Contrast 的表现也在不断提高。 总的来说,这一研究为偏好数据缺失情况下的对齐(如 RLHF 方法)提供了一种新的方法。在偏好数据标注代价昂贵且难以获得的情况下,可以利用未标注的 SFT 数据构建语法偏好数据,通过增加负样本的数量来弥补因正样本不足造成的性能损失。 欧盟理事会正式批准《人工智能法案》 同日,欧盟理事会也于同日正式批准了《人工智能法案》(AI Act),这是全球首部 AI 全面监管法规,这一具有里程碑意义的人工智能法规将于下月生效,目前仅适用于欧盟法律范围内的领域,或将为商业和日常生活中使用的技术设定一个潜在的全球基准。 “这部具有里程碑意义的法规是世界上第一部此类法规,它解决了一个全球性的技术挑战,同时也为我们的社会和经济创造了机遇,” 比利时数字化大臣 Mathieu Michel 在一份声明中说。 这一综合性的 AI 立法采用“基于风险”的方法,意味着对社会造成伤害的风险越高,规则就越严格。例如,不构成系统性风险的通用目的 AI 模型将承担一些有限的要求,但那些具有系统性风险的则需要遵守更严格的规定。 对违反《人工智能法案》中行为的罚款,该法案设定为违规公司前一个财年全球年营业额的百分比或预定的金额,以较高者为准。 如今,无论是小到科技公司,还是大到政府机构,都已经将预防、解决 AI 安全问题提上日程。正如牛津大学工程科学系教授 Philip Torr 所言: “在上一次人工智能峰会上,全世界一致认为我们需要采取行动,但现在是时候从模糊的建议转变为具体的承诺了。” 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33769.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 利润暴涨628%,AI霸主英伟达全产业链投资图鉴 上一篇 2025 年 8 月 13 日 下午11:19 微软要将AI融入《我的世界》,为了教你怎么玩游戏 下一篇 2025 年 8 月 13 日 下午11:20 相关推荐 行业动态 私域神器每周合作精选 No.100|H5游戏研发及APK游戏研发;自有平台寻游戏产品海外发行;海外短剧APP寻短剧版权合作 本期精选的合作类型涵盖H5游戏研发及APK游戏研发;自有平台寻游戏产品海外发行;海外短剧APP寻短剧版权合作等。接下来就一起看看吧~ siyushenqi.com 2025 年 8 月 18 日 485000 行业动态 叠纸新投资《火环》开发商,占股7.67% 近日,苏州叠纸网络科技股份有限公司(下称「叠纸网络」)新投资了上海月胧吟网络科技有限公司(下称「月胧吟」),占股7.67%。 siyushenqi.com 2025 年 8 月 25 日 484000 出海韩国,如何避开那些法律坑?结合最近一年韩国市场来聊聊 作为中国的近邻,韩国一直也是国产游戏出海的首选地区之一。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 538000 链接游戏饰品交易新业态,Airwallex空中云汇如何化解游戏出海平台支付困扰? 进入2023年中,尽管全球的游戏厂商都面临着饱和竞争、成本上涨的压力,但国产游戏出海依旧如火如荼。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 421000 亚马逊又一政策变动,大批卖家:要破产了? 亿级大卖被扣留150万,这一新政波及3万亚马逊卖家! siyushenqi.com 2025 年 8 月 13 日 • 行业动态 453000 Habby是如何保障持续的产品成功? 上周我们介绍了Habby的新游《蛇蛇貪吃》,游戏也如我们所料,已经在全球各个地区崭露头角,成为Habby又一个潜力爆款产品。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 493000 行业动态 进口游戏终获版号,国家新闻出版署公布2022年44款过审产品信息 新一轮过审信息来了! siyushenqi.com 2025 年 8 月 24 日 549000 一天只卖两小时,年收入超1500万!“白菜价”的临期食品太赚钱了! 电商让实体店纷纷倒闭?那是你没有抓住电商给社会带来的新商机! siyushenqi.com 2025 年 8 月 13 日 • 行业动态 436000 行业动态 我没想到一款买量型游戏这么敢…… 掌握流量密码,杀出重围。 siyushenqi.com 2025 年 8 月 18 日 455000 行业动态 阿里巴巴的东南亚战事:另一次拼多多式的奇袭 Lazada 是怎么被 Shopee 反超的? siyushenqi.com 2025 年 8 月 13 日 379000 行业动态 全球电商“低价化”竞争难避,亚马逊出手了…… 亚马逊与四小龙的正面竞争拉开帷幕。 siyushenqi.com 2025 年 8 月 5 日 413000 行业动态 上线4个月,霸榜10+地区图形设计榜Top1,AI logo生成器爆火亚洲 B端or C端,AI文生图再探商业化之路。 siyushenqi.com 2025 年 8 月 13 日 429000 对于“萌文化”输出 这家低调的国内厂商掌握了精髓 离开萝萝山,走向梦幻城。 siyushenqi.com 2025 年 8 月 21 日 • 行业动态 428000 行业动态 2024,《和平精英》要迎来最“猛”的一年了? 引领品类,超脱品类。 siyushenqi.com 2025 年 8 月 18 日 477000 行业动态 名创优品版“泡泡玛特”,要上市了 9月26日递交港股招股书,背靠名创优品,2025上半年营收13.6亿元、净利1.8亿元,三年复合增长率超50%,欲借资本力量挑战泡泡玛特“一超”地位。 siyushenqi.com 2025 年 10 月 7 日 392000 泰国没有冬季,市场没有空隙 跨国合作的前提条件就是郎有情妾有意。 siyushenqi.com 2025 年 8 月 19 日 • 行业动态 322000 行业动态 5分钟吃透报价全流程,外贸人必看 做外贸的小伙伴都知道,报价是成单的第一道门槛—— 算错成本会亏,报高了会丢客户,手动做报价单还总被繁琐流程拖效率。 今天就把外贸报价的核心计算公式、报价单构成逻辑,以及能帮你省80%时间的工具整理好,从新手到熟手都能直接用。 一、核心报价公式 外贸常用的EXW、FOB、CIF报价,很多人容易混淆逻辑或漏算费用,这里直接给「公式+实例」,照着算就对了。 1. … siyushenqi.com 2025 年 8 月 13 日 下午11:19 449000 行业动态 “仅退款”争议背后:沉默的消费者消失在舆论场 中国电商消费者真的被过度保护了吗? siyushenqi.com 2025 年 8 月 5 日 459000 三十多岁,他从《仙剑7》开发团队离开,做了一款登上B站热门的游戏 2019年7月9日,神经刀在B站上传了名为“见证 一个国内独立游戏工作室 诞生到灭亡的全过程”的视频,宣布自己正式开始着手组建工作室,开发自己的游戏。彼时,他还是北京软星《仙剑奇侠传7》开发团队的一员。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 488000 行业动态 单日破万单,3D玩具美区走红!TikTok Shop美国小店(3.4-3.10)新榜 本期(2024年3月4日—3月10日)TikTok Shop 美国站“品类周榜”及“店铺周榜"销量数据分析,帮助卖家及时了解 TikTok Shop 美国小店最新市场现状,掌握选品趋势。 siyushenqi.com 2025 年 8 月 9 日 550000 行业动态 Ugamedeal、神策数据 确认入驻PAGC 2025丨第五届全球产品与增长展会! Ugamedeal、神策数据 确认入驻PAGC 2025丨第五届全球产品与增长展会! siyushenqi.com 2025 年 8 月 17 日 451000 行业动态 Z世代渴望掌握社交权力?2023全球社交媒体六大趋势 截至2022年,全球社交媒体的使用人数已达47.4亿 siyushenqi.com 2025 年 8 月 24 日 454000 行业动态 跨境电商,寻找下一张船票 TikTok Shop通过完善物流履约、用户体验等生态能力,促进内容电商模式落地,实现GMV增长,成为跨境电商的重要平台。 siyushenqi.com 2025 年 8 月 5 日 449000 行业动态 抖音卖货百亿,揭秘疯狂小杨哥和他背后的公司 因为小杨哥和三只羊崛起,合肥的城市标签多了一个“电商之城”。 siyushenqi.com 2025 年 8 月 5 日 444000 Temu以色列站点上线,拼多多海外开足马力抢市场 推出以色列站点,Temu正式进军中东电商市场。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 465000 行业动态 RCS群发的定义、优势及未来发展方向 RCS群发作为一种基于富媒体通信协议的短信群发技术,突破了传统短信的限制,支持多媒体内容传输,提升了用户互动性和营销效果。与传统短信相比,RCS群发能够嵌入图片、视频等多种内容形式,并允许用户实时互动,促进个性化营销。未来,RCS群发... siyushenqi.com 2026 年 1 月 25 日 461000 行业动态 利用RCS群发实现精准触达的客户细分策略 RCS群发通过提供多种互动功能和丰富的多媒体支持,使企业能够实现更加个性化和智能化的客户触达。相比传统短信,RCS的跨平台支持和数据分析功能使得营销策略更加精准。结合客户细分策略,企业可以根据不同客户群体的需求和行为,定制个性化的营销... siyushenqi.com 2026 年 1 月 25 日 394000 百度国际、Snapchat、钛动科技、字节飞书确认入驻第三届全球产品与增长大会展位 百度国际、Snapchat、钛动科技、字节飞书确认入驻第三届全球产品与增长大会展位 siyushenqi.com 2025 年 8 月 21 日 • 行业动态 502000 行业动态 AI中场,谷歌和百度的爆发式加速 百度和谷歌以领先姿态进入产业下半程,充满后劲,不被形态束缚的AI将在全栈玩家的推动下,以更多可能性融入人们生活。 siyushenqi.com 2025 年 8 月 13 日 444000 行业动态 微软发布5大AI Agent模式:一键解锁AI员工,打造智能体工厂 AI Agent>传统RPA,除自动化外,还能推理、协作并挖掘新见解,直接调用API、更新系统、完成端到端任务。 siyushenqi.com 2025 年 8 月 15 日 442000 发表回复 请登录后评论...登录后才能评论 提交