「AI 七巨头」在白宫做出「8 大承诺」,他们都承诺了什么? siyushenqi.com • 2025 年 8 月 14 日 上午12:41 • 行业动态 • 阅读 411 对于「自愿承诺书」中 8 项承诺的解读 就在 Meta 公布了新一代开源大语言模型 Llama 2 三天之后,公司高层就和微软、OpenAI、亚马逊、Anthropic 等七家目前在 AI 行业中的巨头和炙手可热的创业公司管理人员,再次聚首美国白宫。 在这次的活动中,七家公司签订了一份「自愿承诺书」(Voluntary Commitments),就 AI 技术和研发的安全、透明、以及风险等做出「8 大承诺」。 AI 公司「求监管」的戏码,到此达到了一个小高潮。 NYT 专栏作者 Kevin Roose 撰文,详解了这「8 大承诺」到底都说了什么,以及因此带来的改变。 研究的结果是,这 8 项承诺,例如安全测试、分享 AI 安全信息、报告漏洞以及「优先用 AI 解决社会挑战」,看起来都是一些大问题,而对应的承诺也缺乏细节,其中不少问题本身就是 AI 公司已经「公示」给大众的。 此份「资源承诺书」,更像是过去半年美国监管层对 AI 公司数次问询的一次间接性的「成果展示」,很可能不具备太多执行层面的意义。但是,监管对于 AI 数次表示关切,标明政府对于 AI 技术应用的立场,才是这场秀最大的意义。 以下为 Kevin Roose 对于「自愿承诺书」中 8 项承诺的解读: 承诺 1:公司承诺在发布人工智能系统之前,对其进行内部和外部安全测试。 这些人工智能公司在发布之前都已经对其模型进行了安全测试——通常称为「红队测试」。从某种程度上来说,这并不是一个真正的新承诺,它很模糊。没有提供有关需要进行何种测试或由谁进行测试的详细信息。 在随后一份声明中,白宫仅表示,人工智能模型的测试「将部分由独立专家进行」,并重点关注「生物安全和网络安全等人工智能风险,及其更广泛的社会影响」。 让人工智能公司公开承诺继续进行此类测试,并鼓励测试过程更加透明,这是一个好主意。还有一些类型的人工智能风险——例如人工智能模型可用于开发生物武器的危险——政府和军事官员可能比公司更适合评估。 我很高兴看到 AI 行业就一系列标准安全测试达成一致,例如 Alignment 研究中心对 OpenAI 和 Anthropic 预发布的模型进行的「自主复制」测试。我还希望看到联邦政府资助此类测试,这些测试可能成本很高,并且需要具有重要技术专业知识的工程师。目前,许多安全测试都是由公司资助和监督的,这引发了明显的利益冲突问题。 承诺 2:公司承诺在整个行业以及与政府、民间社会和学术界分享有关管理人工智能风险的信息。 这个承诺也有点模糊。其中一些公司已经发布了有关其人工智能模型的信息——通常是在学术论文或企业博客文章中。其中一些公司,包括 OpenAI 和 Anthropic,还发布了名为「系统卡片」(System Cards)的文档,其中概述了他们为使这些模型更安全而采取的步骤。 但他们有时也会以安全问题为由隐瞒信息。当 OpenAI 今年发布最新的人工智能模型 GPT-4 时,它打破了行业惯例,选择不透露其训练数据量或模型有多大(称为「参数」的指标)。该公司表示,出于对竞争和安全的担忧,拒绝透露这一信息。这也恰好是科技公司喜欢远离竞争对手的数据类型。 根据这些新的承诺,人工智能公司是否会被迫公开此类信息?如果这样做有加速人工智能军备竞赛的风险怎么办? 我怀疑白宫的目标不是强迫公司披露其参数数量,而是鼓励他们相互交换有关其模型确实(或不)构成风险的信息。 但即使是这种信息共享也可能存在风险。如果谷歌的人工智能团队,在预发布测试期间阻止新模型被用来设计致命的生物武器,那么它是否应该在谷歌之外分享这些信息?这是否会给不良行为者,带来关于如何让一个较少保护的模型来执行相同任务的想法? 承诺 3:公司承诺投资网络安全和内部威胁防护措施,以保护专有和未发布的模型权重。 这个问题非常简单,在我采访过的人工智能内部人士中也没有争议。「模型权重」(Model Weights)是一个技术术语,指的是赋予人工智能模型运行能力的数学指令。如果你是外国政府(或竞争对手公司)的代理人,想要构建自己版本的 ChatGPT 或其他人工智能产品,那么权重就是你想要窃取的东西。人工智能公司严格控制这一点符合既得利益。 模型权重泄露的问题已经广为人知。 例如,Meta 的原始 LLaMA 语言模型的权重,在模型公开发布几天后就在 4chan 和其他网站上泄露。考虑到更多泄密的风险,以及其他国家可能有兴趣从美国公司窃取这项技术,要求人工智能公司在自身安全方面进行更多投资似乎是理所当然的事情。 承诺 4:两家公司承诺促进第三方发现,和报告其人工智能系统中的漏洞。 我不太确定这意味什么。每家人工智能公司在发布模型后,都会发现其模型中的漏洞,通常是因为用户试图用模型做坏事,或以公司未预见到的方式规避「越狱」。 白宫承诺要求公司针对这些漏洞建立「强大的报告机制」,但尚不清楚这可能意味着什么。 应用内反馈按钮,类似于允许 Facebook 和 Twitter 用户举报违规帖子的按钮?一个漏洞赏金计划,就像 OpenAI 今年启动的奖励在其系统中发现缺陷的用户的计划?还有别的事吗?我们将不得不等待更多细节。 承诺 5:公司致力于开发强大的技术机制,以确保用户知道内容何时由人工智能生成,例如水印系统。 这是一个有趣的想法,但留下了很大的解释空间。 到目前为止,人工智能公司一直在努力设计工具,让人们能够判断他们是否正在查看人工智能生成的内容。这有很好的技术原因,但当人们可以将人工智能生成的工作,冒充为自己的工作时,这就是一个真正的问题(问问任何一位高中老师。) 目前许多被宣传为能够检测人工智能输出的工具实际上无法以任何程度的准确性做到这一点。 我对这个问题能够完全解决并不乐观,但很高兴各公司承诺为此努力。 承诺 6:公司承诺公开报告其人工智能系统的功能、局限性以及适当和不适当使用的领域。 另一个听起来很明智的承诺,有很大的回旋余地。 公司多久需要报告其系统的功能和限制?这些信息必须有多详细?考虑到许多构建人工智能系统的公司在事后都对自己系统的功能感到惊讶,那么他们真的能在多大程度上提前描述这些系统呢? 承诺 7:公司承诺优先研究人工智能系统可能带来的社会风险,包括避免有害的偏见和歧视以及保护隐私。 致力于「优先考虑研究」是一种模糊的承诺。尽管如此,我相信这一承诺会受到人工智能道德人群中许多人的欢迎,他们希望人工智能公司,将预防偏见和歧视等近期伤害作为优先事项,而不是担心世界末日场景,就像人工智能安全人士所做的那样。 如果您对「人工智能伦理」和「人工智能安全」之间的差异感到困惑,请了解人工智能研究界内存在两个敌对派系,每个派系都认为对方专注于防止错误的伤害。 承诺 8:两家公司致力于开发和部署先进的人工智能系统,以帮助解决社会面临的最大挑战。 我认为没有多少人会认为,先进的人工智能不应该被用来帮助解决社会面临的最大挑战。白宫将「癌症预防」和「缓解气候变化」列为希望人工智能公司重点关注的两个领域,我对此不会有异议。 然而,让这个目标变得有些复杂的是,在人工智能研究中,一开始看起来无聊的事情往往会产生更严重的影响。 DeepMind 的 AlphaGo(一种经过训练可以玩棋盘游戏围棋的人工智能系统)所采用的一些技术在预测蛋白质的三维结构方面非常有用,这是一项促进基础科学研究的重大发现。 总体而言,白宫与人工智能公司的交易似乎更具象征意义,而不是实质性的。没有执行机制来确保公司遵守这些承诺,其中许多承诺反映了人工智能公司已经采取的预防措施。 尽管如此,这仍然是合理的第一步。 同意遵守这些规则表明人工智能公司,已经从早期科技公司的失败中吸取了教训,这些公司等到遇到麻烦才与政府接触。在华盛顿,至少在科技监管方面,尽早出现是值得的。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/35477.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 第一批AIGC独角兽开始裁员了 上一篇 2025 年 8 月 14 日 上午12:40 AI 新范式 内容生产新世代:2023 ChinaJoy AIGC 大会顺利召开 下一篇 2025 年 8 月 14 日 上午12:41 相关推荐 为求“好运”,这届TikTok网友们有多拼?卖家:希望我是爆单幸运儿 最近在TikTok上,就有一句“咒语”——“我很幸运”特别火 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 441000 行业动态 跨境大卖转战阿里国际站,竟成“爆单王”! 打破边界、抢占市场,这是很多外贸企业转型的方法和目的。 siyushenqi.com 2025 年 8 月 13 日 431000 行业动态 交出10亿流水成绩单 点点互动冰雪生存SLG在欧美中东赢麻了 题材差异打开市场缺口,灵活买量引入大量泛用户。 siyushenqi.com 2025 年 8 月 19 日 455000 行业动态 三个北方跨境电商小城的沸腾与冷却 在许多商业分析者的眼中,中国跨境电商行业是一幅由巨笔画就的抽象画。 siyushenqi.com 2025 年 8 月 13 日 410000 行业动态 1亿美元押注!郑志刚携手 JAKOTA Capital强势入局短剧产业 香港知名企业家郑志刚在商业布局上做出新动作,携手 JAKOTA Capital,强势进军全球短剧产业。 siyushenqi.com 2025 年 8 月 17 日 475000 行业动态 在大模型浪潮中锚定AGI 阶跃星辰成立于2023年4月,刚刚过完两岁生日,模型发布频率和产业落地探索加速。该公司累计发布了22款自研基座模型,覆盖文字、语音、图像、视频、音乐、推理等全系列,其中16款是多模态模型,占比七成,目前保持“月更”状态。 siyushenqi.com 2025 年 8 月 13 日 441000 行业动态 电商行业年度十大事件 凡是过往,皆为序章。 siyushenqi.com 2025 年 8 月 12 日 423000 行业动态 2024,游戏圈的变革将从春节档开始 风口,亦是探寻营销新思路的窗口。 siyushenqi.com 2025 年 8 月 18 日 421000 行业动态 TikTok矩阵在跨境电商中的成功应用案例 TikTok矩阵在跨境电商中的成功应用案例概述 多样化内容和精准营销 全球品牌曝光和市场扩展 用户互动与品牌忠诚度提升 实际案例分析 TikTok矩阵在跨境电商中的成功应用案例概述 TikTok,作为全球领先的短视频平台,通过其矩阵式内容推广策略,成功帮助众多跨境电商品牌提升了市场曝光度,吸引了广泛的全球用户。通过精准的用户画像分析和多样化的内容创作,Tik… siyushenqi.com 2025 年 8 月 14 日 上午12:41 411000 行业动态 2024年WhatsApp精聊账号防封与数据安全新策略 2024年整体策略框架与治理目标 精聊账号防封机制的系统性升级 数据安全与加密体系的技术演进 用户隐私控制与安全预警体系 常见问题 随着即时通讯平台在商业沟通、跨境协作和私域运营中的角色不断加重,账号稳定性与数据安全已经从“技术问题”上升为“系统性治理问题”。2024 年,WhatsApp 围绕精聊账号这一高频、高价值使用场景,推出了一套更具前瞻性的防封与安… siyushenqi.com 2025 年 8 月 14 日 上午12:41 411000 行业动态 日出20000单,福建跨境卖家“盲盒”卖炸了 在福建厦门其实有个卖家,依靠“盲盒”这一个玩法,就能做到日出20000单。 siyushenqi.com 2025 年 8 月 13 日 376000 行业动态 年入362万美元,狗狗训练App撬动宠物经济新赛道 毛孩子成长,也牵动家长心。 siyushenqi.com 2025 年 8 月 29 日 537000 行业动态 北京、上海、华南、福建、成都...2025出海代表都有谁!丨出海游戏公司盘点(上篇) 2025出海游戏公司风向标。 siyushenqi.com 2025 年 10 月 30 日 529000 行业动态 “水排序”及其变种玩法仍在加热期?游戏内购收入已超2000万美金 “解压又上头”系列又一扛把子。 siyushenqi.com 2025 年 9 月 22 日 440000 行业动态 材料设计重大突破!微软发布创新大模型,准确率提升10倍! 微软发布了MatterGen模型,专用于无机材料设计。该模型基于扩散模型架构,能逐步优化原子类型、坐标及周期晶格,快速生成新型无机材料,如能源领域的锂离子电池正极材料。通过调整原子类型和位置,可开发出独特微观结构的晶体晶格,提升电池续航与寿命。相比传统方法,MatterGen使生成稳定、独特且新颖材料的比例提高2倍以上,生成结构距离DFT局部能量最小值近10倍,对电动车、航空航天、电子芯片等高科技领域意义重大。 siyushenqi.com 2025 年 8 月 13 日 406000 行业动态 MiniMax,也许做出了最接近 Sora 的文生视频产品 又一个国内的重要玩家,杀入「文生视频」这个今年最火的大模型风口。 siyushenqi.com 2025 年 8 月 13 日 399000 行业动态 火遍200多个国家和地区的AI视频模型,竟然来自这家低调的中国公司 AI视频模型正在全球范围内改变人们的生活和工作方式。以中国AI公司生数科技旗下的Vidu为例,其产品凭借快速生成速度和低成本,迅速覆盖200多个国家和地区,成为全球用户增速最快的视频模型产品,广泛应用于内容创作、广告制作、影视、游戏等多个领域。 siyushenqi.com 2025 年 8 月 13 日 477000 行业动态 上线6天吸金至少1400万,“裁员风波”挡不住这家大厂的进攻? 从游戏包装,到体验层面深度还原IP仍是一个可行的思路,而Garena这次不仅证明了自身的全球发行实力,更重要的是在射击游戏这个品类以外,拥有了更多RPG的发行体验。 siyushenqi.com 2025 年 8 月 18 日 442000 在国风领域坚持了20年之后,这款游戏想要玩点不一样的 对于一款长线运营的产品来说,20年可能是一个可望而不可即的数字,而对于《大话西游》这个IP来说,20年已然成为一段辉煌的历史。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 461000 行业动态 一周要闻NO.101丨英伟达市值首次超苹果;短剧卷到三消市场;盒马自有品牌正式出海;美团上线AI外卖助手 一起看看这周有哪些出海圈值得关注的大事记吧! siyushenqi.com 2025 年 8 月 14 日 461000 行业动态 正面刚!苹果下架《堡垒之夜》,Epic起诉苹果商店抽成垄断 Epic Games跟苹果杠起来了! siyushenqi.com 2025 年 8 月 26 日 505000 行业动态 跨境电商,海外狂飙 由亚马逊“霸占”多年的蛋糕,正在被来自中国的平台和商家不断切分 siyushenqi.com 2025 年 8 月 13 日 442000 《王者荣耀》,七年之痒了吗? 2022年10月28日,《王者荣耀》和它的玩家们迎来了周年庆。在旁人千百次审视与分析的目光中,《王者荣耀》一直红到了第七个年头。“王者不是游戏,而是一种社交手段。” siyushenqi.com 2025 年 8 月 24 日 • 行业动态 439000 行业动态 TikTok Shop越南大放异彩,一场直播带货60万人民币 目前,在菲律宾的 TikTok Shop,包括时尚、家居和生活、美容和个人护理等品类都可以找到。包括品牌 realme、 Unilove、Perysmith 和 Kily.phonline都有入驻。 siyushenqi.com 2025 年 8 月 13 日 442000 行业动态 经纬、奇绩押注前特斯拉高管创业 公司刚成立即获经纬创投领投、奇绩创坛跟投的数百万美元天使轮,首笔钱用来扩团队和把两款灵巧手做到可量产。 siyushenqi.com 2025 年 9 月 28 日 393000 行业动态 这款全球营收超过王者、原神的手游,把赌博玩明白了。 赚钱,如行云流水。 siyushenqi.com 2025 年 8 月 18 日 541000 行业动态 AI女友App月下载破146万,巴西、印度等新兴市场成增长新引擎 让“恋爱陪伴”触手可及。 siyushenqi.com 2025 年 9 月 2 日 526000 行业动态 面向中小企业的WhatsApp群发策略与实施步骤 WhatsApp作为全球广泛使用的即时通讯工具,成为中小企业营销的重要平台。通过群发功能,企业能够迅速与大量客户互动,提升品牌知名度与促进销售。本文探讨了面向中小企业的群发策略与实施步骤,分析其优势及适用场景,提供操作指南与策略建议。 siyushenqi.com 2026 年 1 月 25 日 440000 行业动态 中国出海品牌的“柔”与“韧” 以柔性与韧性迈入中国企业的“大航海时代”。 siyushenqi.com 2025 年 11 月 3 日 395000 行业动态 喜讯|CM.com成为法国首家获得HDS认证的CPaaS服务商! 重磅喜讯!CM.com成功获得HDS认证,成为法国首家也是目前唯一一家获得HDS认证的CPaaS服务商。 转自扬帆出海 2026 年 3 月 23 日 199000 发表回复 请登录后评论...登录后才能评论 提交