李飞飞亲自撰文,数十名科学家签署联名信,反对加州AI限制法案 siyushenqi.com • 2025 年 8 月 13 日 下午11:43 • 行业动态 • 阅读 411 AI真的已经危险到要如此监管的地步了吗? 在创新的热土硅谷,李飞飞、吴恩达等 AI 科学家正在与监管部门展开一场关于安全与创新的拉锯战。 这场拉锯战的核心是一个名叫 SB-1047 的法案。该法案的全称是「Safe and Secure Innovation for Frontier Artificial Intelligence Act(《前沿人工智能模型安全创新法案》)」,试图为高风险的 AI 模型建立明确的安全标准,以防止其被滥用或引发灾难性后果。 该法案于今年 2 月份在参议院被提出,随后引起了很大的争议。很多科学家认为,法案的条款过于不合理,将对科技创新造成毁灭性的影响。 法案链接:https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240SB1047 具体来说,该法案旨在从模型层面对人工智能进行监管,适用于在特定计算和成本阈值之上训练的模型。 模型覆盖范围如下: 1、使用超过 10^26 次整数或浮点运算的计算能力进行训练的人工智能模型,其成本超过一亿美元(100,000,000 美元),该成本是根据开发者合理评估的训练开始时云计算的平均市场价格计算得出的。 2、利用等于或大于 10^25 次整数或浮点运算三倍的计算能力,对范围内的模型进行微调而创建的人工智能模型。 这一范围基本覆盖了现在市面上所有主流的大型模型。如果法案通过,这些模型都将被定义为存在「潜在危险」或需要额外监督。 法案还要求模型开发者对其模型的下游使用或修改承担法律责任。在训练开始之前,开发人员需要证明他们的模型不会启用或提供「危险功能」,并实施一系列保护措施来防止此类使用。这将阻碍开源社区的发展。 监督新法律执行的将是一个「前沿模型部门(frontier model division)」,这是一个新成立的监督和监管机构。该机构将制定安全标准并就人工智能法律提供建议,向该机构歪曲模型的功能可能会使开发人员因伪证而入狱。 法案中还加入了吹哨人保护条款,保护和鼓励 AI 开发实体内部的举报者,确保员工可以在不受报复的情况下报告企业的不合规情况。 如果法案获得通过,州长 Gavin Newsom 的一个签名就可以将其纳入加州法律。a16z 普通合伙人 Anjney Midha 表示,如果这项法案在加州获得通过,将为其他州树立先例,并在美国国内外产生连锁反应 —— 本质上对创新状况带来巨大的蝴蝶效应。 在太平洋夏令时间 8 月 7 日早晨,相关部门将举行关于该法案的听证会。留给科学家们的抗议时间已经不多了。因此,李飞飞亲自撰文,陈明法案利害。还有些科学家正在签署一封联名信,以阻止法案通过。 李飞飞的文章发表在《财富》(Fortune)网站上。 李飞飞撰文抨击 SB-1047 李飞飞在文章中表示:「加州的 SB-1047 将产生重大而意想不到的后果。如果通过成为法律,SB-1047 将损害正在萌芽的人工智能生态系统。SB-1047 将不必要地惩罚开发人员,扼杀开源社区,并阻碍人工智能学术研究,同时无法解决其旨在解决的真正问题。」 她写道: 首先,SB-1047 将过度惩罚开发者并扼杀创新。如果人工智能模型被滥用,SB-1047 要求责任方和该模型的原始开发者承担责任。每个人工智能开发人员(尤其是崭露头角的程序员和企业家)不可能预测到其模型的每种可能用途。SB-1047 将迫使开发人员退步并采取防御行动 —— 这正是我们试图避免的。 其次,SB-1047 将束缚开源开发。SB-1047 要求所有超过特定阈值的模型都包含「终止开关」,这是一种可以随时关闭程序的机制。如果开发人员担心他们下载和构建的程序会被删除,他们在编写代码和协作方面就会更加犹豫。这个终止开关将摧毁开源社区,这是无数创新的源泉。其影响不限于人工智能领域,而是在从 GPS 到 MRI 到互联网本身的各个领域。 第三,SB-1047 将削弱公共部门和学术人工智能研究。开源开发对于私营部门很重要,但对于学术界也至关重要。如果没有协作和对模型数据的访问,学术界就无法进步。如果我们的机构无法获得适当的模型和数据,我们将如何培训下一代人工智能领导者?终止开关甚至会进一步削弱学生和研究人员的努力,与大型科技公司相比,他们在数据和计算方面已经处于劣势。当我们应该加倍加大公共部门人工智能投资时,SB-1047 将为学术人工智能敲响丧钟。 最令人担忧的是,该法案并未解决人工智能进步的潜在危害,包括偏见和深度伪造(deepfake)等等。相反,SB-1047 设置了一个任意阈值,调节使用一定计算能力或花费 1 亿美元训练的模型。这项措施远非提供保障,只会限制包括学术界在内的跨部门创新。如今,学术人工智能模型低于这一门槛,但如果我们要重新平衡私营和公共部门人工智能的投资,学术界将受到 SB-1047 的监管。我们的人工智能生态系统将会因此而变得更糟。 SB-1047 的限制过于武断,我们必须采取相反的做法。 我并不反对人工智能治理。立法对于人工智能的安全有效发展至关重要。但人工智能政策必须赋能开源开发,提出统一且合理的规则,并建立消费者信心。SB-1047 未达到这些标准。 数十位科学家联名反对 针对 SB-1047,除了李飞飞,由加州大学 7 个校区的师生以及来自其他 20 多个机构的研究人员组成的团体也在积极行动。他们共同起草并签署了一封反对 SB-1047 的公开信,从研究者的角度出发,陈述该法案对加州人工智能研究和教育目标的损害。 联名信从以下几方面展开论述 SB-1047 的不合理性: 1、法案会给开源模型的发布带来「寒蝉效应」,从而损害研究 法案中要求对「前沿模型」进行「安全审核」和具备「完全关闭」能力,可能会严重阻碍开源和开放权重模型的发布。这些严格的规定对于私有实体控制的专有模型来说可能更易于实现,而对于非营利组织或大学联盟使用的开放模型则较为困难。法案中关于安全展示和审核的条款表述不够具体,依赖于可能尚未存在且可能缺乏科学严谨性的测试。这种审计的潜在成本对于有盈利产品的商业实体来说可能容易承担,但对于像 Meta 的 LLaMA 系列这样的商业实体的科学性开放发布,或是由非营利组织或大学联盟训练的开放模型,情况可能并非如此。 由于这些繁琐的限制,开源模型的开发者可能选择在加州或美国之外构建系统,并在避免责任的前提下发布其模型。在这种情况下,不顾合规的私人行为者可能会秘密使用这些模型,而受到公共工作性质约束的学术研究人员将被排除在外,这促使他们更改研究主题或转移到不侵犯其学术自由的司法管辖区。开源模型的可获取性对于现代学术 AI 研究至关重要,因为它们使学术界能够探索模型的工作原理、训练过程中的能力提升以及如何进行改进和破解。 2、人工智能风险预测与「能力」评估存在不科学性 作为人工智能、机器学习和自然语言处理领域的专家,这些研究者强调:SB-1047 中提到的评估模型风险的建议方法非常值得怀疑。科学界就语言模型或其他前沿人工智能系统是否以及如何对公众构成威胁尚未达成共识。 3、对开源模型的保护不足 尽管法案提到未来可能对开源模型提供特例,但由于参数数量的快速增长和计算成本的降低,现有的保护措施可能难以持续。在没有强有力的保护措施的情况下,这些模型面临的后果可能很快就会显现。此外,性能相当的小型模型相比大型模型需要更高的计算成本。因此,法案中的修正案预计无法缓解对开源模型发布的负面影响,而严格的报告和审核要求还将不必要地影响研究活动。 4、对学生的就业安置和职业成果的担忧 SB-1047 未来可能会阻碍对人工智能感兴趣的学生进一步学习相关知识,甚至可能会阻止新人才进入计算机科学等关键领域。此外,随着科技行业从大公司向初创公司的转变,额外的监管障碍可能会通过支持更大、更好的企业来削弱新兴创新者。这种转变可能会缩窄学生的职业道路。 联名信部分学者签名。 除了公开信,还有一些研究者选择在社交媒体发声。其中,一位系统生物学家指出,SB-1047 就像在我们还不知道病原体是什么、何时会感染我们以及感染会发生在哪里之前就激活了炎症反应。 此前,吴恩达也多次就此事发声。他认为,监管机构应该监管应用而不是技术。例如,电动机就是一项技术。当我们将其放入搅拌机、电动汽车、透析机或制导炸弹中时,它就成为了一种应用。想象一下,如果法律规定,当任何人以有害的方式使用电机时,电机制造商都要承担责任。那电机制造商要么停产,要么将电机制造得非常小,以至于对大多数应用来说毫无用处。如果我们通过这样的法律,可能会阻止人们制造炸弹,但我们也会失去搅拌机、电动汽车和透析机。相反,如果我们关注特定的应用,就可以更合理地评估风险并判断如何确保它们的安全,甚至禁止某些类型的应用。 AI 真的已经危险到要如此监管的地步了吗?对此,你怎么看? 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/34025.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 “暴君”主宰AGI,OpenAI走向危险未来? 上一篇 2025 年 8 月 13 日 下午11:43 对话RWKV作者彭博:单枪匹马挑战Transformer的神秘怪才 下一篇 2025 年 8 月 13 日 下午11:43 相关推荐 行业动态 如何提高 Instagram 内容曝光率?5个实用技巧一次讲透 在社交媒体竞争日益激烈的今天,如何提升 Instagram 内容曝光率,已经成为每一位运营者必须掌握的关键技能。尤其是跨境电商卖家、自媒体人、品牌方,如果不能把内容推到更多潜在客户面前,流量和转化都无从谈起。 这篇文章,给你总结了5个简单直接、实操性极强的方法,帮你快速提升 Instagram 内容曝光,助力账号成长! 1. 抓住黄金发布时间,提升自然流量 … siyushenqi.com 2025 年 8 月 13 日 下午11:43 411000 年收入5000万美元,他做的母婴独立站在中东火了 童装赛道又在中东引起了一股掘金热 siyushenqi.com 2025 年 8 月 12 日 • 行业动态 411000 行业动态 Facebook Gaming进军云游戏,游戏平台全新升级 Facebook Gaming 已在 Facebook 应用以及网页版 Facebook 中发布多款云端流式传输游戏 siyushenqi.com 2025 年 8 月 26 日 493000 行业动态 一文读懂GPT-5.2 : 直指“经济价值”,硬刚Gemini3的剧情未出现 GPT-5.2 系列被官方定义为“迄今最强专业知识工作模型”,用全新 GDPval 基准验证,在 74.1% 的 1320 个真实职业任务中超越或持平人类专家,直接对标“交付”而非“对话”。 siyushenqi.com 2025 年 12 月 12 日 491000 行业动态 离开字节游戏的人们 误判的耐心。 siyushenqi.com 2025 年 8 月 18 日 449000 行业动态 腾讯3A只用了一天,打海内外一个措手不及 腾讯蛇夫座3A新作在Xbox发布会靠后时段亮相,无发售日但完成度极高,给玩家吃下“定心丸”。 siyushenqi.com 2025 年 11 月 24 日 350000 行业动态 DeepSeek打破英伟达“算力霸权” 随着AI推理需求的爆发,ASIC(专用集成电路)芯片逐渐成为算力革命的主导力量。与通用GPU相比,ASIC在推理场景中具有更高的效率和更低的成本,因此吸引了包括DeepSeek、OpenAI、阿里、百度、字节跳动等在内的众多科技巨头纷纷投入自研。ASIC的崛起被视为打破英伟达“算力霸权”的关键力量,其市场规模有望达到900亿美元。 siyushenqi.com 2025 年 8 月 13 日 431000 行业动态 跨境电商,深圳杀疯了 2024年前三季度,深圳累计进出口额达到3.37万亿元,同比增长20.9%,创下历史同期新高,占全国外贸进出口的十分之一,广东省的一半。 siyushenqi.com 2025 年 8 月 6 日 417000 行业动态 秘密研发,“威胁人类”,一个代号就引发全网恐慌?OpenAI的Q*到底是啥? Q*算法真的很神秘吗?我看未必! siyushenqi.com 2025 年 8 月 13 日 410000 抖音海外版TIKTOK将越来越独立 TIKTOK,也就是抖音的海外版,十分火爆。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 423000 行业动态 中国500强:14家游戏企业,腾讯第二,米哈游1750亿排第48 胡润百富发布了2024年中国企业500强榜单,企业总价值上涨6.6万亿元,达到56万亿元。台积电以6.98万亿元蝉联中国价值最高的民营企业,腾讯以3.42万亿元位居第二,字节跳动以1.63万亿元位列第三。华为价值上涨1100亿元,以6800亿元重返前十,位列第十。 siyushenqi.com 2025 年 8 月 17 日 534000 行业动态 跨境电商,海外狂飙 由亚马逊“霸占”多年的蛋糕,正在被来自中国的平台和商家不断切分 siyushenqi.com 2025 年 8 月 13 日 442000 3.30·活动报名丨《音视频社交新风口》线上峰会再度袭来 聚焦海外社交生态升级 泛娱乐产品全面升级,追赶新生态风口 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 466000 行业动态 第一批AI明星公司,开始被大厂收购 继Google收购Character.AI后,中国AI大模型领域也进入并购整合的加速期,波形智能被OPPO收购,标志着这一趋势。 siyushenqi.com 2025 年 8 月 13 日 411000 行业动态 WhatsApp私域神器最新功能升级与外贸应用案例 主要功能升级 外贸应用案例 对比分析 常见问题 主要功能升级 WhatsApp私域神器最近迎来了重要功能升级,尤其对于外贸企业而言,这一更新显著提升了沟通效率与客户体验。此次升级的亮点包括新增的多语言翻译功能、自动回复设置、客户管理工具优化、消息发送速度提升以及数据分析功能的增强。这些功能的整合为外贸企业提供了更为灵活、高效的客户沟通解决方案。 外贸应用案例… siyushenqi.com 2025 年 8 月 13 日 下午11:43 411000 行业动态 私域神器每周合作精选No.107|海外投资机构寻项目投资;小游戏收海外流量;三国题材游戏宣发视频制作;海外1V1社交寻合作 本期精选的合作类型涵盖海外投资机构寻项目投资;小游戏收海外流量;三国题材游戏宣发视频制作等。接下来就一起看看吧~ siyushenqi.com 2025 年 8 月 18 日 468000 行业动态 15.6亿播放、40亿话题的《家里家外》出海,首战告捷 本周榜单中,深情男主题材的短剧占据主导地位,包括《家里家外》等作品。 siyushenqi.com 2025 年 8 月 17 日 454000 逆势融资、估值大涨:不靠主播,这家独角兽把直播卖货做出了新花样 同样的问题,换一个思路可能会有不一样的结果 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 525000 行业动态 逛遍 ChinaJoy,发现 AI 对游戏产业的四个改变 一切看起来似乎与原来相同,但实际早已不同。 siyushenqi.com 2025 年 8 月 18 日 429000 行业动态 字节游戏官宣新一轮调整,严授转岗财务部;哪些项目有人接盘? 突发。 siyushenqi.com 2025 年 8 月 18 日 466000 行业动态 只用 45 天达成 100 万美金 ARR,这家创业公司找到了 AI 落地的解法 Rodin是影眸科技的3D生成产品,仅用45天就达成了100万美元ARR,发展速度远超HeyGen等同行。影眸科技刚完成数千万美元A轮融资,投资方有字节跳动、美团龙珠等。公司四位联创平均年龄25岁,已创业四年,从同学起步,虽技术自信但业务发展历经坎坷。 siyushenqi.com 2025 年 8 月 13 日 417000 游戏行业彷徨2022 2022年,「宅经济」红利消退,用户付费能力下降,版号影响行业预期,资本市场急转直下,不少获得大厂投资,项目预计成本超过5000万的明星团队因断粮而倒闭,到处都有缩招和裁员的传闻,从业者们也开始重新审视自己的收入预期。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 463000 富二代转向独立站创业,5万月薪招主播 大码服装确实是一条具有潜力的赛道,这两年国内已经有不少品牌走出国门抢占其红利。Molly了解到,国内的大码女装品牌BloomChic在近几月的独立站流量出现大幅增长,站内流量已经超百万。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 487000 大厂如King,小到《迷你世界》,他们在海外的合规都栽在这个坑里 我们谈及出海,往往更多是将目光放在市场解读、赛道选择以及趋势判断等等方面,但游戏出海过程中的法律前置合规问题 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 544000 行业动态 《凤凰浏览器非洲行》——云览科技 首席产品官 杨崇哲 《凤凰浏览器非洲行》演讲视频完整回放 siyushenqi.com 2025 年 8 月 3 日 463000 行业动态 私域神器:如何通过Telegram矩阵提高外贸企业的客户互动 提高客户互动效率 增强客户关系管理 支持多语言沟通 实现精准市场推广 促进客户反馈收集 提高客户互动效率 随着外贸企业竞争的加剧,客户互动的效率成为了决定企业成功的关键因素之一。Telegram矩阵提供了一个强大的平台,使外贸企业能够在多种渠道和设备上实现快速高效的客户互动。通过即时消息、机器人自动化和推送通知,企业能够在最短时间内响应客户需求,大大提高了沟… siyushenqi.com 2025 年 8 月 13 日 下午11:43 411000 行业动态 智己汽车亮相2025世界人工智能大会!首获上海新一批智能网联汽车示范运营牌照 7月26日,在2025世界人工智能大会上,智己汽车与享道出行、强生出租组成联合体,率先获得上海市新一批智能网联汽车示范运营牌照。这不仅是对智己汽车L4级自动驾驶技术实力和安全可靠性的权威认证,更标志着该技术从测试验证迈入商业化落地的全新阶段。此次大会上,智己L4级Robotaxi将在上海世博展览馆内进行展示,并为大会嘉宾、观众及周边市民提供接驳服务。 同期,… siyushenqi.com 2025 年 8 月 13 日 下午11:43 411000 行业动态 TikTok美国电商困境:GMV未达预期,主播直播时间受限 时间在 TikTok 是最奢侈的资源。 siyushenqi.com 2025 年 8 月 5 日 392000 行业动态 爆火!私域美妆卖家在新赛道年入千万 大健康类目是消费品行业为数不多的蓝海市场之一。 siyushenqi.com 2025 年 8 月 9 日 454000 行业动态 OpenAI正与微软洽谈新融资,筹备IPO OpenAI和微软正在重新商讨合作条款,涉及数十亿美元。此次谈判旨在为OpenAI未来的首次公开募股(IPO)铺平道路,同时确保微软对前沿AI技术的访问权限。微软作为OpenAI最大的支持者,其态度对OpenAI的重组和未来发展至关重要。 siyushenqi.com 2025 年 8 月 13 日 428000 发表回复 请登录后评论...登录后才能评论 提交