微软、OpenAI、英特尔、谷歌、英伟达,成立开源大模型安全联盟 siyushenqi.com • 2025 年 8 月 13 日 下午11:38 • 行业动态 • 阅读 415 7月19日,在2024年阿斯彭安全论坛上,微软、OpenAI、英特尔、谷歌、英伟达、亚马逊、思科、IBM、Anthropic等十多家科技巨头联合成立,专注于AI大模型安全部署、应用的开源联盟——CoSAI。 7月19日,在2024年阿斯彭安全论坛上,微软、OpenAI、英特尔、谷歌、英伟达、亚马逊、思科、IBM、Anthropic等十多家科技巨头联合成立,专注于AI大模型安全部署、应用的开源联盟——CoSAI。 随着ChatGPT、Midjourney等产品的火爆出圈,全球多数行业开始研发自己的大模型以打造量身定制的生成式AI产品。但是在研发的过程中,模型的安全测试、部署等都是分散的,开发者面临不一致、孤立的指导方针和标准。 所以,CoSAI主要目的就是开发和共享大模型安全的开源产品、方法论,同时制定标准化开发框架、指南以及评估方法,来确保不同行业的一致性,有助于开发者无论经验或预算如何,都能开发和部署安全的大模型。 CoSAI的安全项目范围非常广泛,能有效减少模型盗窃、训练数据的数据投毒、通过提示注入注入恶意输入、规模化滥用预防、成员推断攻击,模型反演攻击或梯度反转攻击以推断私人信息,以及从训练数据中提取机密信息等目前市面上主流的大模型攻击方法。 CoSAI的第一阶段将专注三个领域:1)保证生成式AI产品供应链安全,CoSAI将延伸SLSA的验证体系到AI大模型,深入理解模型的生成和推理。 例如,谁进行了模型训练,训练过程是否以安全和可审计的方式进行,以及自模型创建以来是否未经篡改。还将探索如何运用加密技术来验证AI供应链的安全性,特别是在流行的大模型库中。 2)开发一个防御框架,能识别和对抗潜在的大模型攻击提升网络安全。再通过规模化的投资和安全策略来帮助开发者应对模型可能面临新的网络安全挑战,以适应不同的恶意攻击方法。 3)CoSAI将致力于大模型安全和隐私治理的工作流,将开发一套风险和控制的分类法、清单和记分卡,来指导开发者在生成式AI产品的安全性和隐私方面的准备性评估、管理和监控。 CoSAI还与OpenSSF、AI Alliance、Cloud Security Alliance、Partnerships on AI和Frontier Model Forum等安全组织进行深度合作,共享研究成果扩大安全联盟范围。 此外,CoSAI已经确定了操作遵循特定的许可证,CC-BY 4.0用于文档和数据贡献;Apache License v2.0用于源代码和模型,也就是说CoSAI开源的产品是可以用于商业化的。 微软AI安全与保障负责人Yonatan Zunger表示,微软坚定承诺将安全性是开发AI模型的核心。作为CoSAI联盟的创始成员之一,微软将与同样致力于此目标的组织合作,共同制定行业标准确保产品的安全性。 英特尔AI安全与安全研究副总裁兼总经理Dhinesh Manoharan表示,AI大模型需要安全的标准才能在健康的生态中持续发展。作为CoSAI的初创成员,英特尔很高兴为广大的开发者提供开源安全产品、指导指南等各种安全资源。 OpenAI治理风险与安全合规负责人Nick Hamilton表示,开发和部署安全且值得信赖的AI大模型是OpenAI的核心使命。我们坚信,制定稳健的标准和实践对于确保AI的安全和负责任使用至关重要,CoSAI联盟致力于与整个行业合作实现这一目标,同时贡献出我们的专业知识和各种资源。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33968.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 完蛋,我被数字同事包围了!小冰AI数字员工再升级,零样本定制,即时上岗 上一篇 2025 年 8 月 13 日 下午11:38 数字人社交陪伴出海赛道成这届AIGC圈“天菜”,海内外多少厂商在低调捞金? 下一篇 2025 年 8 月 13 日 下午11:38 相关推荐 行业动态 240万美金ARR,真实犯罪案件改编,美国短剧界跑出了个“AI版Netflix” 真实悬疑短剧,美国人疯狂“上头”。 siyushenqi.com 2026 年 2 月 12 日 385000 上线28小时畅销第二,天美再赢一次 天美的《合金弹头:觉醒》在昨天8点上线了,游戏上线当天就空降iOS免费榜榜首——这点不算意外,与此同时,产品也在第一天冲进了畅销榜Top 10,并一路爬升到第6位,今天中午12点,游戏在上线28小时之后更是进入了畅销Top 2。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 531000 行业动态 「不做第一,就做唯一」,中国新锐品牌实力出海 不做可有可无的产品,只做独一无二的存在 siyushenqi.com 2025 年 8 月 12 日 494000 暴死?要凉?育碧的创意之作《冠军冲刺》真的有这么不堪? 《冠军冲刺》是育碧又一款体育竞技类游戏,由蒙特利尔研发,成都育碧参与开发 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 284000 行业动态 WhatsApp蓝标号的品牌营销优势 提升品牌可信度与信任感 增强客户互动与忠诚度 优化营销效率与品牌形象 对比分析 未来发展与趋势 提升品牌可信度与信任感 在数字化营销环境中,用户对品牌信息的信任度是决定购买行为的关键因素。WhatsApp蓝标号作为官方认证标识,能够显著提升品牌的权威性。通过蓝标号,用户可以直观地识别品牌的真实性,从而降低信息不确定性和安全顾虑。 研究表明,带有官方认证标识的… siyushenqi.com 2025 年 8 月 13 日 下午11:38 415000 纯净美妆的小切口和大策略 Clean Beauty,最早被直译为清洁美妆的细分行业,最初兴起于欧美新一代人文、环保消费浪潮中。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 453000 行业动态 速卖通押注知名品牌,亚马逊遭正面截胡 目标直指亚马逊头部品牌,运费+佣金砍到亚马逊 50%,主攻成熟高客单价大牌,打破“一家独大”。 siyushenqi.com 2025 年 9 月 24 日 408000 行业动态 大润发,要被卖了 被阿里摆上货架。 siyushenqi.com 2025 年 8 月 5 日 408000 行业动态 Temu面临最严苛审查!抢了谁的“奶酪”? 疯狂扩张的Temu,凭借极致的性价比策略不断蚕食着全球多个市场的份额,对本土电商巨头的发展隐隐造成威胁。 siyushenqi.com 2025 年 8 月 6 日 409000 行业动态 首测后又藏了1年,网易这款“神秘新作”要在日本发起二次挑战 网易在AR领域到底能不能打? siyushenqi.com 2025 年 8 月 19 日 447000 行业动态 日本总务省:中国对ChatGPT等生成式AI应用,全球第一 主要查看了日本公民对ChatGPT、Coplilot、Midjourney、Stable Difusion、Gen-2、MusicGen等10多种生成式AI的应用情况,同时对美国、中国、英国和德国的全球主流使用国家进行了横向调查和对比。 siyushenqi.com 2025 年 8 月 13 日 454000 行业动态 译制剧vs本土剧:谁才是短剧出海的王炸? 低成本高速度,1000–6000 美元+AI 译制 48 小时上线,一部剧可同步推出 6 语版本、覆盖 49 国。 siyushenqi.com 2025 年 8 月 15 日 483000 上海研发吃鸡手游DAU破亿印度夺冠,将与印度特供PUBG对决! 今年9月份,印度政府以“危害国家安全和印度防务”为由,封禁了来自中国的118款APP siyushenqi.com 2025 年 8 月 26 日 • 行业动态 519000 “降本增效”大潮之下 支付行业如何助力打造盈利游戏生态? 游戏出海如何做好跨境支付,《2022中国手游出海白皮书》一文详解。 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 471000 微软副总裁采访:600人团队服务开发者,微软如何构建游戏生态圈? 作为知名主机三巨头的之一的微软一直是游戏行业有力的竞争者,它也一直在游戏、云技术等领域进行积极的业务探索。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 495000 行业动态 苹果摇钱树再被砍,多米诺骨牌要倒下了? 日本“强拆”,新法12月18日生效,首次同时强制开放第三方商店+外链支付,苹果税最低降至5%,违规最高罚日本营业额30%。 siyushenqi.com 2025 年 12 月 22 日 385000 行业动态 史上最大的IPO要来了? 最新口径“远超 300 亿美元”,若成行将刷新沙特阿美 2019 年 290 亿美元纪录,成为史上最大 IPO。 siyushenqi.com 2025 年 12 月 11 日 496000 行业动态 宇树科技的IPO之路 宇树科技已完成C轮融资交割,由移动、腾讯、锦秋、阿里、蚂蚁、吉利资本等共同领投,老股东跟投,共募集约7亿元,投后估值约120亿元。 siyushenqi.com 2025 年 8 月 13 日 395000 行业动态 怎样应对索取免费样品的客户? 客户看中了我们的产品,想要试试样品是很正常的事情,但是样品一般都需要付费购买。但是我们也会经常遇到要免费样品的客户,我们要不要给他们?如何去应对呢? 一、什么样的客户会要免费样品 不管是1个还是2个样品,都需要付费购买,不能免费送。通常不愿意付样品费的客户可以分为以下几类: 1. 订单量小的终端客户 客户按经营规模可以分很多种,如经销商、批发商、商超、个体户… siyushenqi.com 2025 年 8 月 13 日 下午11:38 415000 泰国没有冬季,市场没有空隙 跨国合作的前提条件就是郎有情妾有意。 siyushenqi.com 2025 年 8 月 19 日 • 行业动态 321000 「卸载中国应用」,小闹剧还是真危机? 这种情绪化的抵制今后肯定还会发生,但一款好应用背后的积累,怕是让它很难找到合适的替代品。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 481000 行业动态 突然!又一亚马逊大卖申请破产 亚马逊知名健身器材大卖BowFlex申请破产。 siyushenqi.com 2025 年 8 月 6 日 432000 2022年3月亚马逊趋势热品分析 本文将带来16款或将持续在3月份走红的热品 siyushenqi.com 2025 年 8 月 12 日 • 行业动态 449000 行业动态 拿下欧美日本T1市场,这两家公司揭秘出海诀窍 流量红利消失、买量成本飙升,只有 85 分位以上的“真精品”才能盈利;粗放式立项与投放已成过去式。 siyushenqi.com 2025 年 8 月 26 日 471001 行业动态 字节发布新模型SeedEdit,一句话爆改世界名画,可免费体验 字节跳动豆包大模型团队推出了最新的图像编辑模型SeedEdit,这是一款主打简单自然语言指令编辑图像的产品,无需复杂的描边涂抹操作。 siyushenqi.com 2025 年 8 月 13 日 478000 今年最大风口?米哈游、鹰角、库洛、网易抢同一条赛道 一场介于游戏厂商之间的“用户争夺战”。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 568000 从0到1500万!产品差异化或成出海利器 有这么一个品牌,通过把握海外家居市场的细分赛道一举成为出海先锋,占据2021年亚马逊平台第二畅销类目——Home&Kitchen的TOP1,打败欧美无敌手。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 420000 行业动态 刘强东的手伸向了美团 气氛非常紧张。 siyushenqi.com 2025 年 8 月 5 日 417000 行业动态 苹果打响抛弃英伟达GPU第一枪 过去几年,生成式AI的的繁荣,让英伟达GPU需求大增,公司市值也在过去几年里快速飙升至三万亿美元,但现在,苹果打响了抛弃GPU的第一枪。 siyushenqi.com 2025 年 8 月 13 日 414000 行业动态 私域神器每周精选 No.11|B站寻大比例投资或并购机会 映客、极客寻人才/支付渠道 本期精选的合作类型涵盖大厂投资、寻求人才以及游戏寻找合作等。接下来就一起看一看吧~ siyushenqi.com 2025 年 8 月 24 日 479000 发表回复 请登录后评论...登录后才能评论 提交