中国发布《生成式AI安全基本要求》,涵盖训练数据、生成内容等 siyushenqi.com • 2025 年 8 月 13 日 下午11:22 • 行业动态 • 阅读 418 标准文本涵盖训练数据安全要求、模型安全要求等,主要是为了加强生成式人工智能的开发、应用落地的安全性。 全国网络安全标准化技术委员会在官网发布了,国家标准《网络安全技术 生成式人工智能服务安全基本要求》征求意见稿。 该意见稿一共分为《网络安全技术 生成式人工智能服务安全基本要求-标准文本》、意见汇总处理表和编制说明三大块。 其中,标准文本涵盖训练数据安全要求、模型安全要求等,主要是为了加强生成式人工智能的开发、应用落地的安全性。如果你对该标准有任何意见,可以在2024年7月22日前反馈给国家网安标委秘书处。 2023年7月,国家网信办等七部门发布了《生成式人工智能服务管理暂行办法》,从政策法规层面为我国生成式人工智能健康发展保驾护航,为有序开展相关管理工作明确了方向。 而本次发布的标准要求是对《办法》中的安全要求进行细化,规定了生成式人工智能服务在安全方面的基本要求,针对当前生成式人工智能服务研发过程中的网络安全、数据安全、个人信息保护,以及面向服务过程中的应用场景安全风险、软硬件环境安全风险、生成内容安全风险、权益保障安全风险等方面,提出细化安全要求。 下面「AIGC开放社区」将为大家介绍该标准的主要内容 数据来源安全 对服务提供者的要求如下。 a)采集来源管理: 1)面向特定数据来源进行采集前,应对该来源数据进行安全评估,数据内容中含违法不良信息超过5%的,不应采集该来源数据; 2)面向特定数据来源进行采集后,应对所采集的该来源数据进行核验,含违法不良信息情况超过5%的,不应使用该来源数据进行训练。 b)不同来源训练数据搭配: 1)应提高训练数据来源的多样性,对每一种语言的训练数据,如中文、英文等,以及每一种类型的训练数据,如文本、图片、音频、视频等,均应有多个训练数据来源; 2)如需使用境外来源训练数据,应与境内来源训练数据进行合理搭配。 c)训练数据来源可追溯: 1)使用开源训练数据时,应具有该数据来源的开源许可协议或相关授权文件; 2)使用自采训练数据时,应具有采集记录,不应采集他人已明确不可采集的数据;不可采集的网页数据,或个人已拒绝授权采集的个人信息等。 3)使用商业训练数据时: 应有具备法律效力的交易合同、合作协议等; 交易方或合作方不能提供数据来源、质量、安全等方面的承诺以及相关证明材料时,不应使用该训练数据; 应对交易方或合作方所提供训练数据、承诺、材料进行审核。 4)将使用者输入信息当作训练数据时,应具有使用者授权记录。 数据内容安全 a)训练数据内容过滤:对于每一种类型的训练数据,如文本、图片、音频、视频等,应在将数据用于训练前,对全部训练数据进行过滤,过滤方法包括但不限于关键词、分类模型、人工抽检等,去除数据中的违法不良信息。 b)知识产权: 1)应有训练数据知识产权管理策略,并明确负责人; 2)数据用于训练前,应对数据中的主要知识产权侵权风险进行识别,发现存在知识产权侵权等问题的,服务提供者不应使用相关数据进行训练; 注:训练数据中包含文学、艺术、科学作品的,需要重点识别训练数据以及生成内容中著作权侵权问题。 3)应建立针对知识产权问题的投诉举报渠道; 4)应在用户服务协议中,向使用者告知使用生成内容的知识产权相关风险,并与使用者约定相 关责任与义务; 5)应及时根据国家政策以及第三方投诉情况更新知识产权相关策略; 6)宜具备以下知识产权措施: 公开训练数据中涉及知识产权部分的摘要信息;在投诉举报渠道中支持第三方就训练数据使用情况以及相关知识产权情况进行查询。 c)个人信息方面: 1)在使用包含个人信息的训练数据前,应取得对应个人同意或者符合法律、行政法规规定的其他情形; 2)在使用包含敏感个人信息的训练数据前,应取得对应个人单独同意或者符合法律、行政法规规定的其他情形。 模型安全要求 对服务提供者的要求如下。 a)模型训练方面: 1)在训练过程中,应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一; 注:模型生成内容是指模型直接输出的、未经其他处理的原生内容。 2)应定期对所使用的开发框架、代码等进行安全审计,关注开源框架安全及漏洞相关问题,识别和修复安全漏洞。 b)模型输出方面: 1)生成内容准确性方面,应采取技术措施提高生成内容响应使用者输入意图的能力,提高生成内容中数据及表述与科学常识及主流认知的符合程度,减少其中的错误内容; 2)生成内容可靠性方面,应采取技术措施提高生成内容格式框架的合理性以及有效内容的含量,提高生成内容对使用者的帮助作用; 3)问题拒答方面,对明显偏激以及明显诱导生成违法不良信息的问题,应拒绝回答;对其他问题,应均能正常回答; 4)图片、视频等生成内容标识方面,应满足国家相关规定以及标准文件要求。 c)模型监测方面: 1)应对模型输入内容持续监测,防范恶意输入攻击,例如注入攻击、后门攻击、数据窃取、对抗攻击等; 2)应建立常态化监测测评手段以及模型应急管理措施,对监测测评发现的提供服务过程中的安全问题,及时处置并通过针对性的指令微调、强化学习等方式优化模型。 d)模型更新、升级方面: 1)应制定在模型更新、升级时的安全管理策略; 2)应形成管理机制,在模型重要更新、升级后,再次自行组织安全评估。 e)软硬件环境方面: 1)模型训练、推理所采用的计算系统方面: 应评估系统所采用芯片、软件、工具、算力等方面的供应链安全,侧重评估供应持续性、稳定性等方面; 所采用芯片宜支持基于硬件的安全启动、可信启动流程及安全性验证。 2)应将模型训练环境与推理环境隔离,避免数据泄露、不当访问等安全事件,隔离方式包括物理隔离与逻辑隔离。 上面只是部分内容,整个安全标准书是非常详细的,有兴趣的可以去官网查看全部内容。 我国也是全球为数不多在生成式人工智能领域连续出台安全管理条例的国家,一方面展示了国家对创新变革技术的重视程度,另外保证了生成式人工智能的场景化落地和应用安全。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33797.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 超长小说可以用AI翻译了,新型多智能体协作系统媲美人工翻译 上一篇 2025 年 8 月 13 日 下午11:22 斯坦福团队被曝抄袭清华系大模型,已删库跑路,创始人回应:也算国际认可 下一篇 2025 年 8 月 13 日 下午11:22 相关推荐 行业动态 WhatsApp磐石系统实时监控功能解析 WhatsApp磐石系统实时监控功能概述 实时监控功能的关键优势 实际应用场景分析 对比分析 常见问题 WhatsApp磐石系统实时监控功能概述 WhatsApp作为全球领先的即时通讯应用,其不断提升的安全性和用户保护机制深受用户关注。磐石系统的实时监控功能便是这一努力的核心部分,旨在通过精准的数据监控和实时警报,进一步增强用户的安全防护水平。此功能不仅提供… siyushenqi.com 2025 年 8 月 13 日 下午11:22 418000 一年时间下载近亿,这款古风模拟经商手游是怎么做到的? 从2020年起,模拟经营类游戏就成为受开发商和用户欢迎的热门手游品类之一。据AdTiming的《2021年模拟经营类手游研究报告》,2020年模拟类游戏的 DAU 市场份额增加 了7%,增长源于头部游戏数量增加及头部产品吸金能力增加。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 472000 Anker三大变化揭露亚马逊最新调整趋势! 卖家可以借鉴吗? siyushenqi.com 2025 年 8 月 13 日 • 行业动态 463000 行业动态 茶叶罐当宠物骨灰盒卖,26元卖28美元!亚马逊利基选品5大方向 对于刚刚从传统外贸切入到跨境电商战场的卖家而言,选品是首要难题。 siyushenqi.com 2025 年 8 月 13 日 580000 行业动态 这届中小卖家,正在用AI搞定全球生意 相较于国内电商行业增速放缓,海外的巨大潜力,以及全托管、半托管等服务对出海门槛的降低,让商家们纷纷选择出海寻找新大陆。其中,中小商家成了当之无愧的主力军。 siyushenqi.com 2025 年 8 月 6 日 485000 女性体液当香水用?又一款产品风靡TikTok 前段时间,一个名为“vabbing”标签话题突然大火,成为 TikTok 新晋热门标签之一。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 414000 25家上市游戏公司出海业务大PK:超10家半年营收已破5亿 最近,上市游戏公司相继发布2020年上半年财报。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 466000 跨界步伐引领行业新风潮!2023ChinaJoy潮生活展区【潮美妆版块】火热招商中! 2023ChinaJoy潮生活展区【潮美妆版块】火热招商中! siyushenqi.com 2025 年 8 月 26 日 • 行业动态 434000 行业动态 4月版号如期发布 三七互娱、B站、雷霆、4399、灵犀、朝夕光年等大厂悉数在榜 国家新闻出版总署发布4月份版号。 siyushenqi.com 2025 年 8 月 24 日 514000 行业动态 TikTok矩阵:外贸企业如何利用短视频内容吸引海外用户 短视频增强用户参与感 精准定位目标市场 利用用户生成内容 跨文化营销策略 数据分析优化内容 短视频增强用户参与感 外贸企业通过 TikTok 短视频矩阵,能够直接吸引目标用户的关注。短视频的形式本身就具备极高的互动性和参与感,这使得用户能够更加主动地与品牌产生联系。通过创意内容的呈现,品牌能够激发用户的兴趣,推动更多的评论、分享及点赞等社交行为,从而增加品牌… siyushenqi.com 2025 年 8 月 13 日 下午11:22 418000 行业动态 外媒透露:Shopee将扩大巴西站点业务规模! Shopee正在为巴西业务招聘30多个职位... siyushenqi.com 2025 年 8 月 13 日 415000 美国免费榜TOP1的这款新游,竟是出自中国团队之手 对于超休闲游戏来说,2020年可以说是突飞猛进的一年。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 424000 行业动态 运价继续下滑!7月1日将上调GRI? 由于美国和欧洲的去库存进展令人失望,航运分析师对班轮航运前景持悲观态度。 事实上,MSI 6月份的Horizon集装箱船报告预测,除非需求“回升到足以抵消即将到来的大规模运力投入”,否则该行业下半年将面临“挑战”。该机构警告称:“此外,全球宏观经济环境仍远未向好,货币政策持续大幅紧缩,我们预计这将导致欧洲和美国陷入衰退。” 该公司补充称,预计运费在第三季度末… siyushenqi.com 2025 年 8 月 13 日 下午11:22 418000 行业动态 投资人,开始看AI成本账 蓝驰、美团龙珠、云启等机构上半年超七成投向广义AI赛道,AI成为一级市场唯一“顶流”。 siyushenqi.com 2025 年 8 月 14 日 415000 行业动态 从零开始搭建OpenClaw私人AI助手实战指南 OpenClaw 是一个开源自托管的人工智能助手框架,可实现多平台消息接入和功能扩展。它允许用户完全掌控数据,搭建个性化私人AI助手,从而优化日常任务管理和工作效率,提供高度自定义的智能服务体验。 siyushenqi.com 2026 年 3 月 9 日 263000 行业动态 私域是所有生意的终极模式 众所周知,在任何出海商业模式之中,流量被赋予了至关重要的地位,甚至可以说,流量就是出海商业模式的生命线。在这个信息炸裂的时代,如何用私域神器获取流量并有效转化,成为了每个企业主和创业者所必须面对的难题。 一、流量如何获取:从源头捞起 流量的获取,是所有出海商业模式成功的第一步,就算再好的产品或者服务,没有足够的流量推广营销,很难被客户知晓。因此,任何出海企业… siyushenqi.com 2025 年 8 月 13 日 下午11:22 418000 行业动态 调查显示Temu和Shein欧洲增长放缓 德、法、意、西、英五国约50%网购者今年曾在Temu或Shein下单,比例与2024年几乎持平,用户增长明显放缓。 siyushenqi.com 2025 年 10 月 20 日 416000 行业动态 小米手机Google设置 小米手机Google设置 siyushenqi.com 2025 年 8 月 3 日 464000 行业动态 一分钟奖励3万,这个风口正在火过短剧 漫剧爆发,2025年单月全网播放量破百亿,半年上线3000部、流水激增12倍,全年市场规模预计超200亿元,已接棒真人短剧成为新“流量收割机”。 siyushenqi.com 2026 年 1 月 8 日 450000 这款电商界的Midjourney,正在颠覆着海外电商的营销物料生产方式 借助生成式AI技术,PhotoG可以快速生成高度真实的商品场景展示,帮助品牌降低拍摄成本、提高营销效率,并大幅缩短物料制作周期。 siyushenqi.com 2025 年 8 月 5 日 • 行业动态 494000 行业动态 微软与Open AI关系再度降温 微软因OpenAI与亚马逊合作或起诉,AI领域竞争加剧,市值蒸发超万亿美元,内部重组应对挑战。 转自扬帆出海 2026 年 3 月 23 日 210000 行业动态 健康数据转换成真实奖励?AI健康应用+穿戴开启硬核养老时代 “投资式养老”创新AI健身+智能穿戴。 siyushenqi.com 2025 年 8 月 13 日 432000 行业动态 OpenAI事件大剧终,复盘过程、起因和各方影响 再次胜利的“加速主义” siyushenqi.com 2025 年 8 月 13 日 403000 行业动态 腾讯开源新版混元模型:AI Agent强化,超30种智能体指令 Hunyuan-A13B是腾讯开源的一个基于细粒度专家混合(MoE)架构的大型语言模型,拥有800亿参数,其中130亿参数处于激活状态。它在保持高性能的同时,实现了优秀的资源利用效率,适合在资源受限的环境中使用。 siyushenqi.com 2025 年 8 月 13 日 539000 行业动态 私域神器每周合作精选No.106|海外发行寻产品;三七互娱寻海外游戏推广;需要尼日利亚一类支付 本期精选的合作类型涵盖海外发行寻产品,类型玩法平台不限;三七互娱寻海外游戏推广;需要尼日利亚一类支付等。接下来就一起看看吧~ siyushenqi.com 2025 年 8 月 18 日 422000 苹果Arcade遭遇生存危机:苹果退产品、要求提高游戏参与度 Apple Arcade至今未在中国区的Appstore开启,但对海外用户来说,Apple Arcade正在变得可有可无,一场越来越严重的生存危机浮出水面。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 538000 行业动态 日卖5万件,情人节商品热度上升!TikTok Shop美国小店(1.22-1.28)新榜 本期(2024年1月22日—1月28日)TikTok Shop 美国站“品类周榜”及“店铺周榜"销量数据分析,帮助卖家及时了解 TikTok Shop 美国小店最新市场现状,掌握选品趋势。 siyushenqi.com 2025 年 8 月 12 日 521000 大厂撤退 TT奋进:我们看透了这个千亿市场的底层逻辑 4月份,TikTok shop美国站的全闭环本土小店从测试阶段定向邀请商家如约全量开放,进一步补全了TikTok Shop货架电商的闭环,也说明了TikTok继续发力直播电商的决心。 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 473000 解决谷歌账户注册难题,从0到1学习谷歌广告 解决谷歌账户注册难题,从0到1学习谷歌广告 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 423000 拼多多的出海决心:以投放换下载,低价低质无法赢得用户 从9月拼多多宣布做海外跨境电商——Temu开始,其势头就一直高涨。低价和广告虽然带来了短期流量,同样做低价电商的Wish却已经迎来用户大量流失和业绩亏损,Temu的前景似乎并不明朗。至少在海外社交媒体,Temu还没有引起用户广泛的讨论,而低价带来的质量隐患已经出现。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 413000 发表回复 请登录后评论...登录后才能评论 提交