AI换脸的双刃剑:技术进步还是道德滑坡? siyushenqi.com • 2025 年 8 月 13 日 下午9:07 • 行业动态 • 阅读 447 AI换脸, 眼见≠为实。 “原标题:AI换脸,该抵制吗?”来源:定焦 摘要 随着技术的不断迭代,AI换脸的门槛越来越低,成本也越来越便宜,但这也使得诈骗行为变得更加容易。 各国正在通过立法来管理AI换脸技术,如美国的专门立法,欧盟的《通用数据保护条例》等。 AI换脸技术引发了关于隐私、肖像权和道德的争议,同时也有法律案例对相关问题进行了判决。 尽管存在法律风险和技术挑战,AI换脸工具仍然在市场上流通,交易路径变得更加隐秘。 眼见≠为实,AI换脸欺骗了不少人。 前两天,湖北公安破获了一起用AI换脸技术解锁社交账号并倒卖获利的案件。不法分子通过AI换脸专门帮人解锁被平台冻结的交友账号,每解锁一个,收费15元-30元不等。该团伙共解冻了2107个账号,从中获利40万元。 有数据显示,2023年基于AI的深度伪造欺诈暴增了3000%,深度伪造也就是deepfake,是learning和fake的组合,主要指用AI深度学习的技术,合成某个人的图片或视频、甚至声音,最常见的便是AI换脸。工信部更是在近期表示,将推出AI换脸诈骗风险提醒功能。 一边是AI换脸诈骗案件屡屡发生,另一边则是AI换脸技术不断迭代。 AI圈最近被一款AI换脸项目——Deep-Live-Cam,炸开了锅。用户只需上传一张照片,便可实时换脸成扎克伯格、董宇辉等任何想成为的人。 这一项目免费面向所有用户开放,发布在GitHub(代码托管平台)上,支持个人电脑安装。项目开发者公布了安装方法,没有技术经验的普通人可以边学边安装。 由于操作简单方便且换脸真实度高,Deep-Live-Cam出场便登上GitHub热榜第一,24小时狂揽1600+星(星星代表项目点赞和关注指标,几千颗星星是相当不错的级别)。不少网友将自己换脸成马斯克,体验了一把全球亿万富豪的感觉。 但大家在感慨AI换脸技术取得突破的同时,也在担忧“诈骗更变得容易了”。AI换脸,该抵制吗? 普通人都能用的AI换脸, 成本低至十几块 目前国内外出现的AI换脸工具不少,Deep-Live-Cam被热议的原因主要在于,用户只用上传一张图但替换效果非常逼真,还支持实时换脸。 其实,“实时换脸”功能的技术门槛算不上高。 瑞莱智慧联合创始人、算法科学家萧子豪介绍,想达到实时视频换脸效果有两种方式:一种是播放事先做好的换脸视频,一种是接入实时换脸视频。Deep-Live-Cam属于后者。 无论哪种,AI换脸视频都需兼顾前后帧的连贯性,而基于连续人脸视频的处理,可根据前一帧的很多检测资源做微小的调整,“这也让基于连续帧的视频/直播换脸,相比独立帧的单张换脸,效率更高”,一位从事AI技术的研究员表示。 AI换脸依托的底层技术是Deepfake,从业者推测,Deep-Live-Cam采用的也是这一技术,所以仅从制作合成花费的素材和算力看,成本不会很高。 萧子豪表示,如果不考虑其他硬件采购成本,大多数AI换脸成本,一次大概只要十几块,主要包含照片和算力,Deep-Live-Cam可能更低。和其他AI换脸工具相比,Deep-Live-Cam用的照片数量更少,该工具还支持普通电脑使用,照片和算力成本更低。 相比之下,Deep-Live-Cam支持仅用一张图片换脸,更让从业者们震惊。因为过往的AI换脸产品需要用户提供多张不同角度的至少十几张照片。 照片难度的降低让用户玩嗨了。AI追随者小C表示,自己之前没接触过任何AI换脸工具,他觉得Deep-Live-Cam操作门槛不高,按照发布者的说明便可完成,寻找换脸素材的难度也不是很高。 他将自己换脸成了郭德纲、吴京、雷佳音等一众名人,且都只用了他们各自的一张图片。他表示,只要提供的是正脸、额头无遮挡、自然光,接近自己肤色、证件照比例的照片,一张便可成功,脸换效果也很自然。 不止一位从业者认为,部分影视剧采用的AI换脸技术,不仅门槛高、成本高昂,换脸效果也不够自然,说话过程中经常出现变形、失真。“像不像是AI换脸工具最大的难题,Deep-Live-Cam能支持一张图在直播过程中达到,脸边缘没有明显贴图痕迹,肤色和原人物差别不大的效果,逼真度领先很多AI换脸工具,”萧子豪分析,其开发者应该是在图片渲染模型上实现了过往AI换脸工具没有的突破。 不过,目前Deep-Live-Cam还存在一些Bug,比如支持换脸但不涉及换声。但萧子豪表示,想要实现此举不难,接入实时换声工具即可,稍有编程基础的人就能完成。 AI换脸, 躲不掉的诈骗和侵权 Deep-Live-Cam等工具降低了用户的使用门槛,但大家也开始恐惧,不法分子只用一张图就可以换脸行骗,对普通人而言,风险将会剧增。 瑞莱智慧数据指出,国内AI诈骗案件的涉案金额从2020年的0.2万增长至2023年的1670万,年复合增长率高达1928.8%。2024年上半年,AI诈骗案超过1.85亿。奇安信发布的《2024人工智能安全报告》显示,2023年基于AI的深度伪造欺诈暴增了3000%。 AI换声、AI换脸、AI生成是AI诈骗常用的三种手段,其中AI生成内容,秒数有限,画质和人物瑕疵明显,因此不法分子最常用的是AI换声、AI换脸。而大多人相信“眼见为实”,又让AI换脸的欺骗性高于AI换声。 AI换脸不仅骗到了老年人,很多从事科技领域的年轻人也一夜失掉几百万。 据媒体公开报道,去年某科技公司CEO收到朋友转账求助,不到10分钟被骗430万元,骗子主要便是利用了AI变脸技术。还有香港某跨国公司员工被骗入不法分子设计的高管视频会议后,将2亿港元打到对方账户。 AI换脸达到了“能以假乱真”的程度,是从业者的共识。 李旭反传防骗团队负责人李旭对AI换脸技术的关注,便来源于各种诈骗案件。他表示,近两年AI换脸诈骗案件频发,市面上大概有三种AI换脸诈骗手段非常成熟。 第一种,利用AI换脸伪造色情视频,对受害人进行敲诈。 比如犯罪团伙会从网上等各种渠道收集被害人图片、视频信息,然后进行一键去衣、AI换脸等合成处理,将伪造的不雅视频或者艳照发给受害者,用来敲诈勒索。 第二种,利用AI换脸冒充熟人诈骗。 比如诈骗团伙会用市面上的一些换脸工具伪装成受害人的亲人、朋友、同事、领导等,先虚构一个紧急事由,利用被骗目标的急迫心理实施诈骗行为,受害人在情急之下往往容易放松警惕将钱转出。 现在使用Deep-Live-Cam更只需要采集受害者一两张照片即可深度仿造技出一段视频,李旭觉得,AI换脸诈骗的程度超出了大多数普通人的认知,也直接改变了电信诈骗的剧本,防不胜防,愈演愈烈。 第三,利用AI换脸冒充名人进行直播带货,骗取用户下单。 比如主播在直播间利用“AI换脸”给自己“换”了一张名人脸,从而增加直播视频流量,助力直播带货。 此外,未经他人允许,通过AI换脸对名人/普通人进行长短视频二创、制作表情包等侵权问题也十分常见。 AI换脸诈骗案件频发且手段多样,与这一技术的成熟度和广泛度密切相关。 瀚皓科技CEO吴杰茜告诉「定焦」,“目前,AI视频生成、数字人和AI换脸技术都很成熟,而AI换脸是其中发展最早的领域。” 2014年Deepfake(深度伪造)技术的出现,标准着AI换脸诞生,但一直在小范围传播,直到2017年,有用户利用该技术发布不实色情图片后,AI换脸才走入大众视野,但同时也因为其带来的大量造假内容,该技术一直备受争议。 不止一位从业者表示,这些年,虽然大众对AI换脸的讨论多集中在拯救影视剧上,但由于不好监管,利用AI换脸进行造假诈骗的事情也一直没断过。且AI换脸技术一直在迭代,入局者也不少,目前除了一些大厂涉及这一业务外,国内很多数字人、AI生成视频初创公司都有开发AI换脸业务,技术普及度比较高,该类工具也越来越多。 技术成熟、普及度高,监管也有一定的难度,导致让AI换脸技术这些年一直被滥用。 如何辨别越来越逼真的AI换脸? 近两年AI换脸导致的各种违法犯罪行为不少,不可控性让部分人觉得应该抵制AI换脸技术。 但也有很多从业者觉得,科技本身是中性的,其带来的好坏影响主要取决于使用者。AI换脸技术的出现和迭代不应该被制止。 吴杰茜表示,目前国内外均没有对AI换脸技术采取一刀切,更多是进行立法管理。 比如美国针对深度伪造进行了专门立法,欧盟将深度伪造纳入《通用数据保护条例》等现有法律框架规制度,德国、新加坡、英国等国家也将深度伪造相关犯罪纳入刑法体系。中国也在《互联网信息服务深度合成管理规定》中明确了对这一技术的规范。 多位从业者认为,对AI创作的内容进行标明等管理办法,以及传授给大众一些防AI诈骗方法,是十分必要的。 比如,曾有技术人员提出,可以在视频通话时,要求对方将手指放在脸部,仔细观察人脸是否变形,或者让对方张嘴,看牙齿和舌头是否清晰完整,从而判断图像是真人还是AI合成。 去年这一方法还比较奏效,但今年随着AI换脸技术的升级,已经让其失灵。 萧子豪表示,当下AI换脸技术可以实现有障碍物出现时人脸和动作不变形,且画质清晰度很高。李旭也发现,近期发生的AI换脸诈骗案件都使用了很强的技术手段,单纯靠动作几乎辨别不出。 鉴于AI换脸技术的快速发展,李旭认为,提高警惕是目前相对有效的方法。比如接到熟人借钱的视频来电时,可以问对方一些只有彼此才知道的隐私问题,并多向身边人询问核实。 部分从业者觉得,用AI辨别AI或许是个不错的办法。 比如先看画面有没有一些明显违背常识的元素,重点看脸部边缘是否有瑕疵,然后再借助一些AI工具。萧子豪觉得用AI甄别AI,可识别出绝大多数骗局,目前很多公司和政府部门都找他们来合作AI换脸防御系统。 但此举在国内外也引发了一定争议。 首先,这种方式具有一定的使用门槛,用户需要在手机/电脑端下载相关应用。其次,从本质上看,这类防御工具存在一定的滞后性,主要对当下AI换脸工具见招拆招,但AI换脸技术和合成方法在时刻变化。 很多人寄希望于相关法律法规完善,比如提高对AI换脸诈骗、销售AI换脸淫秽视频、换脸名人进行带货等违法行为的惩罚力度。 去年,杭州萧山区人民法院判决了一起用AI换脸制作淫秽视频的案例,被告人因提供AI换脸定制服务,通过AI换脸制作了大量淫秽视频,还用建群的方式吸引观看者付费进群,涉案金额共6万余元,最终被判处有期徒刑七年三个月,并处罚金6万元。 不过也提醒大家一点,并不是所有的AI换脸都会侵犯肖像权。 今年6月北京互联网法院宣判了两起AI换脸侵权案件,两位国风短视频模特在社交平台上发现了自己视频出现在某一换脸APP中,于是将该APP背后的科技公司告上法庭,认为其损害了自己的肖像权和个人权益。 法院的宣判是,认定被告使用了原告出镜的视频,但由于涉案视频中的原告面部已被替换,并未侵害原告的肖像权,因此仅认定此举构成对原告个人信息权益的侵犯。 此刻,AI换脸技术还在不断升级,也尚未被禁止,AI换脸工具还大量在市场上流传。 「定焦」近期在某电商平台上直接搜索“AI换脸”时,已经搜不到任何信息,但只要把关键词稍加改变,还是能找到相关换脸工具售卖,并且路径更为隐秘,会跳转到某二手网站进行交易。在技术和骗术都在不断升级的当下,大家能做的是提高警惕,防止被AI换脸侵害。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/32488.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 猎户座GPT-5:OpenAI采用草莓训练,数学推理能力超越前代 上一篇 2025 年 8 月 13 日 下午9:07 OpenAI即将完成重大融资,估值飙升至1000亿美元 下一篇 2025 年 8 月 13 日 下午9:07 相关推荐 下一款10亿美元级别的三消RPG手游?Small Giant Games发布丧尸题材新作 三消领域愈发受到开发者关注,除了传统休闲向市场规模不断壮大外,还在于中重度向赛道的破冰。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 432000 行业动态 摸着Manus,字节百度开始过AI Agent这条河 通用Agent(智能体)领域热度持续攀升,明星初创公司Manus AI完成7500万美元融资,估值飙升至5亿美元。百度推出类通用Agent产品“心响”,字节跳动则上线了“扣子空间”。通用Agent的核心优势在于从“工具”向“伙伴”的角色转变,能够处理复杂、多步骤的任务场景。 siyushenqi.com 2025 年 8 月 13 日 367000 今年最大风口?米哈游、鹰角、库洛、网易抢同一条赛道 一场介于游戏厂商之间的“用户争夺战”。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 568000 一周要闻 NO.76丨露珠新游火柴人“杀”入中国港澳台;元梦之星让不再信买量的腾讯花了14亿;Temu在美国杀疯了 一起看看这周有哪些出海圈值得关注的大事记吧! siyushenqi.com 2025 年 8 月 14 日 • 行业动态 441000 运营6年再登畅销Top 5,这款二游“没有对手” 老牌二游长线经营之道。 siyushenqi.com 2025 年 8 月 21 日 • 行业动态 470000 行业动态 菲律宾社交电商Resellee获100万美元种子轮融资 11月17日消息,据亿恩网消息,近日,菲律宾社交电商平台Resellee获得100万美元种子轮融资 siyushenqi.com 2025 年 8 月 13 日 474000 行业动态 除了亚马逊,2024欧洲市场还有哪些平台值得关注? 全球范围内,35%的线上购物产生于第三方电商平台之中,而在欧洲市场中,85%的网络流量流向了电商平台,同时这些平台本身就占据了欧洲百强零售商中62%的份额。 siyushenqi.com 2025 年 8 月 12 日 451000 快手首款自研重度手游,登上了腾讯发布会 上周的腾讯游戏年度发布会上,葡萄君注意到了一款西游题材的卡牌养成+3D动作手游《西行纪 燃魂》。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 447000 “《原神》要拿今年TGA”?你玩了没? 《原神》热度持续升温。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 407000 行业动态 短剧热潮席卷海外:好莱坞跌倒的地方,中国公司狂赚 让老外真香的中式“抓马” siyushenqi.com 2025 年 8 月 18 日 471000 单月下载量超40万,登上中东多国娱乐榜TOP10,Dating社交赛道再迎“出海潜力股”? 一个集陌生人匹配、游戏、语音房于一身的“六边形”社交APP。 siyushenqi.com 2025 年 8 月 15 日 • 行业动态 543000 【出海社交】海外用户喜欢什么?怎样投其所好?有什么需要注意? 老话说,细节决定成败。这个道理同样适用于互联网产品,尤其是出海产品,能否克服水土不服、把握细节赢得用户的心成为各家公司决胜的关键。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 464000 平均每周1.5款产品!两人小团队的休闲游戏研发逆袭 休闲游戏对小团队来说是不可错失的赛道机会。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 458000 行业动态 大模型创业“生死局”:融资困难、造血乏力、卖身离场 金沙江创投等投资机构向“月之暗面”创始人提起仲裁,暴露了投资方和创业者之间关系的紧张,这是大模型创业环境恶劣的一个缩影。 siyushenqi.com 2025 年 8 月 13 日 433000 两年113起游戏收购案之后,一家收购狂魔的「硬着陆」 恐怕并不是个例 siyushenqi.com 2025 年 8 月 19 日 • 行业动态 412000 行业动态 Meta与AMD达成超千亿美元AI芯片协议 Meta计划未来5年采购AMD 6吉瓦AI芯片,交易额超千亿美元,并可能持股10%,助力AI数据中心竞赛。 siyushenqi.com 2026 年 2 月 26 日 313000 行业动态 WhatsApp绿标号常见问题解答 What is WhatsApp green checkmark? How to get the green checkmark? Benefits of having a green checkmark Comparison: Green checkmark vs. regular business account FAQ What is WhatsApp… siyushenqi.com 2025 年 8 月 13 日 下午9:07 447000 “贪玩游戏”也要上市了?半年收入就高达45亿,还有30-50款游戏 从传奇游戏,到速食米粉,再到潮流品牌,中旭未来想要走上一条更广阔的道路,目标成为一家涵盖多领域的互联网公司,这次的IPO或许正是他们即将迈出的重要一步。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 521000 Wildberries开辟阿塞拜疆市场,商品SKU超过500万个 Wildberries正在大步迈向国际舞台 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 457000 行业动态 暗黑手游到底啥时候上线?3位制作人告诉我们:上半年一定 “今年一定!” siyushenqi.com 2025 年 8 月 25 日 449000 玩手机轻松躺赚20万,这家公司是新型骗局还是伟大创新? 万万没想到,玩手机也能致富 siyushenqi.com 2025 年 8 月 19 日 • 行业动态 446000 拿下日本免费榜冠军,狼人游戏又变异了? 自走棋的出现,让市场重燃了对棋类游戏的希望。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 505000 行业动态 Shein和Temu加大在欧广告投放力度 在美国政府加征关税和取消小额包裹免税政策的背景下,中国快时尚电商平台Shein和Temu减少了在美国的数字广告支出,同时大幅增加了在欧洲的广告投入。这一调整表明它们正在将业务重心从美国市场转向欧洲市场。 siyushenqi.com 2025 年 8 月 5 日 500000 重磅!跨境大卖致欧科技首发过会,2021年净利2.40亿元! 时隔一个月,继赛维时代首发过会后,又一家跨境电商大卖即将登陆创业板 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 448000 行业动态 提升100倍!OpenAI考虑订阅价格为2000美元每月 Theinformation消息,OpenAI高管正在讨论其即将推出的全新大模型“草莓”和“猎户座”的拟定在2000美元一个月。 siyushenqi.com 2025 年 8 月 13 日 402000 行业动态 AI 时代的架构师,齐聚深圳 AI架构师,将成为新一轮科技和产业变革的引路人 siyushenqi.com 2025 年 8 月 14 日 504000 陈星汉:比《光·遇》1.6亿次下载更重要的 https://mp.weixin.qq.com/s/MPkkATevSuU7TwmOk7oOpQ siyushenqi.com 2025 年 8 月 25 日 • 行业动态 549000 行业动态 腾讯:左脚接入OpenClaw 右脚自研微信Agent 微信推出ClawBot插件支持OpenClaw,社交窗口成AI中枢;腾讯同步研发微信Agent,双策略抢占智能体入口。 转自扬帆出海 2026 年 3 月 23 日 263000 “盲盒热”退潮?DTC宠物品牌Barkbox却逆势增长! 作为近年爆火的潮玩盲盒品牌,泡泡玛特上市时有多风光,退潮时就有多窘迫。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 473000 行业动态 AI漫剧狂飙背后,为何有人月入千万,有人只想逃离? 2025年AI漫剧市场规模突破200亿元,AIGC技术将网文IP转化为动态内容,成本降低90%引爆出海热潮,但同质化与合规风险倒逼行业从"抽卡式量产"向精品化转型。 siyushenqi.com 2026 年 2 月 3 日 457000 发表回复 请登录后评论...登录后才能评论 提交