杏耀-杏耀娱乐-杏耀登陆官网主管QQ83670629--登录
近日，孙俪、邓超工作室发文打假，揭露网络上大量利用AI伪造两人形象和声音进行虚假广告宣传的行为。尽管工作室严正声明，但截至5月20日，仍有不少伪造视频未被清理，部分账号甚至利用克隆的明星声音制作“鸡汤”视频引流变现。
大量名人被换脸带货
当“全红婵带货土蜂蜜”“古天乐被游戏代言”等土味广告泛滥网络，你或许会震惊于名人竟也开始代言此类广告。然而，更令人咋舌的是，这些广告与名人本尊毫无关联，而是AI拟声的商业欺诈。这些伪造视频模式大同小异，明星“现身说法”推荐减肥、育儿等产品，台词仅替换产品名，评论区还贴出购买链接。
AI拟声骗局早已蔓延。去年12月，“张文宏”讲解蛋白棒的AI假视频走红，中老年消费者纷纷受骗下单。古天乐、林峰等港星肖像、声音被合成为赌博、游戏代言宣传片，经纪公司紧急辟谣。就连雷军的标志性普通话，也被AI用于虚假理财广告。
从明星到企业家，AI假带货受害者名单不断加长。实现这些，最低仅需一元，就能在二手平台买到“声音克隆工具包”。两年前，“AI孙燕姿”翻唱引发惊叹，如今，一键生成明星带货视频已成现实，假广告播放量动辄破百万。
综艺节目也成重灾区。刘晓庆、应采儿等明星在节目中的画面被P上广告，成为保健品、减肥药“代言人”。这些视频如流水线生产的赝品，低成本引流，规避代言费用。除了上文提及的一些名人，刘德华、谢霆锋、杨紫等众多明星也遭遇此类侵权，推荐产品五花八门，且均未标注AI生成。
AI技术让伪造变得容易
AI合成明星声音和视频的技术门槛越来越低，相关软件随处可见，甚至有详细教程。一些中介还传授如何利用克隆的明星声音进行商业变现，包括带货励志书籍、做IP收学员等。然而，这些行为均涉嫌违法，不仅侵犯了明星的肖像权和声音权，还误导了消费者。
电商平台“AI配音”服务，明星声音200元一条，素人50元，包教包会。商家直言，AI拟声带货商品资质不明、厂商不清，涉事店铺多为新注册账号。平台未提示“该画面可能由AI生成”，客观上助长了“假带货”风气。
AI换脸、拟声技术还被用于诈骗。骗子用AI合成靳东声音陪老人聊天，骗走近百万养老钱。福建一公司老板被AI合成的“合作伙伴”骗走430万。
这些以假乱真的声音从何而来？学者解释，采集声音关键特征，配合语速和情感参数，少量样本就能完成克隆。声音样本采集方式多样，可能是推销电话、公开演讲，甚至是客服回电。
AI拟声应用唾手可得。手机应用商店里，“AI配音”相关App下载量超千万次。198元就能解锁付费会员，录入名人声音无需授权证明。二手交易App上，AI声音克隆低至10块以内。
面对AI拟声、换脸和假新闻，保持怀疑与求证，或许是我们应对虚假内容的最后堡垒。
消费者对AI骗局难以维权
消费者吴鑫就差点被这类直播间欺骗。他想购买韩国Hexkin品牌的护肤品，刷视频时偶然进入一个名为@畅姐美妆护肤（韩国专场）的直播间，演员舒畅正在介绍并售卖该品牌护肤品。出于对舒畅的信任，吴鑫打算下单，却在点击商品链接时发现，商品竟是名为HanjiLian的产品。两款产品包装相似，不仔细看很容易买错。吴鑫留言询问，却被踢出直播间。之后，他发现平台上有许多类似账号，直播内容都是舒畅带货，但商品链接与介绍不符。他截图私信舒畅的官方账号，得知这些均非舒畅账号，工作人员提醒他谨慎下单。
这些盗播账号与明星账号高度相似，比如抖音账号@瓷炫姐姐与演员秋瓷炫的账号头像一致。@瓷炫姐姐直播时，播放的是秋瓷炫之前的带货录播视频，介绍的是Hexkin品牌产品，商品链接却是类似包装但名为KaFanLin的产品。消费者若不仔细辨别，恒盛会误以为真是秋瓷炫在直播带货，收到货后才发现品牌不同。
这些盗播账号不仅欺骗消费者，损害其权益，还破坏明星形象和声誉。消费者和明星面对这些盗播骗子，都很难维权，因为账号被发现后会很快注销，骗子再注册新账号继续行骗。
深度伪造为何难以遏制
伪造名人账号带货现象猖獗，与追责困难紧密相关。此类账号数量庞大、分布广泛，逐个维权几乎不可能。而且，这些账号手段多样，如趁深夜放出带货视频，早上又将其屏蔽，让消费者投诉无门，也增加了被发现的难度。
这种乱象不能再持续下去。目前已有《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定，对生成AI的规范使用提出要求，特别是在内容审核、信息标识方面，后者还明确规定使用AI生成内容不得侵害他人肖像权。
然而，AI产业快速发展，信息呈爆炸式增长，给AI信息甄别带来极大困难。据《2024人工智能安全报告》，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件增长1000%，形势十分严峻。
解决问题的关键在于执行，短视频平台作为生成AI的主要使用场景，要主动担起主体责任。对生成AI内容进行更严格审核，定期大规模筛查内容，一旦发现违规使用，就对账号严肃处理。
北京邮电大学互联网治理与法律研究中心主任谢永江指出，网络平台应加强专业类账号的注册管理和日常巡查，防止虚假标注误导网民。对于利用AI生成假神医等新型科技手段虚假宣传的企业，要依法追究其法律责任。执法部门也应提升执法能力，配备相应技术，恒盛注册快速有效识别并打击此类违法行为。
（文章综合《人民日报》《南方都市报》《新周刊》等）
编辑：卡卡
本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。
沪公网安备299号
互联网新闻信息服务许可证：
增值电信业务经营许可证：沪B2-2017116恒盛娱乐
