PA视讯（集团）-官方网站

　　身为演员的温峥嵘，于同一时间现身多处直播间，推销着各不相同的产品，然而这些视频实际上是经由AI伪造而成的。这般借助人工智能技术来冒充名人进行带货的现象，正于无声无息中不断蔓延开来，致使消费者稍有不慎就会陷入上当受骗的境地。

　　影视制作领域最初应用了人工智能换脸技术，现在已是触手可及的状态。2023年，市面上出现了若干款免费换脸软件，普通用户只要上传几张照片，就能生成仿若真实的换脸视频，此项技术的普及致使不法分子能够轻松制作出名人推销产品的虚假内容 。

　　这些被伪造出来的视频，其制作所需的成本是极低的、据网络安全机构展开深入的调查了解到，制作一小段时长乃是30秒的AI换脸视频，仅仅只需要几十元而已、那些不法的商家，借助盗用名人直播时候所录制下来的影像，运用开源算法去实施面部替换的操作，最终成功生成了足以以假乱真的带货视频、这样一种技术被滥用的情形，正在构筑形成一条灰色的产业链 。

　　2023年10月，有消费者购买了，用AI伪仿明星推荐所推销的一款保健品，收到货后却发现仅仅只是普通食品。，这类产品不但无法达成宣传成效，，而且还可能向消费者健康构成威胁，，而AI伪造视频所推销的产品大多是假冒伪劣商品。

　　这些被假冒来的产品拿去销售，给消费者造成了双重损失，一方面消费者付出了金额比商品其实际所具有的价值要高出许多的费用，另一方面这些产品在被使用之后有可能会产生并非正面的反应。更为严重的是，因这销售的渠道有着隐蔽的特性，故消费者在维护自身权益时面临着诸多艰难的状况。

　　AI换脸致使多位公众人物变成受害者呢 ，除了演员温峥嵘哟 ，主持人李梓萌呀 ，奥运冠军张继科呐等都有过形象被盗用的情况咧 ，这些虚假视频于各大平台进行传播哩 ，极大地损害了名人的公众形象以及社会声誉呐 ！

　　名人在遭受侵权之时进行维权，其过程充斥着诸多挑战。有一位艺人经纪公司的负责人对外透露，要去确认一个AI换脸视频，这需要借助专业技术进行鉴定方可实现，而针对单个案件而言，取得证据所需要的费用，有可能会高达数万元之多。就算最终能够胜诉，然而侵权的一方往往在很早之前就已经把资产转移了，所以很难去执行赔偿这一事项。

　　9月1日今年，《人工智能生成合成内容标识办法》正式生效了，该办法清晰明确有所规定，所有那些可以由AI生成的内容都必须添加显著的标识，这是我国在人工智能治理这一领域所出台的重要的规范性文件 。

　　新规作出要求，平台方要对AI内容展开审核以及进行标注。要是有未按照规定来标识的AI生成内容，那么将会被要求下架，违规的人有可能会面临行政处罚。这个办法给打击AI造假行为提供了法律依据，还填补了之前存在的监管空白。

　　尽管新型规则已然开始施行，然而部分平台于执行方面依旧呈现出欠缺之处。诸多短视频类型的平台针对AI所生成内容的审核主要是依靠人工来进行，在面对数量庞大的内容时显得力不能及。技术用来检测的手段存在着滞后的情况，如此也给违规的内容留出了得以传播的空间。

　　平台算法推荐机制，在客观层面上，对虚假内容传播起到了助长效果。AI仿冒名人视频具备较高点击率，算法会把这类的视频推荐给更多用户。这种流量导向机制致使侵权视频能够快速扩散。

　　对AI造假进行遏制，这需要多方共同协同起来付出努力，用以监督管理的部门应当去建立起AI内容监测的平台，借助数字水印以及其他技术手段来强化溯源的能力，与此同时还需要提升违法所需要承担的成本，针对于那些屡教不改的平台实施严厉的处罚措施。

　　对于消费者而言，同样需要提升起一种防范的意识，在去观看有着名人进行带货的视频之际，应当留意查看其中所包含的内容标识，一旦发现了存在可疑状况的这种视频，就应当及时地去进行举报，唯有达成一种社会共同治理的整体格局，才能够对于这类 AI 造假后的处于不规范状态的现象起到有效的抑制作用。

　　您于观看直播带货这份行为之际，可曾怀有那般怀疑，即屏幕里的那个“名人”极有可能是借着AI生成出来的假冒之人呢？欢迎于评论区去分享您自身的经历以及看法哦，要是觉着本文存有帮助的话，那就请点赞予以支持吧。