百万女网红怒斥AI变脸：被制作脱衣色情视频

近日，一名女网红关于“AI换脸”的曝光引发公众关注！

该网红称，“疑惑地点开了视频，视频里的女生正做着一些难以描述的动作。

“看着视频里那张跟我长得一模一样的脸，愤怒得说不出话来。我突然意识到可能我的脸被AI盗用了……”

橙柿互动注意到，该网红是一名颜值博主，在视频账号里有数百万的粉丝。

今天（4月27日），记者联系了这名女网红小菲（化名），暂时未获得回复。

类似事件也曾在浙江发生过：近期，杭州检察机关曝光了一个“女神群”，群里发送的淫秽视频有不少是犯罪嫌疑人使用“AI换脸”技术合成的，还可以根据顾客需要“私人定制”。

和明星“拥吻”、长得和特朗普“一模一样”、马斯克出现在“平民窟”……

关于“AI换脸”的事件，多次引发社会关注和担忧。

“究竟是谁在盗用我的脸？”

女网红小菲发文称，“必须马上搞清楚，究竟是谁在盗用我的脸？”

她发现，在境外社交平台上有人冒充她注册了假账号。对方先是顶着她的名义搬运她的日常内容，等到粉丝人数差不多的时候，就以会员订阅的方式贩卖视频。

为了吸引更多人的加入，新会员首月还是免费的。

此后只需要花费21.6美元，就可以在未来的半年里源源不断地收到那些所谓的only fans的盗脸色情视频。

接着，小菲又去另一个社交网站搜索了一遍，发现了更多制作AI盗脸视频的账号！

这些账号少则几百粉，多则几万粉丝。其中量级较大的账号一条新“作品”就可以获得1k点赞量。

随着小菲的深入了解，发现“AI盗脸”背后好像已经形成了一条完整的产业链：不法分子通过AI换脸技术赚钱。

他们将明星、博主甚至素人的脸制作成假的色情照片与视频，明码标价地获取利益。

“我曾看到过一个网红名单，表里密密麻麻写满了我熟悉的名字。

“他们根据博主的粉丝量级进行分类，假视频价格在30-50元不等。但只要你花200元就可以进群，进群后不仅可以享受永久半价，甚至还能接‘私人定制’。

“所谓的私人定制，即提供“一键脱衣”的合成服务。

“只需要付费后给这些账号发送带人像生活照，他们就能通过AI合成的方式制成假的视频。

“那些收到视频的人除了满足自己龌龊的欲望外，还可以将这些非法内容在网上传播，上演一出造谣狂欢。”

“希望不再有更多女孩成受害者”

小菲称，半年前，自己发现这件事的时候，安慰自己说“假的真不了”选择了忍气吞声，直到最近又遭遇类似的事情。

她怒斥这种行为，“他们仅用几分钟的时间，就可以把女性的脸和身体拆解拼接当作商品兜售。

“不管是为了满足自己的性幻想还是为了挣钱，我想说这本质上就是对女性的侮辱、是一次网络霸凌、是一场集体的性暴力。

“事情发生之后，我试图去举报这些账号内容。

“后来想要通过法律途径进行维权，结果发现这些账号都是难以追踪的海外ip。而传到国内聊天群里的视频也已经过多次转手，难以找到找到源头。”

小菲称，只要这种“私人定制”服务还在，只要有一张自拍或者一条露脸视频被传到互联网，任何女孩都有可能成为受害者。

近期类似事件频发，地铁女生被“一键脱衣”，利用AI模型生成女艺人虚假图片等等。

小菲称，“我有必要站出来要让大家关注这件事情。如果有人看到这样的视频或图片，也希望不要传播和攻击。

“网络不是法外之地，希望不再有更多女孩成为受害者。”

换脸软件背后

暗藏法律风险和侵权纠纷

在网购网站，橙柿互动输入“换脸”的关键词，立刻弹出大量售卖页面。

记者发现，这些换脸商品多属于虚拟物品，有开发的APP，有技术售卖。

一家出售换脸软件的商家宣称：可用于视频换脸和实时直播换脸；可自行训练模型，随意换脸成自己想要的人物。

不过，店家巧妙地提醒：注意不要侵犯别人肖像权，切记不要拿去做灰产。

还有售卖AI智能换脸技术的脚本和详细教程，宣称效果牛逼，支持视频换视频，还支持3D卡通换脸。

那么，什么是AI换脸技术？

AI换脸，是指通过AI人工智能技术，把别人的脸换成自己的脸。

目前，AI换脸的技术发展飞速，变换出来的脸部表情自然，效果逼真。

整个过程只需要通过一张照片，用AI技术在软件上使用自己的照片替视剧或者小视频中的人物，从而生成以自己为主角的视频。

橙柿互动发现，在购物网站上，有人把《神奇女侠》盖尔·加朵的脸，完美替换成明星迪丽热巴的。

还可以把国际科技大腕埃隆·马斯克，植入自己生活的街头小巷。

4月7日，浙江杭州萧山区检察院曝光的一个“女神群”，引发关注。

名为“女神群”，群成员却都是一群大老爷们。每天都不停地有人入群，但除了群主虞某外，很少有人发言。

早在2020年，“AI换脸”刚刚在国外兴起的时候，80后安徽小伙虞某就对它产生了兴趣，自学掌握了这门技术。

后来随着“AI换脸”技术的走红，让虞某嗅到了商机。

虞某先是将原本建的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入。

当观看者达到一定人数后，虞某会发布群消息称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完整版。

除此之外，虞某表示，“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的，根据顾客的需要还可以使用不同的女明星的形象，进行“私人定制”。

其中，经警方查实，几位人气女明星成了虞某“AI换脸”淫秽视频的“重灾区”。

萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。案件目前正在法院审理中。

有法律界人士认为：近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。

橙柿互动了解到， 4月11日，国家网信办起草了《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见，意见反馈截止时间为2023年5月10日。

《征求意见稿》共21条，从生成式人工智能服务商的准入，到算法设计、训练数据选择、模型、内容，以及用户个人隐私、商业秘密等方面提出了相关要求。

要求尊重他人合法利益，防止伤害他人身心健康、损害肖像权、名誉权和个人隐私，侵犯知识产权的行为发生，禁止非法获取、披露、利用个人信息和隐私、商业秘密。

AI换脸技术实行侮辱诽谤可构成侵权

浙江金道律师事务所的夏文忠律师认为，为了应对AI换脸技术对公民的侵犯，《民法典》第一千零一十九条规定：

任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。

未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。

未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。

夏文忠律师指出，AI换脸技术利用人工智能技术对图片或视频中的目标人脸进行针对性置换，自然涉及到上述条款对肖像权的规定。