备受关注的韩国“N号房”事件又有了新进展。据韩媒消息，警方在调查过程发现了多个“色情换脸”聊天室，内有大量韩国女子偶像的换脸照片和视频。

AI前哨站调查发现，这只是色情黑灰产的冰山一角。如今，包括换脸在内的多种AI技术，已经被深度应用于色情相关产业。

据韩国网站Naver消息，警方在调查“N号房”事件时，在涉事平台Telegram上发现了四个“成人换脸合成物”的专用聊天室，换脸对象均为韩国女艺人。

与通过邀请加入的“N号房”不同，这些专用聊天室需要通过输入复杂的注册地址进入。在某个以女性偶像歌手为主题的换脸房内，超过2000名会员上传了换脸照片和视频。

这并非色情换脸视频首次被曝光。事实上，AI换脸背后的技术Deepfakes诞生之初，就是被开发者用于色情换脸：在开发者上传的视频中，成人女优的脸被换成各种女明星，且效果极为自然。AI换脸技术由此逐渐走入大众视野。

从2017年诞生到现在，经过近三年的发展，AI换脸技术已经成为色情产业的利器。据AI前哨站此前调查，一些国外的成人网站出现了“换脸专区”，其中包括大量以各国女艺人为主题的色情视频。

去年，网络安全公司Deeptrace发布了一份与色情换脸有关的报告。报告显示，从2018年12月至2019年7月，网上的AI换脸视频数量几乎翻了1倍，逼近1.5万部。其中，色情视频占比高达96%。

值得注意的是，韩国女偶像的尴尬处境，在Deeptrace的报告里已经初露端倪。报告显示，在观看量排名前十的女艺人中，韩国偶像歌手占据三席，其色情换脸视频数量达到404部，观看数总计1340万次。

韩国偶像歌手成为主要受害对象。图/AI前哨站

韩国女偶像成为换脸重灾区，与韩国的女性地位与流行文化有密切关系。

韩国大学国际研究学院的博士生Xi Lin在其论文中指出，韩流文化中存在“物化”女偶像的现象。平均而言，越关注韩流活动的人，越不认可性别平等。

研究韩流和全球文化的南加州大学安娜堡新闻与传播学院的实践助理教授Hye Jin Lee在接受外媒采访时表示，他怀疑是韩国女偶像的“黑粉”制作了色情换脸视频。对偶像而言，声誉和形象至关重要。通过色情换脸视频玷污她们的形象，能让黑粉获得充分的满足。

在此次N号房事件中，某女子偶像歌手所属公司的工作人员就在接受韩媒采访时无奈表示，网络平台的内容流动非常频繁，很难确定生产者和传播者。因此，即使他们知道艺人的色情换脸照片在网络上流传，也只能“放手不管”。“如果要强硬地应对，歌手的形象也将受损，在很多方面都令人头疼。”他说。

在AI换脸的汹涌暗潮中，女性成为最大的受害者。

一个对比鲜明的事实是，根据网络安全公司Deeptrace的统计，也有不少男性艺人、企业家甚至是政客被制作进娱乐性质的换脸视频里，比如Facebook创始人扎克伯格、美国总统特朗普。然而，色情换脸视频中的被换脸对象，是清一色的女性。

非色情视频中女性仅占39%，色情视频中却占100%。

这些女性的换脸视频被数以万计的人浏览和品评，自己却可能毫不知情。一些并非艺人的普通女性在社交网站发布的生活照，也被盗取和利用。

事实上，不只是AI换脸，还有其他AI技术被深度应用于色情产业。图像识别和增强算法的进步，让AI有了补全画面缺失部分的能力，由此衍生出“脱衣”或“去码”工具。

去年6月下旬，AI软件“DeepNude”现身网络。它以人工智能算法为基础，可以识别并“删去”照片中人物的衣服，从而把正常照片转为“裸照”。由于争议太大，这款软件在上线数天后就从官网火速下架。但AI前哨站调查发现，那些已被下载和保存的软件资源，仍然在悄然流传。

可以去除画面中马赛克的“去码”技术，如今也相当成熟，导致大量所谓“无码”视频在网上流传。去年8月，一段以日本人气女优三上悠亚为主角的“无码破坏版”视频引发热议，三上悠亚通过Instagram公开回应：“这次的无码影片流出变成大家讨论的话题，但是很抱歉~这是AI电脑合成的喔。”

三上悠亚公开回应。图自Instagram。

值得注意的是，从Deepfakes到如今的“脱衣”“去码”工具，相关开发者都始终隐匿在网络背后，真实身份成谜。而他们所发布的软件和工具，却因为开源得到广泛流传，并且大大降低了技术应用的门槛——哪怕是没有人工智能理论基础的普通人，也能通过相关教程和说明快速上手使用。

纵观全球，遭遇AI色情的女性普遍面临困境：尽管有肖像权、名誉权等方面的维权角度，但网络的匿名性和流动性等因素，还是让她们处于维权无门的状态。

去年以来，各国监管部门纷纷展开探索，希望找到更好地规制方式。

去年5月底，国家网信办会同有关部门发布《数据安全管理办法（征求意见稿）》，其中要求，“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明’合成’字样；不得以谋取利益或损害他人利益为目的自动合成信息”。

去年10月，美国加尼福利亚州政府签署了AB 602法案，禁止在未经当事人同意的情况下进行色情活动——“同意”意味着当事人明确知晓并自愿签署协议（协议中应该包括对色情内容的描述）。 如果某个加州居民发现有人未经其允许制作了色情换脸视频，可以向法院提起诉讼并追讨赔偿。法定的损害赔偿不少于1500美元但不超过三万美元，如果不法行为是恶意实施的，法定损害赔偿金最高可增至十五万美元。

如何防范AI技术作恶？我们或许站在一个新时代的起点。

采写：南都记者 冯群星 陈志芳

本文版权归南方都市报社所有，且为未见报内容。欢迎转发分享给朋友。未经许可，禁止转载。如需获得转载授权，请点击购买授权