小红书2024年11月13日发布:韩国deepfake色情犯罪激增，AI技术发展助长网络性暴力

2020年，韩国当局在追查一个强迫年轻女性为付费观众制作色情视频的敲诈团伙时，他们在社交媒体的阴暗角落发现了另一样东西：粗制滥造地将他人面孔附加在色情图片上的图片。

他们不知道如何处理这些早期的深度伪造色情内容。最后，国会通过了一项措辞含糊的法律，禁止制作和分发这类内容。但这并没有阻止利用人工智能技术的犯罪浪潮。

在过去两周里，韩国人震惊地发现，越来越多的年轻男性和青少年男孩拿走了数百张同学、老师和军队同事的社交媒体图片——几乎所有的受害者都是年轻女性和女孩，包括未成年人——并使用深度伪造应用程序将它们制作成具有性剥削性质的图片和视频剪辑。

他们通过加密消息服务Telegram上的聊天室传播这些材料，有些聊天室的成员多达22万人。深度伪造通常将受害者的面孔与色情图片中的性暗示姿势的身体结合起来。这项技术非常先进，以至于普通人很难分辨出它们是假的，调查人员说。随着国家努力应对这一威胁，专家们指出，在韩国，对新技术的热情有时可能超过对其伦理影响的担忧。

但对许多女性来说，这些深度伪造只是她们国家根深蒂固的厌女文化的最新在线表现——一种文化，现在已经培养出认为在网上分享羞辱女性的色情图片很有趣的年轻男性。

“韩国社会不把女性当作同胞看待，”李有珍说，她是其中一所大学的学生，这所大学是数百所中学、高中和大学之一，那里的学生都受到了侵害。她质问政府为什么没有在“成为数字化文化，偷取朋友的照片并用于性羞辱”之前做更多的事情。

在线性暴力是一个全球性问题，但韩国处于前沿。它是否以及如何成功解决深度伪造问题，将受到其他地方的政策制定者、学校官员和执法人员的关注。

韩国有一个偶尔浮出水面的性犯罪暗面。一名韩国人因经营世界上最大的儿童性虐待图片网站之一而被定罪。一名K-pop艺人因通过夜总会促成卖淫而被判有罪。多年来，警方一直在打击偷拍色情片。2020年调查的敲诈团伙的主谋因诱骗年轻女性，包括青少年，制作他在网上通过Telegram聊天室出售的视频而被判处40年监禁。

易于使用的深度伪造技术的兴起为这类性暴力增加了一个阴险的维度：受害者往往在收到匿名消息或警察的电话之前，不知道自己是受害者。

“奴隶”、“厕所”、“破布”

对于一位30岁的深度伪造受害者来说，她的攻击始于2021年在Telegram上收到的一条匿名消息，上面写着：“嗨！”

在接下来的几个小时里，一连串的脏话和深度伪造的图片和视频剪辑接踵而至，上面有她的脸，是从她在社交媒体上发布的家庭旅行照片中取下的。在身体上写着“奴隶”、“厕所”和“破布”等字眼。

今年4月，她从警方那里得知，她在韩国国立大学的两名前同学是被拘留者之一。这些来自这所著名大学的男性毕业生和同谋者针对包括十几名前首尔国立大学学生在内的数十名女性进行了深度伪造色情攻击。其中一名男子上个月被判处五年监禁。

“我想不出他们那样对待我的原因，除了我是女性，”她说。“周围有像他们这样的人，让我对人类失去了信心。”

她说，自那次攻击以来，她一直在与创伤作斗争。每当她收到消息时，她的心跳就会加速，并对那些制造和分发深度伪造的人提起威胁性的诉讼。

尽管如此，问题仍在加剧。韩国警方报告称，2021年1月至7月间，深度伪造性犯罪案件有297起，而2021年全年为156起，这是首次收集此类数据。

直到上个月，当地新闻媒体曝光了Telegram上深度伪造的广泛交易，总统尹锡悦才下令政府“根除它们”。尹锡悦的批评者指出，在他2022年竞选总统期间，他否认韩国存在结构性性别歧视，并承诺废除性别平等部。

今年深度伪造的增加引起了年轻女性的恐慌，许多人删除了社交媒体上的自拍和其他个人图片，担心它们会被用于深度伪造。去年担任中学校长、上个月在首尔大都会教育局担任职务的郑进权表示，他的前学校已经讨论过是否从年鉴中删除学生照片。

“一些老师已经拒绝在年鉴上有他们的照片，用漫画代替，”郑先生说。

韩国是全球最发达的国家之一，年轻人从小就变得精通技术。但批评者表示，其学校系统如此专注于为他们准备至关重要的大学入学考试，以至于他们没有被教导以道德的方式处理新技术。

“