2020年，当韩国政府追查一个强迫年轻女性为付费观众拍摄露骨色情视频的勒索团伙时，他们在社交媒体的黑暗角落里发现了其他东西：经过粗略加工的色情图片，上面贴着其他人的面孔。
他们不知道如何处理这些深度伪造色情内容的早期尝试。最后，韩国国会颁布了一项措辞模糊的法律，禁止制作、传播这类内容。但这未能阻止一个使用人工智能技术的犯罪浪潮的出现，该浪潮现已将韩国网络厌女文化推到了登峰造极的程度。
在过去的两周里，韩国人震惊地发现，越来越多的年轻男性和十几岁的男孩在社交媒体上获取同学、老师和军队同僚的大量照片，而且几乎都是年轻女性和女孩，包括未成年女孩的照片，然后借助深度伪造应用程序，用这些照片来制作性剥削图片和视频片段。
他们通过加密短信服务平台Telegram的聊天室来传播这些内容，有些聊天室的成员多达22万。这些深度伪造的内容通常将受害者的面孔贴在摆出露骨性姿态身体的图片上，后者来自淫秽作品。调查人员说，伪造照片的技术如此之先进，以至于普通人常常很难分辨出它们是假的。随着韩国迅速采取措施努力应对这一威胁，专家们已指出，韩国人对新技术的热情有时会超过对其道德影响的担忧。
但对许多女性来说，这些深度伪造只是她们国家根深蒂固的厌女文化在网上的最新表现，这种文化现在培养出了认为在网上分享羞辱女性的色情图片很有趣的年轻男性。
“韩国社会不把女性当做同胞，”大学生李宥真（音）说，她在读的大学是数百所学生成为受害者的中学、高中和大学之一。她质问政府为什么没有在“窃用朋友的照片，用其来进行性羞辱已成为一种数字文化”之前采取更多行动。
虽然网络上的性暴力是一个日益严重的全球问题，但这个问题在韩国尤为突出。韩国能否以及如何成功地解决深度伪造问题，将受到其他国家的政策制定者、学校官员和执法部门的关注。
韩国社会的性犯罪阴暗面偶尔会浮出水面。一名已被定罪的韩国人曾经营着世界上最大的儿童性虐待图片网站之一。一名韩国流行艺人因在夜总会协助卖淫而被定罪。多年来，韩国警方一直在打击偷拍色情片的犯罪活动。2020年对那个勒索网的调查已导致其主犯被判处40年有期徒刑，该人曾引诱年轻女性（包括十几岁的女孩）拍摄视频，然后通过Telegram的聊天室在线销售。
易于使用的深度伪造技术的兴起为这种形式的性暴力增添了隐蔽而危险的维度：受害者往往不知道自己是受害者，直到收到匿名者发来的短信或警方打来的电话。
“奴隶”、“厕所”、“抹布”
对一名30岁的深度伪造受害者（为了保护她的隐私，这里不用她的姓名）来说，这种攻击始于2021年，她先是在Telegram上收到匿名者发来的一条短信：“嗨！”
在接下来的几个小时里，她收到了源源不断的淫秽短信，还有深度伪造的图片和视频片段，其中的头像取自她在社交媒体上发的家庭旅行照片。图片和视频中的身体上写着“奴隶”、“厕所”和“抹布”等字眼。
今年4月，她从警方得知，她在首尔国立大学读书时的两名前同学在被拘留者之列。从这所名牌大学毕业的男生伙同他人用深度伪造技术制作色情内容，攻击了数十名女性，其中包括十几名从首尔国立大学毕业的女生。上个月，被拘留的一名男子被判处五年有期徒刑。
“除了我是女性外，我想不出他们这样对待我的原因，”她说。“身边有像他们这样的人，这个事实让我对人类失去了信心。”
她说，自从那次攻击发生以来，她一直在与心理创伤作斗争。每当她在智能手机上收到短信通知或匿名电话时，她的心跳就会加速。
向世界各地出口流行文化的韩国已成为最容易受深度伪造的色情内容伤害的国家。据美国网络安全公司Security Hero发布的《2023年深度伪造现状》研究报告，全球一半以上的深度伪造将韩国人作为攻击目标，其中大多数受害者是韩国歌手和女演员。主要的韩国流行音乐经纪公司已向深度伪造内容宣战，称他们正在收集证据，并威胁对深度伪造内容的创作者和传播者提起诉讼。
