近日，韩国曝出Deepfake（深度伪造）事件，被认为是采用新犯罪手段的“N号房”案件的重现。社交媒体“电报”（Telegram）上多个群聊频道被发现涉嫌制作和传播深度伪造色情内容，受害者多为女性，犯罪活动已在未成年人、大学生、教师和士兵等群体中蔓延。

韩国国防部当地时间9日称，该部工作组调查发现，韩国军队内部有24名深度伪造犯罪的受害者。上述工作组于8月29日启动，已向受害者提供必要的咨询以及法律等方面的帮助。

受害者包含女军人 匿名加大破案难度

韩联社报道，韩国国防部9日称，该部已对通过内部网查看军方官员和士兵照片的权限作出限制，并启动有关教育计划，以防止类似犯罪案件再次发生。

不过，“电报”平台上女性军人的深度伪造性犯罪物共享对话群在事件发酵后就迅速下线，韩国警方未能发现相关线索。

据《韩民族日报》报道，军队性暴力咨询所称，只要国防部“有斩草除根的意志”，就可以通过内部网络的登录记录追踪犯罪的规模和加害者的信息。

本月初，韩国警方对多个自动生成“电报”平台上深度伪造性剥削内容的程序进行立案侦查，并对制作和播出相关影像的群聊频道进行广泛调查。韩国警察厅国家搜查本部本部长禹钟寿表示，韩国警方“正在用自己的办法全力查案”，但由于“电报”公司在提供账户信息等涉案资料方面的配合消极，警方调查过程十分困难。

《韩民族日报》报道，韩国警方在2024年1月至7月间接到的深度伪造犯罪举报为297件，但在8月“电报”平台“非法深度伪造性犯罪”通过媒体曝光后，韩国相关犯罪的举报数量激增，仅在8月26日至29日的4天时间里，警方就接到了88起相关举报。

深度伪造犯罪是指由男性提供女性照片，利用AI换脸制造色情图频，再通过社交媒体大范围传播，由于社交媒体的匿名性且涉案人可删除发布过的影像，侦查难度较大，犯罪者更加有恃无恐。

为了“轻松赚钱” 高中生涉案被捕

在调查过程中，韩国警方发现有大量青少年涉案，情况令人触目惊心。

韩国警方5日表示，韩国一名高中生已被拘捕，被指涉嫌使用深度伪造技术制作色情内容，并通过社交平台“电报”出售获利。

这名嫌疑人就读于庆尚北道的一所高中，他被指于6月7日在社交平台上发布帖文，称自己可以制作基于买家的家庭成员、熟人或其他名人，通过深度伪造换脸制作的色情图片，通过“电报”平台以每张1000韩元（约合0.673欧元）至2000韩元的价格出售。据称，他与买家交易了大约10次，共收到30多万韩元。

韩国警察发现了这些帖文，并假扮成买家接近嫌疑人，随后在7月实施逮捕，搜剿了317份涉案资料。

当地警察局表示，这名学生涉嫌违反《青少年保护法》和《性犯罪处罚法》，已被立案调查。报道称，大多数色情图片涉及的受害者是嫌疑人中学时期的熟人，包括1名教师和10名学生，随着调查进行，受害者人数还可能增加。

在接受警方审讯时，嫌疑人承认，他是在网上学会了如何制作深度伪造内容，从事犯罪活动是为了“轻松赚钱”。

韩国《京乡新闻》报道，针对女性的深度伪造犯罪在韩国日趋猖獗，不仅大学校园中出现此类案件，甚至连中小学、军队等场所也成为高发地，社交媒体上，特别是“电报”群组中不断有受害学校及被害者信息流出。

韩国警察厅厅长赵志浩此前就深度伪造性犯罪相关问题接受提问时表示，目前落网人员中有约75%为10岁至19岁年龄段的青少年，而30岁以下的年轻人在全部落网人员中的比例高达95%。鉴于这些年轻罪犯大多数“在毫无负罪感的情况下犯案”，韩国警方将设置专职校警对其进行教育改造。

校园案件增加 “电报”用户不减反增

与此同时，在利用深度伪造技术制作的淫秽影像通过通讯软件“电报”等广泛传播的情况下，韩国各级学校教师和学生受害案件进一步增加。

韩国教育部9日表示，通过全国17个市道教育厅进行调查的结果显示，今年1月至9月6日，共接到434起学生和教师深度伪造受害报案，与上月27日的第一次调查（196起）相比，仅10天就新增238起。各级学校报案数量依次是高中243起、初中179起、小学12起。

在全部434起案件中，有350起已委托相关机构进行调查，委托调查的案件数量较第一次调查（179起）几乎翻一番。截至9月6日，今年共有617名深度伪造淫秽影像受害者报案，其中学生588人，教师27人、工作人员2人。

另外，受害者请求相关机构帮助删除深度伪造影像案件共184起，实际被删除的数量尚不清楚。

讽刺的是，“电报”在韩国的用户环比增幅再次创新高。8月，该平台在韩用户超过347万人，环比增加逾31万人，增幅创自2021年3月开始相关统计以来新高。

据大数据分析平台Mobile Index统计，按年龄段看，19岁以下月活跃用户数量从7月的逾41万人增加近10万人至8月的逾51万人，其增幅为50-59岁（近3万人）的3.5倍，为60岁以上（4291人）的23倍。

据推测，由于利用深度伪造技术制作的非法淫秽视频通过“电报”传播，因好奇心而登录该软件的10-19多岁用户剧增。

《韩民族日报》报道，曾曝光“N号房”事件的前共同民主党紧急对策委员会共同委员长朴智贤表示，目前全国涉及深度伪造犯罪的人数可能达到22万（包含可能重复的情况），众多女性因此陷入不安和恐惧之中。

对于深度伪造犯罪，韩国政界给出了明确表态。《韩国日报》报道，韩国总统尹锡悦明确表示，深度伪造“不是玩笑，而是犯罪”。在野党共同民主党党首李在明说，根除韩国深度伪造犯罪，需要在国会立法层面制定对策。

韩国政府还决定推进与“电报”的运营公司构建合作热线，采取立法措施，打击以传播为目的制作深度伪造色情内容的犯罪行为，将相关最高刑罚从目前的5年监禁提高到7年。