Rúng động Hàn Quốc: Nạn deepfake hoành hành trở lại, hàng trăm thiếu nữ xuất hiện trong các video khiêu dâm nhạy cảm

Nỗi lo sợ bao trùm cả Hàn Quốc khi nhiều phụ nữ, nữ sinh tại nước này đang hoang mang bởi họ rất có thể là nạn nhân của hàng loạt video deepfake khiêu dâm.

Tại Hàn Quốc, tình hình tội phạm tình dục sử dụng công nghệ deepfake đang trở nên nghiêm trọng, không chỉ ở trường đại học mà còn lan rộng đến trường học các cấp thấp hơn, bao gồm cả tiểu học, gây ra tình trạng hoang mang cho nữ sinh cũng như cả xã hội.

Deepfake là thuật ngữ chỉ việc sử dụng công nghệ kỹ thuật số, đặc biệt là trí tuệ nhân tạo (AI), để tạo ra các bức ảnh, video hoặc tệp âm thanh đã bị chỉnh sửa.

Video khiêu dâm deepfake, chủ đề đang gây phẫn nộ khắp Hàn Quốc

Theo Korea Times, thủ đoạn của tội phạm là dùng hình ảnh, video của nạn nhân và công nghệ deepfake để tạo ra nội dung lừa đảo và khiêu dâm sau đó phát tán trên mạng xã hội. Còn phía nạn nhân, những người bị sử dụng gương mặt để ghép vào các video nhạy cảm thì lại chẳng hay biết gì về điều này. Đến khi phát hiện ra thì video deepfake đã lan truyền với mức độ chóng mặt.

Điều này đã dấy lên mối lo sợ cho phụ nữ Hàn Quốc và đặc biệt là các nữ sinh tại đất nước này.

Người dân và sinh viên tại Hàn Quốc tổ chức họp báo lên án tội phạm deepfake tại ga Gangnam (Seoul)

Theo cơ quan Cảnh sát quốc gia Hàn Quốc, từ 2021 đã có 403 cá nhân bị bắt giữ vì tạo video khiêu dâm deepfake bất hợp pháp, trong bối cảnh Hàn Quốc đang nỗ lực chống lại nạn khiêu dâm deepfake trực tuyến nhắm vào phụ nữ trẻ.

Cùng với đó là 7.530 cá nhân đã bị bắt giữ từ năm 2021 đến năm 2023 vì tội bạo lực tình dục trên không gian mạng, điển hình là phát tán video khai thác tình dục liên quan đến trẻ em và video quay lén.

Không chỉ số vụ tội phạm liên quan đếndeepfake tăng cao mà số lượng nạn nhân ở tuổi vị thành niên cũng rất đáng báo động. Gần 60% các nạn nhân do các vụ mà tội phạm liên quan đến deepfake gây ra đang ở độ tuổi vị thành niên.

Số liệu từ cảnh sát cho biết, có 527 trường hợp tội phạm deepfake được báo cáo, trong đó 315 nạn nhân là thanh thiếu niên, đánh dấu mức tăng đáng kể so với các tuổi khác. Đặc biệt, số lượng nạn nhân vị thành niên có xu hướng tăng mạnh qua từng năm, từ 53 trường hợp vào năm 2021 lên tới 181 vào năm 2023.

Hàn Quốc đang đẩy mạnh công tác phòng chống tội phạm deepfake

Từ nữ sinh đến giáo viên đều là nạn nhân của deepfake!

Nữ sinh Hàn Quốc đang trong tình trạng lo lắng, với việc nhiều em phải khóa tài khoản mạng xã hội để bảo vệ hình ảnh cá nhân không bị lạm dụng. Các phòng chat trên Telegram trở thành nơi chia sẻ nội dung deepfake khiêu dâm, làm tăng mức độ hoang mang và sợ hãi. Các trường học bị ảnh hưởng đã lên đến hàng trăm, với 447 trường được liệt kê trong danh sách thống kê chia sẻ trên nền tảng xã hội.

Bộ Giáo dục Hàn Quốc đã nhận được báo cáo từ 186 học sinh và 10 giáo viên về việc họ bị ghép ảnh vào nội dung khiêu dâm từ tháng 1/2024 đến nay, và các nội dung này sau đó đều được phát tán trên mạng xã hội. Điều này cho thấy sự cần thiết của việc nâng cao ý thức bảo vệ thông tin cá nhân trên không gian mạng và cải thiện các biện pháp phòng chống tội phạm sử dụng công nghệ cao.

Trước đó, Hàn Quốc đã từng rúng động với những phòng chat Telegram mà nổi bật nhất là "Phòng Chat thứ N" bị phanh phui. Đây là nơi người dùng trả tiền để xem những nội dung khiêu dâm, bạo lực tình dục, xúc phạm thân thể phụ nữ... Những kẻ cầm đầu đã chiếm đoạt thông tin của các nạn nhân sau đó đe dọa, ép buộc họ quay những video theo yêu cầu. Đường dây phạm tội này thu hút gần 260.000 tài khoản người dùng, có khoảng 74 nạn nhân là phụ nữ và trẻ em gái. Đây là vụ án bóc lột tình dục kỹ thuật số lớn nhất được tiết lộ tại Hàn Quốc từ trước đến nay.

Vụ việc này từng là chủ đề nổi cộm nhất tại Hàn Quốc và sau đó vẫn còn những phòng chat tương tự xuất hiện.

Hàn Quốc đang mở cuộc điều tra tội phạm deepfake và cả Telegram với cáo buộc nền tảng này tiếp tay cho tội phạm phát tán nội dung deepfake

Hiện tại, Cơ quan Cảnh sát Quốc gia (KNPA) đã mở cuộc điều tra từ tuần trước, nhằm vào cáo buộc Telegram tiếp tay cho tội phạm. Theo ông Woo Jong-soo, lãnh đạo cơ quan điều tra tại KNPA, hôm nay cho biết: "Trước những tội ác liên quan nội dung deepfake, Cơ quan Cảnh sát Quốc gia (KNPA) đã mở cuộc điều tra từ tuần trước, nhằm vào cáo buộc tiếp tay cho tội phạm. Telegram trước đó không phản hồi yêu cầu của chúng tôi về cung cấp thông tin tài khoản trong quá trình điều tra".