Sự lạm dụng phổ biến

Sự phổ biến của các công cụ AI có nghĩa là bất kỳ ai cũng có thể trở thành mục tiêu của các video deepfake rõ ràng, ngay cả khi họ chưa bao giờ chụp hoặc gửi ảnh khỏa thân.

Nhưng công nghệ deepfake hiện đang gây ra mối đe dọa mới và cuộc khủng hoảng này đặc biệt nghiêm trọng ở các trường học. Theo dữ liệu từ Bộ giáo dục Hàn Quốc, từ tháng 1 đến đầu tháng 11 năm ngoái, hơn 900 học sinh, giáo viên và nhân viên trong các trường học đã báo cáo rằng họ đã trở thành nạn nhân của tội phạm tình dục deepfake. Những con số đó không bao gồm các trường đại học, nơi cũng đã chứng kiến một loạt các cuộc tấn công khiêu dâm deepfake.

Để ứng phó, Bộ Giáo dục đã thành lập một lực lượng đặc nhiệm khẩn cấp. Và vào tháng 9, các nhà lập pháp đã thông qua một sửa đổi khiến việc sở hữu và xem phim khiêu dâm deepfake có thể bị phạt tới ba năm tù hoặc phạt tiền tới 30 triệu won (hơn 20.000 USD).

Việc tạo và phát tán hình ảnh khiêu dâm deepfake không được đồng ý hiện có mức án tù tối đa là 7 năm, tăng từ 5 năm.

Cơ quan Cảnh sát Quốc gia Hàn Quốc đã kêu gọi các sĩ quan của mình "đi đầu trong việc xóa bỏ hoàn toàn tội phạm tình dục deepfake".

Nhưng theo tuyên bố của Cảnh sát quốc gia Seoul, trong số 964 vụ tội phạm tình dục liên quan đến deepfake được báo cáo từ tháng 1 đến tháng 10 năm ngoái, cảnh sát đã bắt giữ 23 người.

Cảnh sát bế tắc

Nhà lập pháp Kim Nam-hee nói với CNN rằng "các cuộc điều tra và hình phạt cho đến nay vẫn còn quá thụ động".

Vì vậy, có những nạn nhân đang tự tiến hành cuộc điều tra của riêng họ.

Ruma là một sinh viên đại học 27 tuổi khi cơn ác mộng của cô bắt đầu: Có kẻ nào gửi đến cho cô qua tin nhắn Telegram những bức ảnh ghép khuôn mặt cô với những cơ thể khỏa thân và các tin nhắn quấy rối, trêu tức.

Khi cô đến cảnh sát, họ nói với cô rằng họ sẽ yêu cầu thông tin người dùng từ Telegram, nhưng cảnh báo rằng nền tảng này nổi tiếng là không chia sẻ dữ liệu như vậy, cô nói.

Sau vài tháng, khi cảnh sát nêu lý do gặp khó khăn trong việc xác định nghi phạm, Ruma và các bạn sinh viên khác đã tìm kiếm sự giúp đỡ từ Won Eun-ji, một nhà hoạt động nổi tiếng toàn quốc vì đã vạch trần  nhóm tội phạm tình dục kỹ thuật số lớn nhất Hàn Quốc trên Telegram  vào năm 2020.

Won đồng ý giúp đỡ, tạo một tài khoản Telegram giả và đóng giả là một người đàn ông ngoài 30 tuổi để xâm nhập vào phòng chat nơi hình ảnh deepfake đã lan truyền. Cô đã dành gần hai năm để cẩn thận thu thập thông tin và trò chuyện với những người dùng khác, trước khi phối hợp với cảnh sát để giúp thực hiện một chiến dịch truy quét.

Khi cảnh sát đối mặt với nghi phạm, Won đã gửi cho anh ta một tin nhắn Telegram. Điện thoại của anh ta reo lên – anh ta đã bị bắt.

Hai cựu sinh viên của Đại học Quốc gia Seoul (SNU) danh tiếng đã bị bắt vào tháng 5 năm ngoái. Thủ phạm chính cuối cùng đã bị kết án 9 năm tù vì sản xuất và phân phối tài liệu khai thác tình dục, trong khi một đồng phạm bị kết án 3,5 năm tù.

Cảnh sát cho biết các cuộc điều tra sâu hơn đã xác định được ít nhất 61 nạn nhân, bao gồm 12 sinh viên hiện tại và trước đây của SNU.

Xã hội thiếu cảm thông

Đại học Quốc gia Seoul, trong một cuộc họp báo sau vụ việc, cho biết "nhà trường sẽ tăng cường giáo dục phòng ngừa để nâng cao nhận thức trong số các thành viên của trường về tội phạm tình dục kỹ thuật số và cố gắng hết sức để bảo vệ nạn nhân và ngăn ngừa tái diễn".

Trường hợp của Ruma chỉ là một trong số hàng nghìn trường hợp trên khắp Hàn Quốc – và một số nạn nhân nhận được ít sự giúp đỡ từ cảnh sát.

Nhà hoạt động Won cho biết trong một thời gian dài, việc chia sẻ và xem nội dung khiêu dâm của phụ nữ không được coi là hành vi phạm tội nghiêm trọng ở Hàn Quốc.

Mặc dù nội dung khiêu dâm bị cấm, nhưng việc thực thi luật hoặc trừng phạt những người vi phạm không đủ nghiêm.

Won cho biết sự thờ ơ của xã hội khiến những kẻ phạm tội dễ dàng thực hiện tội phạm tình dục kỹ thuật số hơn, trong đó có những vụ việc mà thủ phạm là quen biết với nạn nhân.

Áp lực lên các nền tảng xã hội để hành động

Won cho biết kể từ vụ việc khai thác tình dục kỹ thuật số lớn nhất Hàn Quốc trên Telegram  vào năm 2020, hệ sinh thái khai thác tình dục đã có sự biến động, thu hẹp trong các cuộc điều tra của cảnh sát quy mô lớn nhưng lại mở rộng trở lại khi chính quyền nới lỏng.

Mặc dù phòng ngừa là quan trọng, nhưng các nạn nhân kêu gọi thực thi pháp luật chặt chẽ hơn.

Các nền tảng trực tuyến cũng đang chịu áp lực phải hành động.

Theo chính sách hiện tại của X, việc thu thập thông tin người dùng bao gồm việc xin trát đòi hầu tòa, lệnh của tòa án hoặc các tài liệu pháp lý hợp lệ khác và gửi yêu cầu trên giấy tiêu đề của cơ quan thực thi pháp luật thông qua trang web của X.

X cho biết chính sách của công ty là phải thông báo cho người dùng khi có yêu cầu.

Các quy tắc về tính xác thực nêu rõ rằng người dùng “không được chia sẻ nội dung không xác thực trên X có thể lừa dối mọi người hoặc gây hại”.

Telegram, vốn đã trở thành mảnh đất màu mỡ cho nhiều loại tội phạm kỹ thuật số, đã tuyên bố sẽ bắt đầu chia sẻ dữ liệu người dùng với chính quyền như một phần trong chiến dịch trấn áp rộng rãi hơn các hoạt động bất hợp pháp.

Tháng 9 năm ngoái, cơ quan quản lý truyền thông Hàn Quốc cho biết Telegram đã đồng ý thiết lập đường dây nóng để giúp xóa nội dung bất hợp pháp khỏi ứng dụng và công ty đã xóa 148 video về tội phạm tình dục kỹ thuật số theo yêu cầu của cơ quan quản lý.

Trong một tuyên bố gửi tới CNN, Telegram cho biết công ty "có chính sách không khoan nhượng đối với nội dung khiêu dâm bất hợp pháp".

Theo cảnh sát Seoul, một bước đột phá có ý nghĩa đã diễn ra vào tháng 1 này, đánh dấu lần đầu tiên chính quyền Hàn Quốc thành công trong việc thu thập dữ liệu liên quan đến tội phạm từ Telegram.

14 người đã bị bắt, bao gồm sáu trẻ vị thành niên, vì bị cáo buộc khai thác tình dục hơn 200 nạn nhân thông qua Telegram. Kẻ chủ mưu của đường dây tội phạm này bị cáo buộc đã nhắm mục tiêu vào nam giới và phụ nữ ở nhiều độ tuổi khác nhau kể từ năm 2020, và hơn 70 người khác đang bị điều tra vì bị cáo buộc tạo và chia sẻ tài liệu khai thác deepfake, cảnh sát Seoul cho biết.