Hàn Quốc: Tâm chấn của nạn tội phạm tình dục sử dụng Deepfake nhắm vào phụ nữ, trẻ em

Theo điều tra, một kênh Telegram ở Hàn Quốc với hơn 220.000 thành viên đã trở thành tâm điểm của việc phát tán, mua bán hình ảnh khiêu dâm do AI tạo ra. Nạn nhân chủ yếu là phụ nữ và trẻ em gái, với hình ảnh được lấy từ nhiều nguồn khác nhau như ảnh chụp ở trường học, mạng xã hội và thậm chí ảnh … chân dung quân nhân.

Công nghệ AI cho phép người dùng tạo ra nội dung nhạy cảm từ mặt của bất kì người nào chỉ trong vài giây, và rồi phát tán trên những nền tảng với chính sách kiểm duyệt lỏng lẻo.

Quy mô của vấn đề được phơi bày sau khi nhiều phụ nữ lên tiếng là nạn nhân và các kênh Telegram khác bị phát hiện. Đáng lo ngại, nhiều trường hợp liên quan đến trẻ vị thành niên. Phản ứng từ cộng đồng đã dẫn đến các cuộc biểu tình, với người tham gia đeo mặt nạ trắng tập trung tại Seoul kêu gọi công lý vào cuối tháng trước.

Trước tình hình nghiêm trọng, Tổng thống Yoon Suk Yeol đã chỉ đạo Chính phủ trấn áp nạn lạm dụng kỹ thuật số. Một lực lượng đặc nhiệm sẽ được thành lập để giải quyết vấn đề này. Tổng thống nhấn mạnh: "Đây không phải trò đùa mà là hành vi phạm tội khai thác công nghệ dưới vỏ bọc ẩn danh".

Quả thật, loại bạo lực tình dục trong thời đại kỹ thuật số lên này có thể gây hậu quả nghiêm trọng về tinh thần, thể chất và danh dự cho nạn nhân. Ai cũng có thể tạo ra những hình ảnh xúc phạm, thậm chí hủy hoại tương lai của trẻ em, đa phần là trẻ em gái, một cách quá dễ dàng. Nhiều chuyên gia tâm lý và xã hội học cảnh báo về tác động lâu dài đối với nạn nhân, đặc biệt là trẻ vị thành niên.

Telegram, nền tảng chính được sử dụng trong vụ việc này, đang hợp tác với cuộc điều tra và thực hiện yêu cầu xóa nội dung từ cơ quan chức năng Hàn Quốc. Tuy nhiên, vụ việc cũng trùng hợp với việc CEO của Telegram, Pavel Durov, bị bắt tại Pháp vì cáo buộc đồng lõa trong các tội ác liên quan đến nội dung khiêu dâm trẻ em trên ứng dụng.

Bên cạnh đó, dữ liệu sơ bộ từ cảnh sát Hàn Quốc cho thấy xu hướng đáng lo ngại: phần lớn nghi phạm và kẻ phạm tội là thanh thiếu niên.

Trách nhiệm thuộc về ai?

Đối với nhiều nhà quan sát chính trị, cam kết của Tổng thống Yoon Suk Yeol về việc giải quyết vấn nạn deepfake có thể chỉ là một lời hứa chính trị. Kể từ khi nhậm chức vào năm 2022, ông Yoon đã tìm cách thu hút sự ủng hộ của cử tri nam giới trẻ tuổi bằng những đề xuất mang tính gia trưởng, như đề xuất bãi bỏ luật bình đẳng giới, với lý do rằng nó khiến nam giới bị coi như "tội phạm tình dục tiềm năng."

Tổng thống Yoon cũng từng tuyên bố rằng phân biệt giới tính có hệ thống không tồn tại ở Hàn Quốc, và cho rằng chủ nghĩa nữ quyền là một trong những nguyên nhân gây ra tỷ lệ sinh thấp của đất nước. Tuy nhiên, thực tế tại Hàn Quốc, nơi xã hội vẫn mang nặng tư tưởng trọng nam khinh nữ và phụ quyền, phụ nữ kiếm được ít hơn khoảng 30% so với nam giới, đánh dấu khoảng cách lương theo giới tính lớn nhất trong các nước phát triển. Ngay cả trong các gia đình có hai nguồn thu nhập, phụ nữ vẫn đảm nhận phần lớn công việc nhà và chăm sóc con cái.

Trước khi công nghệ AI giúp việc tạo ra hình ảnh khiêu dâm deepfake trở nên dễ dàng hơn, các nhóm vận động đã cảnh báo về tình trạng tội phạm tình dục kỹ thuật số, liên quan đến việc phát tán hình ảnh thân mật không được sự đồng ý hoặc sử dụng camera ẩn.

Có nhiều lý do khiến phụ nữ Hàn Quốc, cũng như phụ nữ ở các nước phát triển khác, lựa chọn không sinh con, bao gồm tỷ lệ tham gia lực lượng lao động ngày càng tăng và gánh nặng không đồng đều trong việc nuôi dạy con cái. Thay vì đổ lỗi cho chủ nghĩa nữ quyền, có lẽ cần xem xét kỹ hơn các số liệu đáng báo động này. Trớ trêu thay, một trong những nhóm Telegram chính phát tán hình ảnh deepfake khiêu dâm có khoảng 227.000 thành viên — gần tương đương với số trẻ sơ sinh được sinh ra tại Hàn Quốc vào năm ngoái.

Những bước tiến mới

Phụ nữ Hàn Quốc đã mạnh dạn đưa vấn đề này ra công chúng thông qua các cuộc biểu tình và hoạt động xã hội, mở đầu cho những thay đổi nhằm đối phó với cuộc khủng hoảng đang tác động toàn cầu. So với nhiều quốc gia khác, Hàn Quốc đi đầu trong việc quản lý nội dung khiêu dâm deepfake.

Quốc gia này đã ban hành luật với mức phạt lên đến 5 năm tù và tiền phạt đối với những cá nhân bị kết tội tạo ra và phát tán hình ảnh khiêu dâm giả mạo. Tại Mỹ, dù luật liên bang nhận được sự ủng hộ từ cả hai đảng, quá trình thông qua vẫn diễn ra chậm chạp tại Quốc hội.

Mặc dù quy định pháp luật rất quan trọng, các trường hợp tại Hàn Quốc cũng cho thấy thách thức trong việc thực thi những quy định này, đặc biệt khi nội dung deepfake có thể được tạo ra và chia sẻ một cách quá dễ dàng. Mở rộng luật để cấm sở hữu những tài liệu như vậy có thể là một bước tiến hữu ích, nhưng điều này vẫn đẩy gánh nặng truy tìm và xử lý lên vai nạn nhân – những người phải đối mặt với việc tìm ra danh tính kẻ đứng sau nội dung đã hủy hoại cuộc sống của họ.

Việc bắt giữ CEO của Telegram gần đây đã tạo động lực quốc tế để buộc các công ty công nghệ chịu trách nhiệm về những thiệt hại phát sinh trên nền tảng của họ. Đây là một bước tiến tích cực; khi ngày càng có nhiều cơ quan quản lý yêu cầu trách nhiệm từ các công ty này, những giải pháp do chính ngành công nghệ đưa ra sẽ được chào đón. Nhiều trường đại học và trung tâm nghiên cứu đã và đang phát triển các công cụ tiềm năng nhằm bảo vệ hình ảnh cá nhân khỏi sự thao túng của AI. Tuy nhiên, nguồn lực để đảm bảo việc triển khai AI một cách có trách nhiệm từ chính các công ty công nghệ vẫn còn quá hạn chế.

Việc giao nhiều trách nhiệm hơn cho các công ty công nghệ trong việc đề xuất các giải pháp chủ động là điều cần thiết. Nhiều tập đoàn công nghệ lớn đã cắt giảm hoặc rút lui khỏi các nhóm nghiên cứu về AI có đạo đức trong bối cảnh cắt giảm chi phí. Tuy nhiên, phẩm giá của phụ nữ và trẻ em gái không thể bị hy sinh vì lợi nhuận.

Hàn Quốc hiện đang là tâm điểm của cuộc khủng hoảng này. Nhưng đây không chỉ là vấn đề của riêng quốc gia nào mà là vấn đề toàn cầu, có thể ảnh hưởng đến bất kỳ ai – từ các ngôi sao nổi tiếng như Taylor Swift cho đến những bé gái trung học từ Seoul đến New Jersey.

Dưới góc độ trách nhiệm xã hội, đã đến lúc ngành AI cần chủ động đối mặt với những thách thức tiềm ẩn từ công nghệ. Thay vì tập trung vào lợi nhuận, việc phát triển các công cụ ngăn chặn và tích cực tham gia vào nỗ lực phòng chống tội phạm tình dục sử dụng deepfake, đặc biệt tại những quốc gia nơi phụ nữ và trẻ em là nhóm dễ bị tổn thương, là hành động cấp thiết và đạo đức mà ngành này cần theo đuổi.

Theo WSJ, Independent

>> Xe đẩy cho thú cưng đắt hàng tại quốc gia có tỷ lệ sinh thấp nhất thế giới