Meta đã phớt lờ những cảnh báo của nhân viên về việc một số cha mẹ đang lợi dụng hình ảnh của con cái để kiếm tiền trên các nền tảng mạng xã hội như Facebook và Instagram.
WSJ đưa tin, từ năm 2023, các nhân viên bộ phận an toàn tại Meta đã cảnh báo việc một số đối tượng là cha mẹ đang quản lý tài khoản của con cái (đa phần là con gái) đã lợi dụng công cụ kiếm tiền trên Facebook và Instagram để bán các nội dung gồm hình ảnh trong trang phục hở hang, các đoạn trò chuyện riêng tư hay đồ leotard (trang phục một mảnh bó sát che cơ thể nhưng hở từ đùi trở xuống) của chính con cái họ cho những đối tượng có nhu cầu.
Người mua được biết chủ yếu là nam giới, có khuynh hướng công khai sở thích tình dục với trẻ em trên các bài đăng hoặc trực tiếp liên hệ với phụ huynh qua hòm thư tài khoản mạng xã hội.
Mặc dù các hình ảnh của các bé gái không vi phạm chính sách về ảnh khoả thân hay nội dung bất hợp pháp, song các nhân viên Meta tìm thấy bằng chứng cho thấy một số phụ huynh nhận thức rõ ràng họ đang sản xuất nội dung để thoả mãn những đối tượng ấu dâm.
Thậm chí, đôi lúc các phụ huynh này còn “góp vui” vào những bình luận mang tính gợi dục nhằm vào con cái họ hoặc để con gái họ tương tác với các tin nhắn độc hại từ những người trả phí.
Theo WSJ, các nhân viên Meta đã phát hiện thuật toán gợi ý của công ty trên Facebook và Instagram liên quan tài khoản của những người mẫu nhí, vận động viên nhỏ tuổi,… thu hút chủ yếu những kẻ ấu dâm. Trong một số trường hợp, các bậc phụ huynh còn gợi ý về những nội dung “bổ sung” ở các nền tảng khác.
>> Năm mới không lo ‘dông cả năm’ với gói dịch vụ Samsung Care+
Để giải quyết tình trạng trên, Meta có thể cấm hoàn toàn việc bán thuê bao theo dõi các tài khoản của người mẫu nhí như chính sách mà TikTok hay các nền tảng trả phí như Patreon và OnlyFans đang thực hiện. Ngoài ra, các nhân viên an toàn cũng đề xuất công ty cần yêu cầu những tài khoản bán thuê bao phải đăng ký thông tin để quản lý.
Song, ban lãnh đạo Meta đã phớt lờ những đề xuất trên và chọn phương án xây dựng hệ thống tự động phát hiện và chặn những kẻ ấu dâm trả phí theo dõi những tài khoản do phụ huynh quản lý. Vấn đề là, công nghệ không phải lúc nào cũng hoạt động chính xác và kẻ xấu hoàn toàn có thể vượt qua bằng việc lập tài khoản mới.
Chưa dừng lại, Meta còn mở rộng chương trình trả phí và chi tiền boa, còn gọi là tính năng “tặng quà”. Công ty này cho biết họ không thu hoa hồng hay bất kỳ khoản phí nào đối với khoản thanh toán thuê bao, do đó họ không có động cơ tài chính để khuyến khích người dùng trả tiền “subcribe”, song Meta có thu phí từ tính năng quà tặng.
Trong khi đó, NYT cho biết, một số tài khoản nhí nổi tiếng trên Instagram có thể nhận được 3.000 USD/bài đăng và thu nhập hàng tháng thông qua thuê bao trả phí có thể lên tới hàng trăm nghìn USD. Tờ báo này nhận định, Meta “không có nỗ lực kiểm duyệt thoả đáng”, khi chỉ phản hồi một trong số 50 báo cáo liên quan nội dung nghi vấn về trẻ em trong suốt 8 tháng qua.
Đến nay Meta vẫn đang chật vật giải quyết vấn đề an toàn trẻ em trên nền tảng. Năm ngoái, WSJ cho biết các thuật toán của công ty này đã góp phần kết nối và quảng bá cho một mạng lưới hội kín chuyên nội dung tình dục trẻ vị thành niên. Năm 2020, một nghiên cứu nội bộ do Meta thực hiện cho thấy, có khoảng 500.000 tài khoản Instagram trẻ em có những tương tác “không phù hợp” mỗi ngày.
>> Cảnh giác lừa đảo khi mua vé phim "Đào, Phở và Piano" trên mạng
