Meta phải sửa lỗi gấp sau khi Instagram ngập tràn nội dung bạo lực: Hậu quả khi sa thải nhân viên hàng loạt do quá tin tưởng vào AI ?

Meta vừa xác nhận đã khắc phục một sự cố kỹ thuật nghiêm trọng khiến Instagram xuất hiện làn sóng nội dung bạo lực và đồ họa không phù hợp, làm dấy lên lo ngại trong cộng đồng người dùng. Công ty thừa nhận lỗi này phát sinh do trục trặc trong hệ thống kiểm duyệt nội dung, dẫn đến việc các cơ chế lọc nội dung không hoạt động chính xác.

Sự cố này khiến nhiều người dùng Instagram bất ngờ khi họ liên tục nhìn thấy hình ảnh bạo lực, xác chết, thương tích đồ họa và hành vi tấn công xuất hiện trên Reels và nguồn cấp dữ liệu chính. Thậm chí, ngay cả khi cài đặt Kiểm soát nội dung nhạy cảm được đặt ở mức cao nhất, một số người vẫn gặp phải hình ảnh không mong muốn.

Ngay sau đó, hàng loạt người dùng đã lên mạng xã hội chỉ trích Meta, đặt câu hỏi về mức độ an toàn của nền tảng, đặc biệt đối với giới trẻ và thanh thiếu niên. Trước làn sóng phản ứng dữ dội, Meta đã nhanh chóng đưa ra tuyên bố chính thức, cho biết họ đã tìm ra nguyên nhân và sửa lỗi: "Đầu tuần này, một lỗi trong hệ thống xếp hạng nội dung của chúng tôi đã khiến một số nội dung không phù hợp xuất hiện trong nguồn cấp dữ liệu. Kể từ đó, chúng tôi đã xác định và khắc phục sự cố".

Tuy nhiên, Meta không tiết lộ chi tiết về nguyên nhân cụ thể hay số lượng người dùng bị ảnh hưởng. Một số chuyên gia suy đoán rằng sự cố này có thể liên quan đến bản cập nhật mới trong hệ thống kiểm duyệt do AI điều khiển. Nếu AI hoạt động không chính xác, nó có thể không gắn cờ nội dung vi phạm hoặc thậm chí đề xuất nhầm các bài đăng không phù hợp, gây ra hiện tượng lan tràn nội dung bạo lực.

Công ty thừa nhận lỗi này phát sinh do trục trặc trong hệ thống kiểm duyệt nội dung. Ảnh minh hoạ

>> Xe Tesla Cybertruck giá tiền tỷ nhưng bị tố chống ồn bằng băng dính như bọc quà!

Theo chính sách của Meta, công ty nỗ lực bảo vệ người dùng khỏi nội dung gây sốc, đặc biệt là hình ảnh bạo lực, hành vi tàn ác hoặc nội dung khiêu dâm. Tuy nhiên, sự cố lần này đặt ra câu hỏi lớn về tính hiệu quả của hệ thống kiểm duyệt AI.

Theo Meta, nội dung bị cấm bao gồm: Video mô tả cảnh chặt xác, nội tạng, xác chết hoặc cơ thể bị cháy đen; những bình luận mang tính tàn nhẫn đối với hình ảnh mô tả đau khổ của con người và động vật. Dù vậy, Meta vẫn cho phép một số nội dung đồ họa nếu nội dung đó có mục đích lên án bạo lực, vi phạm nhân quyền hoặc các cuộc xung đột vũ trang, với điều kiện đi kèm nhãn cảnh báo. Nhưng vấn đề đặt ra là: AI của Meta có đang kiểm soát nội dung một cách hợp lý, hay hệ thống này vẫn còn quá nhiều lỗi?

Sự cố này xảy ra ngay sau khi Meta công bố kế hoạch thay đổi cách kiểm duyệt nội dung vào ngày 7/1. Theo đó, Meta sẽ giảm bớt sự kiểm soát chặt chẽ của AI, nhằm tránh các sai sót trong việc kiểm duyệt nhầm nội dung hợp lệ.

Những thay đổi bao gồm:

Chuyển trọng tâm từ việc quét mọi hành vi vi phạm sang tập trung vào các vi phạm nghiêm trọng như khủng bố, bóc lột trẻ em, buôn bán ma túy, gian lận.

Nội dung ít nghiêm trọng hơn sẽ chỉ bị xử lý khi có báo cáo từ người dùng, thay vì bị AI gỡ bỏ ngay lập tức.

Bỏ một số lần hạ cấp nội dung, tránh trường hợp AI giảm tương tác của các bài đăng không vi phạm chính sách.

Tuy nhiên, một số chuyên gia nhận định sự thay đổi này có thể là nguyên nhân gián tiếp khiến nội dung không phù hợp bùng phát, do AI đã không còn kiểm duyệt gắt gao như trước.

Một yếu tố khác cũng có thể góp phần gây ra sự cố này: Meta đã sa thải 21.000 nhân viên trong năm 2022-2023, trong đó có nhiều nhân viên thuộc bộ phận an toàn nội dung và kiểm duyệt. Số lượng người đánh giá nội dung đã giảm mạnh, khiến Meta phụ thuộc nhiều hơn vào AI. Đồng thời, hệ thống AI vẫn chưa hoàn thiện, dẫn đến những lỗi lớn như sự cố lần này.

Theo trang web của Meta, họ vẫn có một nhóm hơn 15.000 người kiểm duyệt, nhưng so với quy mô hàng tỷ người dùng, con số này là quá ít để đảm bảo nền tảng hoạt động trơn tru.

Dù Meta khẳng định đã khắc phục lỗi, nhưng sự cố này đã làm dấy lên những lo ngại lớn về tính an toàn của Instagram, đặc biệt đối với người trẻ. Đồng thời, câu hỏi tiếp tục đặt ra về hiệu quả của hệ thống kiểm duyệt AI trong việc ngăn chặn nội dung độc hại và khả năng nền tảng sẽ tiếp tục gặp lỗi nếu AI vẫn là cơ chế kiểm duyệt chính.

Đây không phải lần đầu Meta gặp vấn đề nghiêm trọng với nội dung nhạy cảm, và nếu công ty không nhanh chóng cải thiện, lòng tin của người dùng có thể bị ảnh hưởng đáng kể.

Hiện tại, Instagram đã trở lại bình thường, nhưng câu hỏi lớn vẫn còn đó: Liệu sự cố này có lặp lại trong tương lai?

>> Mức lương lên tới 19 tỷ đồng/năm nhưng đang khát nhân lực, tốt nghiệp là công ty ‘trải thảm đỏ đón nhân tài’