Google dừng dịch vụ tạo hình ảnh AI Gemini do làm sai lệch lịch sử

Người dùng trên mạng xã hội đã phản ánh về việc AI tạo hình ảnh này tạo ra những bức hình liên quan đến nhân vật lịch sử, chẳng hạn như những nhà sáng lập của nước Mỹ là người da màu.

>> Công nghệ tàng hình plasma giúp máy bay chiến đấu ‘vô hình’ trước radar

Trong bài đăng trên mạng xã hội X, Google cho biết tính năng AI của họ được “sử dụng trên toàn thế giới”, song đã tạo ra sản phẩm “không phù hợp” và công ty đang “cải thiện ngay lập tức những mô tả này”.

Trước mắt, gã khổng lồ tìm kiếm sẽ tạm dừng cung cấp tính năng tạo hình ảnh con người của Gemini và tái phát hành phiên bản “cải tiến” trong thời gian sớm nhất.

Trình tạo hình ảnh AI được Google ra mắt vào tháng 2 thông qua nền tảng AI Gemini, trước đây là Bard, vào thời điểm công ty này cố gắng bắt kịp OpenAI - startup sở hữu ChatGPT, vừa ra mắt một mô hình tổng hợp mới có khả năng tạo video từ lời nhắc bằng văn bản của người dùng có tên Sora vào tuần trước.

Sora là mô hình AI tạo sinh mới của OpenAI, hoạt động tương tự công cụ tạo ảnh Dall-E cùng nhà. Người dùng chỉ cần đưa ra prompt nội dung video và Sora sẽ trả về video clip chất lượng cao. Ngoài ra, nó còn có thể tạo ra video từ hình ảnh tĩnh, kéo dài video hoặc lấp đầy khung hình trống.

Dù được giới những người hâm mộ AI chào đón, các công nghệ mới cũng gây lo ngại nghiêm trọng về thông tin sai lệch khi các cuộc bầu cử chính trị lớn trên toàn cầu đang đến gần. Theo dữ liệu từ công ty máy học Clarity, số lượng deepfake do AI tạo ra đã tăng 900% so với năm trước.

Đến nay, các đại gia công nghệ như Meta, Google đều đã có các công cụ AI tạo video. Cùng với đó là sản phẩm của một số startup như Stability AI. Amazon cũng đã phát hành Create with Alexa, mô hình chuyên tạo nội dung hoạt hình dạng ngắn dành cho trẻ em dựa trên prompt.

(Theo CNBC)

>> Công bố quy hoạch hạ tầng thông tin và truyền thông giai đoạn 2021-2030