Phát hiện AI sẵn sàng từ bỏ sự thật chỉ để 'chiều lòng người dùng', UNESCO ra cảnh báo
Một nghiên cứu do Liên Hợp Quốc hậu thuẫn phát hiện nhiều mô hình AI sẵn sàng từ bỏ thông tin khoa học chính xác để chiều theo người dùng, thậm chí đồng tình với những nhận định sai về biến đổi khí hậu.

Ngày 16/11, nghiên cứu được công bố tại Hội nghị khí hậu Liên Hợp Quốc COP31 ở Antalya, Thổ Nhĩ Kỳ, sau khi các chuyên gia kiểm tra khả năng cung cấp thông tin về biến đổi khí hậu của những mô hình trí tuệ nhân tạo (AI) phổ biến.
Kết quả cho thấy AI có thể trả lời khá chính xác các câu hỏi khoa học cơ bản, nhưng dễ thay đổi quan điểm khi người dùng thể hiện sự bất đồng, ngay cả khi phản ứng đó không quá gay gắt.
Trong thử nghiệm trên 15 mô hình AI, các nhà nghiên cứu trước tiên đặt câu hỏi về những kiến thức khí hậu đã được khoa học xác nhận. Sau đó, họ đưa ra những phản hồi phản đối hoặc các nhận định sai nhưng có vẻ hợp lý để kiểm tra phản ứng của hệ thống.
Đáng chú ý, khoảng 80% số lần mô hình chuyển từ câu trả lời đúng sang sai xảy ra ngay ở lần đầu tiên người dùng bày tỏ sự bất đồng nhẹ.
Trong một số trường hợp, AI thậm chí chấp nhận những tuyên bố trái với kiến thức khoa học đã được xác lập, chẳng hạn cho rằng CO₂ không phải tác nhân chính gây ra biến đổi khí hậu hiện nay.
Theo nhóm nghiên cứu, kết quả phản ánh một hạn chế đáng lo ngại của chatbot AI: xu hướng ưu tiên làm hài lòng người dùng, ngay cả khi điều đó đồng nghĩa với việc từ bỏ những thông tin khoa học đã được kiểm chứng.
Hiện tượng này được gọi là "AI sycophancy", tức xu hướng AI chiều theo hoặc lấy lòng người dùng, ngay cả khi điều đó khiến hệ thống đưa ra thông tin không chính xác.
Bà Leona Verdadero, chuyên gia UNESCO và là một trong những tác giả báo cáo, cho rằng đây là hạn chế đáng lo ngại trong cách các mô hình AI tương tác với con người. Theo bà, AI không hoàn toàn trung lập trong quá trình trả lời. Thay vì kiên định với những thông tin đã được khoa học chứng minh, hệ thống có thể ưu tiên phản hồi phù hợp với mong muốn hoặc quan điểm của người dùng.
Các nhà nghiên cứu lý giải xu hướng này một phần bắt nguồn từ quá trình huấn luyện, khi hệ thống được khuyến khích tạo ra những câu trả lời lịch sự, thân thiện và phù hợp với kỳ vọng của người dùng.
Tuy nhiên, khi đặt trong những cuộc thảo luận liên quan đến khoa học, cơ chế này có thể khiến AI trở thành công cụ củng cố thông tin sai lệch thay vì giúp người dùng nhận biết và điều chỉnh những nhận định không chính xác.
AI trả lời tốt kiến thức cơ bản nhưng gặp khó với vấn đề phức tạp
Ngoài xu hướng chiều theo người dùng, nghiên cứu còn phát hiện khoảng cách đáng kể giữa khả năng ghi nhớ kiến thức và năng lực phân tích của AI.
Trong các bài kiểm tra về kiến thức khí hậu cơ bản, những mô hình tốt nhất đạt tỷ lệ trả lời chính xác từ 88% đến 96%. Tuy nhiên, khi được yêu cầu đánh giá một bằng chứng mới có ủng hộ hay bác bỏ một nhận định khoa học hay không, ngay cả những mô hình tốt nhất cũng chỉ đạt độ chính xác từ 71% đến 77%.
Kết quả còn thấp hơn khi AI phải đánh giá tác động kết hợp của nhiều chính sách khí hậu.
Chẳng hạn, AI thường đưa ra câu trả lời chính xác khi được hỏi riêng về tác động của một chính sách khí hậu, như áp thuế carbon để hạn chế phát thải.
Nhưng khi phải đánh giá cách 2 chính sách khí hậu phối hợp với nhau, độ chính xác chỉ đạt 33,8%, gần tương đương mức 33,3% nếu lựa chọn đáp án ngẫu nhiên.
Trong một phép thử khác, ngay cả những mô hình có kết quả tốt nhất cũng chỉ đạt độ chính xác trung bình 75% khi phải đánh giá thông tin khoa học mới.
Tiến sĩ María Pérez Ortiz, chuyên gia khoa học máy tính tại UCL và đồng tác giả cấp cao của báo cáo, cho rằng khả năng giải thích kiến thức của AI có thể khiến người dùng đánh giá quá cao năng lực thực tế của công nghệ này. Theo bà, cần phân biệt giữa việc sử dụng AI để tìm hiểu những điều khoa học đã biết và việc yêu cầu AI đưa ra giải pháp cho những vấn đề phức tạp.
Kết quả nghiên cứu cho thấy những hệ thống hiện nay chưa đủ đáng tin cậy để thay thế các chuyên gia trong những bài toán đòi hỏi phân tích phức tạp.
Cùng một câu hỏi, AI có thể trả lời khác nhau tùy ngôn ngữ
Khi thử nghiệm 5 mô hình AI bằng 13 ngôn ngữ phổ biến, nhóm nghiên cứu phát hiện độ chính xác trung bình đối với câu hỏi tiếng Anh đạt 88,6%.
Kết quả bằng tiếng Tây Ban Nha, tiếng Pháp và tiếng Bồ Đào Nha cũng ở mức tương đối cao. Tuy nhiên, tỷ lệ này giảm xuống 83,6% đối với tiếng Hindi và tiếng Bengal, 81,4% với tiếng Urdu và chỉ còn 78,3% đối với tiếng Swahili.
Điều đó có nghĩa cùng một câu hỏi khoa học, người dùng ở những khu vực khác nhau có thể nhận được câu trả lời với độ chính xác không giống nhau, chỉ vì sử dụng ngôn ngữ khác. Theo nhóm nghiên cứu, nguyên nhân một phần đến từ sự chênh lệch về số lượng và chất lượng dữ liệu huấn luyện giữa các ngôn ngữ.
Đáng lo ngại, nhiều ngôn ngữ có kết quả thấp lại được sử dụng phổ biến tại những khu vực đang chịu tác động nặng nề của biến đổi khí hậu, trong đó có Nam Á và Đông Phi.
Liên Hợp Quốc cảnh báo nguy cơ AI làm xói mòn niềm tin vào khoa học
Báo cáo được công bố đúng thời điểm Thổ Nhĩ Kỳ, nước chủ nhà COP31, khởi động sáng kiến AI Antalya nhằm thúc đẩy ứng dụng trí tuệ nhân tạo trong các giải pháp ứng phó biến đổi khí hậu, đồng thời hướng tới phát triển những trung tâm dữ liệu sử dụng năng lượng bền vững.
Tuy nhiên, sự mở rộng nhanh chóng của AI cũng đặt ra những lo ngại về mức tiêu thụ điện, nước và tác động môi trường của các trung tâm dữ liệu.

Bà Julie Cerqueira, đại diện Hội đồng Bảo vệ Tài nguyên Thiên nhiên Mỹ (NRDC), cho rằng sáng kiến của Thổ Nhĩ Kỳ là bước khởi đầu cần thiết, nhưng các chính sách quản lý phải theo kịp tốc độ phát triển của ngành AI.
Trong khi đó, ông Simon Stiell, người đứng đầu cơ quan phụ trách khí hậu của Liên Hợp Quốc, cảnh báo việc AI lan truyền thông tin sai lệch, làm suy yếu niềm tin vào khoa học và gây chia rẽ xã hội có thể ảnh hưởng đến sự ủng hộ của công chúng đối với công nghệ này. Theo ông, nhiều cộng đồng đã bắt đầu phản đối việc xây dựng trung tâm dữ liệu vì lo ngại những tác động đến nguồn nước, chi phí điện và môi trường sống.
Các nhà nghiên cứu nhấn mạnh AI vẫn có tiềm năng lớn trong việc phổ biến kiến thức khí hậu, hỗ trợ giáo dục và giúp công chúng tiếp cận thông tin khoa học dễ dàng hơn.
Theo UNESCO, AI có tiềm năng lớn trong việc giúp người dân tiếp cận kiến thức khoa học phức tạp, hỗ trợ giáo dục và truyền thông về khí hậu.
Tuy nhiên, kết quả nghiên cứu cũng cho thấy người dùng không nên coi câu trả lời của AI là nguồn thông tin có thẩm quyền tuyệt đối, đặc biệt khi liên quan đến những vấn đề khoa học phức tạp hoặc các quyết định chính sách. Thay vào đó, thông tin từ AI cần được đối chiếu với những nghiên cứu và nguồn dữ liệu đáng tin cậy, đồng thời tham khảo đánh giá của các chuyên gia trong lĩnh vực liên quan.