Giám đốc Khối Chăm sóc sức khỏe của FPT IS: Ảo giác AI là 'căn bệnh' nguy hiểm, cần đặc biệt kiểm soát

FPT phối hợp với Cục Bảo trợ xã hội - Bộ Y tế tổ chức chương trình đào tạo “Nhận thức AI và ứng dụng trong công việc” với sự tham dự của hơn 30 cán bộ, công chức, viên chức. Một trong những nội dung được đặc biệt nhấn mạnh tại chương trình là hiện tượng “ảo giác AI” và cách kiểm soát rủi ro khi đưa công nghệ này vào công việc.

Phát biểu tại chương trình, ông Phạm Thanh Tùng, Giám đốc Khối Chăm sóc sức khỏe (FPT IS HC), Tập đoàn FPT cho biết AI đang mở ra nhiều khả năng hỗ trợ cán bộ trong nghiên cứu, tổng hợp và xử lý công việc, đặc biệt tại những đơn vị phải xử lý khối lượng lớn dữ liệu và văn bản như Cục Bảo trợ xã hội.

Theo ông Tùng, từ kinh nghiệm triển khai các giải pháp AI tại Bộ Tư pháp, Bộ Tài chính và Tòa án nhân dân tối cao, FPT mong muốn cùng Cục Bảo trợ xã hội xác định những bài toán phù hợp để ứng dụng AI theo hướng thực chất, hiệu quả và an toàn.

Tuy nhiên, bên cạnh khả năng hỗ trợ, việc sử dụng AI cũng đặt ra yêu cầu kiểm soát chặt chẽ chất lượng thông tin đầu ra. Ông Phạm Quang Nhật Minh, Giám đốc Trung tâm Nghiên cứu và Phát triển AI (FPT IS AI R&D), cho biết một trong những vấn đề người dùng thường gặp là “ảo giác AI” (AI hallucination).

Đây là hiện tượng AI tạo ra thông tin sai lệch, bịa đặt hoặc không có cơ sở thực tế nhưng lại trình bày với cách diễn đạt như một thông tin chính xác. Với những công việc liên quan đến văn bản, dữ liệu hay tham mưu chính sách, rủi ro này càng cần được lưu ý bởi một thông tin không chính xác nếu không được phát hiện có thể ảnh hưởng đến quá trình xử lý công việc.

Thực tế tại buổi đào tạo, các cán bộ Cục Bảo trợ xã hội chia sẻ đã sử dụng những công cụ phổ biến như ChatGPT và Google Gemini. Dù nhận thấy AI có thể hỗ trợ đáng kể trong nghiên cứu, tổng hợp và xử lý công việc, người dùng vẫn gặp tình trạng câu trả lời chưa đúng trọng tâm, thiếu nhất quán hoặc phải điều chỉnh nhiều lần.

Theo chuyên gia FPT, nguyên nhân không chỉ nằm ở khả năng của công cụ mà còn liên quan đến cách người dùng tương tác với AI. “Đầu vào” càng rõ ràng, đầy đủ ngữ cảnh thì AI càng có cơ sở để xử lý yêu cầu. Tuy nhiên, ngay cả khi câu lệnh được xây dựng tốt, người dùng vẫn phải kiểm tra và đối chiếu kết quả bằng kiến thức chuyên môn.

Trong phần thực hành, chuyên gia FPT hướng dẫn cán bộ đưa tài liệu và các bài toán nghiệp vụ thực tế vào quá trình làm việc với AI. Một thử nghiệm tại chương trình cho thấy sau khoảng 10 phút thiết lập câu lệnh và nạp dữ liệu, công cụ có thể hỗ trợ xây dựng khung dự thảo dài gần 30 trang, gồm 39 điều và được định dạng theo yêu cầu của văn bản hành chính nhà nước.

Kết quả này cho thấy tốc độ xử lý của AI, nhưng đồng thời cũng đặt ra yêu cầu kiểm soát đầu ra. Theo các chuyên gia, người dùng không nên mặc định coi nội dung do AI tạo ra là chính xác mà cần kiểm tra nguồn, đối chiếu dữ liệu và vận dụng chuyên môn trước khi đưa vào công việc.

Bên cạnh “ảo giác AI”, chương trình cũng lưu ý đến vấn đề bảo mật dữ liệu. Cán bộ được khuyến nghị không đưa dữ liệu nội bộ vào những công cụ AI không được phép, hạn chế sử dụng chung tài khoản và chủ động yêu cầu AI dẫn nguồn đối với những nội dung cần kiểm chứng.