Chấn động: Deloitte bị phát hiện dùng AI 'bịa chuyện', viết báo cáo sai sự thật

Theo Fortune đưa tin, chi nhánh Deloitte tại Úc sẽ phải hoàn trả một phần kinh phí cho chính phủ nước này sau khi bị phát hiện giao nộp báo cáo trị giá 290.000 USD chứa nhiều sai sót nghiêm trọng được cho là do trí tuệ nhân tạo (AI) tạo ra. Các lỗi bao gồm tham chiếu đến những bài báo nghiên cứu học thuật không tồn tại và trích dẫn bịa đặt từ phán quyết của Tòa án Liên bang.

Báo cáo được Bộ Việc làm và Quan hệ Lao động thuộc chính phủ Úc công bố trên trang web chính thức vào tháng 7. Tuy nhiên, một phiên bản sửa đổi đã âm thầm được đăng tải vào đầu tháng 10, sau khi Tiến sĩ Chris Rudge, một nhà nghiên cứu luật y tế và phúc lợi thuộc Đại học Sydney cảnh báo giới truyền thông rằng tài liệu này "đầy rẫy thông tin bịa đặt".

Trong tuyên bố ngày 7/10, Deloitte cho biết đã rà soát lại báo cáo dài 237 trang và "xác nhận một số chú thích và tài liệu tham khảo không chính xác".

Phiên bản sửa đổi bổ sung thông tin tiết lộ rằng hệ thống AI ngôn ngữ tạo sinh Azure OpenAI đã được sử dụng trong quá trình soạn thảo. Báo cáo cũng loại bỏ các trích dẫn giả mạo được quy cho thẩm phán Tòa án Liên bang cùng những tài liệu tham khảo không hiện hữu được cho là của các chuyên gia luật và kỹ thuật phần mềm.

Trong mục "Cập nhật Báo cáo", Deloitte lưu ý rằng phiên bản mới có ngày 26/9 đã thay thế báo cáo được công bố hồi tháng 7, đồng thời khẳng định: "Những cập nhật được thực hiện không hề tác động hoặc ảnh hưởng đến nội dung thực chất, các phát hiện và khuyến nghị trong báo cáo".

Cuối tháng 8, tờ Australian Financial Review đầu tiên phanh phui các lỗi sai trong tài liệu, dẫn nguồn từ nhà nghiên cứu Chris Rudge - người xác định những điểm không chính xác mang dấu hiệu rõ ràng của AI.

Những trích dẫn được cho là của một thẩm phán tòa án liên bang đã bị xóa, cũng như những tham chiếu đến các báo cáo không tồn tại được cho là của các chuyên gia luật và kỹ thuật phần mềm.

Tiến sĩ Rudge cho biết ông đã tìm thấy tới 20 lỗi trong phiên bản đầu tiên của báo cáo. Đặc biệt, ông phát hiện sai sót khi đọc đến đoạn nêu rằng Giáo sư Lisa Burton Crawford, chuyên gia luật công và hiến pháp của Đại học Sydney, là tác giả của một cuốn sách không hề tồn tại với tựa đề nằm ngoài lĩnh vực nghiên cứu của bà.

"Tôi ngay lập tức biết rằng đó là thông tin bịa đặt của AI hoặc là bí mật được giữ kín nhất thế giới, vì tôi chưa bao giờ nghe nói về cuốn sách đó, và ngay cả tiêu đề cũng có vẻ vô lý," tiến sĩ Rudge chia sẻ với The Associated Press ngày 7/10.

Các công ty tư vấn hàng đầu thế giới như McKinsey, BCG đã rót hàng trăm triệu USD vào các dự án AI nhằm phát triển mô hình độc quyền và nâng cao hiệu suất hoạt động. Riêng Deloitte công bố vào tháng 9 kế hoạch đầu tư 3 tỷ USD cho phát triển AI tạo sinh đến hết năm tài chính 2030.

Ở chiều ngược lại, các gã khổng lồ ngành AI tạo sinh cũng đang tích cực mở rộng hợp tác với ngành tư vấn. Ngày 6/10, Anthropic thông báo quan hệ đối tác với Deloitte, trong đó cung cấp chatbot Claude cho hơn 470.000 chuyên gia của công ty này.

Cảnh báo từ cơ quan quản lý

Vào tháng 6, Hội đồng Báo cáo Tài chính Vương quốc Anh (FRC), cơ quan quản lý kế toán, đã cảnh báo rằng bốn công ty kiểm toán lớn nhất thế giới chưa theo dõi hiệu quả cách AI và công nghệ tự động tác động đến chất lượng kiểm toán.

Mặc dù Deloitte đã đồng ý hoàn trả khoản thanh toán cuối cùng cho chính phủ Úc, Thượng nghị sĩ Barbara Pocock, phát ngôn viên của Đảng Xanh Úc về khu vực công, cho rằng công ty nên hoàn trả toàn bộ 290.000 USD.

"Deloitte đã lạm dụng AI và sử dụng nó một cách cực kỳ không phù hợp: trích dẫn sai lời thẩm phán, sử dụng các tài liệu tham khảo không tồn tại," Pocock phát biểu với Tổng công ty Phát thanh Úc (ABC). "Đây là những lỗi mà ngay cả sinh viên năm nhất đại học cũng sẽ gặp rắc rối lớn.

Người phát ngôn của Deloitte Australia cho biết với The Associated Press: "Vấn đề đã được giải quyết trực tiếp với khách hàng”

Tham khảo Fortune