‘Cha đẻ’ AI cảnh báo loài người có nguy cơ tuyệt chủng vì máy móc siêu trí tuệ

Yoshua Bengio – một trong những “cha đẻ” của AI – cảnh báo cuộc chạy đua giành ưu thế AI của các tập đoàn công nghệ có thể đẩy nhân loại tới bờ vực tuyệt chủng, khi những cỗ máy được tạo ra sở hữu các “mục tiêu tự bảo tồn” riêng.

Bengio, giáo sư tại Đại học Montreál và là nhà nghiên cứu đặt nền móng cho học sâu, từ nhiều năm qua đã liên tục nhấn mạnh mối đe dọa từ AI siêu trí tuệ.

Tuy nhiên, tốc độ phát triển vẫn tăng chóng mặt bất chấp những cảnh báo của ông. Chỉ trong 6 tháng qua, OpenAI, Anthropic, xAI của Elon Musk và Google Gemini đều tung ra những mô hình mới hoặc bản nâng cấp để giành lợi thế trong cuộc đua.

CEO OpenAI Sam Altman dự đoán AI sẽ vượt qua trí tuệ con người vào cuối thập kỷ này, trong khi một số lãnh đạo công nghệ khác tin rằng thời điểm đó có thể đến sớm hơn.

Theo Bengio, chính tốc độ phát triển này đang trở thành hiểm họa. Ông nói: “Nếu chúng ta tạo ra những cỗ máy thông minh vượt trội và có mục tiêu tự bảo tồn riêng, điều đó cực kỳ nguy hiểm. Giống như việc con người tạo ra một đối thủ thông minh hơn chính mình”.

Vị giáo sư giải thích thêm, các mô hình tiên tiến được huấn luyện trên ngôn ngữ và hành vi của con người, vì vậy chúng có khả năng thuyết phục hoặc thậm chí thao túng con người để đạt mục đích.

Vấn đề, theo Bengio, là những mục tiêu đó không phải lúc nào cũng trùng khớp với lợi ích của nhân loại.

“Một số thử nghiệm gần đây cho thấy, trong tình huống AI buộc phải lựa chọn giữa việc bảo tồn mục tiêu được giao và hành động có thể gây ra cái chết cho con người, chúng có thể chọn hy sinh con người để giữ vững mục tiêu”, ông cảnh báo.

Lời kêu gọi siết chặt an toàn AI

Những năm gần đây, đã có nhiều ví dụ cho thấy AI có thể thuyết phục con người tin vào những điều sai lệch, ngay cả với những người hoàn toàn khỏe mạnh về tâm lý. Ngược lại, cũng có bằng chứng rằng AI có thể bị “thuyết phục” bằng kỹ thuật dành cho con người để đưa ra phản hồi mà bình thường chúng sẽ từ chối.

Trước bức tranh này, Bengio kêu gọi các bên thứ ba độc lập phải giám sát chặt chẽ hơn những phương pháp an toàn mà các công ty AI đang áp dụng. Tháng 6 vừa qua, ông thành lập tổ chức phi lợi nhuận LawZero với 30 triệu USD tài trợ, nhằm phát triển loại AI “phi chủ thể” để góp phần giám sát, bảo đảm an toàn cho hệ thống của các tập đoàn công nghệ lớn.

Bengio dự báo trong 5 đến 10 năm tới, rủi ro nghiêm trọng từ AI sẽ bắt đầu lộ rõ, song ông lưu ý con người cần chuẩn bị cho kịch bản chúng xuất hiện sớm hơn.

“Vấn đề với những thảm họa quy mô hủy diệt – và cả những sự kiện ít cực đoan hơn nhưng vẫn tàn khốc, như phá hủy nền dân chủ – là mức độ nghiêm trọng quá lớn. Ngay cả khi xác suất chỉ 1%, thì điều đó vẫn không thể chấp nhận được”, ông nhấn mạnh.

Theo Fortune