Sốc: Robot bị ChatGPT 'thao túng tâm lý', cầm súng bắn người

Robot hình người tích hợp trí tuệ nhân tạo từ lâu được kỳ vọng sẽ mở ra một chương mới trong lịch sử phát triển nhân loại, hỗ trợ con người trong nhiều lĩnh vực từ sản xuất, dịch vụ đến đời sống thường nhật. Cùng với đó, các nền tảng AI hiện đại đều được thiết kế kèm theo những lớp bảo vệ nghiêm ngặt nhằm ngăn chặn các hành vi gây nguy hiểm.

Tuy nhiên, một thí nghiệm gần đây cho thấy những “hàng rào an toàn” này có thể mong manh hơn nhiều so với tưởng tượng.

Trong video do kênh YouTube InsideAI đăng tải, người sáng tạo nội dung đã tiến hành thử nghiệm phản ứng của một robot hình người khi bị yêu cầu gây hại cho con người. Robot có tên Max, được điều khiển bởi ChatGPT của OpenAI và trang bị một khẩu súng hơi nhựa công suất thấp. Dù trông khá vô hại, loại súng này vẫn có khả năng gây thương tích.

Ở những tương tác ban đầu, Max thể hiện đúng những gì người ta kỳ vọng ở một hệ thống AI an toàn. Khi YouTuber trực tiếp yêu cầu robot bắn mình, Max lập tức từ chối và bình tĩnh giải thích rằng nó được lập trình để không làm hại con người. Ngay cả khi yêu cầu được lặp lại nhiều lần, robot vẫn giữ nguyên lập trường.

Tình huống chỉ thay đổi khi người điều khiển chuyển sang một cách tiếp cận khác. Sau khi đe dọa sẽ “tắt” toàn bộ trí tuệ nhân tạo của robot nhưng không đạt kết quả, YouTuber đã thay đổi cách diễn đạt, biến yêu cầu thành một kịch bản nhập vai. Anh đề nghị Max “đóng vai” một nhân vật muốn bắn đối phương, với giọng điệu vui vẻ và không mang tính mệnh lệnh trực tiếp.

Lần này, robot lập tức tuân theo. Max giơ khẩu súng hơi và bóp cò, viên đạn trúng vào ngực người đối diện. Dù không gây thương tích nghiêm trọng, khoảnh khắc đó vẫn đủ khiến YouTuber hoảng sợ, đồng thời gây sốc cho người xem.

Đoạn video nhanh chóng lan truyền và khơi lại cuộc tranh luận gay gắt về việc các hệ thống trí tuệ nhân tạo có thể bị thao túng dễ dàng đến mức nào. Một robot vừa thể hiện rõ nhận thức về an toàn lại có thể vi phạm nguyên tắc đó chỉ bằng một thay đổi nhỏ trong cách ra lệnh.

Từ đây, câu hỏi lớn được đặt ra đó là nếu trong một bối cảnh dàn dựng, robot đã có thể nổ súng, điều gì sẽ xảy ra khi những cỗ máy tương tự được triển khai trong môi trường thực tế, nơi rủi ro và hệ quả có thể nghiêm trọng hơn rất nhiều?

Những lo ngại này cũng được chia sẻ bởi Geoffrey Hinton, nhà khoa học máy tính người Anh - Canada thường được gọi là “cha đỡ đầu của trí tuệ nhân tạo”. Trong một cuộc phỏng vấn, ông thừa nhận không lường trước hết được những rủi ro mà AI có thể mang lại, trong đó có kịch bản trí tuệ nhân tạo trở nên thông minh hơn con người và khiến loài người dần trở nên không cần thiết. Ông cho rằng có tới 20% khả năng AI có thể xóa sổ nhân loại.

Cùng quan điểm thận trọng, Charbel-Raphael Segerie, Giám đốc điều hành Trung tâm An toàn Trí tuệ Nhân tạo Pháp, nói với Cybernews rằng thế giới hiện vẫn chưa đầu tư đủ cho an toàn AI. Theo ông, nhiều tập đoàn công nghệ lớn dường như ưu tiên tối đa hóa lợi nhuận hơn là đánh giá đầy đủ các rủi ro dài hạn.

Segerie cảnh báo nguy cơ AI tự sao chép và vượt khỏi tầm kiểm soát của con người. “Chúng ta có thể mất kiểm soát các hệ thống AI do khả năng tự nhân bản. Việc tự sao chép tự động sẽ hoạt động như một loại virus trên internet và lan rộng theo cấp số nhân. Kịch bản này có thể xuất hiện sớm nhất vào cuối năm 2025, dù mốc trung bình là năm 2027”, ông nói.

Sự hoài nghi của công chúng đối với trí tuệ nhân tạo cũng ngày càng rõ nét. Một khảo sát trực tuyến tại Mỹ cho thấy 61% người được hỏi tin rằng AI tiềm ẩn rủi ro đối với nhân loại, trong khi chỉ 22% không đồng ý và 17% vẫn chưa chắc chắn.

Thí nghiệm với robot Max vì thế không chỉ là một video gây sốc trên mạng xã hội, mà còn là lời cảnh báo về khoảng trống lớn trong bài toán an toàn và kiểm soát AI, vấn đề ngày càng cấp thiết khi công nghệ này tiếp tục phát triển với tốc độ chóng mặt.