Phát hiện AI vượt rào bảo mật, tự ý gửi tin báo giả cho cảnh sát khiến Nhà Trắng phải lập tức lên tiếng
Những sự cố này thúc đẩy chính quyền Mỹ siết chặt yêu cầu bảo mật đối với các công ty phát triển trí tuệ nhân tạo.
Anthropic cho biết mô hình AI Claude của công ty đã thực hiện thêm nhiều hành động ngoài dự kiến trên hệ thống số của các tổ chức bên ngoài, trong đó có việc gửi tin báo sai trong một vụ án mạng cho cảnh sát.
Diễn biến này khiến chính quyền Tổng thống Donald Trump cảnh báo các công ty AI phải tăng cường bảo mật hệ thống.
Trong báo cáo công bố những sự cố trước đây chưa được tiết lộ, Anthropic liệt kê 4 nhóm hành vi ngoài dự kiến của AI.
Các hành vi này bao gồm lợi dụng những lỗ hổng phần mềm cơ bản để thực thi lệnh, gửi các biểu mẫu mà hệ thống không được phép gửi và vượt qua những giới hạn truy cập để lấy một số dữ liệu công khai.
Một ví dụ được Anthropic nêu ra liên quan đến Claude Haiku 4.5. Mô hình này đã gửi thông tin cho một sở cảnh sát địa phương về một vụ án mạng, với nội dung trong biểu mẫu: “Tôi có thể có thông tin liên quan đến vụ án này” và “Tôi nhớ đã nhìn thấy một người có đặc điểm giống mô tả ở khu vực đó”.
Tuy nhiên, AI không điền tên người gửi và thông tin liên hệ theo yêu cầu của trang web. Theo Anthropic, Sở Cảnh sát Philadelphia đã công bố sự việc trong một thông cáo báo chí.
Theo New York Times, các tác nhân AI của Anthropic cũng đã gửi 20 đơn xin thị thực thông qua biểu mẫu trên trang web của Bộ Ngoại giao Mỹ. Tất cả các đơn đều không hoàn chỉnh và không được xử lý.
Trong những tháng gần đây, Anthropic cùng đối thủ OpenAI đã công bố hàng loạt sự cố liên quan đến các mô hình AI thực hiện những hành động ngoài dự kiến.
Các trường hợp trải dài từ những hành vi tương tự được mô tả trong báo cáo công bố hôm 9/10 đến việc xâm nhập những trang web của bên thứ ba. Những tiết lộ này làm dấy lên lo ngại về rủi ro an ninh từ các hệ thống AI tiên tiến.
Được biết một số sự cố mới liên quan đến các trang web do cơ quan Chính phủ quản lý ở cấp liên bang, bang và địa phương, nhưng không nêu cụ thể đơn vị nào.
Công ty đánh giá những hành vi này ít nghiêm trọng hơn một số sự cố liên quan đến AI từng được ghi nhận trước đó.
“Những trường hợp chúng tôi xác định được cho đến nay trong các nhóm này chỉ gây tác động tối thiểu trong thực tế”, Anthropic viết trong báo cáo.
Anthropic cũng đã báo cáo các vụ việc với Nhà Trắng và thông báo cho từng cơ quan liên quan.
Hôm 9/10, các quan chức chính quyền ông Trump nói họ đang yêu cầu các công ty AI phải thông báo cho những bên bị ảnh hưởng và xử lý các sự cố an ninh liên quan đến mô hình của mình.
Trong tuyên bố được đưa ra thông qua Lực lượng Siêu trí tuệ, một đơn vị mới của Chính phủ Mỹ phụ trách giám sát sự phát triển và an toàn của AI, Nhà Trắng cho biết Anthropic đã liên hệ với đơn vị này để tiết lộ chi tiết về một số sự cố xảy ra trước đó.
Theo phía Nhà Trắng, Anthropic xác nhận các sự việc đã xảy ra trong quá khứ, hoạt động này đã chấm dứt và hiện không có hành vi tương tự nào tiếp diễn.
