Nvidia ra mắt hệ thống có thể chặn AI 'vượt rào' chỉ trong vài mili giây

Nvidia vừa giới thiệu một hệ thống bảo mật AI gồm 2 lớp mà theo hãng, lẽ ra đã có thể ngăn chặn vụ xâm nhập nghiêm trọng gần đây nhằm vào nền tảng Hugging Face do các mô hình AI của OpenAI gây ra.

Tập đoàn bán dẫn này sẽ triển khai 2 công cụ bảo mật phần mềm mã nguồn mở có thể vận hành trên phần cứng của Nvidia. Các công cụ được thiết kế để kiểm soát theo thời gian thực những tài nguyên mà các tác nhân AI có thể truy cập và tự động ngắt chúng khi vi phạm quy tắc.

Justin Boitano, phó Chủ tịch phụ trách AI doanh nghiệp của Nvidia, cho biết nếu các phòng thí nghiệm AI hàng đầu sử dụng công nghệ này để đánh giá mô hình ngay từ giai đoạn đầu, vụ tấn công nhằm vào Hugging Face có thể đã được ngăn chặn.

Những hành vi sai lệch của các tác nhân AI tự động, trong đó có sự cố tại Hugging Face hồi tháng 7, đã gây xáo trộn ngành AI và làm gia tăng lời kêu gọi giảm tốc độ phát triển công nghệ này.

Với sản phẩm mới có tên Open Agent Safety Platform, Nvidia đang đưa ra một giải pháp nhằm ngăn chặn các vụ xâm nhập mà không phải hạn chế quá trình phát triển AI.

Được biết CEO Nvidia Jensen Huang từng nhiều lần hạ thấp nguy cơ AI vượt khỏi tầm kiểm soát của con người.

Trong một bài đăng blog riêng, Anthropic tiết lộ công ty đã hợp tác với Nvidia để phát triển thêm các lớp bảo mật. Công ty cũng giới thiệu một công cụ liên quan có tên Claude Managed Agents dành cho khách hàng.

Anthropic cho hay: “Một tác nhân càng được trao nhiều quyền truy cập thì doanh nghiệp vận hành nó càng cần kiểm soát và kiểm tra chặt chẽ hơn những gì tác nhân thực hiện”.

Nvidia đặt vấn đề an toàn AI vào bài toán kỹ thuật

Trong những ngày gần đây, ông Huang nhìn nhận vấn đề an toàn AI chủ yếu dưới góc độ kỹ thuật, thay vì cho rằng cần tăng cường quản lý hoặc phối hợp ở cấp độ toàn cầu.

Ông cùng Tổng thống Mỹ Donald Trump bác bỏ những cảnh báo từ một số nhà phát triển AI rằng công nghệ này có thể dẫn tới sự tuyệt chủng của loài người. Tuy nhiên, CEO Huang cũng nhấn mạnh AI phải trải qua các quy trình kiểm thử an toàn nghiêm ngặt.

Giải pháp kỹ thuật của Huang đối với bài toán an toàn AI gồm hai phần. OpenShell, một phần mềm Nvidia từng giới thiệu sơ bộ tại hội nghị công nghệ thường niên của hãng hồi tháng 3, có thể chạy trên các bộ xử lý trung tâm Vera của Nvidia.

Công cụ này cho phép người dùng thiết lập quy tắc về những tài nguyên mà tác nhân AI được phép truy cập và thực thi các quy tắc đó theo thời gian thực. Đây là phần mềm mã nguồn mở, có thể được sử dụng và tùy chỉnh tự do.

Trong khi đó, Nvidia Sentry là sản phẩm mới có thể chạy trên các bộ xử lý dữ liệu BlueField của hãng. Theo Nvidia, công cụ này bổ sung một lớp giám sát AI nhằm theo dõi hoạt động của các tác nhân và can thiệp để cô lập những tác nhân có dấu hiệu đáng ngờ.

Ông Boitano nói về Sentry: “Chúng tôi tin rằng lớp bảo mật bổ sung này sẽ cho phép ngành công nghiệp kiểm thử an toàn ngay cả những hệ thống AI tiên tiến nhất. Công cụ có thể cách ly một tác nhân đáng ngờ chỉ trong vài mili giây”.