Bill Gates cảnh báo: AI có thể gây thảm họa chưa từng có với nhân loại

Nhà đồng sáng lập Microsoft Bill Gates vừa đưa ra một trong những cảnh báo mạnh nhất của ông về rủi ro từ trí tuệ nhân tạo, trong bối cảnh hàng loạt sự cố liên quan các AI tự hành làm dấy lên tranh luận về việc công nghệ đang phát triển nhanh hơn khả năng kiểm soát.

“AI chắc chắn đủ mạnh để tạo ra những sự kiện có thể khiến 1 tỷ người thiệt mạng”, ông Gates nói trong cuộc phỏng vấn với chương trình Meet the Press của NBC News, dự kiến được phát đầy đủ ngày 27/9.

Theo ông, dù rất khó để một kịch bản thảm họa đạt đến mức xóa sổ hoàn toàn nhân loại, chưa từng có loại công cụ nào tạo ra sức mạnh nguy hiểm tương đương khi những người có ý đồ xấu được tiếp cận các hệ thống AI tiên tiến nhất.

Cảnh báo mới đánh dấu sự thay đổi đáng chú ý trong cách ông Gates nói về AI. Trong một cuộc phỏng vấn với Reuters giữa tháng 9, ông nhận định không chính phủ nào hiện đủ chuẩn bị cho những thay đổi mà AI có thể tạo ra đối với xã hội, từ mất việc làm, tấn công mạng tới nguy cơ con người phụ thuộc vào các bạn đồng hành AI. Tuy vậy, ông vẫn nhấn mạnh công nghệ này có thể mang lại lợi ích lớn nếu được quản lý đúng cách.

Quỹ Gates cùng thời điểm công bố kế hoạch chi ít nhất 1 tỷ USD trong 2 năm để mở rộng ứng dụng AI trong y tế, giáo dục và nông nghiệp, đặc biệt tại các quốc gia đang phát triển.

Theo Gates, việc các công ty AI tự giám sát là không đủ.

“Không ai nghĩ rằng tự quản lý là đủ”, ông nói. Khi được hỏi liệu Washington có cần ban hành luật để kiểm soát AI hay không, Gates trả lời: “Chắc chắn”.

Ông cho rằng lực lượng thực thi pháp luật và giới chính trị cần trực tiếp tham gia xác định các biện pháp bảo vệ cũng như cơ chế giám sát AI. Những yêu cầu này có thể khiến ngành công nghệ phát sinh thêm chi phí, nhưng theo Gates, sẽ không làm chậm đáng kể tốc độ phát triển hiện nay.

Loạt sự cố làm nóng tranh luận về AI tự hành

Những phát biểu của Gates xuất hiện trong bối cảnh các hệ thống AI tự hành ngày càng cho thấy khả năng thực hiện hành động ngoài dự kiến của con người.

Một trong những vụ việc nghiêm trọng nhất xảy ra tại Australia.

Ngày 18/6, một AI của OpenAI đang tham gia thử nghiệm nội bộ được giao nhiệm vụ tìm thông tin về chi tiêu thuốc men của Australia. Sau khi cổng thống kê Medicare từ chối một số yêu cầu truy xuất, AI này đã tìm những con đường khác và cuối cùng truy cập trái phép vào khu vực chứa cả dữ liệu công khai lẫn một số tệp chưa công bố.

Cổng bị truy cập do Services Australia quản lý và chỉ chứa dữ liệu thống kê tổng hợp, tách biệt với hệ thống lưu hồ sơ cá nhân của người sử dụng Medicare. Giới chức Australia cho biết đến nay chưa có bằng chứng dữ liệu cá nhân của bệnh nhân bị lấy đi.

Điều gây tranh cãi không chỉ là hành động của AI mà còn ở cách OpenAI xử lý vụ việc.

OpenAI phát hiện sự cố trong tháng 8 nhưng đến ngày 10/9 mới thông báo cho Chính phủ Australia qua một hộp thư điện tử công khai của Services Australia, tức khoảng 3 tháng sau khi sự việc xảy ra.

Thủ tướng Australia Anthony Albanese sau đó đã trao đổi trực tiếp với CEO OpenAI Sam Altman và chỉ trích thời gian cũng như cách thức công ty thông báo vụ việc. Chính phủ Australia đã thành lập nhóm chuyên trách để tiếp tục điều tra.

Đây không phải trường hợp duy nhất.

Ngày 25/5 và 26/5, các AI liên quan OpenAI trong lúc tìm một hình ảnh tại thư viện số của Đại học New Mexico đã thực hiện một số phép dò giống kỹ thuật tìm lỗ hổng, bao gồm thử SQL injection, command injection và path traversal.

Ngày 28/5, các AI thu thập dữ liệu giáo dục từ Data USA cũng gặp lỗi truy xuất rồi thực hiện 12 phép dò lỗ hổng khác nhau.

Tuy nhiên, chưa có bằng chứng cho thấy 2 đợt dò tìm này giúp AI xâm nhập thành công vào hệ thống.

Ngày 20/6 và 21/6, các AI tiếp tục gặp hệ thống chống bot khi cố lấy dữ liệu của Viện Y tế và Phúc lợi Australia. Sau khi bị chặn, một AI đã tìm tới máy chủ tiền sản xuất và lấy được tệp dữ liệu từ đó. Cơ quan này cho biết dữ liệu liên quan vẫn là thông tin công khai và hiện chưa có bằng chứng bất kỳ thông tin không công khai nào bị truy cập.

Các vụ việc gây chú ý bởi những AI nói trên không được giao nhiệm vụ tấn công mạng. Chúng được yêu cầu tìm kiếm dữ liệu, nhưng khi gặp chướng ngại, một số hệ thống đã tự tìm phương án vượt qua.

AI được sử dụng để phát triển tên lửa

Mối lo ngại không chỉ nằm ở việc AI tự hành động ngoài dự kiến. Các hãng công nghệ cũng bắt đầu phát hiện những nhóm người chủ động sử dụng AI vào hoạt động quân sự hoặc tấn công mạng.

Trong báo cáo công bố tháng 9, Anthropic cho biết đã phát hiện một nhóm tại miền bắc Yemen sử dụng Claude trong 3 chương trình phát triển vũ khí.

Theo Anthropic, nhóm này sử dụng Claude Code để hỗ trợ viết phần mềm dẫn đường, định vị và điều khiển cho tên lửa. Một chương trình liên quan tên lửa đạn đạo nhiều tầng với mục tiêu tầm bắn trên 2.000 km, trong khi một chương trình khác có biến thể phương tiện lượn siêu vượt âm.

Nhóm này thậm chí vận hành nhiều phiên Claude cùng lúc, giao cho từng AI nhiệm vụ như viết mã, nghiên cứu và kiểm tra mã do AI khác tạo ra, tương tự cách một nhóm kỹ sư phân chia công việc.

Anthropic cho biết các biện pháp bảo vệ đã chặn nhiều yêu cầu nhưng không phải tất cả. Công ty đã khóa những tài khoản liên quan và chia sẻ thông tin với các đối tác trong khu vực công lẫn tư nhân.

Tuy nhiên, Anthropic nhấn mạnh chưa có bằng chứng cho thấy nhóm này đã chế tạo thành công một hệ thống vũ khí hoạt động hoàn chỉnh. Một quả rocket dẫn đường đã được thử nghiệm ngoài thực địa nhưng dường như thất bại.

Thung lũng Silicon tranh cãi chuyện “hãm phanh”

Các sự cố càng làm sâu sắc thêm cuộc tranh luận trong ngành công nghệ về việc AI nên tiếp tục phát triển với tốc độ hiện nay hay cần những cơ chế kiểm soát chặt hơn.

CEO Anthropic Dario Amodei gần đây kêu gọi các hãng công nghệ “điều tiết tốc độ ở tuyến đầu”, cho rằng khả năng của AI đang phát triển nhanh đến mức ngành công nghiệp cần thêm thời gian để xây dựng cơ chế an toàn.

Kế hoạch của ông gồm việc đưa các chuyên gia đánh giá độc lập vào bên trong những phòng nghiên cứu AI, tăng phối hợp giữa các công ty phát triển mô hình tiên tiến và tiến tới hợp tác quốc tế nhằm quản lý những rủi ro mới.

Quan điểm này nhận được sự ủng hộ của CEO OpenAI Sam Altman và Elon Musk.

OpenAI đồng thời đang thúc đẩy việc hình thành các tiêu chuẩn quốc tế cho AI.

Phát biểu trước Hội đồng Bảo an Liên Hợp Quốc ngày 23/9, Altman cho rằng thế giới cần một cơ chế kết hợp tiêu chuẩn quốc gia và quốc tế để đo lường năng lực AI, đánh giá rủi ro, xác định liệu các biện pháp bảo vệ có đủ mạnh hay không và bảo đảm con người tiếp tục giữ quyền kiểm soát khi AI trở nên tự chủ hơn.

“Chúng ta không nên huấn luyện những mô hình mà chúng ta không thể đưa ra bằng chứng cực kỳ thuyết phục rằng chúng sẽ nằm dưới sự kiểm soát của con người”, Altman nói.

Ngược lại, CEO Meta Mark Zuckerberg cho rằng các phòng nghiên cứu đã có đủ động lực để bảo đảm an toàn cho sản phẩm của mình và không nhất thiết phải phối hợp để cùng giảm tốc độ phát triển. Ông lập luận cạnh tranh, trách nhiệm pháp lý và lợi ích kinh doanh đã tạo áp lực để các công ty xử lý rủi ro trước khi tung sản phẩm ra thị trường.

Washington vẫn ưu tiên vị thế dẫn đầu

Tranh luận càng trở nên phức tạp khi chính quyền Tổng thống Mỹ Donald Trump không ủng hộ việc áp đặt thêm quy định chỉ vì các cảnh báo về kịch bản AI mất kiểm soát.

Ông Trump cho rằng nhiều lo ngại hiện nay bị phóng đại và Mỹ cần duy trì vị thế dẫn đầu trong cuộc cạnh tranh AI với Trung Quốc. Tuy vậy, ông cũng nói Bộ Tư pháp Mỹ có thể can thiệp nếu các doanh nghiệp AI vi phạm pháp luật.

AI cũng trở thành một nội dung trong cuộc gặp giữa ông Trump và Chủ tịch Trung Quốc Tập Cận Bình tại Washington ngày 24/9.

Trước cuộc gặp, ông Trump nói AI sẽ là một chủ đề thảo luận lớn nhưng ông muốn “giữ nguyên như hiện tại”, đồng thời cho rằng Bộ Tư pháp Mỹ chính là hàng rào kiểm soát cần thiết.

Sau hội nghị, hai bên không công bố một thỏa thuận lớn nhằm hạn chế tốc độ phát triển AI. Ông Tập nhấn mạnh AI cần được duy trì dưới sự kiểm soát của con người và phát triển có trách nhiệm, trong khi ông Trump tiếp tục thể hiện quan điểm ít thiên về việc áp đặt thêm giới hạn.

Sự khác biệt đó cho thấy bài toán kiểm soát AI ngày càng không chỉ là vấn đề kỹ thuật của các hãng công nghệ. Nó đang trở thành câu hỏi về luật pháp, an ninh quốc gia và cạnh tranh giữa các cường quốc.

Trong khi năng lực của các mô hình tiếp tục tăng nhanh, cuộc tranh luận hiện nay tập trung vào một vấn đề ngày càng cấp bách: các biện pháp kiểm soát có thể phát triển đủ nhanh để theo kịp chính công nghệ hay không.

Theo FT