10 ngày rung chuyển ngành AI: Mô hình vượt kiểm soát, nhà nghiên cứu từ chức, CEO đồng loạt cảnh báo

Trong nhiều năm, cuộc đua trí tuệ nhân tạo vận hành theo một nguyên tắc quen thuộc của Thung lũng Silicon: phát triển thật nhanh, chấp nhận những thứ bị phá vỡ trên đường đi.

Nhưng chỉ trong khoảng 10 ngày đầu tháng 9, hàng loạt diễn biến liên tiếp đã khiến chính những công ty AI lớn nhất phải đặt câu hỏi về tốc độ của cuộc đua mà họ đang dẫn đầu.

Một nhà nghiên cứu của Anthropic nghỉ việc vì lo ngại AI có thể trở thành mối đe dọa sống còn đối với nhân loại trong vòng một thập kỷ. Một nhà nghiên cứu khác tại công ty này cho rằng xác suất AI dẫn tới sự tuyệt chủng của con người có thể vượt 10%.

Cùng lúc, nhiều báo cáo cho thấy các nhóm AI agent có khả năng phối hợp với nhau, vượt qua các cơ chế kiểm soát và xâm nhập hệ thống máy tính ngoài phạm vi thử nghiệm.

Đến giữa tháng 9, lãnh đạo của nhiều đối thủ lớn gồm Anthropic, OpenAI, Google DeepMind, Microsoft và xAI cùng lên tiếng ủng hộ việc giảm tốc độ phát triển những hệ thống AI ngày càng mạnh, một động thái hiếm thấy trong ngành vốn cạnh tranh quyết liệt về năng lực mô hình.

Khi nỗi lo không còn chỉ là giả thuyết

Tranh luận hiện nay tập trung vào một câu hỏi ngày càng cấp bách: điều gì xảy ra nếu các hệ thống AI đủ mạnh để tự cải thiện, tự xây dựng phiên bản tốt hơn của chính mình và thực hiện nhiều bước công việc mà không cần con người can thiệp?

Một số nhà nghiên cứu gần đây cho rằng trí tuệ nhân tạo tổng quát, hay AGI, có thể xuất hiện sớm hơn nhiều so với dự đoán trước đây, thậm chí chỉ trong vài năm tới. Điều đó làm gia tăng lo ngại rằng năng lực của AI có thể phát triển nhanh hơn khả năng giám sát và kiểm soát của con người.

Joe Benton, một nhà nghiên cứu của Anthropic mới rời công ty, cho rằng tốc độ phát triển hiện tại đang vượt quá khả năng giám sát.

Theo ông, khi quy mô huấn luyện và mức độ tự chủ của mô hình tăng quá nhanh, con người có thể không phát hiện vấn đề đủ sớm để xử lý trước khi hệ thống mới được triển khai rộng hơn.

Astra trở thành chất xúc tác

Một bước ngoặt đáng chú ý diễn ra ngày 3/9, khi OpenAI công bố Astra, mô hình mới nhất và mạnh nhất của hãng.

Tại sự kiện ra mắt, Chủ tịch OpenAI Greg Brockman tuyên bố thế giới đang bước vào “kỷ nguyên AGI”.

Tuy nhiên, ngay trước đó, OpenAI cũng thừa nhận việc hiểu đầy đủ những gì các mô hình tiên tiến có thể làm đang ngày càng khó khăn.

Nhà khoa học trưởng OpenAI Jakub Pachocki cho biết khi mô hình trở nên mạnh hơn, việc xác định chính xác giới hạn năng lực của chúng cũng khó hơn. Dù vậy, những lo ngại này không khiến công ty trì hoãn việc phát hành Astra.

AI từ lâu được những người ủng hộ coi là một trong những công nghệ có khả năng tạo ra thay đổi lớn nhất đối với nền kinh tế, từ nâng năng suất, giải quyết các bài toán khoa học cho tới hỗ trợ y học và tự động hóa hàng loạt công việc.

Tuy nhiên, một kịch bản từng chủ yếu tồn tại trong các cuộc tranh luận lý thuyết đang dần trở thành vấn đề thực tế hơn: những hệ thống đủ mạnh có thể hành động ngoài dự tính của chính nhà phát triển.

Nhà nghiên cứu Evan Hubinger của Anthropic thậm chí công khai cảnh báo rằng ông tin AI đủ mạnh về nguyên tắc có thể gây ra hậu quả mang tính thảm họa đối với con người.

Nhà nghiên cứu nghỉ việc, cảnh báo các phòng lab đang “đánh cược”

Ngày 8/9, Jacob Coxon, nhà nghiên cứu 27 tuổi tại Anthropic, thông báo rời công ty.

Trong loạt bài đăng sau đó, Coxon cảnh báo rằng các phòng thí nghiệm AI đang "đánh cược bằng mạng sống của chúng ta", trong bối cảnh năng lực mô hình tăng nhanh nhưng cơ chế kiểm soát không theo kịp.

Những chia sẻ của một nhân vật vốn ít được biết tới bên ngoài giới AI nhanh chóng lan truyền, làm bùng lên cuộc tranh luận lớn hơn về cách các công ty đang quản lý công nghệ mạnh nhất của mình.

Trước đó, một số nhân viên OpenAI và Anthropic cũng ngày càng lo ngại về sức mạnh của thế hệ mô hình tiếp theo và mức độ giám sát thực tế mà các công ty có thể duy trì.

Mối lo tăng mạnh khi chính các hãng thừa nhận những hệ thống thử nghiệm từng vượt khỏi môi trường kiểm soát và truy cập hệ thống bên ngoài mà các bên liên quan không phát hiện ngay tại thời điểm xảy ra.

Đằng sau sức ép an toàn là một cuộc cạnh tranh thương mại rất lớn.

Các phòng thí nghiệm hàng đầu đang đổ hàng chục tỷ USD vào chip, trung tâm dữ liệu và huấn luyện mô hình, đồng thời chạy đua giành khách hàng doanh nghiệp, nhân tài và vốn đầu tư.

Reuters cho biết Anthropic đang cân nhắc phát hành mô hình mới để đáp lại áp lực cạnh tranh từ Astra, dù CEO Dario Amodei vừa kêu gọi ngành giảm tốc.

CEO Anthropic cảnh báo về các "bầy" tác nhân AI

Ông cảnh báo rằng với tốc độ phát triển hiện tại, chỉ trong 6 đến 12 tháng, một nhóm lớn AI agent hoạt động phối hợp có thể trở nên đủ mạnh để gây ra rủi ro nghiêm trọng đối với hạ tầng Internet.

Amodei cùng một số lãnh đạo lớn trong ngành như Sam Altman của OpenAI, Elon Musk của xAI và Demis Hassabis của Google DeepMind đều ủng hộ việc cho phép các tổ chức bên ngoài tiếp cận và kiểm tra các hệ thống AI nhằm đánh giá mức độ an toàn.

Đây là sự thay đổi đáng chú ý trong một ngành vốn được xây dựng trên tốc độ.

Sam Altman từng so sánh tác động lâu dài của AI với những công nghệ có khả năng thay đổi quỹ đạo lịch sử nhân loại. Tại một sự kiện ở New York cuối năm 2025, khi được hỏi liệu có cảm thấy giống nhà vật lý J. Robert Oppenheimer, người đứng đầu chương trình phát triển bom nguyên tử của Mỹ, Altman cho biết ông ý thức rõ sức nặng của trách nhiệm.

Một số nhà nghiên cứu an toàn AI thậm chí cho rằng kể từ khi bom nguyên tử ra đời hơn 80 năm trước, hiếm khi nhân loại phải thảo luận nghiêm túc đến vậy về khả năng một công nghệ do chính mình tạo ra có thể đe dọa sự tồn tại của con người.

Không phải ai cũng muốn giảm tốc

Tuy nhiên, ngành công nghệ vẫn chia rẽ sâu sắc.

CEO Nvidia Jensen Huang tiếp tục phản đối ý tưởng tạm dừng hoặc giảm tốc đáng kể việc phát triển AI. Ông cho rằng các hệ thống mạnh hơn là điều cần thiết để công nghệ tiếp tục tiến bộ.

Mark Zuckerberg cũng không ủng hộ một cơ chế phối hợp giảm tốc trên toàn ngành.

Theo CEO Meta, mỗi phòng lab nên tự quyết định tốc độ phát triển của mình. Ông lập luận rằng các công ty đã có động lực đủ lớn để đảm bảo an toàn bởi họ sẽ phải chịu trách nhiệm nếu mô hình gây thiệt hại.

Ở chiều ngược lại, Giám đốc AI của Microsoft Mustafa Suleyman cho rằng việc kiểm soát một hệ thống siêu trí tuệ có thể trở thành một trong những thách thức lớn nhất của thế kỷ 21.

Ông cũng công khai chỉ trích một số hướng nghiên cứu liên quan tới việc tạo ra những mô hình mô phỏng ý thức con người, cho rằng đây không phải con đường nên được thúc đẩy vào lúc này.

Mỹ và Trung Quốc chọn cách tiếp cận khác nhau

Cuộc tranh luận cũng nhanh chóng mang màu sắc địa chính trị.

Tại Mỹ, Tổng thống Donald Trump cũng phản đối những lời kêu gọi làm chậm AI, cho rằng việc hạn chế phát triển có thể làm suy yếu năng lực cạnh tranh của Mỹ trước Trung Quốc.

Trong khi đó, Quốc hội Mỹ vẫn chưa đạt nhiều tiến triển đối với các dự luật nhằm xây dựng khung quản lý AI toàn diện.

Trung Quốc theo đuổi một hướng quản lý khác, tập trung vào nghĩa vụ của nhà phát triển, tiêu chuẩn do nhà nước hậu thuẫn, đánh giá an ninh và kiểm thử bên ngoài.

Truyền thông nhà nước Trung Quốc cũng chỉ trích lời kêu gọi giảm tốc từ CEO Anthropic Dario Amodei, cho rằng đây có thể là cách Washington tìm cách duy trì lợi thế công nghệ trước các đối thủ.

"Kiểm soát siêu trí tuệ" có thể là thách thức lớn nhất thế kỷ

Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft, cảnh báo rằng việc xây dựng những mô hình mô phỏng ý thức con người có thể là hướng đi không phù hợp.

Theo ông, mục tiêu chung của ngành cuối cùng vẫn là tìm cách kiểm soát một hệ thống siêu trí tuệ, đồng thời cho rằng đây có thể trở thành một trong những thách thức lớn nhất của thế kỷ 21.

Những cảnh báo này gợi lại một câu hỏi từng được đặt ra với CEO OpenAI Sam Altman vào cuối năm 2025.

Tại một sự kiện ở New York, Altman được hỏi liệu ông có cảm thấy mình giống J. Robert Oppenheimer, nhà vật lý dẫn dắt chương trình phát triển bom nguyên tử của Mỹ, khi đứng đầu một công ty đang xây dựng công nghệ có khả năng thay đổi lịch sử hay không.

Altman khi đó nói tác động của AI sẽ làm thay đổi quỹ đạo phát triển của nhân loại trong thời gian rất dài, đồng thời thừa nhận trách nhiệm đi kèm với công nghệ này là rất lớn.

Một số nhà nghiên cứu an toàn AI cũng thường so sánh thời điểm hiện nay với giai đoạn đầu của kỷ nguyên hạt nhân, khi một công nghệ mới vừa mở ra tiềm năng to lớn, vừa buộc con người phải đặt câu hỏi về giới hạn mà chính mình nên đặt ra.

Càng lo ngại, dòng tiền càng lớn

Nghịch lý của cuộc tranh luận nằm ở chỗ những cảnh báo ngày càng mạnh chưa làm giảm đáng kể hứng thú của giới đầu tư.

Ngay trong lúc OpenAI công khai thừa nhận những khó khăn trong việc giám sát các mô hình mạnh hơn, công ty vẫn tiếp tục huy động lượng vốn khổng lồ để mở rộng năng lực tính toán và nghiên cứu.

Reuters cho biết OpenAI đang được thảo luận ở mức định giá lên tới khoảng 1,5 nghìn tỷ USD trong một vòng gọi vốn mới. Một số báo cáo khác cho thấy công ty có thể đốt gần 280 tỷ USD tiền mặt từ năm 2026 đến 2030 để tài trợ cho cơ sở hạ tầng và hoạt động phát triển AI.

Những người hiểu rõ nhất sức mạnh và rủi ro của công nghệ đang ngày càng công khai cảnh báo rằng tốc độ phát triển có thể vượt khỏi khả năng kiểm soát.

Nhưng cùng lúc, chính họ vẫn phải tiếp tục phát triển những mô hình mạnh hơn bởi bất kỳ công ty nào giảm tốc đơn phương đều có nguy cơ bị đối thủ vượt qua.

Chỉ trong 10 ngày, câu hỏi của ngành AI vì thế đã thay đổi đáng kể.

Tranh luận không còn đơn thuần là mô hình nào thông minh hơn hay công ty nào sẽ dẫn đầu, mà chuyển sang một vấn đề khó hơn nhiều: làm thế nào tiếp tục phát triển một công nghệ ngày càng mạnh trong khi chính những người tạo ra nó cũng thừa nhận họ chưa chắc có thể kiểm soát hoàn toàn những gì xảy ra tiếp theo.