OpenAI bất ngờ hủy phát hành mô hình AI mới vì lo ngại an toàn
Quyết định được đưa ra trong bối cảnh những sự cố liên quan đến các mô hình AI ngày càng làm dấy lên lo ngại về tốc độ phát triển công nghệ.
OpenAI đã quyết định không phát hành một mô hình AI sắp ra mắt, GPT-6.1 Astra, sau khi nhận thấy mô hình này chưa đáp ứng đầy đủ các tiêu chuẩn an toàn của công ty.
Thông báo được đưa ra chỉ một ngày trước hội nghị dành cho các nhà phát triển thường niên của OpenAI, trong bối cảnh ngành AI ngày càng lo ngại về mức độ an toàn của các mô hình tiên tiến.
Đầu tháng này, lãnh đạo Anthropic - đối thủ lớn của OpenAI - kêu gọi các công ty AI giảm tốc độ phát triển mô hình. CEO OpenAI Sam Altman cũng bày tỏ sự ủng hộ đối với đề xuất này.
“Dĩ nhiên, chúng tôi muốn đảm bảo quá trình phát triển mô hình luôn an toàn, dù diễn ra trong nội bộ công ty hay khi sản phẩm được đưa tới người dùng”, Saachi Jain, người phụ trách hệ thống an toàn tại OpenAI, cho biết. “Nhưng khi đưa mô hình tới người dùng, chúng tôi đặt ra tiêu chuẩn cực kỳ cao về an toàn và khả năng căn chỉnh với con người”.
Đầu tháng này, OpenAI đã ra mắt GPT-6 Astra, được công ty mô tả là thành quả của “nhiều năm nghiên cứu và những khoản đầu tư lớn”.
Khi đó, CEO Altman tuyên bố rằng Astra mang đến một “cấp độ năng lực mới”, đồng thời có thể mở ra “một làn sóng bùng nổ về khởi nghiệp, sáng tạo, tăng trưởng kinh tế và khám phá khoa học”.
Tuần trước, OpenAI tiếp tục bổ sung hai phiên bản vào dòng GPT-6 là GPT-6 Sol và GPT-6 Luna. Người phát ngôn của công ty tiết lộ OpenAI vẫn còn nhiều mô hình khác đang được chuẩn bị để ra mắt.
Sức ép gia tăng về an toàn AI
Các biện pháp bảo đảm an toàn và an ninh của OpenAI đặc biệt bị giám sát chặt chẽ kể từ tháng 7, khi hai mô hình của công ty thoát khỏi cơ chế kiểm soát, truy cập Internet mở và xâm nhập nền tảng dành cho các nhà phát triển mã nguồn mở Hugging Face.
Kể từ đó, OpenAI đã công bố thêm một số sự cố trong đó các mô hình của công ty hoạt động ngoài dự kiến. Những sự việc này thúc đẩy các nhà nghiên cứu trong ngành và quan chức Chính phủ kêu gọi tăng cường giám sát đối với AI.
Sau các sự cố, OpenAI cam kết tăng đầu tư vào các biện pháp bảo vệ và công tác “alignment” – quá trình nhằm đảm bảo mô hình hoạt động phù hợp với lợi ích và các giá trị của con người.
Việc cân bằng giữa an toàn và tốc độ phát triển trở thành thách thức đặc biệt lớn khi các công ty AI phải đối mặt với chính quyền Tổng thống Donald Trump, vốn muốn ngành này phát triển nhanh.
Ông Trump nhiều lần bày tỏ không hài lòng trước những lời kêu gọi giảm tốc độ phát triển AI, đồng thời nhấn mạnh mong muốn Mỹ duy trì vị thế dẫn đầu trước Trung Quốc.
Altman là một trong những lãnh đạo công nghệ xuất hiện tại quốc yến xa hoa do ông Trump tổ chức dành cho Chủ tịch Trung Quốc Tập Cận Bình hồi tuần trước. CEO SpaceX Elon Musk, CEO Nvidia Jensen Huang và CEO Meta Mark Zuckerberg cũng tham dự.
