Bất ngờ: DeepSeek tốn hơn 1 tỷ USD để phát triển AI chứ không phải 6 triệu USD như công bố?
Tổng chi phí của công ty này được ước tính có thể lên tới hơn 1 tỷ USD, chủ yếu do đầu tư vào phần cứng, vận hành máy chủ và các hoạt động nghiên cứu, phát triển dữ liệu.
SemiAnalysis, một công ty nghiên cứu và tư vấn hàng đầu trong lĩnh vực bán dẫn và AI, cho biết chi phí phần cứng của DeepSeek thực chất lên tới hơn 500 triệu USD. Theo họ, việc thu thập và xử lý dữ liệu cho các mô hình đào tạo đòi hỏi một lượng tính toán đáng kể.
Con số 5,6 triệu USD mà DeepSeek công bố chỉ bao gồm chi phí đào tạo, chưa tính đến những khoản chi cho nghiên cứu, phát triển, chuẩn bị dữ liệu, bảo trì phần cứng và vấn đề khác.
SemiAnalysis cho biết: "Phân tích của chúng tôi cho thấy tổng chi phí đầu tư vào máy chủ có thể lên tới 1,6 tỷ USD. Trong đó, khoảng 944 triệu USD dành cho việc vận hành các cụm máy chủ này. Ngoài ra, DeepSeek còn phải thử nghiệm, phát triển kiến trúc mới, thu thập và làm sạch dữ liệu, trả lương cho nhân viên và thực hiện nhiều công việc khác".
Không chỉ vậy, họ cho rằng DeepSeek đã tiếp cận khoảng 10.000 mẫu GPU Nvidia H800, có hiệu năng giảm sút do lệnh cấm xuất khẩu chip AI của Mỹ đối với Trung Quốc, cùng với khoảng 10.000 GPU H100. Thậm chí, DeepSeek có thể sử dụng phiên bản H20 cho việc đào tạo mô hình.
"Những GPU này được chia sẻ giữa quỹ đầu tư High-Flyer và DeepSeek, phân phối theo khu vực và được sử dụng cho các mục đích giao dịch, suy luận, đào tạo và nghiên cứu", SemiAnalysis nói thêm.
Alexandr Wang, CEO của Scale AI, cũng tiết lộ rằng DeepSeek đang sở hữu tới 50.000 chip Nvidia H100. Tuy nhiên, ông cho biết do các biện pháp kiểm soát xuất khẩu của Mỹ, DeepSeek không thể công khai thông tin này.
Trong thời gian qua, DeepSeek liên tục đăng tuyển nhân tài AI và tổ chức các sự kiện tuyển dụng tại nhiều trường đại học hàng đầu Trung Quốc.
Công ty đề cập đến "cơ hội truy cập 10.000 GPU không giới hạn", đồng thời mời gọi các ứng viên triển vọng với mức lương lên tới hơn 1,3 triệu USD/năm - cao hơn nhiều so với các công ty công nghệ lớn ở Trung Quốc hay các phòng thí nghiệm AI toàn cầu như Moonshot.
Dù vậy, SemiAnalysis nhận xét DeepSeek vẫn là một trong những công ty đi đầu trong việc tối ưu hóa chi phí cho các mô hình AI mạnh mẽ.
Trước đây, DeepSeek cũng chưa công bố tổng chi phí cụ thể ngoài con số 5,6 triệu USD, chủ yếu dùng để thuê máy chủ AI và "đào tạo chính thức" các mô hình. Do đó, con số này không tính đến nghiên cứu hay thí nghiệm liên quan đến kiến trúc, thuật toán và dữ liệu.
Một số chuyên gia nhận định DeepSeek đã tối ưu hóa việc huấn luyện mô hình AI với chi phí thấp, nhưng 5,6 triệu USD chưa phải là con số cuối cùng.
Yann LeCun, Giám đốc AI của Meta, cho rằng có sự hiểu lầm lớn khi so sánh chi tiêu vào AI giữa các công ty Mỹ và DeepSeek.
Ông giải thích: "Phần lớn số tiền đầu tư vào AI ở Mỹ dành cho cơ sở hạ tầng để 'suy luận', không phải để đào tạo. Việc vận hành các dịch vụ AI cho hàng tỷ người yêu cầu lượng tính toán khổng lồ và khi các hệ thống AI này có khả năng hiểu video, lý luận, bộ nhớ quy mô lớn, chi phí suy luận sẽ tăng lên. Vì vậy, phản ứng của thị trường với DeepSeek là thiếu căn cứ".
Để đảm bảo chi phí thấp, OpenAI nghi ngờ DeepSeek đã sử dụng kỹ thuật "chưng cất" - một phương pháp cho phép đạt hiệu suất cao hơn trên các mô hình nhỏ bằng cách sử dụng đầu ra từ mô hình lớn. Kỹ thuật này giúp đạt được kết quả tương tự trong các nhiệm vụ cụ thể với chi phí thấp hơn.
>> Bất ngờ: Các nhà khoa học Mỹ tung ‘bản sao’ của DeepSeek với giá chỉ 30 USD?
