Bỏ học đại học, 2 người đàn ông tạo nên chip AI mạnh hơn ‘át chủ bài’ của Nvidia tới 20 lần: Nvidia có thể bị ‘soán ngôi’ ngay lập tức?

Nvidia vốn nổi tiếng với “át chủ bài” chip H100 nhưng nay gã khổng lồ công nghệ có lẽ sẽ phải dè chừng vì một đối thủ “cực mạnh” đã xuất hiện. Theo đó, công ty Etched vừa công bố Sohu - mẫu chip AI mạnh gấp 20 lần so với chip của Nvidia, thậm chí là sử dụng ít năng lượng hơn.

Etched, công ty khởi nghiệp đến từ Mỹ được thành lập năm 2022 bởi Gavin Uberti và Chris Zhu - những người đã từng bỏ học khỏi ngôi trường danh giá Harvard. Công ty đã tạo nên làn sóng mới khi thông báo về dòng chip được đánh giá là có tính cách mạng, trang web Cryptoslate cho hay.

Cụ thể, Sohu là một dạng mạch tích hợp dành riêng cho ứng dụng (ASIC), nó được thiết kế nhằm chạy các mô hình máy biến áp - kiến trúc đằng sau các hệ thống AI tiên tiến nhất hiện nay. Thậm chí, chip Sohu có thể đánh bại H100 của Nvidia về khả năng suy luận trong mô hình ngôn ngữ lớn (LLM).

Một hệ thống với 8 chip Sohu có thể đạt hiệu suất tương đương 160 H100, theo trang web Tom’s Hardware. Điều này chứng minh các trung tâm xử lý dữ liệu có thể tiết kiệm cả chi phí ban đầu và chi phí vận hành nếu Sohu đáp ứng được kỳ vọng.

Công ty Etched vừa công bố Sohu - mẫu chip AI mạnh gấp 20 lần so với chip của Nvidia

Phía công ty Etched cho hay, các bộ tăng tốc AI hiện tại, dù là CPU hay GPU, đều được thiết kế để hoạt động với các kiến trúc AI khác nhau. Phần cứng buộc phải có khả năng hỗ trợ đa dạng mô hình khác nhau, ví dụ mạng thần kinh tích chập, mạng bộ nhớ ngắn hạn hoặc mô hình không gian trạng thái.

Lý giải nguyên nhân, công ty cho biết bởi các mô hình này được điều chỉnh theo các kiến trúc khác nhau nên hầu hết các chip AI hiện tại đều phân bổ phần lớn sức mạnh tính toán của chúng cho khả năng lập trình.

Đáng chú ý, hầu hết các mô hình ngôn ngữ lớn (LLM) sử dụng phép nhân ma trận cho phần lớn các tác vụ tính toán của chúng và Etched ước tính rằng GPU H100 của Nvidia chỉ sử dụng 3,3% số bóng bán dẫn cho tác vụ chính này. Điều này có nghĩa là 96,7% số còn lại được sử dụng cho các tác vụ khác.

Theo đó, Etched đã đặt cược rất lớn, họ sẽ tích hợp kiến ​​trúc máy biến áp vào Sohu, từ đó cho phép nó phân bổ nhiều bóng bán dẫn hơn cho tính toán AI. Thay vì tạo một chip có thể đáp ứng mọi kiến trúc AI đơn lẻ, họ cố gắng tạo ra một con chip chỉ hoạt động với các mẫu máy biến áp cụ thể.

Khi Etched bắt đầu dự án vào năm 2022, ChatGPT thậm chí còn chưa có. Nhưng sau đó nó trở nên phổ biến vào năm 2023 và canh bạc của công ty giờ đây có vẻ như sắp thành công - một thời điểm quan trọng.

Được biết, Etched đang nhanh chóng tiến tới một trong những đợt ra mắt chip nhanh nhất trong lịch sử. Nó đã thu hút những nhân tài hàng đầu từ các dự án chip AI lớn. Một số nguồn tin cho hay có những khách hàng đầu tiên đã cam kết chi hàng chục triệu USD cho chip của Etched.

Nvidia hiện là một trong những công ty có giá trị nhất thế giới. Hãng đã đạt doanh thu kỷ lục kể từ khi nhu cầu về GPU AI tăng vọt. Công ty thậm chí đã xuất xưởng 3,76 triệu GPU cho trung tâm dữ liệu vào năm 2023 và xu hướng này sẽ tăng trưởng hơn nữa trong năm nay.

Nhưng sự ra mắt của Sohu có thể sẽ đe dọa đến vị thế dẫn đầu của Nvidia trong lĩnh vực AI. Nhìn chung, hiệu suất là chìa khóa để giành chiến thắng trong cuộc đua AI. Bất kỳ ai có thể chạy các mô hình này trên phần cứng nhanh nhất và giá cả phải chăng nhất sẽ là người chiến thắng.

Theo Cryptoslate, Tom’s Hardware

>> Cổ phiếu Nvidia giảm mạnh phiên thứ 3 liên tiếp, thổi bay 430 tỷ USD vốn hóa thị trường