Trung Quốc công bố đột phá công nghệ AI: Hệ thống 5 chip đánh bại GPU thương mại, nhanh gấp gần 150 lần

Công trình do nhóm nghiên cứu tại Đại học Bắc Kinh (Trung Quốc) thực hiện và được công bố trên tạp chí National Science Review. Hai tác giả phụ trách chính là Shu Haowen và Wang Xingjun.

Kết quả nghiên cứu mở ra một hướng tiếp cận mới trong cuộc đua phát triển AI, thay vì tiếp tục bổ sung thêm GPU và xây dựng các trung tâm dữ liệu ngày càng lớn để đáp ứng nhu cầu tính toán đang tăng mạnh.

Sự bùng nổ của các mô hình AI đang khiến nhu cầu về năng lực tính toán tăng chưa từng có. Cách tiếp cận phổ biến hiện nay là sử dụng nhiều GPU hơn và mở rộng quy mô trung tâm dữ liệu, kéo theo mức tiêu thụ điện năng ngày càng lớn.

Tuy nhiên, nhóm nghiên cứu của Đại học Bắc Kinh đề xuất một hướng đi hoàn toàn khác. Họ sử dụng công nghệ kết nối quang học kết hợp với thuật toán chuyên biệt để liên kết các chip, qua đó tăng tốc độ xử lý hơn 100 lần nhưng giảm đáng kể lượng tài nguyên tính toán cần thiết.

Theo nhóm nghiên cứu, thay vì chỉ "xếp chồng thêm chip", việc "kết nối các chip một cách thông minh" có thể mang lại hiệu quả vượt trội.

Kết nối các chip như lắp ghép Lego

Hệ thống được xây dựng từ các chip FPGA, loại chip có thể lập trình lại sau khi sản xuất và được sử dụng rộng rãi trong những lĩnh vực đòi hỏi khả năng xử lý song song rất cao như dẫn đường tên lửa, xe tự hành và trung tâm dữ liệu.

Để kết nối các chip FPGA, nhóm nghiên cứu phát triển hai phần cứng chuyên dụng.

Thành phần đầu tiên là chip thu phát quang silicon có tốc độ truyền dữ liệu lên tới 400 Gbps, đảm nhiệm việc chuyển đổi tín hiệu điện sang tín hiệu quang và ngược lại.

Thành phần thứ hai là chip chuyển mạch quang 16×16, đóng vai trò như một bộ định tuyến trong quá trình truyền dữ liệu bằng ánh sáng. Con chip này có thể thiết lập kết nối linh hoạt giữa tối đa 16 cổng đầu vào và 16 cổng đầu ra.

Nhanh gấp gần 150 lần GPU thương mại

Để kiểm chứng hiệu quả, nhóm nghiên cứu kết nối song song 5 chip FPGA và thực hiện bài toán khử nhiễu ảnh trên một bộ dữ liệu chuyên dụng.

Hệ thống xử lý 1.000 bức ảnh, mỗi ảnh có kích thước 32.768 bit, chỉ trong 105,16 µs.

Trong khi đó, khi thực hiện cùng tác vụ trên một GPU thương mại có hiệu năng tính toán 16,96 TFLOPS, thời gian xử lý lên tới 15,6 ms.

Như vậy, hệ thống FPGA sử dụng kết nối quang học nhanh hơn gần 150 lần.

Đáng chú ý, tổng năng lực tính toán lý thuyết của cả 5 chip FPGA chỉ đạt khoảng 1,969 TFLOPS, tức chưa bằng 1/9 so với GPU được dùng để so sánh.

Không chỉ nhanh hơn mà còn tiết kiệm năng lượng

Theo nhóm nghiên cứu, ưu thế của hệ thống đến từ bản chất của truyền dữ liệu bằng quang học.

Chip chuyển mạch quang có mức suy hao tín hiệu dưới 5 dB, cho phép truyền dữ liệu tốc độ cao với độ chính xác cao mà không cần thiết bị khuếch đại quang bổ sung.

Quan trọng hơn, trong quá trình suy luận AI trên GPU truyền thống, dữ liệu trung gian giữa các lớp mạng nơron phải liên tục được ghi vào bộ nhớ rồi đọc trở lại. Mỗi lớp chỉ có thể bắt đầu sau khi lớp trước hoàn tất, khiến nhiều đơn vị xử lý phải chờ đợi và không được khai thác hết công suất.

Ngược lại, với kiến trúc kết nối quang học, dữ liệu được truyền trực tiếp từ lớp này sang lớp khác như trên một dây chuyền sản xuất, gần như không cần truy cập bộ nhớ. Nhờ đó, tất cả các chip có thể hoạt động liên tục, giúp giảm đáng kể độ trễ và nâng cao hiệu suất.

Mở ra hướng phát triển mới cho hạ tầng AI

Theo nhóm nghiên cứu, kết quả này cho thấy việc đồng thiết kế thuật toán, kiến trúc bộ xử lý và phương thức kết nối giữa các chip có thể giúp đạt được hiệu năng rất cao ngay cả khi tài nguyên tính toán hạn chế.

Các tác giả nhận định kiến trúc mới không chỉ giúp tăng tốc các hệ thống AI mà còn có tiềm năng giảm đáng kể mức tiêu thụ điện của các trung tâm dữ liệu, đồng thời tối ưu độ trễ và điện năng tiêu thụ trong các ứng dụng điện toán biên, nơi yêu cầu xử lý dữ liệu ngay tại thiết bị thay vì phụ thuộc hoàn toàn vào máy chủ từ xa.

Theo SCMP