Nvidia H200: Chip AI mạnh nhất thế giới, gấp đôi H100

Nvidia vừa công bố Nvidia H200, chip AI mới nhất của hãng, với khả năng suy luận nhanh gấp đôi H100, chip AI mạnh nhất hiện nay.

H200 được xây dựng trên kiến trúc Hopper, sử dụng bộ nhớ HBM3e dung lượng 141 GB và băng thông 4,8 TB/s. Đây là những cải tiến đáng kể so với H100, sử dụng bộ nhớ HBM3 80 GB và băng thông 3,35 TB/s.

Với cấu hình sử dụng tám GPU, HGX H200 có khả năng tính toán 32 petaflop (triệu tỷ phép tính mỗi giây).

Nvidia cho biết H200 sẽ được sử dụng trong các siêu máy tính và ứng dụng đào tạo AI, giúp cải thiện khả năng làm việc của các hệ thống AI tạo sinh cũng như các hệ thống điện toán hiệu năng cao (HPC).

Amazon Web Services, Google Cloud, Microsoft Azure và Oracle sẽ là những nền tảng điện toán đám mây đầu tiên trang bị H200 khi sản phẩm ra thị trường vào quý II/2024.

Giá của H200 vẫn chưa được công bố, nhưng mẫu chip tiền nhiệm H100 có giá từ 25.000-40.000 USD.

Ngoài Nvidia, Open AI – công ty sáng tạo ra ChatGPT – cũng đang nuôi ý định sản xuất con chip AI cho riêng mình.