Theo nguồn tin từ FT, Nvidia dự định sẽ sản xuất 1,5-2 triệu chip H100 vào năm 2024, tăng đáng kể so với mục tiêu 500.000 chip trong năm nay. Hãng cũng tiên đoán nhu cầu chip máy chủ AI sẽ tăng khoảng 50% mỗi năm trong 5 năm tới.
Trong báo cáo tài chính quý I/2023, CEO Jensen Huang xác nhận Nvidia đang tăng sản xuất để đáp ứng nhu cầu cao cho chip H100. Được bán với giá 40.000 USD, chip H100 đang được săn đón mạnh mẽ trong làn sóng AI. Đây là thành phần quan trọng trong việc phát triển các mô hình ngôn ngữ lớn.
Đầu tháng này, FT đã tiết lộ rằng Arab Saudi và UAE đã mua hàng nghìn chip H100. Trước đó, Reuters cũng đã đưa tin rằng các công ty Trung Quốc đã tìm cách mua chip Nvidia thông qua thị trường chợ đen do tình hình cấm vận từ Mỹ gia tăng.
“Trong quý II, chúng tôi đã thực hiện các hợp đồng trị giá 10 tỷ nhân dân tệ (1,4 tỷ USD) và nhận thêm hợp đồng trị giá 30 tỷ nhân dân tệ. Nhưng vấn đề lớn nhất là chip Nvidia. Chúng tôi không biết khi nào sẽ nhận được và nhận được bao nhiêu”, một giám đốc bán hàng của Inspur Electronic Information Industry, nhà cung cấp máy chủ hàng đầu ở Trung Quốc, nói với FT.
Tuần trước, Foxconn cũng dự báo nhu cầu cho máy chủ AI sẽ tăng mạnh trong những năm tới. Trong khi đó, Lenovo báo cáo doanh thu của họ trong quý II đã giảm 80% do thiếu bộ xử lý AI. Nhiều nhà cung cấp dịch vụ đám mây đã chuyển dịch từ máy tính truyền thống sang máy chủ AI, nhưng nguồn cung hạn chế. Tại Mỹ, các nhà cung cấp dịch vụ đám mây như Microsoft, Amazon và Google đang chuyển trọng tâm sang xây dựng cơ sở hạ tầng AI.
Ngoài vấn đề chip Nvidia thiếu hụt, các nhà phân tích cũng nhận thấy một điểm nghẽn khác trong chuỗi cung ứng đang làm chậm tiến trình phát triển AI. Brady Wang, nhà phân tích của Counterpoint, cho biết “Chuỗi cung ứng đang gặp vấn đề liên quan đến khả năng đóng gói bao bì tiên tiến và bộ nhớ băng thông cao (HBM). Cả hai đều đang bị hạn chế về sản lượng”.
TSMC có kế hoạch tăng gấp đôi công suất cho công nghệ đóng gói tiên tiến CoWoS – đây là công nghệ cần thiết để sản xuất chip H100. Tuy nhiên, công ty cảnh báo tình trạng thiếu hụt sẽ kéo dài đến cuối năm 2024.
