(Tổ Quốc) - Nvidia H100 là 'quái vật' chip đồ họa GPU mạnh nhất hiện nay trên thị trường.
Nvidia H100, 'quái vật' chip đồ họa GPU mạnh nhất hiện nay, luôn trong tình trạng cháy hàng dù với mức giá bán đắt đỏ lên tới 40.000 USD (gần một tỷ đồng).
CEO Nvidia Jensen Huang mô tả Nvidia H100 là 'hệ thống đầu tiên trên thế giới được thiết kế cho siêu trí tuệ nhân tạo', mạnh gấp ba lần bản tiền nhiệm A100 nhưng chi phí vận hành chỉ bằng 1,5-2 lần.
Trong việc huấn luyện trí tuệ nhân tạo, GPU với khả năng tiến hành song song hàng loạt tính toán chiếm ưu thế so với CPU. Và GPU hiệu năng cao như H100 trở thành công cụ không thể thiếu trong việc xây dựng mô hình LLM (Large language models), là cốt lõi của ứng dụng chatbot trí tuệ nhân tạo.
Sự bùng nổ bất ngờ của trí tuệ nhân tạo đã khiến mẫu chip đồ họa hiệu suất cao trở nên quý hiếm. Hiện chỉ có Nvidia có thể sản xuất GPU mạnh như H100.
Các tổ chức đặc biệt trong lĩnh vực trí tuệ nhân tạo đang có nhu cầu cấp thiết về GPU, với OpenAI và ChatGPT dẫn đầu. Tỷ phú Elon Musk ước tính rằng OpenAI sẽ cần khoảng 30.000-50.000 chip để vận hành GPT-5. Inflection AI, một dự án khởi nghiệp do Microsoft và Nvidia hỗ trợ, đã tiết lộ rằng họ đã mua 22.000 GPU H100 để xây dựng trung tâm trí tuệ nhân tạo của họ. Meta cũng tuyên bố rằng họ muốn sở hữu hơn 100.000 GPU H100 trong tương lai.
Các nhà cung cấp dịch vụ điện toán đám mây cũng muốn nắm giữ nhiều GPU của Nvidia. CoreWeave muốn có từ 35.000 đến 40.000 chiếc H100, Google Cloud Platform mua 26.000 chiếc, Amazon Web Service đặt hàng 20.000 chiếc và Microsoft Azure mua từ 10.000 đến 40.000.
Các doanh nghiệp công nghệ và tổ chức nhỏ cũng đã đặt mua GPU của Nvidia. Ví dụ, Đại học Kaust tại Arab Saudi đã đặt mua 3.000 H100 với tổng giá trị là 120 triệu USD và dự kiến giao hàng vào cuối năm 2023.
Theo ước tính của một số chuyên gia, trong năm nay, số lượng GPU H100 được bán ra trên toàn cầu sẽ vượt qua con số 430.000 chiếc với tổng giá trị khoảng 15 tỷ USD. Tuy nhiên, theo Financial Times, Nvidia có thể sản xuất tới 550.000 chiếc H100 trong năm nay và đã được đặt mua hết.