Buzz
Mỗi chiếc H100 của Nvidia tiêu thụ 700W điện, dự kiến 3,5 triệu chiếc được bán trong năm tới sẽ tiêu thụ tổng cộng 13.091,82 GWh điện.
Hàng tấn GPU AI H100 của Nvidia đã được bán ra và đang trong tình trạng khan hiếm. Số lượng lớn GPU này được bán ra để phục vụ cho 'cách mạng AI', nên mức tiêu thụ điện năng của chúng được dự đoán sẽ cao tương đương với mức tiêu thụ điện năng của một thành phố lớn ở Mỹ.
Theo Paul Churnock, kỹ sư điện phụ trách Chiến lược và quản trị kỹ thuật trung tâm dữ liệu tại Microsoft, mỗi GPU H100 có công suất lên đến 700W và ước tính sẽ tiêu thụ nhiều điện năng hơn tất cả các hộ gia đình ở Phoenix, Arizona, vào cuối năm 2024 khi hàng triệu GPU này được triển khai. Tuy nhiên, tổng lượng điện tiêu thụ sẽ ít hơn các thành phố lớn hơn như Houston, Texas.
Churnock giải thích rằng, với mức sử dụng hàng năm là 61%, H100 của Nvidia tương đương với mức tiêu thụ điện năng của một hộ gia đình trung bình ở Mỹ (2,51 người/hộ gia đình). Dự kiến doanh số bán GPU H100 của Nvidia là từ 1,5 đến 2 triệu vào năm 2024. So với mức tiêu thụ điện của dân cư theo thành phố, mức tiêu thụ điện năng của chip H100 sẽ xếp hạng lớn thứ 5, chỉ sau Houston, Texas và trước Phoenix, Arizona.
Với mức sử dụng hàng năm là 61%, GPU H100 sẽ tiêu thụ khoảng 3.740 kilowatt giờ (kWh) điện hàng năm. Giả sử Nvidia bán 1,5 triệu GPU H100 vào năm 2023 và hai triệu GPU H100 vào năm 2024, sẽ có 3,5 triệu bộ xử lý như vậy được triển khai vào cuối năm 2024. Tổng cộng, chúng sẽ tiêu thụ một lượng điện khổng lồ là 13.091.820.000 kilowatt giờ (kWh) mỗi năm, hoặc 13.091,82 GWh.
Để so sánh, con số 13.091,82 GWh tương đương với mức tiêu thụ điện hàng năm của một số quốc gia như Georgia, Lithuania hoặc Guatemala.
Trước đó, vào tháng 10 công ty công nghệ Schneider của Pháp ước tính, tổng mức tiêu thụ điện năng của các trung tâm dữ liệu được sử dụng cho các ứng dụng AI ngày nay tương đương với mức tiêu thụ điện của quốc gia Síp.
Trong tương lai, Nvidia sẽ ra mắt nhiều mẫu GPU mới như B100 Blackwell có thể sẽ vượt xa mức tiêu thụ điện năng của H100, nhưng các GPU AI sẽ mang lại hiệu suất cao hơn và hoàn thành nhiều công việc hơn.
