Cuộc khảo sát mới nhất ước tính, mỗi GPU AI hiện đại tiêu thụ tới 3,7 MWh năng lượng mỗi năm.
Trong năm ngoái, các GPU trung tâm dữ liệu mạnh nhất cho công việc AI tiêu thụ lên đến 700 watt mỗi GPU. Với tỷ lệ sử dụng hàng năm là 61%, tổng năng lượng tiêu thụ lên đến 3.740.520 Wh hoặc 3,74 MWh mỗi năm cho mỗi GPU, gây ra lo ngại về nguồn điện và tác động đến môi trường.
Nvidia đã bán 3,76 triệu GPU trung tâm dữ liệu, chiếm 98% thị trường, trong khi Intel, AMD và các nhà sản xuất khác chiếm 2% còn lại, tổng cộng hơn 3.836.000 GPU đã được phân phối đến các máy chủ dữ liệu trong năm 2023.
Nhân tổng số GPU này với năng lượng tiêu thụ của mỗi GPU, tổng năng lượng tiêu thụ lên đến 14.348,63 GWh mỗi năm. Để so sánh, một gia đình trung bình ở Mỹ tiêu thụ khoảng 10.791 kWh mỗi năm, điều này có nghĩa là GPU trung tâm dữ liệu tiêu thụ năng lượng tương đương với 1,3 triệu hộ gia đình.
Các con số này chỉ tính đến GPU, không tính đến CPU, hệ thống làm mát và các thiết bị khác của trung tâm dữ liệu. Điều này rất quan trọng khi mà một số GPU như RTX 4090 yêu cầu nguồn điện từ 850 đến 1.200 watt. Các trung tâm dữ liệu mới cần hơn 25 GWh mỗi năm, nhưng số liệu này không bao gồm các trung tâm dữ liệu từ năm 2022 trở về trước.
Dự báo cho thị trường GPU trung tâm dữ liệu dự kiến tăng 34,6% từ năm ngoái đến năm 2028, đẩy mạnh nhu cầu năng lượng và gây áp lực lên hạ tầng điện.
Các công ty công nghệ đang tìm cách giải quyết vấn đề, ví dụ như Microsoft đầu tư vào lò phản ứng hạt nhân nhỏ cho trung tâm dữ liệu và OpenAI xây dựng siêu máy tính AI trị giá 100 tỷ USD. Tuy nhiên, vấn đề vẫn làm dấy lên với nhu cầu điện năng ngày càng tăng của xã hội.
Với sự tăng trưởng không ngừng của các trung tâm dữ liệu, vấn đề về hạ tầng điện năng là điều không thể tránh được.