Buzz
Google đã công khai dữ liệu của mình một cách rõ ràng, vậy còn các tập đoàn công nghệ khác trong lĩnh vực phát triển Trí Tuệ Nhân Tạo thì như thế nào?
Lần đầu tiên, Google đã công bố một báo cáo kỹ thuật chi tiết về lượng điện năng tiêu thụ của mô hình Gemini, tiết lộ những con số mà chưa một gã khổng lồ công nghệ nào khác dám công khai. Báo cáo chỉ ra rằng trung bình, một truy vấn văn bản tiêu thụ 0,24 watt-giờ điện, tương đương với mức năng lượng để vận hành lò vi sóng trong một giây.
Nghiên cứu của Google không chỉ tính toán mức tiêu thụ năng lượng từ các chip AI chuyên dụng (TPU do Google tự thiết kế, có chức năng tương tự GPU) mà còn bao gồm toàn bộ cơ sở hạ tầng hỗ trợ. Cụ thể, chip AI chỉ chiếm 58% trong tổng số 0,24 watt-giờ, CPU và bộ nhớ chiếm 25%, hệ thống dự phòng ngốn 10%, và 8% còn lại là từ hoạt động vận hành trung tâm dữ liệu như làm mát và chuyển đổi nguồn điện.
Google cũng nhấn mạnh rằng con số này là giá trị trung vị và không phản ánh đầy đủ cho mọi loại tương tác. Chẳng hạn, việc tải lên hàng chục đầu sách để yêu cầu Gemini tóm tắt sẽ tiêu tốn nhiều năng lượng hơn đáng kể, tương tự như việc sử dụng các mô hình suy luận đòi hỏi nhiều bước xử lý phức tạp. Báo cáo hiện chỉ tập trung vào các prompt văn bản và chưa tính đến xử lý hình ảnh hay video - những tác vụ đòi hỏi nguồn lực lớn hơn nhiều.
Một điểm đáng chú ý là mức tiêu thụ năng lượng cho một prompt trung bình đã được cải thiện đáng kể, giảm tới 33 lần chỉ trong vòng một năm nhờ những cải tiến vượt bậc về mô hình và phần mềm. Tuy vậy, Google thừa nhận rằng các yêu cầu phức tạp, ví dụ như xử lý lượng dữ liệu khổng lồ từ hàng chục cuốn sách hoặc sử dụng mô hình reasoning, vẫn sẽ ngốn nhiều năng lượng hơn.
Google còn đưa ra ước tính về lượng khí thải CO₂ cho mỗi prompt trung vị ở mức 0,03 gram, được tính toán dựa trên phương pháp sử dụng nguồn điện sạch - bao gồm năng lượng Mặt Trời, gió, địa nhiệt và hạt nhân - mà hãng đã mua. Về tiêu thụ nước, mỗi prompt cần khoảng 0,26 ml, tương đương với năm giọt nước, dùng cho mục đích làm mát hệ thống trung tâm dữ liệu.
Jeff Dean, nhà khoa học trưởng của Google, chia sẻ mục đích chính là giúp người dùng nhận thức rõ hơn về ảnh hưởng môi trường từ việc sử dụng AI: “Người dùng không nên quá bận tâm về điện năng hay lượng nước tiêu thụ khi tương tác với Gemini, bởi con số này chỉ tương đương với các hoạt động thường nhật mà bạn hầu như không để ý, chẳng hạn như xem truyền hình vài giây hoặc uống một ngụm nước nhỏ”.
Với động thái tiên phong này, Google đã dẫn đầu trong xu hướng công khai các chi phí năng lượng liên quan đến hoạt động AI. Điều này đặt ra kỳ vọng rằng các doanh nghiệp công nghệ khác cũng sẽ sớm làm theo, nhằm mang lại sự yên tâm cho người dùng cuối.
