Buzz
Intel và doanh nghiệp mới nghiên cứu về chip Habana Labs vừa công bố kết quả đánh giá hiệu suất theo tiêu chuẩn MLPerf của con chip máy học Gaudi2. Với những con số được công bố, trong khi Instinct MI300X của AMD vẫn chưa chính thức xuất hiện, hiện Nvidia (A100 và H100) chỉ còn một đối thủ duy nhất đang cạnh tranh trên thị trường chip nghiên cứu AI, đó là Intel, hoặc chính xác hơn là Habana Labs Gaudi2.Sử dụng giải pháp đánh giá của mình, Intel khẳng định rằng Gaudi2 mang lại tỷ lệ hiệu suất/giá thành vượt trội hơn so với chip A100 thế hệ trước của Nvidia, đặc biệt là trong tác vụ tính toán FP16. Đến tháng 9, Habana Labs dự kiến hiệu suất FP8 của Gaudi2 sẽ vượt qua H100 mới nhất. Để so sánh dễ hiểu, A100 hiện đang có giá khoảng 10 nghìn USD mỗi chip, trong khi một chip H100 có giá lên tới... 40 nghìn USD.
Intel chia sẻ chi tiết kết quả đánh giá Gaudi2 như sau:- Sử dụng 384 chip gia tốc, thời gian huấn luyện GPT-31 là 311 phút.
- Kích thước hệ thống có thể mở rộng: Huấn luyện mô hình GPT-3, hiệu suất với 384 chip tăng lên đến 95% so với việc sử dụng 256 chip xử lý cùng lúc.
- Phần mềm đã được cải thiện, sử dụng chip Gaudi2 để xử lý mô hình BERT và ResNet, hiệu suất tăng lần lượt là 10% và 4% so với số liệu thử nghiệm tháng 11/2022.
- Các con số này được đạt được mà không cần ép xung hoặc điều chỉnh tùy chỉnh cho chip Gaudi2, điều này có nghĩa là các doanh nghiệp và tổ chức nghiên cứu sẽ có được sức mạnh tương tự như Intel và Habana Labs ngay sau khi mua chip để trang bị cho hệ thống đào tạo trí tuệ nhân tạo.
