Buzz
Dù không phải dành cho người dùng cá nhân, nhưng so với NVIDIA Blackwell, chi phí mua chip Intel Gaudi thực sự rất hợp lý.
Trước đây, các nhà phân tích tài chính của HSBC tiết lộ rằng chip GB200 mới ra mắt của NVIDIA có giá từ 60,000 đến 70,000 USD. Tuy nhiên, điều đáng chú ý hơn là NVIDIA dường như thích bán sỉ hơn là bán lẻ với hệ thống server chứa 72 chip GB200. Một hệ thống NVL72 như vậy có giá khoảng 3 triệu USD...
Vì vậy, nếu công ty phần mềm của bạn quy mô nhỏ, ngân sách hạn hẹp, thì nên tránh Blackwell của NVIDIA...
Gaudi 3 (bên trái) và Gaudi 2 (bên phải)
Tại gian hàng của Intel tại Computex 2024, họ trưng bày các hệ thống Gaudi 2/3. Điều đáng chú ý là bạn có thể mua một hệ thống UBB với 8 chip Gaudi 2 với giá chỉ bằng một con chip GB200 của NVIDIA. Intel cho biết, một rack UBB Gaudi 2 có giá 65,000 USD, trong khi Gaudi 3 là 125,000 USD. Mặc dù vẫn không phải dành cho người tiêu dùng thông thường, nhưng với các doanh nghiệp quy mô vừa và nhỏ, đây không phải là một ước mơ như Blackwell.
Intel công bố giá của 2 hệ thống Gaudi 2 & 3
Một trong những lý do khiến Gaudi có giá rẻ như vậy, ngoài việc sử dụng tiến trình sản xuất của TSMC N7/N5, là do nó sử dụng giao tiếp Ethernet chuẩn công nghiệp, không phải là InfiniBand độc quyền như của NVIDIA. Điều này có nghĩa là khách hàng không phải lo lắng quá nhiều về việc thay đổi thiết bị mạng nếu gặp sự cố về hạ tầng phần cứng.
Ngoài ra, mặc dù Blackwell là sản phẩm mới nhất của NVIDIA, chip AI bán chạy nhất vẫn là Hopper H100 (vì giá rẻ và dễ sản xuất hơn). Do đó, Intel so sánh với H100 về hiệu suất và giá cả. Theo đó, hiệu suất inference của Gaudi 3 gấp 2.3 lần và hiệu suất training gấp 1.9 lần so với H100.
Hiện tại, khách hàng có thể đặt mua Gaudi từ các đối tác server hàng đầu của Intel như Dell, HPE, Lenovo và Supermicro.
