Buzz
Những vấn đề còn tồn tại trong dòng sản phẩm Xeon Scalable thế hệ 4 ra mắt đầu năm 2023 sẽ được giải quyết trong phiên bản mới nhất của Emerald Rapids. Điểm đáng chú ý là Intel đã thực hiện các cải tiến và khắc phục so với phiên bản trước, mặc dù tiến trình và kiến trúc vẫn giống nhau. Đây có thể là sự nỗ lực của CEO hiện tại - Pat Gelsinger - hoặc là các bước đệm trước khi Intel trỗi dậy mạnh mẽ hơn trong tương lai rất gần.
Thị trường chip máy chủ trong vài năm gần đây đã trở thành một cuộc đua độc đáo, khi phần lớn các sản phẩm hàng đầu đều là EPYC của AMD, thay vì Xeon hay Opteron của vài chục năm trước. Nguyên nhân chính có thể kể đến là việc Intel chậm trễ ra mắt sản phẩm mới, hoặc chiến lược cạnh tranh mạnh mẽ của AMD. Tuy nhiên, nếu nhìn xa hơn, nguyên nhân chính nằm ở việc thay đổi CEO của Intel.
Từ năm 2005, Paul Otellini là CEO của Intel, ông đóng vai trò quan trọng trong các quyết định chủ chốt của công ty. Tuy nhiên, vào năm 2013, Otellini từ chức (đã qua đời vào năm 2017), và Brian Krzanich tiếp quản vị trí đó. Trong 5 năm lãnh đạo của Krzanich, ông không để lại nhiều dấu ấn đáng chú ý. Đó là thời kỳ Intel liên tục giới thiệu các sản phẩm dùng công nghệ 14 nm, 14+ nm và 14++ nm. Mảng chip Xeon cũng không tránh khỏi sự ảnh hưởng của điều này. Đến năm 2018, Krzanich từ chức, để lại Intel trong một thời gian dài mà không có lãnh đạo chính thức. Mọi thứ chỉ bắt đầu dần trở lại quỹ đạo của mình khi Pat Gelsinger, một cựu nhân viên của Intel từng được đào tạo dưới sự hướng dẫn của cựu CEO Andrew Grove, quay trở lại vào năm 2021.
Lộ Trình Phát Triển Chip Xeon Của Intel Với Chip Ice Lake (Thế Hệ 3) Ra Mắt Năm 2021
Trước khi thảo luận về Emerald Rapids (EMR), hãy cùng điểm qua tên gọi của các dòng sản phẩm trước. Hiện nay, Intel có 5 dòng Xeon bao gồm Scalable Processor (SP), Max, W, D, và E. Trong số này, SP là dòng cao cấp nhất với đầy đủ tính năng. Do đó, tên chính xác cho Emerald Rapids nên là Xeon Scalable thế hệ 5. Tuy nhiên, không rõ tại sao trong các bài thuyết trình về sản phẩm này, Intel chỉ đề cập đến nó là thế hệ 3 (Ice Lake), 4 (Sapphire) và 5 (Emerald). Cách gọi này có thể dễ gây nhầm lẫn với các sản phẩm Xeon cũ hơn hoặc các dòng Max, W, D, và E. Nhưng cho đến bài viết này, hãy tạm thời bỏ qua chi tiết đó. Xeon Scalable thế hệ 5 hoặc đơn giản là Xeon thế hệ 5 có thể coi là cùng một thực thể.
Gọi EMR là phiên bản sửa lỗi hoặc là bản cập nhật cho Sapphire Rapids (SPR), vì cơ bản kiến trúc xử lý của hai dòng chip này giống hệt nhau (cả hai đều sử dụng nhân Golden Cove và Raptor Cove, chỉ khác nhau ở vi xử lý dành cho thị trường client, trong khi vi xử lý dành cho máy chủ vẫn giống nhau). Sự khác biệt chính nằm ở việc EMR có 3 hình thức đóng gói bao gồm XCC (cao), MCC (trung bình) và LCC (số lượng nhân thấp). Trong khi đó, SPR chỉ có XCC và MCC, tuy nhiên XCC của SPR lại dựa trên 4 die chiplet nhỏ hơn (có thể xem như LCC nếu Intel cũng sử dụng gói này). Trong khi đó, XCC của EMR dựa trên 2 die chiplet MCC. Cả hai die MCC đều có cấu hình 32 nhân xử lý, vì vậy cấu hình XCC của EMR có thể đạt tới 64 nhân, trong khi XCC của SPR chỉ có 60 nhân (vì mỗi die LCC của Sapphire chỉ có tối đa 15 nhân).
XCC của Sapphire Rapids được tạo ra từ 4 die chiplet. XCC của Emerald Rapids chỉ sử dụng 2 die chiplet
Intel không chỉ thay đổi cách đóng gói và kết nối cấu hình chip với Emerald, mà còn có những điểm khác giúp Xeon Scalable thế hệ 5 trở nên 'đáng giá' hơn thế hệ 4. Cụ thể, bộ điều khiển bộ nhớ hoặc điều khiển bộ nhớ DRAM trên Emerald đạt tới DDR5-5600, cao hơn 4800 MT/s của Sapphire. Bạn có thể nghĩ đến việc ép xung (overclock) để đạt con số này. Nhưng điều đó không nên thử nghiệm với chip server, vì một hệ thống trị giá hàng chục nghìn USD sẽ là một 'vấn đề khó khăn' nếu gặp sự cố. Đặc biệt khi datacenter cần chạy liên tục 24/7 và 365 ngày một năm, không ai sẽ dám thử chơi trò ép xung đó.
Các thay đổi chính giữa Emerald và Sapphire Rapids
Một thay đổi quan trọng khác trên EMR là dung lượng bộ nhớ đệm L3 tăng gấp ba lần so với Sapphire - lên đến 320 MB. Tất nhiên, so sánh này là với phiên bản tiêu chuẩn của chip Sapphire, không kèm theo 64 GB bộ nhớ đệm HBMe. Với sự tăng đột biến về dung lượng bộ nhớ đệm L3, mặc dù số lượng nhân xử lý chỉ cao hơn một chút, nhưng hiệu suất thực tế của EMR sẽ cao hơn nhiều (tương tự như 3D V-Cache của AMD so với phiên bản tiêu chuẩn).
Emerald cũng sẽ có băng thông UPI (Ultra Path Interconnect - kết nối giữa các chip xử lý) cao hơn Sapphire (20 GT/s so với 16 GT/s). Con số này quan trọng đối với khách hàng muốn xây dựng các máy chủ 2P (2 CPU) trở lên. Mặc dù EMR không hỗ trợ các cấu hình 4P hoặc 8P như Sapphire, nhưng điều này không quá quan trọng vì thị trường 4P, 8P tương đối hẹp. Trừ khi EMR là sản phẩm chiến lược dài hạn, việc không hỗ trợ 4P, 8P chỉ làm tăng sức nặng cho vấn đề thiết kế chứ không mang lại lợi ích thực tế đáng kể.
CXL trên Emerald Rapids bổ sung thêm Type 3
Compute Express Link (CXL) trên Emerald cũng được nâng cấp với khả năng hỗ trợ Type 1, Type 2 và Type 3 (Sapphire chỉ có Type 1 và 2). Trong đó, Type 1 cho phép các chip xử lý (ngoại vi, không phải CPU) không có bộ nhớ có thể sử dụng bộ nhớ DRAM của CPU để lưu trữ dữ liệu (qua bus PCI Express). Type 2 áp dụng cho các bộ xử lý tăng tốc (GPU, FPGA, ASIC) có bộ nhớ riêng (GDDR hoặc HBM) chia sẻ chúng với CPU và ngược lại. Type 3 là sự kết hợp chung giữa các loại bộ nhớ này, cho phép tăng cường tối đa/băng thông truy cập cho mọi thiết bị hỗ trợ giao thức CXL này.Trong thế giới của EMR, một tính năng đặc biệt nhưng rất hữu ích là việc sử dụng chung socket LGA 4677 với SPR. Điều này giúp giảm chi phí đáng kể nếu muốn nâng cấp từ Sapphire lên Emerald. Tuy nhiên, quyết định đó phụ thuộc vào nhu cầu cụ thể của từng khách hàng.Khả năng xử lý trí tuệ nhân tạo đã bắt đầu từ Sapphire với các tập lệnh ISA AMX được tối ưu cho các toán tử 8-bit, 16-bit. Điều này giúp Intel vượt trội hơn AMD trên lĩnh vực này. Hiệu suất AI trên Sapphire tăng gấp 2-3 lần khi sử dụng AMX, tạo nên ưu thế quan trọng cho Intel.
Nâng cấp AI trên Emerald vượt trội hơn so với Sapphire Rapids.Trên Emerald, tăng cường hiệu suất AI bằng cách mở rộng mức turbo xung nhịp so với SPR. Điều này kéo dài quá trình turbo khi thực hiện các tập lệnh AMX, đồng thời tăng tốc độ xử lý. Bộ đệm L3 cache trên Emerald cũng lớn gấp 3 lần so với Sapphire, và băng thông bộ nhớ DRAM DDR5 cao hơn, cùng với những cải tiến khác, giúp nâng cao năng lực AI từ 1.1 đến 1.4 lần so với Sapphire. So sánh với Ice Lake, mà không có AMX, hiệu suất khác biệt này trở nên rõ ràng.
So sánh hiệu năng AI giữa Emerald (5th) và Sapphire (4th) cùng với Ice Lake (3rd).Intel không chỉ tập trung vào AI mà còn tối ưu hiệu năng HPC (điện toán hiệu suất cao) trên Emerald Rapids. Tuy nhiên, các cải tiến này chưa thực sự hữu ích do tập trung vào tập lệnh AVX512, ít nhà phát triển ưa chuộng. Nhiều nhà phát triển vẫn ưu tiên AVX2 do tính ổn định và ít đòi hỏi về phần cứng hơn.Mặc dù là bản cập nhật cho Sapphire Rapids, việc ra mắt Emerald Rapids hay Xeon Scalable thế hệ 5 vẫn làm khách hàng bối rối với số lượng mẫu mã và tên gọi. Tuy nhiên, việc phân nhóm sản phẩm theo nhu cầu sử dụng giúp khách hàng dễ dàng hơn trong việc chọn mua. Mặc dù EMR có tới 8 nhóm sản phẩm, nhưng thực tế chỉ có 2 nhóm quan trọng cần quan tâm là nhóm hiệu suất cao và nhóm phổ thông.Trong việc đặt tên, các model Xeon có thể được chia thành 4 phần: chữ số đầu tiên ám chỉ phân cấp sản phẩm, chữ số thứ hai nói về thế hệ chip, 2 chữ số cuối nói về cấu hình của chip, và ký tự đặc biệt biểu thị tính năng đặc biệt như dùng tản nhiệt nước, dùng cho 1P, hoặc tối ưu trong mạng 5G.
Danh sách sản phẩm và giá thành các chip Emerald Rapids.Trong hình ảnh, dễ dàng nhận biết rằng các model EMR có cấu hình cao nhất cũng là những sản phẩm có giá cao nhất. Ví dụ, model Xeon 8592+ có giá lên đến 11,600 USD với 64 nhân và xung 3.9 GHz, model Xeon 6548Y+ có giá 3726 USD với 32 nhân và xung 4.1 GHz, và model Xeon 3508U có giá 415 USD với 8 nhân và xung 2.2 GHz.
