Buzz
Chúng ta thường nghe về TOPS, ví dụ như một vi xử lý có sức mạnh của NPU là 15 TOPS, một vi xử lý khác là 45 TOPS, và một vi xử lý khác lại là 16 TOPS. Vậy TOPS là gì, và người ta đo TOPS như thế nào, cũng như tại sao bây giờ khi nói về trí tuệ nhân tạo, người ta thường nhắc đến TOPS, hãng nào cũng khoe TOPS từ Qualcomm, Intel hay AMD, liệu nó có quan trọng thực sự hay không? TOPS và TFLOPS khác nhau như thế nào? Trong bài này, mình sẽ chia sẻ với anh em những vấn đề đó.
TOPS là gì?
TOPS hay Tera Operations Per Second biểu thị khả năng tính toán của một chip trong một giây. Thường dùng để đo hiệu suất của vi xử lý AI, đặc biệt là NPU trong các thiết bị di động, máy tính xách tay và máy tính để bàn.Sự khác biệt giữa TOPS và TFLOPS?
TFLOPS hay Floating Point Operations Per Second biểu thị số lượng phép toán dấu phẩy động một hệ thống thực hiện mỗi giây. TOPS đo tổng quát hoạt động, còn TFLOPS tập trung vào phép toán dấu phẩy động, thường được sử dụng trong tính toán khoa học và máy tính.Làm sao để tính số TOPS?
TOPS được tính dựa trên công thức: MACs * Tần số * 2. MACs (Multiply-Accumulates) biểu thị số lượng phép nhân và cộng mà một hệ thống có thể thực hiện mỗi giây, Tần số là tần số thực hiện các phép MAC.
Ví dụ, một NPU có 60.000 đơn vị MACs, hoạt động ở tần số 1.5GHz sẽ đạt 180 TOPS, nhưng nếu tăng tần số lên 1.75GHz, giữ nguyên đơn vị MACs thì sẽ đạt 210 TOPS.
Các đại lượng này tỉ lệ thuận với nhau, tần số càng cao thì số TOPS càng lớn, làm cho NPU hoạt động hiệu quả hơn. Tuy nhiên, việc tăng tần số cũng dẫn đến tiêu thụ năng lượng cao hơn.
Trên các hệ thống lớn, nhiệt độ không gây ra vấn đề lớn, nhưng trên laptop và điện thoại, việc tăng nhiệt độ có thể gây hại. Cuộc đua giữa hiệu năng và tiêu thụ năng lượng đã thúc đẩy sự phát triển của công nghệ sản xuất chip, mục tiêu là tạo ra những chip mạnh mẽ mà vẫn tiết kiệm điện năng. Điều này là vấn đề không chỉ quan trọng với người dùng cá nhân mà còn với các nhà sản xuất, đặc biệt là trong bối cảnh quan tâm đến môi trường đang ngày càng tăng cao.
TOPS có quan trọng đối với AI không?
Quay lại câu hỏi quan trọng nhất, chỉ số này có quan trọng không? Đáp án ngắn gọn: có, bởi nó là tiêu chuẩn mà các hãng sử dụng để đánh giá sức mạnh của NPU. Tuy nhiên, TOPS không phản ánh hoàn toàn sức mạnh thực sự của một con chip, cụ thể là NPU.
TOPS là đơn vị đo hiệu suất tối đa, không phản ánh hoàn toàn hiệu suất thực tế. Để đánh giá toàn diện, chúng ta cần xem xét nhiều yếu tố khác như thông lượng, bộ nhớ, chi phí...
Các tính năng AI cũng phụ thuộc vào số TOPS để xác định khả năng sử dụng trên máy tính mà không cần kết nối internet. Ví dụ, Copilot yêu cầu ít nhất 40 TOPS để chạy local, và chỉ có Qualcomm Snapdragon X Elite đáp ứng được điều này.
Tóm lại, TOPS không phải là tiêu chuẩn tốt nhất nhưng vẫn là một tiêu chuẩn tối thiểu để so sánh các NPU và máy tính AI trong tương lai.
