Buzz
Chip Apple A14 Bionic có khả năng xử lý 11 TOPS trong machine learning, trong khi Snapdragon 865 đạt 15 TOPS khi thực hiện các nhiệm vụ trí tuệ nhân tạo. Nhưng điều gì ẩn sau con số này?
Chỉ số TOPS là gì?
Đối với người tiêu dùng, việc hiểu rõ về TOPS có thể đơn giản như việc hiểu về tốc độ xử lý của một con chip: nó thể hiện khả năng tính toán mỗi giây của chip.
Một TOPS tương đương với một nghìn tỉ phép tính mỗi giây, một con số ấn tượng thể hiện sức mạnh tính toán của chip.
Các nhà sản xuất thường sử dụng chỉ số TOPS để so sánh và đánh giá sức mạnh của các con chip AI. Tuy nhiên, việc so sánh trực tiếp giữa các loại chip khác nhau cũng cần xem xét đến nhiều yếu tố khác nhau như thiết kế và cách sản xuất.
Điểm khác biệt giữa TOPS và TFLOPS
TOPS biểu thị số lượng phép tính mà một chip có thể thực hiện trong một giây, bao gồm cả số nguyên và số thập phân. Trong khi đó, TFLOPS là viết tắt của Tera floating point operations per second, tức là số lượng phép tính với số thập phân (thường là có một dấu chấm thập phân) mà chip có thể thực hiện trong một giây.
Với việc các kiến trúc chip hiện nay hỗ trợ đa dạng dữ liệu, so sánh số TFLOPS và TOPS giữa các nhà sản xuất trở nên không đơn giản, bởi mỗi nhà sản xuất có thể có cách đo riêng. Để hiểu rõ hơn về định nghĩa của TOPS và TFLOPS từ mỗi nhà sản xuất là điều quan trọng nhất.Apple đề cập đến số TOPS
Apple thường không sử dụng các con số cụ thể cho sản phẩm của họ như xung nhịp chip hay dung lượng pin. Thay vào đó, họ thích sử dụng các thuật ngữ mạnh mẽ như “nổ tung cả não” để miêu tả sản phẩm của mình. Tuy nhiên, khi muốn nổi bật về khả năng xử lý trí tuệ nhân tạo của chip Apple A-Series, họ sử dụng số TOPS. Ví dụ, chip A14 Bionic trên iPad Air 2020, iPhone 12 có khả năng xử lý AI lên đến 11 TOPS, làm tăng gấp đôi hiệu năng so với thế hệ trước.
Trước đó, Apple đã đề cập đến việc Neural Engine của A13 được tối ưu cho machine learning, và có 2 bộ tăng tốc ML trong CPU cùng với Machine Learning Controller để điều chỉnh hiệu suất và tiêu thụ pin. Controller này phân phối tài nguyên giữa CPU, GPU và Neural Engine tùy theo nhu cầu của tác vụ AI.
Apple cũng cho biết A14 mạnh hơn 10 lần so với A12 trong việc xử lý machine learning, tuy nhiên, họ không cung cấp thông tin chi tiết về cách phân phối tác vụ AI.Qualcomm đề cập đến số TOPS
Khác với Apple, Qualcomm thường công bố nhiều thông số về con chip Snapdragon của họ, bao gồm cả khả năng xử lý AI. Ví dụ, Snapdragon 865 được quảng cáo có hiệu năng AI lên đến 15 TOPS, trong khi Snapdragon 8cx Gen 2 dành cho laptop có hiệu suất AI là 9 TOPS. Snapdragon 865, giống như các phiên bản trước, có một phần được gọi là “Qualcomm AI Engine”, tích hợp khả năng tính toán AI từ nhiều thành phần khác nhau như CPU Kyro, GPU Adreno và DSP Hexagon. Đặc biệt, Adreno 650 trên Snapdragon 865 có khả năng xử lý AI cao hơn gấp đôi so với thế hệ trước, còn Hexagon 698 DSP cao hơn 4 lần, giúp tổng cộng đạt được 15 TOPS.Huawei, MediaTek, Samsung nói về số TOPS
Chip Kirin 990 và 990 5G đều sử dụng nhân xử lý trí tuệ nhân tạo có tên là Da Vinci, với Kirin 990 có một nhân lớn và 990 5G có hai nhân lớn. Nhân nhỏ được cho là có khả năng nhận diện gương mặt tốt hơn 24 lần so với nhân lớn, trong khi nhân lớn được tập trung vào xử lý các tác vụ AI phức tạp hơn. Tuy nhiên, số TOPS của Kirin 990 không được công bố.
Mediatek Dimensity 1000+ đi kèm với bộ xử lý AI APU 3.0, có hiệu suất đạt 4.5 TOPS khi sử dụng các ứng dụng như trợ lý ảo, camera AI và các ứng dụng AI khác. Số TOPS này không cao nhưng phù hợp với dòng chip tầm trung của MediaTek.
Samsung Exynos 990 có khả năng xử lý AI lên đến 15 TOPS.
Không chỉ các chip di động, mà cả Chip Apple Silicon cũng có Neural Engine dành cho máy tính. NVIDIA và Google cũng tự sản xuất các GPU mạnh mẽ riêng cho việc xử lý AI, như GPU TPUv3 của Google dành cho máy chủ có công suất lên đến 90 TOPS, mạnh hơn nhiều so với các chip di động.
Tuy nhiên, số TOPS chỉ là một phần của bức tranh tổng thể, không thể nói lên tất cả. Cần lưu ý điều này khi đánh giá hiệu suất của các chip.
Nguồn: VentureBeat
