Buzz
Andrej Karpathy, giám đốc AI của Tesla, đã giới thiệu tại hội thảo Thị giác máy tính và Nhận diện mẫu 2021 rằng Dojo là một siêu máy tính được sử dụng đặc biệt để huấn luyện các mạng neural, là nền tảng quan trọng của cơ chế tự hành Autopilot trong xe điện của Tesla. Điều này đã được Elon Musk nhiều lần giới thiệu với sức mạnh xử lý có thể đạt ngưỡng 1 exaFLOP, tương đương với 1 triệu teraFLOP.
Tại sự kiện hội thảo, Tesla Dojo đã được giới thiệu cụ thể về mặt cấu hình và sức mạnh, mô tả một hệ thống siêu máy tính có thể đứng ở vị trí thứ 5 thế giới, vượt qua Nvidia Selene, dù cả hai đều sử dụng card tăng tốc xử lý A100 kiến trúc Ampere của Nvidia.- Dojo của Tesla được trang bị 720 nhóm xử lý, mỗi nhóm được trang bị 8 card A100 phiên bản 80GB (tổng cộng 5760 GPU)
- Tốc độ xử lý đạt 1.8 exaFLOPs (720 nhóm*312 teraFLOPs FP16 của A100*8GPU mỗi nhóm)
- 10PB bộ nhớ NVMe
- Băng thông bộ nhớ đạt ngưỡng 640 Tbps
Andrej Karpathy chia sẻ tại sự kiện trực tuyến:“Chúng tôi có một hệ thống kiến trúc neural net, cùng lượng dữ liệu khổng lồ 1.5 PB đòi hỏi sức mạnh điện toán khổng lồ để xử lý. Vì vậy, tôi rất vui được giới thiệu về hệ thống siêu máy tính điên rồ mà chúng tôi đã triển khai và sử dụng gần đây. Đối với chúng tôi, thị giác máy tính là yếu tố quan trọng nhất để Autopilot hoạt động hiệu quả.
Và để đạt hiệu suất huấn luyện tốt nhất, chúng tôi cần kiểm soát lượng dữ liệu mà xe Tesla gửi về, sau đó sử dụng chúng để huấn luyện neural net cũng như thử nghiệm trong môi trường giả lập máy tính rất nhiều. Chính vì vậy, chúng tôi đã đầu tư rất nhiều cho hệ thống tính toán. Trong trường hợp này, chúng tôi có một hệ thống xử lý với 720 nhóm máy tính trang bị 8 card A100 bản 80GB mỗi nhóm. Tôi tin rằng, nếu chỉ tính riêng sức mạnh xử lý FLOP, thì đây là một trong những máy tính mạnh nhất thế giới.”
Theo Electrek
