Hôm nay, tại Hội nghị BUILD, Microsoft đã ra mắt dự án Brainwave - một nền tảng được thiết kế để chạy các mô hình học sâu trên Azure trong thời gian thực của công ty.
Trong bối cảnh một số đối thủ của Microsoft, bao gồm Google, đang tập trung vào chip tuỳ biến, thì Microsoft vẫn tiếp tục sử dụng mạch FPGA để tăng tốc độ của các mô hình của mình, và Brainwave cũng không phải là ngoại lệ. Microsoft tin rằng FPGA mang lại tính linh hoạt cao hơn so với chip tuỳ biến và hiệu suất mà họ có thể đạt được trên các FPGA Intel Stratix ít nhất cũng tương đương với các chip tuỳ biến.
Tháng 8 năm trước, Microsoft đã tiết lộ chi tiết một số thông tin về Brainwave, bao gồm 3 phần chính: một kiến trúc phân tán hiệu suất cao, một bộ máy phần cứng mạng thần kinh sâu được tích hợp trên mạch FPGA, và một trình biên dịch và thực thi được sử dụng để triển khai các mô hình đã được huấn luyện trước đó.
Microsoft sẽ kết nối các mạch FPGA vào mạng trung tâm dữ liệu chung của họ, biến chúng thành một loại phần cứng vi dịch vụ. Lợi ích của việc này là công suất cao và giảm đáng kể độ trễ vì kiến trúc này cho phép Microsoft loại bỏ CPU của một máy chủ truyền thống và trực tiếp giao tiếp với các mạch FPGA.
Khi Microsoft lần đầu tiên công bố Brainwave, stack phần mềm này đã hỗ trợ cả Microsoft Cognitive Toolkit và framework TensorFlow của Google.
Brainwave hiện đang được thử nghiệm trên Azure và Microsoft cũng cam kết sẽ hỗ trợ Brainwave cho Azure Stack và thiết bị Azure Data Box.
Tham khảo: TechCrunch