Siêu máy tính mới này là sản phẩm của sự hợp tác giữa Microsoft và OpenAI, với mục tiêu hỗ trợ OpenAI trong việc huấn luyện các mô hình AI trên quy mô lớn
Tại hội nghị BUILD dành cho các nhà phát triển, Microsoft cho biết đây là một trong năm siêu máy tính được công bố công khai trên toàn cầu
Năm ngoái, Microsoft đã đầu tư 1 tỷ USD vào OpenAI với mục tiêu phát triển các siêu máy tính sử dụng dịch vụ đám mây của Azure. Khoản đầu tư này đã đạt được những thành tựu đầu tiên ấn tượng
Về cấu hình, siêu máy tính mới của Microsoft thực sự mạnh mẽ với hơn 285.000 nhân CPU, 10.000 GPU, và kết nối mạng 400 gigabits mỗi giây cho mỗi máy chủ GPU
Cả hai công ty đều muốn xây dựng các mô hình AI lớn để các nhà phát triển và cộng đồng có thể sử dụng dễ dàng. Microsoft cũng muốn đưa các mô hình AI và nguồn tài nguyên siêu máy tính lớn lên các dịch vụ AI của Azure và GitHub để hỗ trợ các nhà nghiên cứu
Hồi đầu năm nay, Microsoft đã giới thiệu một mô hình ngôn ngữ tự nhiên với 17 tỷ tham số. Với siêu máy tính và chương trình AI của mình, Microsoft muốn tạo ra nhiều mô hình tương tự và chia sẻ mã nguồn với cộng đồng
So sánh mô hình ngôn ngữ tự nhiên 17 tỷ tham số của Microsoft với các mô hình khác
Giám đốc Công nghệ (CTO) của Microsoft, Kevin Scott, cho biết mọi nỗ lực của hãng đều hướng tới việc huấn luyện một mô hình có khả năng học hỏi để thực hiện nhiều công việc và đưa nó đến tay các nhà phát triển:
'Hiện tại, đa số mọi người đều hiểu máy tính cá nhân là một nền tảng - bạn mua một chiếc máy tính và không phải mọi thứ nó làm đều có sẵn ngay khi bạn mở nó ra.
Đó chính xác là điều chúng tôi nghĩ đến khi nói rằng AI sẽ trở thành một nền tảng. Chúng tôi sẽ cung cấp một bộ dữ liệu rộng lớn và huấn luyện một mô hình có khả năng học hỏi để thực hiện nhiều công việc và đưa nó đến tay hàng triệu nhà phát triển để họ tìm hiểu cách thực hiện nhiều thứ hay ho và sáng tạo với nó'.
Kể từ khi ý tưởng được hình thành vào năm 2015, Microsoft đã triển khai một số dự án gây chú ý, bao gồm ứng dụng phát sinh văn bản GPT-2 và các bot chơi game có khả năng đánh bại nhiều nhà vô địch trong DOTA 2. Microsoft vẫn chưa tiết lộ kế hoạch cho siêu máy tính mới của mình.
Các siêu máy tính đám mây như của Microsoft không phải là mới mẻ. Amazon đã cung cấp High-Performance Computing (HPC) thông qua Amazon Web Services (AWS). Tuy nhiên, chưa rõ liệu Microsoft sẽ cung cấp các giải pháp tương tự cho các nhà phát triển hay không.
Tham khảo từ TheNextWeb