Theo Venture Beat, tỷ phú Elon Musk, người đứng đầu các công ty đình đám như Tesla, SpaceX và xAI, vừa công bố trên mạng xã hội X rằng xAI đã bắt đầu huấn luyện mô hình ngôn ngữ lớn (LLM) trên siêu máy tính mạnh nhất thế giới, được đặt tên là Memphis Supercluster, đặt tại Tennessee (Mỹ).
Memphis Supercluster được trang bị 100.000 GPU Nvidia H100 làm mát bằng chất lỏng, một trong những dòng chip xử lý đồ họa mạnh mẽ nhất hiện nay. Với cấu trúc RDMA (Remote Direct Memory Access) duy nhất, siêu máy tính này hứa hẹn sẽ mang lại hiệu suất vượt trội và độ trễ thấp trong quá trình huấn luyện AI.
Ông Musk cho biết xAI đặt mục tiêu huấn luyện "AI mạnh nhất thế giới bằng mọi chỉ số" trên Memphis Supercluster vào tháng 12 năm nay. Ông cũng nhấn mạnh rằng siêu máy tính này sẽ mang lại "lợi thế đáng kể" cho xAI trong cuộc đua phát triển trí tuệ nhân tạo.
Mặc dù tỷ phú Elon Musk nổi tiếng với những mục tiêu táo bạo, nhưng việc hoàn thành dự án này vào tháng 12 sắp tới vẫn là một thách thức lớn. Bên cạnh đó, xAI cũng phải đối mặt với sự cạnh tranh gay gắt từ các đối thủ như OpenAI, Anthropic, Google, Microsoft và Meta, những công ty cũng đang đầu tư mạnh vào phát triển LLM và SLM.
Theo nguồn tin từ The Information, Microsoft đang hợp tác với OpenAI để xây dựng một siêu máy tính huấn luyện AI trị giá 100 tỷ USD có tên mã là Stargate. Điều này có thể đe dọa vị trí "mạnh nhất thế giới" của Memphis Supercluster trong tương lai gần.
Tuy nhiên, với sự đầu tư mạnh mẽ và tham vọng của Elon Musk, Memphis Supercluster hứa hẹn sẽ trở thành một trong những trung tâm nghiên cứu và phát triển AI hàng đầu thế giới, góp phần thúc đẩy sự phát triển của công nghệ này trong tương lai.