Trang Chủ / CÔNG NGHỆ

Techday 2024: Cận cảnh siêu máy tính AI tiền tỷ với GPU H100 của Nvidia

Mỗi chip GPU Nvidia H100 giá khoảng 30.000 - 36.000 USD, tức chỉ tính riêng 8 GPU tích hợp trong siêu máy tính AI này đã lên tới 6 - 7 tỷ đồng.

Tại sự kiện công nghệ Techday 2024, FPT vừa trưng bày một phiên bản thu gọn của siêu máy tính AI sử dụng 8 GPU Nvidia H100.

Mỗi chip H100 này có giá khoảng 30.000 - 36.000 USD, tức chỉ tính riêng 8 GPU tích hợp trong siêu máy tính AI nói trên đã trị giá 6 - 7 tỷ đồng.

Mỗi chip H100 này có giá khoảng 30.000 - 36.000 USD, tức chỉ tính riêng 8 GPU tích hợp trong siêu máy tính AI nói trên đã trị giá 6 - 7 tỷ đồng.

Nvidia GPU H100 là nơi khởi nguồn của sức mạnh về xử lý dữ liệu, đào tạo thuật toán và xây dựng các giải pháp AI thông minh.

Nvidia GPU H100 là nơi khởi nguồn của sức mạnh về xử lý dữ liệu, đào tạo thuật toán và xây dựng các giải pháp AI thông minh.

GPU H100 được ra mắt vào ngày 21/3/2023, sản xuất trên quy trình 4nm.

GPU H100 được ra mắt vào ngày 21/3/2023, sản xuất trên quy trình 4nm.

GPU này được thiết kế nhằm tăng tốc an toàn cho nhiều loại công việc, từ ứng dụng doanh nghiệp đến tính toán hiệu năng cao (HPC) và các dự án AI với hàng nghìn tỷ tham số.

GPU này được thiết kế nhằm tăng tốc an toàn cho nhiều loại công việc, từ ứng dụng doanh nghiệp đến tính toán hiệu năng cao (HPC) và các dự án AI với hàng nghìn tỷ tham số.

H100 không chỉ đơn thuần là một

H100 không chỉ đơn thuần là một "siêu GPU" với sức mạnh tính toán hàng đầu thế giới, mà còn được trang bị khối lượng bộ nhớ HBM3 khổng lồ lên tới 80GB.

Con số ấn tượng này kết hợp với tốc độ băng thông bộ nhớ cực khủng 3,35 TB/giây, giúp H100 trở thành một

Con số ấn tượng này kết hợp với tốc độ băng thông bộ nhớ cực khủng 3,35 TB/giây, giúp H100 trở thành một "quái vật" thực sự trong việc xử lý dữ liệu tốc độ cao.

Trước đó, tập đoàn FPT đã công bố hợp tác chiến lược toàn diện với Nvidia để thúc đẩy nghiên cứu AI, cung cấp dịch vụ, giải pháp cho khách hàng Việt Nam và trên toàn cầu.

Trước đó, tập đoàn FPT đã công bố hợp tác chiến lược toàn diện với Nvidia để thúc đẩy nghiên cứu AI, cung cấp dịch vụ, giải pháp cho khách hàng Việt Nam và trên toàn cầu.

Hai bên dự kiến xây dựng nhà máy trí tuệ nhân tạo (AI Factory), đào tạo nguồn nhân lực chất lượng cao và trở thành đối tác phát triển dịch vụ (Service Delivery Partner) trong mạng lưới đối tác của NVIDIA.

Hai bên dự kiến xây dựng nhà máy trí tuệ nhân tạo (AI Factory), đào tạo nguồn nhân lực chất lượng cao và trở thành đối tác phát triển dịch vụ (Service Delivery Partner) trong mạng lưới đối tác của NVIDIA.

Theo biên bản ghi nhớ lúc đó, FPT sẽ đầu tư 200 triệu USD để xây dựng AI Factory, cung cấp nền tảng điện toán đám mây phục vụ nghiên cứu phát triển AI và có chủ quyền tại Việt Nam.

Theo biên bản ghi nhớ lúc đó, FPT sẽ đầu tư 200 triệu USD để xây dựng AI Factory, cung cấp nền tảng điện toán đám mây phục vụ nghiên cứu phát triển AI và có chủ quyền tại Việt Nam.

Nhà máy bao gồm các hệ thống siêu máy tính hoạt động trên công nghệ mới của NVIDIA, bao gồm bộ ứng dụng - khung công nghệ phát triển NVIDIA AI Enterprise và chip đồ họa GPU H100 Tensor Core.

Nhà máy bao gồm các hệ thống siêu máy tính hoạt động trên công nghệ mới của NVIDIA, bao gồm bộ ứng dụng - khung công nghệ phát triển NVIDIA AI Enterprise và chip đồ họa GPU H100 Tensor Core.

Tất nhiên, hiệu năng

Tất nhiên, hiệu năng "khủng" của H100 đòi hỏi phải có hệ thống tản nhiệt đủ tối ưu đã đảm bảo khả năng hoạt động liên tục của hệ thống.

Được biết, bên trên chỉ là phiên bản thu nhỏ để trưng bày. Hiện, FPT đang có hệ thống siêu máy tính để huấn luyện và chạy các tác vụ AI với gần 1.000 con chip H100 như vậy.

Được biết, bên trên chỉ là phiên bản thu nhỏ để trưng bày. Hiện, FPT đang có hệ thống siêu máy tính để huấn luyện và chạy các tác vụ AI với gần 1.000 con chip H100 như vậy.

Chip AI H100 chủ yếu được mua bởi các công ty cung cấp dịch vụ đám mây, chuyên phát triển các mô hình ngôn ngữ lớn. Trong đó, FPT là một

Chip AI H100 chủ yếu được mua bởi các công ty cung cấp dịch vụ đám mây, chuyên phát triển các mô hình ngôn ngữ lớn. Trong đó, FPT là một "ông lớn" công nghệ tại Việt Nam và đang vươn mình ra thế giới trong lĩnh vực AI. Tại Techday 2024, Chủ tịch Tập đoàn FPT Trương Gia Bình tiết lộ rằng, AI chính là chìa khóa để FPT vừa lấy được một hợp đồng trị giá 250 triệu USD.