Trong năm ngoái, các GPU trung tâm dữ liệu mạnh nhất dành cho công việc AI tiêu thụ lên đến 700 watt mỗi GPU. Với mức sử dụng hàng năm là 61%, tổng năng lượng tiêu thụ lên đến 3.740.520 Wh hoặc 3,74 MWh mỗi năm cho mỗi GPU, dấy lên lo ngại về nguồn điện và tác động môi trường.
Nvidia đã bán 3,76 triệu GPU trung tâm dữ liệu, chiếm 98% thị trường, trong khi Intel, AMD và các hãng khác chiếm 2% còn lại, tổng cộng hơn 3.836.000 GPU phân phối đến máy chủ dữ liệu trong năm 2023.
Nhân tổng số GPU này với năng lượng tiêu thụ của mỗi GPU, tổng năng lượng tiêu thụ lên đến 14.348,63 GWh mỗi năm. Để so sánh, một gia đình trung bình ở Mỹ tiêu thụ khoảng 10.791 kWh mỗi năm, điều này có nghĩa là GPU trung tâm dữ liệu tiêu thụ năng lượng tương đương với 1,3 triệu hộ gia đình.
Các con số này chỉ tính đến GPU, không bao gồm CPU, hệ thống làm mát và các thiết bị khác của trung tâm dữ liệu. Điều này đặc biệt quan trọng khi mà một số GPU như RTX 4090 yêu cầu nguồn điện từ 850 đến 1.200 watt. Các trung tâm dữ liệu mới cần hơn 25 GWh mỗi năm, mà số liệu này không tính đến các trung tâm dữ liệu từ năm 2022 trở về trước.
Dự báo cho thị trường GPU trung tâm dữ liệu dự kiến tăng 34,6% từ năm ngoái đến năm 2028, tăng cường nhu cầu năng lượng và áp lực lên hạ tầng điện.
Các công ty công nghệ đang tìm kiếm giải pháp, như Microsoft đầu tư vào lò phản ứng hạt nhân mô-đun nhỏ cho trung tâm dữ liệu và OpenAI xây dựng siêu máy tính AI trị giá 100 tỷ USD. Tuy nhiên, vấn đề vẫn làm dấy lên với sự cần thiết của điện năng để đáp ứng các yêu cầu tính toán ngày càng tăng của xã hội.
Với sự gia tăng không ngừng của các trung tâm dữ liệu, mối quan tâm về hạ tầng điện năng là điều không thể tránh khỏi.