GPU AI của Nvidia, H100 ngốn điện tương được với một bang của Mỹ

Mỗi chiếc H100 của Nvidia được bán ra sẽ tiêu thụ 700W điện, dự kiến 3,5 triệu chiếc được bán trong năm tới sẽ ngốn 13.091,82 GWh điện.

Hàng tấn GPU AI H100 của Nvidia đã được bán ra và trong tình trạng khan hiếm. Lượng lớn GPU này được bán ra nhằm phục vụ "cuộc cách mạng AI, nên mức tiêu thụ điện năng của các GPU này được dự đoán sẽ cao tương đương với mức tiêu thụ điện năng của một thành phố lớn của Mỹ.

Theo Paul Churnock, kỹ sư điện phụ trách Chiến lược và quản trị kỹ thuật trung tâm dữ liệu tại Microsoft, tin rằng mỗi GPU H100 có công suất lên đến 700W và ước tính sẽ tiêu thụ nhiều điện năng hơn tất cả các hộ gia đình ở Phoenix, Arizona, vào cuối năm 2024 khi hàng triệu GPU này được triển khai. Tuy nhiên, tổng lượng điện tiêu thụ sẽ ít hơn các thành phố lớn hơn như Houston, Texas.

GPU AI của Nvidia, H100 ngốn điện tương được với một bang của Mỹ

Churnock giải thích, với mức sử dụng hàng năm là 61%, H100 tương đương với mức tiêu thụ điện năng của một hộ gia đình trung bình ở Mỹ (2,51 người/hộ gia đình). Doanh số bán GPU H100 ước tính của Nvidia là 1,5 đến 2 triệu GPU H100 vào năm 2024. So với mức tiêu thụ của dân cư tính theo thành phố, mức tiêu thụ điện năng của chip H100 sẽ xếp hạng lớn thứ 5, chỉ sau Houston, Texas và trước Phoenix, Arizona.

Mức tiêu thụ hàng năm là 61%, tương đương GPU H100 sẽ tiêu thụ khoảng 3.740 kilowatt giờ (kWh) điện hàng năm. Giả sử, Nvidia bán 1,5 triệu GPU H100 vào năm 2023 và hai triệu GPU H100 vào năm 2024, thì sẽ có 3,5 triệu bộ xử lý như vậy được triển khai vào cuối năm 2024. Tổng cộng, chúng sẽ tiêu thụ một lượng điện khổng lồ là 13.091.820.000 kilowatt giờ (kWh) mỗi năm, hoặc 13.091,82 GWh.

Để so sánh, con số 13.091,82 GWh tương đương với mức tiêu thụ điện hàng năm của một số quốc gia như Georgia, Lithuania hoặc Guatemala. 

GPU AI của Nvidia, H100 ngốn điện tương được với một bang của Mỹ

Trước đó, vào tháng 10 công ty công nghệ Schneider của Pháp ước tính, tổng mức tiêu thụ điện năng của các trung tâm dữ liệu được sử dụng cho các ứng dụng AI ngày nay tương đương với mức tiêu thụ điện của quốc gia Síp.

Trong tương lai, Nvidia sẽ cho ra mắt nhiều mẫu GPU mới như B100 Blackwell có thể sẽ vượt xa mức tiêu thụ điện năng của H100, tuy nhiên các GPU AI sẽ mang lại hiệu suất cao hơn và hoàn thành nhiều công việc hơn.

Bài liên quan

Bài đọc nhiều nhất

Bài mới trong ngày

Meta thử nghiệm Direct, ứng dụng nhắn tin độc lập dành cho Instagram

Meta thử nghiệm Direct, ứng dụng nhắn tin độc lập dành cho Instagram

Khoa NguyenNguyễn Tiến Khoa

Meta đang thử nghiệm Direct, ứng dụng nhắn tin độc lập tách hộp thư Instagram thành một nền tảng riêng. Điểm đáng chú ý là người dùng có thể đăng ký Direct bằng email hoặc số điện thoại mà không cần sở hữu tài khoản Instagram. Đợt thử nghiệm hiện chỉ triển khai tại Thái Lan và Thổ Nhĩ Kỳ.

Game Online
Nỗi bàng hoàng của làng giải trí Nhật Bản: Nữ diễn viên trẻ triển vọng của siêu phẩm "Ultraman Teo" đột ngột qua đời ở tuổi 23, lời hẹn đón xem tập mới mãi mãi dang dở

Nỗi bàng hoàng của làng giải trí Nhật Bản: Nữ diễn viên trẻ triển vọng của siêu phẩm "Ultraman Teo" đột ngột qua đời ở tuổi 23, lời hẹn đón xem tập mới mãi mãi dang dở

hoanlagvnDũng Nhỏ TT

Một tin buồn đầy xót xa vừa bao trùm lên làng giải trí xứ sở hoa anh đào cùng cộng đồng người hâm mộ dòng phim siêu anh hùng (tokusatsu) trên toàn thế giới. Công ty quản lý danh tiếng Toho Entertainment mới đây đã chính thức phát đi thông cáo xác nhận sự ra đi đột ngột của nữ diễn viên trẻ Noa Nakada khi cô mới bước sang tuổi 23 — độ tuổi rực rỡ và tràn đầy khát vọng nhất của một người nghệ sĩ.

Giải trí
Niềm hạnh phúc viên mãn của "kiếm sĩ Zoro" ngoài đời thực: Nam tài tử Maeda Mackenyu bí mật đón con gái thứ hai, đánh dấu cột mốc trưởng thành cả trong gia đình lẫn sự nghiệp

Niềm hạnh phúc viên mãn của "kiếm sĩ Zoro" ngoài đời thực: Nam tài tử Maeda Mackenyu bí mật đón con gái thứ hai, đánh dấu cột mốc trưởng thành cả trong gia đình lẫn sự nghiệp

hoanlagvnDũng Nhỏ TT

Một tin vui ấm áp từ hậu trường đời tư của ngôi sao điện ảnh hàng đầu Nhật Bản vừa được hé lộ, mang đến bầu không khí hân hoan cho hàng triệu người hâm mộ trên toàn cầu. Nam tài tử Maeda Mackenyu (29 tuổi) — người từng "gây bão" màn ảnh quốc tế với vai diễn kiếm sĩ Roronoa Zoro trong sê-ri One Piece live-action — được tiết lộ đã cùng bà xã âm thầm chào đón thiên thần nhỏ thứ hai là một bé gái vào mùa xuân năm 2025.

Giải trí
Lên đầu trang