Để trả lời câu hỏi, ChatGPT cần đến hàng chục nghìn GPU Nvidia "đào tạo"

Microsoft đã sử dụng GPU Nvidia A100, trị giá hàng trăm triệu USD và hiện đang nâng cấp lên H100 cho ChatGPT.

Theo Bloomberg, OpenAI đã đào tạo ChatGPT trên một siêu máy tính được Microsoft xây dựng từ hàng chục nghìn GPU Nvidia A100. Microsoft dự kiến sẽ tiết lộ một mô hình AI mới sử dụng GPU H100 của Nvidia trong tuần này.

Thách thức mà Microsoft phải đối mặt bắt đầu vào năm 2019 sau khi công ty đầu tư 1 tỷ USD và đồng ý xây dựng một siêu máy tính AI cho OpenAI. Tuy nhiên, Microsoft không có phần cứng nội bộ cho những gì OpenAI cần.

Để trả lời câu hỏi, ChatGPT cần đến hàng chục nghìn GPU Nvidia "đào tạo"

Xem thêm: Microsoft ấn định thời gian ra mắt GPT- 4, AI có thể tạo video bằng văn bản

Sau khi mua lại chip của Nvidia, Microsoft buộc công ty phải tính toán đến cách sắp xếp máy chủ trên giá đỡ để đảm bảo nguồn điện không bị quá tải. Dù không tiết lộ chính xác chi phí cho dự án này, nhưng theo ông Scott Guthrie, phó chủ tịch về đám mây và AI của Microsoft, con số này có thể còn lớn hơn mức vài trăm triệu USD.

Việc chạy lượng lớn A100 cùng một lúc, buộc Redmond phải xem xét cách lắp đặt và nguồn điện. Bên cạnh đó, hệ thống phải được phát triển một phần mềm mới để tăng hiệu quả, đảm bảo thiết bị mạng có thể chịu được dữ liệu khổng lồ, hệ thống làm mát,... mọi bộ phận, mọi linh kiện phải ở vị trí hợp lý để việc vận hành diễn ra ổn định.

Hệ thống được Microsoft xây dựng để huấn luyện nên ChatGPT giờ đang được sử dụng để huấn luyện và vận hành các mô hình AI lớn khác, bao gồm chatbot Bing Chat mới được giới thiệu tháng trước. Bên cạnh đó, Microsoft còn bán hệ thống này cho các công ty khác để họ huấn luyện các mô hình của riêng mình.

Để trả lời câu hỏi, ChatGPT cần đến hàng chục nghìn GPU Nvidia "đào tạo"

Xem thêm: Microsoft phát triền thành công công cụ AI mới, có khả năng "giả" giọng con người 

Kể từ thành công của ChatGPT vào đầu năm nay, Microsoft và một số đối thủ khác đã bắt đầu làm việc trên các mô hình AI song song cho các công cụ tìm kiếm và các ứng dụng khác. Để tăng tốc độ AI của mình, công ty đã giới thiệu máy ảo ND H100 v5, một máy ảo có thể sử dụng từ tám đến hàng nghìn GPU Nvidia H100.

Nvidia dự kiến ​​sẽ tiết lộ thêm về các sản phẩm AI trong tương lai tại Hội nghị Công nghệ GPU (GTC). với bài thuyết trình quan trọng vào ngày 21 tháng 3. Ngày 16 tháng 3 tới đây, Microsoft sẽ cho ra mắt phiên bản mới trang bị GPU H100, GPT-4 mạnh hơn nhiều phiên bản hiện tại với những tính năng mới, bao gồm tạo video bằng văn bản.

 

Bài liên quan

Bài đọc nhiều nhất

Bài mới trong ngày

Hai bom tấn anime isekai xác nhận ra mắt mùa 2 trong năm 2025: “Đệ Thất Hoàng Tử” và “Ẩm Thực Dã Ngoại Tại Dị Giới”

Hai bom tấn anime isekai xác nhận ra mắt mùa 2 trong năm 2025: “Đệ Thất Hoàng Tử” và “Ẩm Thực Dã Ngoại Tại Dị Giới”

hoanlagvnDũng Nhỏ TT

Năm 2025 tiếp tục là năm bùng nổ của dòng anime isekai (xuyên không) khi hai cái tên đình đám là “Chuyển Sinh Thành Đệ Thất Hoàng Tử, Tôi Quyết Định Trau Dồi Ma Thuật” và “Ẩm Thực Dã Ngoại Tại Dị Giới Với Kỹ Năng Không Tưởng” đồng loạt xác nhận sẽ trở lại với mùa 2 cùng loạt thông tin mới khiến fan háo hức.

Giải trí
Văn Hóa Hầu Gái Ở Nhật Bản Là Gì? Nét Văn Hóa Đặc Sắc Từ Xứ Sở Anh Đào

Văn Hóa Hầu Gái Ở Nhật Bản Là Gì? Nét Văn Hóa Đặc Sắc Từ Xứ Sở Anh Đào

hoanlagvnDũng Nhỏ TT

Trang phục “hầu gái” không chỉ là biểu tượng trong các quán cà phê cosplay ở Nhật Bản mà còn là một hiện tượng văn hóa đặc sắc, mang theo lịch sử hình thành và phát triển kéo dài hơn một thế kỷ. Họa sĩ Ray Tatsumi, người có nhiều năm nghiên cứu về lĩnh vực này, đã công bố biểu đồ chi tiết nguồn gốc và sự biến đổi của trang phục hầu gái từ thế kỷ 19 đến nay.

Giải trí
Lên đầu trang