Viettel đi đầu trong lĩnh vực Nghiên Cứu AI bằng NVIDIA DGX A100

Tập đoàn Công nghiệp - Viễn thông Quân đội Viettel là công ty viễn thông đầu tiên tại Việt Nam triển khai hệ thống NVIDIA DGX A100 để tiếp thêm sức mạnh cho các nỗ lực phát triển AI nội bộ của tập đoàn.

Đơn vị Trung tâm Không gian mạng Viettel (VTCC) đang sử dụng hệ thống để nghiên cứu phát triển các công nghệ, sản phẩm sử dụng AI và phân tích dữ liệu. Các dự án nghiên cứu này bao gồm xử lý giọng nói, xử lý ngôn ngữ tự nhiên, nhận dạng ký tự quang học và cơ sở dữ liệu hồ sơ người dùng.

Một trong những dự án đầy tham vọng là Viettel AI Open Platform nhằm thực hiện các nghiên cứu tiên tiến và ứng dụng Al vào các sản phẩm, dịch vụ nhằm tạo ra giải pháp toàn diện để đảm bảo rằng mọi người, mọi doanh nghiệp tại Việt Nam đều có thể tiếp cận Al.

NVIDIA DGX A100 được thiết kế để xử lý tất cả khối lượng công việc về AI và Khoa Học Dữ Liệu như phân tích đến đào tạo cho đến suy luận, đồng thời giúp xây dựng các dịch vụ trong lĩnh vực sản xuất, chăm sóc khách hàng, chăm sóc sức khỏe, giáo dục và nhiều ngành nghề khác. Hệ thống này đặt ra một tiêu chuẩn mới cho mật độ tính toán. gói gọn 5 petaflops xử lý AI trong một kiến trúc 6U, thay thế dần các kiến trúc lỗi thời với một hệ thống độc lập thống nhất

DGX A100 sẽ tăng khả năng tính toán của VTCC, cho phép kiểm tra các mô hình lớn hơn với độ chính xác cao hơn đáng kể. Đây là lựa chọn lý tưởng để đào tạo các mô hình thị giác máy tính và AI đàm thoại, cũng như các dự án khác đòi hỏi sức mạnh tính toán được tăng tốc và kết nối tốc độ cao.

Thị giác máy tính và xử lý ngôn ngữ tự nhiên sẽ nhanh hơn trước đây khoảng 20 đến 60 phần trăm. Ngoài ra, VTCC có thể đào tạo hệ thống nhận dạng giọng nói với nhiều model hơn cho các mô hình AI lớn, thúc đẩy quá trình đào tạo mô hình. Hệ thống cũng cung cấp dung lượng bộ nhớ GPU nhiều hơn và tính toán nhanh hơn.

Xây dựng cơ sở hạ tầng R&D mạnh mẽ

NVIDIA DGX A100 được triển khai tại VTCC sử dụng kiến trúc mạng NVIDIA InfiniBand mạnh mẽ với các engine tính toán nội bộ ng tiên tiến cho phép kết nối I/O hiệu quả, cung cấp hiệu suất cao cho cơ sở hạ tầng mạng tại đây.

Ngoài ra, VTCC đang áp dụng các nền tảng NVIDIA và bộ công cụ phát triển phần mềm như NVIDIA Metropolis cho thành phố thông minh, NVIDIA Jarvis cho các dịch vụ AI đàm thoại đa phương thức, NVIDIA Nemo để phát triển các mô hình AI đàm thoại hiện đại và NVIDIA Clara để tăng tốc thế hệ tiếp theo của thiết bị y tế và nghiên cứu y học.

Ông Nguyễn Mạnh Quý, Giám đốc Trung tâm Không gian mạng Viettel cho biết: “Sứ mệnh của chúng tôi là tạo ra những cỗ máy mang đặc điểm của trí tuệ và cái nhìn sâu sắc của con người nhằm thúc đẩy phát triển kinh tế số và thúc đẩy xã hội tiến bộ hơn. Chúng tôi đang sử dụng NVIDIA DGX A100 để xây dựng các mô hình phức tạp với thời gian dạy AI nhanh hơn để giải quyết các vấn đề khó khăn”.

Với nhu cầu ngày càng tăng của khách hàng đối cho các sản phẩm dựa trên AI với độ chính xác hơn 90%, VTCC phải đáp ứng cả nhu cầu từ đội ngũ chuyên gia AI của mình, vì vậy một hệ thống máy tính hiệu suất cao là không thể thiếu. “Vấn đề lượng dữ liệu ngày càng lớn và vượt quá khả năng của hệ thống trước đây. NVIDIA DGX A100 đã giúp chúng tôi tiết giảm công sức, thời gian, chi phí thực hiện mà vẫn đạt được hiệu quả công việc tối ưu”, ông Nguyễn Mạnh Quý cho biết thêm.