NeMo Guardrails: Nvidia ra mắt phần mềm ngăn chặn AI bịa đặt câu trả lời

"Cảnh sát" Ai của Nvidia giúp ngăn chặn các siêu AI trả lời lan man, bịa đặt và đưa ra những chủ đề độc hại cho người dùng.

Để thống trị lĩnh vực trí tuệ nhân tạo, các Big Tech đều nhanh chóng công bố siêu chatbot AI cho riêng mình, từ Google, Microsoft hoặc Meta đều bắt kịp tốc độ sau ChatGPT của OpenAI.

Tuy nhiên, việc gấp rút chạy đua lĩnh vực trí tuệ nhân tạo dẫn đến nhiều hệ luỵ nguy hiểm, trong đó bao gồm AI "bị ảo giác", trả lời lan man và thậm chí là nguy hiểm.

 

Để khắc phục vấn đề trên, Nvidia, một công ty công nghệ lớn kinh doanh phần cứng và phần mềm AI cho ra mắt NeMo Guardrails. Đây là phần mềm nguồn mở giải quyết lỗi "ảo giác" mà các như mô hình ngôn ngữ lớn (LLM) của Google và ChatGPT của OpenAI đang gặp phải. 

Đúng như tên gọi, NeMo Guardrails giống như một người bảo vệ ngồi giữa người dùng và một công cụ hỗ trợ mô hình ngôn ngữ lớn, chẳng hạn như một chatbot AI. NeMo cho phép các nhà phát triển phần mềm hướng dẫn chatbot bằng cách thêm các quy tắc với một vài dòng mã, về cách tương tác và quan trọng hơn là cách không phản ứng với người dùng.  

Nvidia cho biết: "Phần mềm vốn hỗ trợ LangChain, thêm một lớp an toàn, bảo mật và độ tin cậy cho các ứng dụng hội thoại dựa trên LLM. Các nhà phát triển có thể xác định các tương tác của người dùng và dễ dàng tích hợp các lan can này vào bất kỳ ứng dụng nào bằng thư viện Python."

Jonathan Cohen, phó chủ tịch nghiên cứu ứng dụng của Nvidia đưa ra ví dụ, một chatbot phục vụ khách hàng, được thiết kế để nói về sản phẩm công ty, sẽ được NeMo Guardrails hạn chế tối đa việc nói về các sản phẩm của dối thủ cạnh tranh dù được khách hàng hỏi. 

NeMo Guardrails sẽ kiểm tra câu trả lời của chatbot đưa ra. Nếu AI đưa ra câu trả lời không phù hợp và bịa đặt, phần mềm sẽ không hiển thị cho người dùng, và ngược lại. 

Nvidia đã là một trong những công ty hàng đầu trong lĩnh vực AI, với các chip AI A100 và H100 đã giúp Nvidia trở thành công ty hàng đầu trên thị trường GPU. NeMo là một phần trong quá trình mở rộng của NVIDIA sang không gian AI và quảng bá phần mềm AI hiện có của công ty.