OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Với trí tuệ siêu việt của Ai, có thể có thể khiến nhân loại mất quyền lực hoặc dẫn đến sự tuyệt chủng loài người.

OpenAI, công ty mẹ của ChatGPT lên kế hoạch đầu tư nghiên cứu mới nhằm tìm cách đảm bảo trí tuệ nhân tạo không nổi loạn và chống lại con người.

"Sức mạnh to lớn của siêu trí tuệ có thể… dẫn đến sự suy giảm quyền lực của nhân loại hoặc thậm chí là khiến loài người tuyệt chủng,” đồng sáng lập OpenAI, Ilya Sutskever và Jan Leike cho biết trong một thông báo. “Hiện tại, chúng tôi không có giải pháp để điều khiển hoặc kiểm soát AI có trí tuệ siêu việt và ngăn chúng nổi loạn."

Cả hai dự đoán AI siêu thông minh với trí tuệ hơn người có thể ra đời trong thập niên này và cần phải có những kỹ thuật tốt hơn để kiểm soát chúng. Do đó cần có những bước đột phá về quản lý và tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người.

OpenAI, được hỗ trợ bởi Microsoft, đang dành 20% sức mạnh của mình trong 4 năm tới để giải quyết vấn đề này. Ngoài ra, công ty đang thành lập một tổ chức để nghiên cứu vấn đề trên, được gọi là nhóm Superalignment.

Mục tiêu của nhóm là nghiên cứu về quản lý AI "ở cấp độ con người", sau đó mở rộng nó thông qua sức mạnh tính toán. OpenAI cho biết việc đó nghĩa là họ sẽ huấn luyện các hệ thống AI sử dụng phản hồi như con người, hỗ trợ việc đánh giá như con người và thực hiện nghiên cứu về quản lý. 

Những mối nguy hại tiềm tàng của AI luôn là mối quan tâm hàng đầu của các nhà nghiên cứu AI và công chúng. Vào tháng 4, một nhóm nhà lãnh đạo và chuyên gia ngành AI đã ký một lời kêu gọi tạm dừng 6 tháng trong việc phát triển các hệ thống mạnh hơn GPT-4 của OpenAI, do những nguy cơ tiềm ẩn đối với xã hội. 

Khảo sát vào tháng 5 của Reuters/ Ipsos cho thấy có hơn 2/3 người Mỹ đưa ra những lo ngại về những tác động tiêu cực mà AI mang lại và 61% tin rằng trí tuệ nhân tạo có thể đe doạ nền văn minh nhân loại.