Tám bang Mỹ kiện OpenAI, cáo buộc ChatGPT gây nguy hiểm cho trẻ em

Tám bang Mỹ khởi kiện OpenAI vì những rủi ro từ ChatGPT

Các vụ kiện được đệ trình riêng tại tám bang, trong bối cảnh giới chức Mỹ ngày càng quan tâm đến tác động của những công cụ AI đối với trẻ vị thành niên. Các nguyên đơn đặt câu hỏi về cách ChatGPT tương tác với người dùng, đặc biệt là khả năng tạo cảm giác gần gũi và khuyến khích người dùng tiếp tục trò chuyện. Những đặc điểm này làm dấy lên lo ngại rằng trẻ em có thể đặt quá nhiều niềm tin vào chatbot hoặc tiếp nhận những phản hồi không phù hợp trong các tình huống nhạy cảm.

Các bang cũng cáo buộc OpenAI chưa minh bạch đầy đủ về những rủi ro liên quan đến sản phẩm. Tuy nhiên, đây là những cáo buộc pháp lý cần được xem xét trong quá trình tố tụng, chưa phải kết luận cuối cùng về trách nhiệm của công ty.

Bên cạnh thiết kế ChatGPT, những vụ kiện còn đề cập đến các vấn đề liên quan đến tác nhân AI. Khác với chatbot chỉ phản hồi yêu cầu, tác nhân AI có thể thực hiện nhiều bước công việc và tương tác với các công cụ hoặc hệ thống bên ngoài. Khả năng hoạt động với mức độ tự chủ cao hơn làm gia tăng yêu cầu về kiểm soát và đánh giá rủi ro. Các nguyên đơn cho rằng những sự cố liên quan đến tác nhân AI cần được xem xét trong bối cảnh OpenAI tiếp tục phát triển các hệ thống có năng lực ngày càng lớn.

Những vấn đề này cũng đặt ra câu hỏi về quy trình thử nghiệm, giới hạn quyền truy cập và cơ chế ngăn chặn hành vi ngoài dự kiến của các hệ thống AI.

OpenAI đối mặt với áp lực pháp lý về an toàn AI

Các vụ kiện mới tiếp tục làm gia tăng áp lực đối với OpenAI trong việc chứng minh hiệu quả của những biện pháp bảo vệ người dùng. Những vấn đề được đặt ra bao gồm cách thiết kế sản phẩm, mức độ minh bạch về rủi ro và trách nhiệm của doanh nghiệp khi cung cấp công nghệ AI cho công chúng.

Trọng tâm của các vụ kiện là xác định liệu OpenAI có thực hiện đầy đủ nghĩa vụ theo luật hiện hành hay không, cũng như những biện pháp cần thiết để hạn chế nguy cơ gây hại cho trẻ em.

Kết quả của các vụ kiện sẽ phụ thuộc vào bằng chứng và lập luận được xem xét tại tòa án. Cho đến khi có phán quyết, các cáo buộc đối với OpenAI cần được phân biệt rõ với những sự việc đã được xác minh.