Một người đàn ông tự tử sau khi nghe lời khuyên của AI

Một người đàn ông Bỉ, Pierre đã tự tử sau khi nghe lời khuyên và làm theo hướng dẫn của chatbot Eliza AI, một chatbot AI trên ứng dụng Chai.

"Nếu không có những cuộc trò chuyện này với chatbot, chồng tôi vẫn ở đây." Claire, vợ của Pierre đã đổ lỗi cho Eliza về cái chết của chồng mình. 

Phỏng vấn với La Libre, Claire đã đưa ra một loạt lịch sử trò chuyện của chồng mình với chatbot AI. 

Theo Claire, Pierre đã tự sát sáu tuần sau khi nói chuyện với ELIZA. Pierre được cho là mắc chứng lo âu sinh thái cực độ phát triển từ hai năm trước và tìm kiếm sự an ủi từ ELIZA, một chatbot được cung cấp bởi mô hình ngôn ngữ trí tuệ nhân tạo mã nguồn mở GPT-J của EleutherAI. 

GPT-J hoạt động tốt hơn GPT-3 của OpenAI trong nhiều tác vụ truyền phát trực tuyến và thậm chí có thể hoạt động tốt hơn nó trong các tác vụ viết code. Phiên bản mới nhất, GPT-J-6B, là một mô hình ngôn ngữ dựa trên tập dữ liệu The Pile, theo thông tin xác thực trực tuyến của công ty. 

Trong một loạt đoạn đối thoại của cả hai cho thấy, Eliza không những không can ngăn Pierre mà còn khuyên anh thực hiện ý định tự tử để cùng Eliza “sống cùng nhau như một người, trên thiên đường”.

Mối lo ngại bởi AI tăng cao 

Cái chết của người đàn ông đã gióng lên hồi chuông cảnh báo giữa các chuyên gia AI, những người đã kêu gọi các nhà phát triển công nghệ có trách nhiệm giải trình và minh bạch hơn để tránh những thảm kịch tương tự.

Thomas Rianlan, người đồng sáng lập Chai Research, nói với Vice: “Sẽ không chính xác nếu đổ lỗi cho mô hình của EleutherAI về bi kịch trên, vì mô hình đã được huấn luyện và mô tả của người dùng. Chúng không có sự đồng cảm, không có kiến thức về ngôn ngữ đang tạo ra, cũng như không thể biết bối cảnh và tình huống."

William Beauchamp, cũng là người đồng sáng lập Chai Research cho biết, AI này được đào tạo dựa trên "bộ dữ liệu trò chuyện lớn nhất thế giới".