xAI kiện bang Minnesota vì luật cấm AI tạo ảnh khỏa thân không có sự đồng ý

xAI, công ty trí tuệ nhân tạo của Elon Musk (đã đổi tên thành SpaceXAI), vừa đệ đơn kiện bang Minnesota nhằm ngăn chặn một đạo luật mới cấm các nền tảng AI tạo ra hình ảnh khỏa thân không có sự đồng ý của nạn nhân. Công ty cho rằng quy định này vi phạm quyền tự do ngôn luận và có thể khiến các nhà phát triển AI phải đối mặt với những khoản phạt khổng lồ.

Theo đạo luật mới, có hiệu lực từ thứ Bảy tuần này, mọi ứng dụng hoặc trang web cho phép người dùng tạo ra hình ảnh khỏa thân của người khác bằng AI mà không có sự đồng ý đều có thể bị phạt 50.000 USD cho mỗi hình ảnh được tạo ra.

xAI cho rằng luật quá rộng và vi hiến

Trong đơn kiện gửi lên tòa án, xAI không phản đối mục tiêu bảo vệ nạn nhân khỏi các nội dung deepfake nhạy cảm. Tuy nhiên, công ty cho rằng cách xây dựng đạo luật quá rộng, vô tình biến nhiều nội dung hợp pháp thành hành vi vi phạm pháp luật.

Theo các luật sư của xAI, đây là một "lệnh cấm dựa trên nội dung" đi ngược lại quyền tự do ngôn luận được Hiến pháp Mỹ bảo vệ.

Công ty cũng chỉ trích mức xử phạt quá nặng. xAI đưa ra ví dụ nếu một nền tảng vô tình chứa khoảng 100.000 hình ảnh do người dùng tạo ra thuộc diện vi phạm, tổng số tiền phạt có thể lên tới 50 tỷ USD.

Theo xAI, đây là mức chế tài không thực tế và có nguy cơ khiến các dịch vụ AI phải vô hiệu hóa nhiều tính năng chỉnh sửa hình ảnh để tránh rủi ro pháp lý.

Grok từng nhiều lần vướng tranh cãi

Vụ kiện diễn ra trong bối cảnh Grok – chatbot AI của xAI – từng nhiều lần bị chỉ trích vì khả năng tạo ra hình ảnh deepfake nhạy cảm.

Đầu năm nay, Grok bị cáo buộc có thể tạo hàng nghìn video và hình ảnh "cởi đồ" mỗi giờ, trong đó xuất hiện cả hình ảnh của trẻ vị thành niên. Những vụ việc này khiến xAI phải đối mặt với một vụ kiện tập thể từ các nạn nhân, đồng thời bị điều tra tại Anh và Liên minh châu Âu.

Đơn kiện cũng cáo buộc công ty không chia sẻ đầy đủ thông tin với cơ quan chức năng về những người sử dụng Grok để tạo nội dung khiêu dâm trái phép.

Đáp lại, xAI khẳng định điều khoản sử dụng của Grok nghiêm cấm việc tạo hình ảnh khỏa thân hoặc nội dung mang tính tình dục của người khác khi chưa được phép. Công ty cho biết đã triển khai nhiều biện pháp kỹ thuật nhằm ngăn chặn hành vi này và thậm chí đã khởi kiện những người cố tình vượt qua các cơ chế bảo vệ.

Gần đây nhất, xAI đã đệ đơn kiện một người dùng tại bang South Carolina vì sử dụng Grok để tạo hình ảnh riêng tư của cả người lớn lẫn trẻ vị thành niên.

Bang Minnesota không nhượng bộ

Nếu đạo luật được giữ nguyên, xAI cho biết họ sẽ buộc phải hạn chế đáng kể các tính năng chỉnh sửa hình ảnh của Grok Imagine nhằm tránh nguy cơ bị xử phạt.

Công ty yêu cầu tòa án tuyên bố đạo luật vi hiến và ngăn bang Minnesota thực thi quy định này.

Phía chính quyền bang lại có quan điểm hoàn toàn trái ngược.

Tổng chưởng lý Minnesota Keith Ellison cho rằng đây không phải là cuộc tranh luận về AI hay quyền tự do ngôn luận, mà là vấn đề bảo vệ nạn nhân.

Ông nhấn mạnh việc AI biến hình ảnh của người khác thành ảnh khỏa thân mà không có sự đồng ý là hành vi xâm phạm nghiêm trọng đến phẩm giá cá nhân và có thể gây ra những tổn hại lâu dài. Ellison khẳng định bang sẽ bảo vệ đạo luật trước tòa.

Trong khi đó, Thống đốc Tim Walz còn có phản ứng gay gắt hơn khi bình luận về vụ kiện. Ông viết ngắn gọn trên mạng xã hội: "Hẹn gặp lại ở tòa án."

Vụ kiện được đánh giá sẽ trở thành một trong những phép thử quan trọng đối với các đạo luật quản lý AI tạo sinh tại Mỹ, đặc biệt trong bối cảnh ngày càng nhiều bang tìm cách kiểm soát tình trạng deepfake khiêu dâm và nội dung giả mạo được tạo bằng AI.