Sau loạt bê bối deepfake, X buộc phải cấm Grok chỉnh sửa ảnh người 'cởi đồ'

Hiện tại, việc tạo và chỉnh sửa hình ảnh thông qua Grok trên X chỉ khả dụng với người dùng trả phí.

X mới đây thông báo đã loại bỏ khả năng chỉnh sửa hình ảnh người thật thành trang phục hở hang như bikini thông qua Grok, chatbot AI do xAI phát triển, ngay cả với người dùng trả phí. Tuy nhiên, theo nhiều báo cáo, các biện pháp hạn chế này vẫn có thể bị vượt qua khá dễ dàng.

Trong bài đăng từ tài khoản @safety, X cho biết đã triển khai các biện pháp kỹ thuật nhằm ngăn Grok chỉnh sửa ảnh người thật sang nội dung gợi cảm như bikini. Hạn chế này áp dụng cho toàn bộ người dùng trên nền tảng. Hiện tại, việc tạo và chỉnh sửa hình ảnh thông qua Grok trên X chỉ khả dụng với người dùng trả phí.

Động thái này diễn ra trong bối cảnh áp lực ngày càng gia tăng đối với X, xAI và Elon Musk, sau khi xuất hiện thông tin cho thấy hàng nghìn hình ảnh deepfake khiêu dâm, không có sự đồng ý của nạn nhân – bao gồm cả phụ nữ và đôi khi là trẻ em – đang được tạo ra thông qua Grok. Một báo cáo cho biết có tới khoảng 6.700 hình ảnh deepfake dạng này được tạo mỗi giờ trên nền tảng.

Trước đó, X từng tuyên bố đã hạn chế quyền truy cập vào tính năng chỉnh sửa ảnh của Grok, nhưng các biện pháp ban đầu chỉ ngăn yêu cầu của người dùng miễn phí khi chatbot trả lời công khai. Trên thực tế, tính năng chỉnh sửa ảnh vẫn hoạt động trên phiên bản web, trong khi người dùng ứng dụng có thể truy cập bằng cách nhấn giữ vào ảnh, còn ứng dụng Grok độc lập gần như không bị ảnh hưởng.

Theo cập nhật mới nhất, X cho biết sẽ chặn cả việc tạo hình ảnh người thật mặc bikini, đồ lót hoặc trang phục tương tự thông qua Grok, đặc biệt tại những khu vực mà hành vi này là bất hợp pháp. Vương quốc Anh là một trong những quốc gia áp dụng hạn chế này nhằm tuân thủ luật hình sự hóa việc tạo deepfake không có sự đồng ý. Khi thử sử dụng Grok cho mục đích này tại Anh, người dùng sẽ nhận được thông báo từ chối.

Chính phủ Anh và cơ quan giám sát truyền thông Ofcom gọi đây là “diễn biến đáng mừng”, dù khẳng định cuộc điều tra chính thức vẫn đang tiếp tục. Tuy nhiên, theo The Verge, người dùng tại Anh vẫn có thể chỉnh sửa ảnh phụ nữ thật theo hướng gợi cảm thông qua ứng dụng di động hoặc website X chỉ bằng cách thay đổi cách diễn đạt. Grok cũng vẫn có thể tạo hình ảnh đàn ông hoặc vật thể vô tri mặc bikini.

Hiện xAI và X đang đối mặt với cuộc điều tra từ tổng chưởng lý bang California. Ba thượng nghị sĩ đảng Dân chủ cũng đã kêu gọi Apple và Google gỡ bỏ các ứng dụng này khỏi kho ứng dụng do vi phạm chính sách. Trước đó, Elon Musk từng tuyên bố người dùng Grok tạo nội dung bất hợp pháp sẽ phải chịu trách nhiệm tương tự như khi tự đăng tải, đồng thời phủ nhận việc chatbot này tạo ra hình ảnh trẻ em.