Nối Bước Apple, Google Cập Nhật Chính Sách Chặn Các Ứng Dụng Và Quảng Cáo Trình Tạo Nội Dung Đồi Truỵ Bằng AI

Google đã cập nhật chính sách quảng cáo của mình nhằm chặn các quảng cáo quảng bá dịch vụ tạo nội dung khiêu dâm bằng deepfake. Trước đó, chính sách chỉ cấm rõ ràng các quảng cáo có nội dung "tình dục được mô tả bằng hình ảnh nhằm mục đích kích thích." Chính sách mới ngăn các quảng cáo về các công cụ và dịch vụ tạo hình ảnh khiêu dâm giả mạo, bao gồm cả những hướng dẫn tạo hình ảnh khỏa thân không có sự đồng ý qua AI.

Theo Google, vi phạm chính sách này là một hành vi nghiêm trọng có thể dẫn đến việc đình chỉ tài khoản và cấm quảng cáo vĩnh viễn, không cho phép cơ hội thứ hai. Cả Google và Apple đều đã thực hiện gỡ bỏ các ứng dụng cung cấp các nội dung nhạy cảm trong cửa hàng ứng dụng của. Các nền tảng quảng cáo khác như của Meta và các trang web người lớn cũng đã gặp phải các quảng cáo tương tự từ các tác nhân xấu.

Sự việc trở nên nghiêm trọng khi các hình ảnh khiêu dâm AI không được đồng ý lan truyền trên mạng, như trường hợp của Taylor Swift, khiến cơ quan chức năng phải vào cuộc. Các thành viên Quốc hội Mỹ đã lên tiếng về tác hại không thể thay đổi mà deepfake gây ra, đặc biệt là ảnh hưởng nặng nề đến nữ giới. Một đạo luật lưỡng đảng đã được đưa ra cho phép nạn nhân kiện những người tạo và lan truyền các hình ảnh giả mạo.

Các công ty lớn như Apple và Pornhub cũng đã có những bước đi để ngăn chặn nội dung khiêu dâm deepfake. Apple đã trục xuất các ứng dụng như vậy khỏi cửa hàng của mình, và Pornhub đã cấm nội dung deepfake trên nền tảng của họ từ năm 2018. Những nỗ lực này cho thấy cuộc chiến chống lại các ứng dụng sáng tạo nhưng độc hại của AI vẫn còn là một thách thức lớn.