Discord chặn các máy chủ hẹn hò và hình ảnh lạm dụng trẻ em do AI tạo ra

Discord đã cập nhật chính sách nhằm bảo vệ trẻ em và thanh thiếu niên trên nền tảng của mình sau khi có báo cáo rằng những kẻ săn mồi đã sử dụng ứng dụng này để tạo và phát tán tài liệu lạm dụng tình dục trẻ em (CSAM), cũng như để dụ dỗ thanh thiếu niên. Nền tảng này hiện cấm rõ ràng CSAM hình ảnh chân thực do AI tạo ra. 

Như The Washington Post gần đây đã đưa tin, sự gia tăng của trí tuệ nhân tạo AI dẫn đến xuất hiện nhiều hình ảnh lạm dụng trẻ em do MidjTHER - một AI tạo văn bản thành hình ảnh trên Discord -  tạo ra.

Ngoài việc cấm CSAM do AI tạo ra, Discord hiện cũng nghiêm cấm bất kỳ loại nội dung văn bản hoặc phương tiện ảnh hưởng đến người dùng trẻ tuổi. Nền tảng này cũng đã cấm các server hẹn hò dành cho trẻ chưa đủ tuổi và tuyên bố sẽ có mức phạt những người dùng cố tình tạo ra những server này. Tuy nhiên trước đó, Discord có lượng lớn máy chủ hẹn hò dành cho thanh thiếu niên. 

Discord cũng được đánh giá là nơi trú ngụ của các hacker xấu xa, lưu giữ loạt bằng chứng tội phạm, dụ dỗ các cô gái trẻ. Việc cấm hoàn toàn các máy chủ hẹn hò có thể giúp giảm thiểu vấn nạn trên.

Ngoài việc cập nhật các quy tắc của mình, Discord gần đây đã ra mắt công cụ Family Center mà phụ huynh có thể sử dụng để theo dõi hoạt động của con mình trên dịch vụ trò chuyện. 

Mặc dù các bậc phụ huynh sẽ không thể xem nội dung thực tế trong tin nhắn của con mình, nhưng công cụ chọn tham gia cho phép họ xem con mình kết bạn với ai và nói chuyện với ai trên nền tảng. Discord hy vọng rằng các biện pháp và công cụ mới này có thể giúp giữ an toàn cho người dùng chưa đủ tuổi cùng với các biện pháp cũ, bao gồm chủ động quét các hình ảnh được tải lên nền tảng của nó bằng PhotoDNA