Hội đồng giám sát kêu gọi Meta siết chặt kiểm soát deepfake và nội dung AI

Oversight Board chỉ trích cách quản lý nội dung AI của Meta

Hội đồng giám sát nội dung của Meta cho rằng công ty cần siết chặt các quy định đối với nội dung do trí tuệ nhân tạo tạo ra, đặc biệt là deepfake.

Theo hội đồng, hệ thống phát hiện và gắn nhãn nội dung AI của Meta hiện chưa đủ hiệu quả khi các nội dung này được tạo ra với quy mô lớn và lan truyền nhanh trong các tình huống nhạy cảm như chiến tranh, khủng hoảng hay bầu cử.

Oversight Board chỉ trích cách quản lý nội dung AI của Meta 

Video deepfake về Haifa gây tranh cãi

Chỉ trích mới nhất xuất phát từ một video AI giả mạo lan truyền trên các nền tảng của Meta, được cho là mô tả thiệt hại tại thành phố Haifa của Israel.

Video này được đăng bởi một tài khoản ở Philippines giả làm nguồn tin tức. Dù nhiều người dùng đã báo cáo nội dung, video vẫn tồn tại trên nền tảng mà không được xem xét hay gắn nhãn AI nguy cơ cao cho đến khi hội đồng can thiệp.

Đề xuất thay đổi chính sách quản lý nội dung AI

Hội đồng giám sát cho rằng Meta nên xây dựng một tiêu chuẩn cộng đồng riêng cho nội dung AI thay vì chỉ dựa vào các quy định chung về thông tin sai lệch.

Các khuyến nghị chính gồm:

• Tăng tần suất gắn nhãn nội dung AI nguy cơ cao
• Cải thiện hệ thống phát hiện tự động đối với hình ảnh, video và âm thanh
• Công khai hình phạt với người đăng nội dung chỉnh sửa nhưng không tiết lộ

Ngoài ra, hội đồng cũng khuyến nghị Meta áp dụng nhất quán hệ thống Content Credentials, tiêu chuẩn giúp gắn metadata để xác định nguồn gốc và quá trình tạo nội dung.

Cần phải quản lý lại những nội dung AI để tránh những thông tin sai sự thật

Tranh cãi về hệ thống kiểm chứng thông tin

Trước đó, Meta đã thay đổi hệ thống gắn nhãn nội dung AI, thay thế nhãn Made with AI bằng nhãn chung AI info. Tuy nhiên, nhiều chuyên gia cho rằng nhãn mới khá mơ hồ và dễ bị bỏ qua.

Trong một diễn biến liên quan, CEO Mark Zuckerberg từng tuyên bố hệ thống kiểm chứng thông tin bên thứ ba của Meta có xu hướng thiên lệch chính trị. Công ty vì vậy đã thay thế mô hình này bằng hệ thống Community Notes để đánh giá nội dung trên các nền tảng như Facebook, Instagram và Threads.

Xem thêm: Lỗ hổng Zero-day Windows trị giá 5,5 tỷ đồng đang bị rao bán trên Dark Web

Xem thêm: Laptop “1.1TB” trên Amazon gây tranh cãi khi chỉ có 128GB SSD thật