YouTube triển khai hệ thống phát hiện deepfake AI để bảo vệ danh tính người sáng tạo

YouTube vừa chính thức triển khai một hệ thống trí tuệ nhân tạo (AI) mới nhằm phát hiện và quản lý nội dung deepfake — các video được tạo ra bằng công nghệ AI để sao chép khuôn mặt hoặc giọng nói của người khác. Đây được xem là bước đi mạnh mẽ nhất từ trước đến nay của nền tảng này nhằm đối phó với mối đe dọa ngày càng lớn từ công nghệ deepfake và AI tạo hình.

Bảo vệ người sáng tạo trước nguy cơ bị mạo danh

Hệ thống mới cho phép các thành viên đã xác minh trong Chương trình Đối tác YouTube có thể yêu cầu xem xét và xóa các video deepfake sử dụng trái phép hình ảnh hoặc giọng nói của họ. Mục tiêu của YouTube là ngăn chặn các hành vi mạo danh gây hiểu lầm hoặc sử dụng hình ảnh của người sáng tạo vào mục đích thương mại mà không có sự đồng ý.

Công nghệ này kết hợp các thuật toán nhận dạng khuôn mặt và giọng nói được huấn luyện để phát hiện các nội dung giả mạo. Nó hoạt động tương tự như hệ thống Content ID — công cụ từng được dùng để phát hiện nội dung vi phạm bản quyền — nhưng lần này là nhằm bảo vệ quyền riêng tư và danh tính.

Quy trình xác minh chặt chẽ

Để sử dụng tính năng này, người sáng tạo phải trải qua quy trình xác minh danh tính gồm: đồng ý xử lý dữ liệu, quét mã QR, tải giấy tờ tùy thân có ảnh do chính phủ cấp và quay video selfie ngắn để đào tạo mô hình nhận dạng. Dữ liệu này được xác thực trên máy chủ của Google và quá trình thường mất vài ngày để hoàn tất.

Sau khi xác minh, người dùng sẽ có quyền truy cập vào bảng điều khiển trong YouTube Studio. Tại đây, họ có thể xem các video nghi ngờ là deepfake, kèm theo thông tin như tiêu đề, kênh tải lên, số lượt xem, số người đăng ký và mức độ tin cậy mà YouTube đánh giá về khả năng video được tạo bởi AI.

Ba phương án xử lý video deepfake

Khi phát hiện nội dung vi phạm, người sáng tạo có thể lựa chọn một trong ba cách phản hồi:

• Gửi yêu cầu xóa video theo chính sách quyền riêng tư.

• Gửi đơn khiếu nại bản quyền nếu giọng nói hoặc hình ảnh bị sử dụng trái phép.

• Lưu trữ video để làm tài liệu theo dõi sau này.

Việc tích hợp tính năng này trực tiếp vào công cụ kiểm duyệt của YouTube đưa nền tảng trở thành một trong những mạng xã hội đầu tiên trên thế giới thực hiện bảo vệ danh tính quy mô lớn bằng công nghệ AI.