Trung Quốc "siết chặt" công nghệ Deepfakes với những quy định mới

Luật lệ mà chính phủ Trung Quốc đưa ra sẽ được áp dụng vào đầu năm sau, nhằm siết chặt và hạn chế những rủi ro mà Deepfakes tạo ra.

Vào ngày 11/12, Cơ quan quản lý không gian mạng (CAC) ở Bắc Kinh vừa ban hành các quy định hạn chế "deepfakes" do AI tạo ra mà không được cấp phép. Các quy định cũng nghiêm cấm việc mô tả hoặc phát biểu bất cứ điều gì được coi là đi ngược lại "lợi ích quốc gia" hoặc "giá trị xã hội chủ nghĩa", cũng như việc sử dụng "deepfakes" để lừa đảo hoặc vu khống. 

Deepfakes đã xuất hiện trên mạng xã hội từ rất lâu, công nghệ này cho phép người dùng thay đổi khuôn mặt hoặc giọng nói của người khác. Tuy nhiên, công nghệ này đã bị lạm dụng để tạo ra những nội dung, tác phẩm phản cảm như ghép mặt của người nổi tiếng vào cơ thể của diễn viên khiêu dâm, phát tán thông tin sai lệch và thực hiện các hành vi lừa đảo. 

Xem thêm: Deepfake, công nghệ có ích hay mối nguy hại của thế giới? 

Không chỉ Trung Quốc mà deepfakes cũng đã gây ra cuộc tranh luận ở nhiều quốc gia trên thế giới vì những lo ngại tương tự. Đầu năm nay, Liên minh châu Âu (EU) đã đưa ra các quy tắc nhằm hạn chế sử dụng deepfakes để chống lại tin tức giả mạo trên mạng xã hội.

Hiện nay các trang mạng xã hội nổi tiếng bao gồm Twitter và Facebook, đã thực hiện các biện pháp mới để kiểm duyệt và hạn chế việc phân phối tin tức sai lệch và tuyên truyền do deepfakes tạo ra.

Tuy nhiên, các quy định mà giới chức năng Trung Quốc cho thấy quốc gia này vẫn hy vọng deepfakes sẽ được sử dụng rộng rãi trong tương lai, vì chúng cho phép sử dụng chúng trong các ứng dụng như chatbot miễn là chúng được dán nhãn rõ ràng là sáng tạo kỹ thuật số.

Các luật lệ mà CAC đưa ra cũng đề cập đến việc sử dụng deepfakes của các nhà xuất bản trực tuyến. Các nhà xuất bản này phải tính đến các quy định khác của Trung Quốc về nội dung trực tuyến được chấp nhận khi sử dụng deepfakes trong các ấn phẩm của họ.

Thậm chí, người dùng phải xin phép người có hình ảnh hoặc giọng nói mà họ sẽ thay đổi trong quá trình thực hiện ấn phẩm. Khi đăng tải nội dung được tạo bằng công nghệ deepfakes, tài liệu phải nằm trong khuôn khổ 1.358 nguồn của chính phủ phê duyệt.

Các quy định áp dụng cho "các nhà cung cấp dịch vụ tổng hợp sâu" hoặc các nền tảng sử dụng học sâu hoặc thực tế ảo để thay đổi nội dung trực tuyến. Những yêu cầu này bao gồm nhu cầu về các thuật toán và mô hình AI/ML chính xác và được sửa đổi thường xuyên, cũng như nhu cầu đảm bảo tính bảo mật của bất kỳ dữ liệu nào được thu thập. 

Ngoài ra, các quy định yêu cầu đăng ký người dùng, bao gồm cả việc sử dụng tên thật của họ, để ngăn chặn các cá nhân không xác định lạm dụng công nghệ. 

Thậm chí, người dùng phải xin phép người có hình ảnh hoặc giọng nói mà họ sẽ thay đổi trong quá trình thực hiện ấn phẩm. 

Xem thêm: Deepfake sẽ biến bức ảnh của bạn nude hoàn toàn, hãy cẩn thận với ảnh tự chụp trên mạng của bạn

Các quy định do CAC ban hành nhằm đảm bảo rằng việc sử dụng deepfakes ở Trung Quốc sẽ tránh được những nhược điểm tiềm ẩn và thay vào đó mang lại lợi ích cho quốc gia. Các quy định nêu rõ rằng deepfakes phải "thúc đẩy sự phát triển lành mạnh của các dịch vụ thông tin trên internet và duy trì một hệ sinh thái tốt của không gian mạng."

Dự kiến các quy định trên sẽ được áp dụng vào ngày 10 tháng 1 năm 2023.