Người đầu tiên ở Trung Quốc bị bắt vì lạm dụng ChatGPT tung tin giả

Cảnh sát Trung Quốc vừa bắt giữ nghi phạm là một người đàn ông đã có hành vi tuyên truyền thông tin giả với sự trợ giúp của AI, về một vụ tai nạn tàu hỏa và phát tán trên nhiều tài khoản khác nhau. Đây được cho là vụ bắt giữ đầu tiên của Trung Quốc vì lạm dụng ChatGPT.

Cảnh sát ở tỉnh Cam Túc phía tây bắc cho biết, nghi phạm họ Hong đã bị giam giữ vì "sử dụng công nghệ trí tuệ nhân tạo để tạo ra thông tin sai lệch và không đúng sự thật". 

Vụ việc được phát hiện bởi Cục an ninh mạng quận Kongtong, sau khi xuất hiện 20 tài khoản trên MXH Baijiahao của Baidu đưa tin rằng một vụ tai nạn tàu hoả khiến 9 người thiệt mạng. Những bài đăng này đã nhận được hơn 15.000 lượt nhấp vào thời điểm đó.

Sở công an tỉnh Cam Túc cho biết Hong bị tình nghi phạm tội "đưa thông tin sai lệch và gây hoang mang dư luận", một tội danh thường có mức án tối đa là 5 năm. Tuy nhiên, trong những trường hợp được coi là đặc biệt nghiêm trọng này, người phạm tội có thể bị bỏ tù 10 năm và bị phạt bổ sung. 

Đây là vụ bắt giữ đầu tiên tại Trung Quốc, sau khi các quy định về việc sử dụng công nghệ “deepfake” chính thức có hiệu lực vào tháng 1 do Bắc Kinh đưa ra.

Cảnh sát cho biết họ đã lần ra nguồn gốc của bài đăng đến từ một công ty thuộc sở hữu của nghi phạm Hong, công ty này điều hành các nền tảng truyền thông cá nhân được đăng ký tại Thâm Quyến, tỉnh Quảng Đông, miền nam Trung Quốc. Khoảng 10 ngày sau, một đội cảnh sát đã lục soát nhà và máy tính của Hong và bắt giữ anh.

Hong cho biết với kinh nghiệm của mình, nghi phạm có thể luồng lách bước kiểm tra thông tin người dùng của mạng xã hội Baijiahao để có thể tạo nhiều tài khoản. Hong đã nhập bất cứ thông tin hiện thịnh hành ở Trung Quốc trong những năm qua vào ChatGPT để nhanh chóng tạo ra các phiên bản khác nhau dựa trên cùng một câu chuyện giả mạo và tải chúng lên tài khoản Baijiahao của mình.

Mặc dù ChatGPT không có sẵn trực tiếp cho các địa chỉ IP của Trung Quốc, nhưng người dùng Trung Quốc vẫn có thể truy cập dịch vụ của họ nếu họ có kết nối VPN.

Trung Quốc là một trong những quốc gia đưa ra những giải pháp cũng như công nghệ giúp giám sát chặt chẽ các phương tiện truyền thông xã hội của mình. Đặc biệt là Sina Weibo, trang mạng xã hội có hơn 592 triệu người dùng nhằm ngăn chặn truyền bá thông tin gây sai lệch.

Cục an ninh mạng tại Trung Quốc từ lâu đã lên tiếng lo ngại rằng việc phát triển và sử dụng công nghệ deepfake không được kiểm soát có thể dẫn đến việc sử dụng nó trong các hoạt động tội phạm như lừa đảo trực tuyến hoặc tuyên truyền thông tin giả.

Việc kết hợp deepfake cùng ChatGPT đang phổ biến trong thời gian gần đây là vô cùng nguy hiểm, các cơ quan chức năng Trung Quốc đã nhiều lần lên tiếng nghi ngờ và thậm chí đưa ra lời cảnh báo về mức độ nguy hại khi lạm dụng cả hai công nghệ này.