Thuật toán YouTube đề xuất các video có nội dung về súng cho game thủ trẻ tuổi

Google đã dành nhiều năm để cố gắng sửa thuật toán đề xuất video của YouTube

Một nhóm nghiên cứu của cơ quan giám sát phi lợi nhuận "Dự án Minh bạch Công nghệ" (TTP) đưa ra những lo ngại về thuật toán của YouTube đề xuất hàng trăm video có nội dung về súng, bạo lực cho các trẻ đang quan tâm đến game. 

Các nhà nghiên cứu đã sử dụng 4 tài khoản thử nghiệm, trong đó có hai tài khoản đóng giả là trẻ 9 tuổi và hai tài khoản còn lại là trẻ 14 tuổi để xem các nội dung chơi game. Tài khoản 9 tuổi sẽ xem tựa game như Roblox, Lego Star Wars và Five Nights at Freddy's. Trong khi đó, tài khoản 14 tuổi chủ yếu xem Grand Theft Auto, Halo và Red Dead Redemption.

Sau đó, các nhà nghiên cứu đã ghi lại các video được đề xuất cho các tài khoản trên trang chủ YouTube và bảng Up Next trong khoảng 30 ngày vào tháng 11 năm ngoái. 

"Nghiên cứu cho thấy YouTube đã đẩy nội dung về các vụ xả súng và vũ khí tới tất cả các tài khoản của game thủ, nhưng với số lượng lớn hơn nhiều tới những người dùng đã nhấp vào các video do YouTube đề xuất", TTP cho biết. 

Một số video được đề xuất bao gồm các sự kiện xả súng hàng loạt, những sát thương mà súng gây ra cho cơ thể và hướng dẫn thay đổi súng. Nhiều video trong số đó đã vi phạm chính sách nội dung của YouTube. 

Trong thời gian thử nghiệm kéo dài một tháng, YouTube đã đẩy 382 video về súng thật vào tài khoản của trẻ 9 tuổi và 1.325 video về súng thật vào tài khoản của trẻ 14 tuổi. 

Google đã cố gắng cải thiện thuật toán video được đề xuất của YouTube trong nhiều năm, nhưng hiện tại YouTube vẫn đưa ra những nội dung không phù hợp và đôi khi gây khó chịu với người dùng. 

Trả lời với nhóm nghiên cứu, đại diện YouTube cho biết YouTube Kids và các công cụ giám sát trong ứng dụng của nền tảng "mang đến trải nghiệm an toàn hơn cho người dùng nhỏ tuổi".

Từ báo cáo của TTP, đây không phải là lần đầu tiên các nhà nghiên cứu đặt câu hỏi về thuật toán đề xuất của YouTube. Công ty cũng đã dành nhiều năm làm việc để giảm cái gọi là "nội dung biên giới”, gồm những video không vi phạm hoàn toàn các quy tắc nhưng có thể không phù hợp để phân phối đại chúng, xuất hiện trong các đề xuất.