Roblox công bố AI mã nguồn mở phát hiện nguy cơ xâm hại trẻ em trực tuyến

Roblox ra mắt Sentinel – công cụ AI mã nguồn mở giúp phát hiện sớm nguy cơ xâm hại trẻ em qua các đoạn chat trong game và hỗ trợ cơ quan chức năng xử lý.

Trước áp lực pháp lý và lo ngại từ cộng đồng, Roblox công bố hệ thống AI Sentinel miễn phí và mã nguồn mở, giúp theo dõi hành vi dài hạn để phát hiện sớm các mối đe dọa an toàn cho trẻ em trên nền tảng.

Công cụ AI theo dõi hành vi dài hạn mang tên “Sentinel”

Roblox vừa giới thiệu Sentinel, một hệ thống trí tuệ nhân tạo mã nguồn mở có khả năng phát hiện sớm các dấu hiệu lạm dụng, dụ dỗ trẻ em trong các cuộc trò chuyện trực tuyến. Công cụ này được cung cấp miễn phí, cho phép các nền tảng khác tích hợp vào hệ thống kiểm duyệt nội dung của mình.

Sentinel đã giúp phát hiện và chuyển hàng trăm vụ việc nghi ngờ đến cơ quan chức năng. Không giống các bộ lọc từ ngữ thông thường, Sentinel không chỉ “bắt” từ khóa nhạy cảm mà theo dõi mẫu hội thoại theo thời gian, phân tích từng phút trong khoảng 6 tỷ tin nhắn chat mỗi ngày để nhận diện rủi ro.

 

Roblox ra mắt Sentiel - Công cụ AI giúp quan sát hành vi người dùng

Roblox ra mắt Sentinel để theo dõi và đảm bảo an toàn cho người chơi “nhí” của mình

Cơ chế hoạt động và cải thiện liên tục

Sentinel theo dõi hành vi lâu dài của người dùng để xác định xu hướng giao tiếp an toàn hay nguy hiểm, sau đó chuyển những trường hợp nghi ngờ cho đội ngũ kiểm duyệt xem xét kỹ hơn. Khi cần thiết, Roblox sẽ báo cáo tới cơ quan thực thi pháp luật và Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (Mỹ).

Biểu đồ cách thức hoạt động của Sentinel

Biểu đồ cách thức hoạt động của Sentinel

Bối cảnh pháp lý và cam kết an toàn

Việc ra mắt Sentinel diễn ra trong lúc Roblox đối mặt với các vụ kiện liên quan đến an toàn trẻ em. Roblox khẳng định đã áp dụng nhiều biện pháp như cấm chia sẻ thông tin cá nhân, giới hạn tin nhắn trực tiếp với người dùng dưới 13 tuổi nếu không có sự đồng ý của phụ huynh, và giữ quyền giám sát nội dung trò chuyện để đảm bảo an toàn.

Công ty thừa nhận không hệ thống nào đảm bảo an toàn tuyệt đối, nhưng cho rằng AI như Sentinel sẽ tăng đáng kể khả năng phát hiện sớm và ngăn chặn các hành vi nguy hiểm.

 

 

Bài liên quan

Bài đọc nhiều nhất

Bài mới trong ngày

Tình bạn tri kỷ phía sau máy quay: Kiếm sĩ Zoro ngoài đời Arata Mackenyu hé lộ mối quan hệ đặc biệt với "cha đẻ" Eiichiro Oda, từng sang tận nhà tắm nhờ khi gặp sự cố

Tình bạn tri kỷ phía sau máy quay: Kiếm sĩ Zoro ngoài đời Arata Mackenyu hé lộ mối quan hệ đặc biệt với "cha đẻ" Eiichiro Oda, từng sang tận nhà tắm nhờ khi gặp sự cố

hoanlagvnDũng Nhỏ TT

Một câu chuyện hậu trường vừa ấm áp vừa tràn ngập tiếng cười vừa làm nức lòng hàng triệu người hâm mộ thương hiệu Đảo Hải Tặc trên toàn cầu. Xuất hiện tại đại hội giao lưu văn hóa Anime Pasadena 2026 diễn ra ở bang California (Mỹ), nam tài tử Arata Mackenyu — người đảm nhận vai diễn kiếm sĩ Roronoa Zoro trong dự án phim người đóng (live-action) đình đám của Netflix — đã khiến cả khán phòng vỡ òa thích thú khi cởi mở chia sẻ về mối quan hệ thân thiết vượt ngoài sức tưởng tượng giữa anh và họa sĩ truyện tranh huyền thoại Eiichiro Oda.

Giải trí
Cú bắt tay tỷ đô định hình lại bản đồ giải trí Đông Nam Á: Đế chế Bandai Namco chính thức rót vốn sở hữu hơn 42% cổ phần tại POPS Worldwide có trụ sở tại Việt Nam

Cú bắt tay tỷ đô định hình lại bản đồ giải trí Đông Nam Á: Đế chế Bandai Namco chính thức rót vốn sở hữu hơn 42% cổ phần tại POPS Worldwide có trụ sở tại Việt Nam

hoanlagvnDũng Nhỏ TT

Một thương vụ đầu tư mang tính bước ngoặt đối với ngành công nghiệp nội dung số và giải trí tại khu vực Đông Nam Á vừa chính thức được xác lập, hứa hẹn mở ra một kỷ nguyên bùng nổ mới cho cộng đồng người hâm mộ văn hóa đại chúng Nhật Bản. Tập đoàn giải trí đa phương tiện khổng lồ đến từ xứ sở hoa anh đào Bandai Namco đã chính thức hoàn tất thỏa thuận rót vốn chiến lược để sở hữu hơn 42% cổ phần tại POPS Worldwide — tập đoàn công nghệ giải trí hàng đầu có trụ sở đặt tại Việt Nam.

Giải trí
Lên đầu trang