OpenAI Xem Xét Cho Người Dùng Sử Dụng AI Tạo Nội Dung Nhạy Cảm

OpenAI, công ty phát triển ChatGPT và DALL-E, đang xem xét việc nới lỏng chính sách cấm tạo nội dung khiêu dâm và các tài liệu NSFW khác thông qua các sản phẩm của mình.

Một tài liệu mới của công ty cho thấy AI đang muốn khám phá khả năng cho phép người dùng tạo ra loại nội dung này một cách có trách nhiệm, miễn là không vi phạm pháp luật hoặc quyền cá nhân.

Joanne Jang, người đứng đầu nhóm mô hình tại OpenAI, đã nhấn mạnh trong một cuộc phỏng vấn với NPR rằng các hoạt động như tạo deepfake, bao gồm việc lạm dụng hình ảnh cá nhân, sẽ vẫn bị cấm.

OpenAI đang tìm cách mở ra cuộc thảo luận về việc liệu các sản phẩm của công ty nên cho phép nội dung khiêu dâm và hình ảnh khỏa thân hay không, trong bối cảnh mà nội dung đó không bao gồm deepfake hoặc hành vi bất hợp pháp khác.

Một số nhà phê bình lo ngại rằng bằng cách giảm thiểu các hạn chế này, OpenAI có thể làm cho việc tạo ra deepfake và nội dung bất hợp pháp khác trở nên dễ dàng hơn. Tuy nhiên, Renee DiResta, giám đốc nghiên cứu tại Đài quan sát Internet Stanford, cho rằng việc OpenAI cung cấp một phương thức hợp pháp để tạo nội dung khiêu dâm có thể là một giải pháp tốt hơn so với việc người dùng sử dụng các mô hình nguồn mở kém an toàn để tạo ra nội dung bất hợp pháp