Bị lạm dụng tạo ra những tác phẩm "gây sốc", Midjourney tạm ngưng bản miễn phí

Công cụ chuyển văn bản sang hình ảnh bằng AI buộc phải tạm dừng nhằm hạn chế những tác phẩm gây tranh cãi.

Mô hình AI tạo hình ảnh Midjourney thông báo sẽ tạm dừng các bản dùng thử miễn phí vì bị lạm dụng tạo ra những sản phẩm gây tranh cãi.

David Holz, người sáng lập Midjourney, đã viết trên máy chủ Discord của công ty vào đầu tuần này: “Do sự kết hợp giữa nhu cầu đặc biệt và lạm dụng bản dùng thử, chúng tôi tạm thời vô hiệu hóa các bản dùng thử miễn phí cho đến khi chúng tôi triển khai các cải tiến tiếp theo cho hệ thống."

Tuy nhiên, Theo Washington Post việc tạm dừng bản beta miễn phí của Midjourney nhằm hạn chế các tác phẩm giả, chứa thông tin sai lệch. 

Bị lạm dụng tạo ra những tác phẩm "gây sốc" , Midjourney tạm ngưng thử nghiệm miễn phí

Xem thêm: Loạt ảnh Donald Trump bị bắt do AI tạo tràn ngập trên Twitter

Midjourney đã trở thành công cụ AI phổ biến trong những tuần gần đây. Người dùng đã dựa vào mô hình AI này để tạo ra những sản phẩm không có thật.

Đầu tuần này, tràn ngập những bức ảnh chụp Giáo hoàng Francis khoác trên mình một chiếc áo phao cực kỳ cực kỳ sành điệu đến từ thương hiệu nổi tiếng Balenciaga và đeo một chiếc vòng cổ nạm kim cương. Tiếp đó, khi các trang tin tức chính thống đưa tin cựu Tổng thống Mỹ Donald Trump sắp bị bắt ở New York, một loạt bức ảnh cho thấy cựu tổng thống bị cảnh sát truy đuổi đã lan truyền chóng mặt. 

Bị lạm dụng tạo ra những tác phẩm "gây sốc" , Midjourney tạm ngưng thử nghiệm miễn phí

Xem thêm: CẢNH BÁO: Siêu AI bị lạm dụng để tạo ra những sự kiện chưa từng xảy ra

Mặc dù các bức ảnh nhanh chóng được xác định là không có thật, nhưng vẫn có lo ngại rằng các công cụ AI Midjourney, DALL-E của OpenAI có thể bị làm dụng để tạo ra những tác phẩm nhằm tuyên truyền thông tin sai lệch.

Nhiều trang web AI khác, bao gồm cả Midjourney và Playground AI, đã đặt ra các hạn chế đối với những văn bản đưa ra có chứa nội dung khiêu dâm. Tuy nhiên, người dùng có thể "lách" các lệnh cấm này để tạo ra các hình ảnh đồi truỵ bằng cách sử dụng các cách viết khác nhau của từ, hoặc cách nói "bóng gió" khác cho nội dung khiêu dâm.

Việc tạo ra nội dung chứa thông tin sai lệch không phải là vấn đề duy nhất đối các mô hình AI xuất hình ảnh. Từ lâu đã có những lo ngại rằng các công cụ AI đánh cắp các tác phẩm hiện có để làm nguồn cho sản phẩm của mình. 

 

Bài liên quan

Bài đọc nhiều nhất

Bài mới trong ngày

Sự Cố Phụ Đề Anime "Necronomico and the Cosmic Horror Show" Sử Dụng ChatGPT Gây Xôn Xao Cộng Đồng Người Hâm Mộ

Sự Cố Phụ Đề Anime "Necronomico and the Cosmic Horror Show" Sử Dụng ChatGPT Gây Xôn Xao Cộng Đồng Người Hâm Mộ

hoanlagvnDũng Nhỏ TT

Mới đây, một sự cố đáng chú ý đã thu hút sự chú ý của cộng đồng người hâm mộ anime khi nền tảng phát hành Crunchyroll bị phát hiện sử dụng ChatGPT để làm phụ đề cho bộ anime mùa hè 2025 mang tên Necronomico and the Cosmic Horror Show. Sự việc này không chỉ gây xôn xao mà còn dẫn đến hàng loạt tranh cãi về việc sử dụng công nghệ AI trong công đoạn bản địa hóa nội dung anime.

Giải trí
Toei Animation Hé Lộ Mức Lương Trung Bình 2024: Nhân Viên Nhận Hơn 8,2 Triệu Yên Mỗi Năm

Toei Animation Hé Lộ Mức Lương Trung Bình 2024: Nhân Viên Nhận Hơn 8,2 Triệu Yên Mỗi Năm

hoanlagvnDũng Nhỏ TT

Mới đây, Toei Animation, hãng sản xuất nổi tiếng của anime One Piece và nhiều series đình đám khác, đã công bố báo cáo tài chính thường niên cho năm tài khóa kết thúc vào ngày 31 tháng 3 năm 2025. Theo đó, mức lương trung bình của nhân viên tại công ty đã có sự tăng trưởng nhẹ, đạt hơn 8,2 triệu yên, tương đương khoảng 1,5 tỷ đồng mỗi năm, tức hơn 100 triệu đồng mỗi tháng.

Giải trí
Lên đầu trang