Bị lạm dụng tạo ra những tác phẩm "gây sốc", Midjourney tạm ngưng bản miễn phí

Công cụ chuyển văn bản sang hình ảnh bằng AI buộc phải tạm dừng nhằm hạn chế những tác phẩm gây tranh cãi.

Mô hình AI tạo hình ảnh Midjourney thông báo sẽ tạm dừng các bản dùng thử miễn phí vì bị lạm dụng tạo ra những sản phẩm gây tranh cãi.

David Holz, người sáng lập Midjourney, đã viết trên máy chủ Discord của công ty vào đầu tuần này: “Do sự kết hợp giữa nhu cầu đặc biệt và lạm dụng bản dùng thử, chúng tôi tạm thời vô hiệu hóa các bản dùng thử miễn phí cho đến khi chúng tôi triển khai các cải tiến tiếp theo cho hệ thống."

Tuy nhiên, Theo Washington Post việc tạm dừng bản beta miễn phí của Midjourney nhằm hạn chế các tác phẩm giả, chứa thông tin sai lệch. 

Bị lạm dụng tạo ra những tác phẩm "gây sốc" , Midjourney tạm ngưng thử nghiệm miễn phí

Xem thêm: Loạt ảnh Donald Trump bị bắt do AI tạo tràn ngập trên Twitter

Midjourney đã trở thành công cụ AI phổ biến trong những tuần gần đây. Người dùng đã dựa vào mô hình AI này để tạo ra những sản phẩm không có thật.

Đầu tuần này, tràn ngập những bức ảnh chụp Giáo hoàng Francis khoác trên mình một chiếc áo phao cực kỳ cực kỳ sành điệu đến từ thương hiệu nổi tiếng Balenciaga và đeo một chiếc vòng cổ nạm kim cương. Tiếp đó, khi các trang tin tức chính thống đưa tin cựu Tổng thống Mỹ Donald Trump sắp bị bắt ở New York, một loạt bức ảnh cho thấy cựu tổng thống bị cảnh sát truy đuổi đã lan truyền chóng mặt. 

Bị lạm dụng tạo ra những tác phẩm "gây sốc" , Midjourney tạm ngưng thử nghiệm miễn phí

Xem thêm: CẢNH BÁO: Siêu AI bị lạm dụng để tạo ra những sự kiện chưa từng xảy ra

Mặc dù các bức ảnh nhanh chóng được xác định là không có thật, nhưng vẫn có lo ngại rằng các công cụ AI Midjourney, DALL-E của OpenAI có thể bị làm dụng để tạo ra những tác phẩm nhằm tuyên truyền thông tin sai lệch.

Nhiều trang web AI khác, bao gồm cả Midjourney và Playground AI, đã đặt ra các hạn chế đối với những văn bản đưa ra có chứa nội dung khiêu dâm. Tuy nhiên, người dùng có thể "lách" các lệnh cấm này để tạo ra các hình ảnh đồi truỵ bằng cách sử dụng các cách viết khác nhau của từ, hoặc cách nói "bóng gió" khác cho nội dung khiêu dâm.

Việc tạo ra nội dung chứa thông tin sai lệch không phải là vấn đề duy nhất đối các mô hình AI xuất hình ảnh. Từ lâu đã có những lo ngại rằng các công cụ AI đánh cắp các tác phẩm hiện có để làm nguồn cho sản phẩm của mình. 

 

Bài liên quan

Bài đọc nhiều nhất

Bài mới trong ngày

Sự cố nhận diện gây tranh cãi tại Grammy: "Nữ hoàng nhạc anime" LiSA bị tạp chí Billboard nhầm ảnh thành Lisa (BLACKPINK), hứng chịu bình luận miệt thị là "nghệ sĩ vô danh"

Sự cố nhận diện gây tranh cãi tại Grammy: "Nữ hoàng nhạc anime" LiSA bị tạp chí Billboard nhầm ảnh thành Lisa (BLACKPINK), hứng chịu bình luận miệt thị là "nghệ sĩ vô danh"

hoanlagvnDũng Nhỏ TT

Lần đầu tiên trong lịch sử danh giá của mình, Viện Hàn lâm Thu âm Mỹ (Recording Academy) đã quyết định bổ sung hạng mục mới mang tên Best Asian Pop Music Performance (Màn trình diễn nhạc pop châu Á xuất sắc nhất) tại giải thưởng Grammy. Tuy nhiên, niềm vui chưa kịp trọn vẹn thì hạng mục lịch sử này đã lập tức vướng vào một sự cố truyền thông đầy trớ trêu: nữ ca sĩ hàng đầu Nhật Bản LiSA — giọng ca bảo chứng cho hàng loạt siêu phẩm nhạc phim anime đình đám — bất ngờ bị nhầm lẫn danh tính tai hại với thành viên Lisa của nhóm nhạc K-pop BLACKPINK.

Giải trí
Lời tri ân xúc động của "cha đẻ" Naruto: Masashi Kishimoto tiết lộ "Nếu không có Ninku thì Naruto sẽ không tồn tại", hiện thực hóa giấc mơ qua anime kết hợp 4 tập "Naruto x Ninku"

Lời tri ân xúc động của "cha đẻ" Naruto: Masashi Kishimoto tiết lộ "Nếu không có Ninku thì Naruto sẽ không tồn tại", hiện thực hóa giấc mơ qua anime kết hợp 4 tập "Naruto x Ninku"

hoanlagvnDũng Nhỏ TT

Một tiết lộ đầy bất ngờ và xúc động vừa làm nức lòng hàng triệu người hâm mộ truyện tranh và hoạt hình Nhật Bản trên toàn thế giới, hé lộ cội nguồn sáng tạo thực sự đằng sau một trong những tượng đài vĩ đại nhất lịch sử manga. Mangaka lừng danh Masashi Kishimoto — người kiến tạo nên huyền thoại ninja "Naruto" — mới đây đã thẳng thắn chia sẻ rằng động lực cốt lõi thúc đẩy ông đặt bút vẽ nên hành trình của cậu bé ninja làng Lá chính là khát khao cháy bỏng được chứng kiến phần tiếp theo của bộ truyện "Ninku" do tiền bối Koji Kiriyama chấp bút.

Giải trí
Chi Tiết Cốt Truyện Phantom Blade Zero - Phần 8: Số Phận Huyền Giả Và Bí Mật Hoàn Tâm Vô Hạn

Chi Tiết Cốt Truyện Phantom Blade Zero - Phần 8: Số Phận Huyền Giả Và Bí Mật Hoàn Tâm Vô Hạn

Khoa LêLê Khoa

Sau khi khôi phục cây đàn tỳ bà của Huyền Giả, Hồn tiếp tục hành trình khám phá núi Gia Lung, nơi những tàn dư của Liên Minh Chính Đạo đang ẩn náu. Tại đây, anh không chỉ tìm ra số phận thực sự của Huyền Giả mà còn khám phá bí mật về Hoàn Tâm Vô Hạn, bảo vật đang bị nhiều thế lực tranh đoạt.

Game Offline
Lên đầu trang