Bị lạm dụng tạo ra những tác phẩm "gây sốc", Midjourney tạm ngưng bản miễn phí

Công cụ chuyển văn bản sang hình ảnh bằng AI buộc phải tạm dừng nhằm hạn chế những tác phẩm gây tranh cãi.

Mô hình AI tạo hình ảnh Midjourney thông báo sẽ tạm dừng các bản dùng thử miễn phí vì bị lạm dụng tạo ra những sản phẩm gây tranh cãi.

David Holz, người sáng lập Midjourney, đã viết trên máy chủ Discord của công ty vào đầu tuần này: “Do sự kết hợp giữa nhu cầu đặc biệt và lạm dụng bản dùng thử, chúng tôi tạm thời vô hiệu hóa các bản dùng thử miễn phí cho đến khi chúng tôi triển khai các cải tiến tiếp theo cho hệ thống."

Tuy nhiên, Theo Washington Post việc tạm dừng bản beta miễn phí của Midjourney nhằm hạn chế các tác phẩm giả, chứa thông tin sai lệch. 

Bị lạm dụng tạo ra những tác phẩm "gây sốc" , Midjourney tạm ngưng thử nghiệm miễn phí

Xem thêm: Loạt ảnh Donald Trump bị bắt do AI tạo tràn ngập trên Twitter

Midjourney đã trở thành công cụ AI phổ biến trong những tuần gần đây. Người dùng đã dựa vào mô hình AI này để tạo ra những sản phẩm không có thật.

Đầu tuần này, tràn ngập những bức ảnh chụp Giáo hoàng Francis khoác trên mình một chiếc áo phao cực kỳ cực kỳ sành điệu đến từ thương hiệu nổi tiếng Balenciaga và đeo một chiếc vòng cổ nạm kim cương. Tiếp đó, khi các trang tin tức chính thống đưa tin cựu Tổng thống Mỹ Donald Trump sắp bị bắt ở New York, một loạt bức ảnh cho thấy cựu tổng thống bị cảnh sát truy đuổi đã lan truyền chóng mặt. 

Bị lạm dụng tạo ra những tác phẩm "gây sốc" , Midjourney tạm ngưng thử nghiệm miễn phí

Xem thêm: CẢNH BÁO: Siêu AI bị lạm dụng để tạo ra những sự kiện chưa từng xảy ra

Mặc dù các bức ảnh nhanh chóng được xác định là không có thật, nhưng vẫn có lo ngại rằng các công cụ AI Midjourney, DALL-E của OpenAI có thể bị làm dụng để tạo ra những tác phẩm nhằm tuyên truyền thông tin sai lệch.

Nhiều trang web AI khác, bao gồm cả Midjourney và Playground AI, đã đặt ra các hạn chế đối với những văn bản đưa ra có chứa nội dung khiêu dâm. Tuy nhiên, người dùng có thể "lách" các lệnh cấm này để tạo ra các hình ảnh đồi truỵ bằng cách sử dụng các cách viết khác nhau của từ, hoặc cách nói "bóng gió" khác cho nội dung khiêu dâm.

Việc tạo ra nội dung chứa thông tin sai lệch không phải là vấn đề duy nhất đối các mô hình AI xuất hình ảnh. Từ lâu đã có những lo ngại rằng các công cụ AI đánh cắp các tác phẩm hiện có để làm nguồn cho sản phẩm của mình. 

 

Bài liên quan

Bài đọc nhiều nhất

Bài mới trong ngày

Light novel isekai “Hậu vệ mạnh nhất thế giới” chính thức được chuyển thể thành anime

Light novel isekai “Hậu vệ mạnh nhất thế giới” chính thức được chuyển thể thành anime

hoanlagvnDũng Nhỏ TT

Trong khi làng anime đang sôi động với nhiều dự án chuyển thể đình đám, Kadokawa tiếp tục khiến cộng đồng fan "đứng ngồi không yên" khi xác nhận sẽ đưa bộ light novel "The World's Strongest Rearguard: Labyrinth Country's Novice Seeker" của tác giả Tōwa lên màn ảnh nhỏ. Tác phẩm nổi bật nhờ khai thác một hướng đi khác biệt trong thể loại isekai – nơi nhân vật chính không còn là "main bá đạo", mà là một hậu vệ chiến thuật đầy thông minh.

Giải trí
Cosplayer Bị "Soi" Vì Cosplay Shinobu Phiên Bản Gợi Cảm: Chiêu Câu View Hay Quyền Sáng Tạo Cá Nhân?

Cosplayer Bị "Soi" Vì Cosplay Shinobu Phiên Bản Gợi Cảm: Chiêu Câu View Hay Quyền Sáng Tạo Cá Nhân?

hoanlagvnDũng Nhỏ TT

Trong những ngày gần đây, cộng đồng anime Việt Nam trở nên xôn xao khi bộ ảnh cosplay nhân vật Shinobu Kocho của nữ cosplayer CocoPie theo phong cách gợi cảm bất ngờ lan truyền rộng rãi. Vốn được biết đến là một nhân vật thanh lịch và kín đáo trong nguyên tác Kimetsu no Yaiba, việc thể hiện Shinobu với hình ảnh gợi cảm đã tạo nên nhiều luồng ý kiến trái chiều từ người hâm mộ.

Giải trí
Lên đầu trang