OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Với trí tuệ siêu việt của Ai, có thể có thể khiến nhân loại mất quyền lực hoặc dẫn đến sự tuyệt chủng loài người.

OpenAI, công ty mẹ của ChatGPT lên kế hoạch đầu tư nghiên cứu mới nhằm tìm cách đảm bảo trí tuệ nhân tạo không nổi loạn và chống lại con người.

"Sức mạnh to lớn của siêu trí tuệ có thể… dẫn đến sự suy giảm quyền lực của nhân loại hoặc thậm chí là khiến loài người tuyệt chủng,” đồng sáng lập OpenAI, Ilya Sutskever và Jan Leike cho biết trong một thông báo. “Hiện tại, chúng tôi không có giải pháp để điều khiển hoặc kiểm soát AI có trí tuệ siêu việt và ngăn chúng nổi loạn."

OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Cả hai dự đoán AI siêu thông minh với trí tuệ hơn người có thể ra đời trong thập niên này và cần phải có những kỹ thuật tốt hơn để kiểm soát chúng. Do đó cần có những bước đột phá về quản lý và tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người.

OpenAI, được hỗ trợ bởi Microsoft, đang dành 20% sức mạnh của mình trong 4 năm tới để giải quyết vấn đề này. Ngoài ra, công ty đang thành lập một tổ chức để nghiên cứu vấn đề trên, được gọi là nhóm Superalignment.

Mục tiêu của nhóm là nghiên cứu về quản lý AI "ở cấp độ con người", sau đó mở rộng nó thông qua sức mạnh tính toán. OpenAI cho biết việc đó nghĩa là họ sẽ huấn luyện các hệ thống AI sử dụng phản hồi như con người, hỗ trợ việc đánh giá như con người và thực hiện nghiên cứu về quản lý. 

OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Những mối nguy hại tiềm tàng của AI luôn là mối quan tâm hàng đầu của các nhà nghiên cứu AI và công chúng. Vào tháng 4, một nhóm nhà lãnh đạo và chuyên gia ngành AI đã ký một lời kêu gọi tạm dừng 6 tháng trong việc phát triển các hệ thống mạnh hơn GPT-4 của OpenAI, do những nguy cơ tiềm ẩn đối với xã hội. 

Khảo sát vào tháng 5 của Reuters/ Ipsos cho thấy có hơn 2/3 người Mỹ đưa ra những lo ngại về những tác động tiêu cực mà AI mang lại và 61% tin rằng trí tuệ nhân tạo có thể đe doạ nền văn minh nhân loại. 

 

Bài đọc nhiều nhất

Bài mới trong ngày

Tình bạn tri kỷ phía sau máy quay: Kiếm sĩ Zoro ngoài đời Arata Mackenyu hé lộ mối quan hệ đặc biệt với "cha đẻ" Eiichiro Oda, từng sang tận nhà tắm nhờ khi gặp sự cố

Tình bạn tri kỷ phía sau máy quay: Kiếm sĩ Zoro ngoài đời Arata Mackenyu hé lộ mối quan hệ đặc biệt với "cha đẻ" Eiichiro Oda, từng sang tận nhà tắm nhờ khi gặp sự cố

hoanlagvnDũng Nhỏ TT

Một câu chuyện hậu trường vừa ấm áp vừa tràn ngập tiếng cười vừa làm nức lòng hàng triệu người hâm mộ thương hiệu Đảo Hải Tặc trên toàn cầu. Xuất hiện tại đại hội giao lưu văn hóa Anime Pasadena 2026 diễn ra ở bang California (Mỹ), nam tài tử Arata Mackenyu — người đảm nhận vai diễn kiếm sĩ Roronoa Zoro trong dự án phim người đóng (live-action) đình đám của Netflix — đã khiến cả khán phòng vỡ òa thích thú khi cởi mở chia sẻ về mối quan hệ thân thiết vượt ngoài sức tưởng tượng giữa anh và họa sĩ truyện tranh huyền thoại Eiichiro Oda.

Giải trí
Cú bắt tay tỷ đô định hình lại bản đồ giải trí Đông Nam Á: Đế chế Bandai Namco chính thức rót vốn sở hữu hơn 42% cổ phần tại POPS Worldwide có trụ sở tại Việt Nam

Cú bắt tay tỷ đô định hình lại bản đồ giải trí Đông Nam Á: Đế chế Bandai Namco chính thức rót vốn sở hữu hơn 42% cổ phần tại POPS Worldwide có trụ sở tại Việt Nam

hoanlagvnDũng Nhỏ TT

Một thương vụ đầu tư mang tính bước ngoặt đối với ngành công nghiệp nội dung số và giải trí tại khu vực Đông Nam Á vừa chính thức được xác lập, hứa hẹn mở ra một kỷ nguyên bùng nổ mới cho cộng đồng người hâm mộ văn hóa đại chúng Nhật Bản. Tập đoàn giải trí đa phương tiện khổng lồ đến từ xứ sở hoa anh đào Bandai Namco đã chính thức hoàn tất thỏa thuận rót vốn chiến lược để sở hữu hơn 42% cổ phần tại POPS Worldwide — tập đoàn công nghệ giải trí hàng đầu có trụ sở đặt tại Việt Nam.

Giải trí
Lên đầu trang