OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Với trí tuệ siêu việt của Ai, có thể có thể khiến nhân loại mất quyền lực hoặc dẫn đến sự tuyệt chủng loài người.

OpenAI, công ty mẹ của ChatGPT lên kế hoạch đầu tư nghiên cứu mới nhằm tìm cách đảm bảo trí tuệ nhân tạo không nổi loạn và chống lại con người.

"Sức mạnh to lớn của siêu trí tuệ có thể… dẫn đến sự suy giảm quyền lực của nhân loại hoặc thậm chí là khiến loài người tuyệt chủng,” đồng sáng lập OpenAI, Ilya Sutskever và Jan Leike cho biết trong một thông báo. “Hiện tại, chúng tôi không có giải pháp để điều khiển hoặc kiểm soát AI có trí tuệ siêu việt và ngăn chúng nổi loạn."

OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Cả hai dự đoán AI siêu thông minh với trí tuệ hơn người có thể ra đời trong thập niên này và cần phải có những kỹ thuật tốt hơn để kiểm soát chúng. Do đó cần có những bước đột phá về quản lý và tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người.

OpenAI, được hỗ trợ bởi Microsoft, đang dành 20% sức mạnh của mình trong 4 năm tới để giải quyết vấn đề này. Ngoài ra, công ty đang thành lập một tổ chức để nghiên cứu vấn đề trên, được gọi là nhóm Superalignment.

Mục tiêu của nhóm là nghiên cứu về quản lý AI "ở cấp độ con người", sau đó mở rộng nó thông qua sức mạnh tính toán. OpenAI cho biết việc đó nghĩa là họ sẽ huấn luyện các hệ thống AI sử dụng phản hồi như con người, hỗ trợ việc đánh giá như con người và thực hiện nghiên cứu về quản lý. 

OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Những mối nguy hại tiềm tàng của AI luôn là mối quan tâm hàng đầu của các nhà nghiên cứu AI và công chúng. Vào tháng 4, một nhóm nhà lãnh đạo và chuyên gia ngành AI đã ký một lời kêu gọi tạm dừng 6 tháng trong việc phát triển các hệ thống mạnh hơn GPT-4 của OpenAI, do những nguy cơ tiềm ẩn đối với xã hội. 

Khảo sát vào tháng 5 của Reuters/ Ipsos cho thấy có hơn 2/3 người Mỹ đưa ra những lo ngại về những tác động tiêu cực mà AI mang lại và 61% tin rằng trí tuệ nhân tạo có thể đe doạ nền văn minh nhân loại. 

 

Bài đọc nhiều nhất

Bài mới trong ngày

Re:Zero mùa 4 bất ngờ bị lộ lịch phát sóng, Crunchyroll phải lên tiếng đính chính

Re:Zero mùa 4 bất ngờ bị lộ lịch phát sóng, Crunchyroll phải lên tiếng đính chính

hoanlagvnDũng Nhỏ TT

Thông tin về mùa thứ 4 của anime Re:Zero – Starting Life in Another World bất ngờ bị tiết lộ bởi một trang tin Pháp khiến người hâm mộ xôn xao. Tuy nhiên, chỉ vài giờ sau đó, Crunchyroll đã chính thức lên tiếng đính chính rằng đây là lỗi kiểm duyệt, chứ không phải thông tin phát hành chính thức từ nhà đài.

Giải trí
Anime: Top 5 những chú mèo cực nổi tiếng và gắn liền với tuổi thơ của nhiều người

Anime: Top 5 những chú mèo cực nổi tiếng và gắn liền với tuổi thơ của nhiều người

hoanlagvnDũng Nhỏ TT

Trong các bộ anime hay manga thì hình ảnh các chú mèo được xuất hiện vô cùng thường xuyên. Lúc thì chúng chỉ đóng vai trò như những con vật đi dạo xuất hiện thoáng qua hoặc có khi lại trở thành 1 nhân vật quan trọng không thể thiếu trong bộ anime đó. Các bé mèo có thể nói chuyện và trở thành thầy giáo, người cố vấn hoặc 1 chiến binh vô cùng mạnh mẽ chiến đấu cùng nhân vật chính.

Giải trí
Lên đầu trang