DEFCON 31, nơi quy tụ các hacker hàng đầu thế giới phát hiện lỗi các thuật toán AI

Hội nghị hacker lớn nhất thế giới, DEFCON 31 đã được lên lịch vào 10-13 tháng 8 tại Las Vegas. Hội nghị sẽ được đặt tên là ​​​​AI Village (AIV).

Ban tổ chức DEFCON kêu gọi hàng nghìn chuyên gia bảo mật, sinh viên và hacker mũ trắng tìm lỗi trong các mô hình ngôn ngữ lớn (LLM) được phát triển bởi Anthropic, Google, Hugging Face, Nvidia, OpenAI và Stability. Microsoft cũng sẽ hỗ trợ AI Village, trong khi những người thử nghiệm và trình hướng dẫn viết code sẽ sử dụng nền tảng đánh giá do Scale AI phát triển.

Những người tham gia sẽ sử dụng laptop do DEFCON cung cấp, thiết bị cũng sẽ quản lý quyền truy cập theo thời gian (và có thể là không giới hạn) vào nhiều LLM. Hệ thống tính điểm sẽ được tích hợp trên thiết bị nhằm giúp đưa ra những vấn đề hơn trong thử nghiệm. Bất kỳ thí sinh tham gia đạt được số điểm cao nhất sẽ nhận được GPU Nvidia "cao cấp".

Đại diện AI Village cho biết, LLM trở nên phổ biến chưa từng có về tính sáng tạo giúp con người đưa ra ý tưởng nhanh hơn, hạn chế rào cản tham gia vào lĩnh vực sáng tạo và cho phép tạo ra "các loại nội dung sáng tạo mới". Tuy nhiên, với những cải tiến không ngừng, các vấn đề bảo mật dần trở nên nguy hiểm hơn, điều mà chúng ta chỉ mới bắt đầu hiểu khi các công nghệ LLM đang được tự động hóa trên quy mô lớn.

AI trở thành từ khoá "hot" nhất trong những năm gần đây, khi mà hàng triệu người dùng đã bắt đầu thử nghiệm những công cụ tương tự với các lĩnh vực khác nhau, từ chẩn đoán y tế, viết kịch bản, tạo bản tóm tắt pháp lý hay phần mềm gỡ lỗi. Điều này dẫn đến mối lo ngại ngày càng tăng về cách công nghệ này có thể dẫn đến vi phạm quyền riêng tư, đưa ra quyết định sai lệch, lừa đảo và thông tin sai lệch.

Mới đây, Nhà Trắng đã "triệu tập" các nhà điều hành Big Tech để thảo luận về các rủi ro và biện pháp bảo vệ trước công nghệ AI. Trước đó, chính quyền phủ Mỹ cũng đã công bố khoản đầu tư 140 triệu USD từ Quỹ Khoa học Quốc gia để thành lập 7 viện nghiên cứu AI mới và cho biết, Văn phòng Quản lý và Ngân sách của Nhà Trắng sẽ đưa ra hướng dẫn về việc sử dụng AI của chính phủ liên bang.