Sinh viên đại học tự tạo ứng dụng phát hiện ChatGPT "viết hộ" luận văn trong thi cữ, một vấn nạn nền giáo dục

Các giáo viên toàn cầu đang gióng lên hồi chuông cảnh báo về việc sinh viên sử dụng các chatbot tiên tiến được hỗ trợ bởi trí tuệ nhân tạo để hoàn thành các bài luận. Để phát hiện những bài viết được "nhúng tay" bởi chatbot, các giáo viên cần phải kiểm tra nội dung cũng như ngữ pháp bằng mắt thường. Tuy nhiên, mới đây một sinh viên khác lại đang tạo ra công cụ để ngăn chặn mối nguy hại của nền giáo dục này. 

Edward Tian, ​​một sinh viên năm cuối khoa học máy tính tại Princeton, đã dành kỳ nghỉ Giáng sinh de phát triển một ứng dụng có tên GPTZero giúp phát hiện các văn bản được viết bằng ChatGPT - một chatbot AI sử dụng trí tuệ nhân tạo do tổ chức OpenAI nghiên cứu và phát triển. Nó có thể trò chuyện và trao đổi với bạn như một con người, với phạm vi trao đổi không giới hạn.

Tian cho biết nhiều giáo viên đã liên hệ với anh và cho biết ứng dụng mang lại nhiều tích cực và họ muốn thử nghiệm, sau khi GPTZero được phát hành vào ngày 2 tháng 1

Trong vòng một tuần kể từ khi ra mắt đã có hơn 30.000 người đã dùng thử GPTZero. Thậm chí ứng dụng bị crash vì quá đông người truy cập. Sau đó, Streamlit, nền tảng miễn phí lưu trữ GPTZero, kể từ đó đã tham gia hỗ trợ Tian có thêm bộ nhớ và tài nguyên để xử lý lưu lượng truy cập web.

Cách thức hoạt động GPTZero

Để xác định một đoạn văn có phải do bot viết hay không, GPTZero sử dụng hai dấu hiệu "sự rối rắm" và "sự bùng nổ" trong bài viết.

Sự rối rắm, đo độ phức tạp của văn bản. Nếu GPTZero bối rối trước văn bản, thì nó có độ phức tạp cao và nhiều khả năng bài viết được trình bày bởi con người. 

Tuy nhiên, nếu văn bản đã trở nên quá quen thuộc với bot (bởi vì ứng dụng được đào tạo trên dữ liệu đó) thì văn bản đó sẽ có độ phức tạp thấp và nằm ở dấu hiệu "sự bùng nổ". Khả năng cao bài viết là do AI tạo ra. 

Trong video trình bày của mình, Tian đã so sánh phân tích của ứng dụng về một bài viết trên tờ The New Yorker và một bài đăng trên LinkedIn do ChatGPT viết. Nó đã phân biệt thành công bài viết của con người với AI.

Tuy nhiên, Tian thừa nhận rằng bot của anh ấy vẫn chưa hoàn chỉnh, như một số người dùng đã báo cáo khi đưa nó vào thử nghiệm. Hiện GPTZero vẫn đang trong quá trình thử nghiệm và cải thiện độ chính xác của mô hình.

Cuộc chiến chống AI trong nền giáo dục

Mối lo ngại về đạo văn đã tăng lên kể từ khi OpenAI ra mắt ChatGPT vào ngày 30 tháng 11 năm 2022. Hơn một triệu người đã sử dụng nó trong vòng năm ngày sau khi ra mắt. Phần mềm hỗ trợ AI có thể viết các bài luận cơ bản và bắt chước phong cách của các nhà văn đã thành danh. 

Sinh viên năm cuối đại học này không hề cô đơn trong cuộc đua nhằm ngăn chặn nạn đạo văn và giả mạo AI. OpenAI, nhà phát triển ChatGPT, cũng đã ký một cam kết sẽ ngăn chặn nạn đạo văn bằng AI và các mục đích sử dụng bất chính khác.

Tháng trước, Scott Aaronson, một nhà nghiên cứu hiện đang tập trung vào an toàn AI tại OpenAI, tiết lộ rằng công ty đang nghiên cứu cách "watermark" văn bản do GPT tạo bằng "tín hiệu bí mật không đáng chú ý" để xác định nguồn gốc của nó.

Cộng đồng AI mã nguồn mở Hugging Face đã đưa ra một công cụ để phát hiện văn bản có được tạo ra bởi GPT-2 hay không, một phiên bản trước đó của mô hình AI được sử dụng để tạo ChatGPT. Một giáo sư triết học ở Nam Carolina tình cờ biết về công cụ này cho biết ông đã sử dụng nó để bắt một sinh viên nộp bài viết do AI viết.

Bộ giáo dục thành phố New York cho biết hôm thứ Năm rằng họ chặn quyền truy cập vào ChatGPT trên các mạng và thiết bị của trường do lo ngại về "tác động tiêu cực của nó đối với nền giáo dục và những lo ngại về tính an toàn và chính xác của nội dung".