Xuất hiện công cụ có thể phát hiện những văn bản được tạo nên từ ChatGPT cực chính xác

Trong những thời gian gần đây, việc sử dụng những mô hình ngôn ngữ lớn (LLM) đang ngày một tăng dần trong cộng đồng những người yêu thích công nghệ, mà nguyên do chính đó là do chúng có thể hỗ trợ người dùng một cách vô cùng tốt. Một trong những cái tên nổi bật nhất của loại hình này đó chính là ChatGPT.

Xem thêm: Hacker Nga sử dụng ChatGPT để tạo ra các phần mềm độc hại

ChatGPT đã trở thành một chatbox nhận được sự yêu thích nhiều bậc nhất đối với nhiều lĩnh vực khác nhau, từ những người lập trình viên, nhân viên văn phòng hay các nhà môi giới đều sử dụng công cụ AI này mỗi ngày. Nhờ vào khả năng tổng hợp thông tin từ nhiều nguồn trên cõi Internet một cách vô cùng nhanh chóng, công cụ này sẽ tạo nên những gợi ý hoặc tóm tắt những việc cần làm nhanh hơn bất kì người đồng nghiệp hay trợ lý cá nhân nào.

Điều đáng nói ở đây là công cụ này tốt đến mức nó có thể tạo ra những bài báo, bài nghiên cứu với đầy đủ những thông tin rõ ràng và thuyêt phục nhằm sử dụng trong lĩnh vực giáo dục và đào tạo. Tuy nhiên nó cũng tạo ra một vấn đề vô cùng nhức nhối, đó là làm sao để có thể phát hiện được những văn bản được tạo ra từ AI, từ đó tránh những hành vi gian lận, lừa đảo.

Và mới đây, một nhóm nghiên cứu của đại học Stanford (Mỹ) đã đề xuất một phát minh mới mang tên là DetectGPT. Với tên gọi của mình thì người dùng cũng có thể hiếu được sự ra đời của nó là với mục đích trở thành một công cụ phát hiện những văn bản được tạo ra bởi ChatGPT. Phương pháp này được nhóm nghiên cứu tiến hành thông qua việc nghiên cứu những văn bản do LLM tạo ra, bởi vì chúng "thường chỉ xoay quanh những vùng thông tin cụ thể của vùng cong âm trong hàm xác suất về nhật ký của mô hình”.

Xem thêm: Baidu lên kế hoạch phát triển công cụ ChatGPT "phiên bản" Trung Quốc vào tháng 3 tới

Thông qua quá trình tìm hiểu ở trên, nhóm nghiên cứu đã có thể phát triển một công cụ để đánh giá xem liệu một văn bản có phải được tạo ra bởi máy tính mà không cần phải thu thập một lượng lớn dữ liệu để so sánh văn bản.

Với phương pháp này, DetectGPT có khả năng phát hiện một văn bản có phải do AI viết hay không mà không cần biết loại AI nào đã được sử dụng để tạo nên văn bản. Công cụ này cũng đã được thử nghiệm trên một loạt những văn bản được tạo ra bởi AI và kết quả cho thấy rằng nó vượt trội hơn rất nhiều so với những công cụ khác trong việc phát hiện ra những văn bản không được sản xuất bởi con người.

Điều đáng chú ý hơn là công cụ này không yêu cần bất kì dữ liệu bổ sung hoặc quá trình đào tạo  nào cả, do đó DetectGPT quả thực là một phương pháp đầy hứa hẹn để mang lại những tác động đáng kể trong nhiều lĩnh vực khác nhau, nhờ vậy mà mang lại lợi ích chung cho tất cả mọi người.