Xuất hiện công cụ khắc tinh của ChatGPT

Trước những lo ngại liên quan đến hoạt động lợi dụng ChatGPT, các nhà nghiên cứu của Đại học Stanford đã phát triển một công cụ có tên là DetectGPT.

ChatGPT là chatbot trí tuệ nhân tạo (AI) do OpenAI phát triển. Công cụ này đã trở nên phổ biến, nơi mọi người sử dụng nó cho mọi việc, từ trả lời các câu hỏi ngẫu nhiên đến dùng chatbot để hỗ trợ công việc sáng tạo nội dung.

Vấn đề cuối cùng rất đáng lo ngại, vì nó có thể giúp nhiều người như sinh viên trở nên lười biếng trong việc hoàn thành các bài viết của mình. Đó là lý do tại sao các trường công lập tại Thành phố New York đã cấm học sinh sử dụng ChatGPT.

Trong khi nhà sản xuất ChatGPT là OpenAI xác nhận rằng họ đang nghiên cứu một công cụ giúp phát hiện nội dung do ChatGPT tạo ra, DetectGPT thực sự là cứu cánh lúc này. Công cụ này sẽ giúp giáo viên xác định nội dung đã được tạo bằng ChatGPT hoặc các mô hình ngôn ngữ lớn (LLM) tương tự khác.

Về cơ bản, DetectGPT là một công cụ được thiết kế để phát hiện nội dung do ChatGPT và các công cụ tương tự tạo ra. Theo các nhà nghiên cứu, văn bản được tạo bằng LLM như ChatGPT “chiếm các vùng cong âm của hàm xác suất nhật ký của mô hình”. Dựa vào nhược điểm này, các nhà nghiên cứu đã xác định một tiêu chí mới để đánh giá xem một đoạn văn có được tạo bằng LLM hay không. DetectGPT sẽ sử dụng xác suất nhật ký để tìm hiểu xem đoạn văn nhất định có được tạo bằng LLM hay không. Theo các nhà nghiên cứu, DetectGPT có độ chính xác là 95%.

Xuất hiện công cụ khắc tinh của ChatGPT - 2

Được biết, nhu cầu về DetectGPT và các công cụ tương tự khác đang ở mức cao sau khi chứng kiến mối lo ngại của các tổ chức giáo dục trên toàn thế giới về việc học sinh sử dụng các công cụ này để hoàn thành bài báo và bài tập về nhà. Các sinh viên đã được cảnh báo rằng việc kiểm tra ngẫu nhiên sẽ được thực hiện để phát hiện nội dung được tạo ra có phải do ChatGPT hay không, và những sinh viên bị phát hiện sử dụng các công cụ đó sẽ bị phạt nặng. Các trường học và cao đẳng khác nhau trên thế giới cũng đã bắt đầu hạn chế nội dung được tạo bằng các công cụ như vậy.

Nhóm đằng sau DetectGPT chưa tiết lộ nhiều thông tin về công cụ này và hiện tại nó vẫn chưa được cung cấp công khai.

Nguồn: [Link nguồn]Nguồn: [Link nguồn]