OpenAI tắt trình phân loại AI do độ chính xác thấp

Người khổng lồ trí tuệ nhân tạo (AI) OpenAI đã rút chốt phần mềm phát hiện AI của mình với lý do tỷ lệ chính xác thấp.

Trình phân loại AI do OpenAI phát triển được ra mắt lần đầu vào ngày 31/1/2023 và nhằm mục đích hỗ trợ người dùng, chẳng hạn như giáo viên, trong việc phân biệt văn bản do con người viết với văn bản do AI tạo ra.

Tuy nhiên, theo thông báo ban đầu trên blog, OpenAI cho biết: "Kể từ ngày 20/7/2023, bộ phân loại AI không còn khả dụng do tỷ lệ chính xác thấp".

Liên kết đến công cụ không còn hoạt động, trong khi ghi chú chỉ đưa ra lý do đơn giản về lý do tại sao công cụ bị tắt. Tuy nhiên, công ty giải thích rằng họ đang xem xét các cách thức mới, hiệu quả hơn để xác định nội dung do AI tạo ra.

"Chúng tôi đang đang nghiên cứu các kỹ thuật xuất xứ hiệu quả hơn cho văn bản, đồng thời cam kết phát triển và triển khai các cơ chế cho phép người dùng hiểu liệu nội dung âm thanh hoặc hình ảnh có phải do AI tạo ra hay không", OpenAI cho biết.

Ngay từ đầu, OpenAI đã nói rõ, công cụ phát hiện dễ bị lỗi và không thể được coi là “hoàn toàn đáng tin cậy”.

Công ty cho biết những hạn chế của công cụ phát hiện AI của họ bao gồm: "rất không chính xác" khi xác minh văn bản có ít hơn 1.000 ký tự và có thể "tự tin" gắn nhãn văn bản do con người viết hay là do AI tạo ra.

AI Classifier là sản phẩm mới nhất của OpenAI được theo dõi chặt chẽ. Vào ngày 18/7, các nhà nghiên cứu từ Stanford và UC Berkeley đã công bố một nghiên cứu tiết lộ rằng sản phẩm chủ lực của OpenAI là ChatGPT đang trở nên tồi tệ hơn đáng kể theo thời gian.

Các nhà nghiên cứu nhận thấy, trong vài tháng qua, khả năng xác định chính xác các số nguyên tố của ChatGPT-4 đã giảm mạnh từ 97,6% xuống chỉ còn 2,4%. Ngoài ra, cả ChatGPT-3.5 và ChatGPT-4 đều chứng kiến ​​sự sụt giảm đáng kể về khả năng tạo các dòng mã mới./.