Nghiên cứu mới đây của tổ chức Epoch AI đã chỉ ra một lỗ hổng nghiêm trọng trong các công cụ phát hiện văn bản do AI tạo ra hiện nay. Khi các mô hình ngôn ngữ lớn (LLM) được thiết lập để bắt chước phong cách viết (văn phong) riêng biệt của một tác giả cụ thể, các công cụ kiểm tra hàng đầu thị trường đều gặp rất nhiều khó khăn trong việc nhận diện chính xác. Điều này khiến cho một lượng lớn nội dung do máy biên soạn có thể dễ dàng vượt qua các bộ lọc tự động mà không bị phát hiện.
Diễn biến chi tiết
Trong thử nghiệm thực tế của mình, tổ chức nghiên cứu Epoch AI đã tiến hành đánh giá hiệu quả hoạt động của ba công cụ phát hiện văn bản AI phổ biến nhất hiện nay bao gồm Pangram, GPTZero và Originality.ai. Các nhà nghiên cứu đã thử nghiệm bằng cách đưa vào các đoạn văn bản do AI tạo ra nhưng đã được tinh chỉnh để sao chép chính xác cấu trúc và văn phong đặc trưng của con người. Kết quả thực nghiệm cho thấy, trung bình có tới 18% số phân đoạn văn bản do trí tuệ nhân tạo tạo ra đã vượt qua các bộ lọc này một cách trơn tru. Đáng chú ý hơn cả, đối với các tài liệu nghiên cứu và bài viết học thuật, tỷ lệ bỏ sót này đã tăng vọt một cách bất thường, cho thấy điểm yếu cốt lõi của các giải pháp bảo mật hiện hành.
Phân tích kỹ thuật & Công nghệ
Về mặt kỹ thuật, các công cụ phát hiện như GPTZero hay Originality.ai thường hoạt động bằng cách phân tích hai chỉ số cốt lõi: độ bấp bênh (perplexity - đo lường mức độ dễ đoán của từ ngữ) và độ biến thiên (burstiness - đo lường sự thay đổi trong cấu trúc câu). Tuy nhiên, khi một mô hình ngôn ngữ lớn học cách bắt chước phong cách viết của một tác giả cụ thể, nó sẽ mô phỏng lại cả những thói quen viết câu phức tạp và tính ngẫu nhiên của con người. Điều này làm giảm đáng kể tính dễ đoán của văn bản, trực tiếp vô hiệu hóa các thuật toán phân tích thống kê cơ bản. Đặc biệt, trong thể loại viết khoa học (scientific writing) - vốn có cấu trúc chặt chẽ và hệ thống thuật ngữ chuyên ngành cố định, tỷ lệ bỏ sót của các công cụ phát hiện đã leo thang lên mức kỷ lục là 48%.
Ý kiến chuyên gia & Nhận định
Theo báo cáo từ Epoch AI, việc các công cụ phát hiện đạt tỷ lệ thất bại gần một nửa (48%) trong lĩnh vực viết khoa học là một thực trạng vô cùng đáng ngại. Đây vốn dĩ là phân khúc mà các phần mềm kiểm tra văn bản AI được kỳ vọng và ứng dụng nhiều nhất trong đời thực để bảo vệ tính liêm chính học thuật và ngăn chặn gian lận. Các chuyên gia độc lập nhận định rằng việc các mô hình AI ngày càng giỏi trong việc "hóa thân" vào phong cách cá nhân sẽ khiến ranh giới giữa nội dung do người viết và máy viết trở nên cực kỳ mờ nhạt. Điều này đặt ra thách thức chưa từng có cho các đơn vị xuất bản, các trường đại học và các tổ chức kiểm duyệt trên toàn cầu.
Tác động & Tương lai
Sự bất lực của các giải pháp phát hiện văn bản AI hiện tại đặt ra dấu hỏi lớn về tính khả thi của các hệ thống kiểm duyệt tự động trong tương lai. Đối với độc giả và giới nghiên cứu công nghệ tại Việt Nam, bài học rút ra là không thể phụ thuộc hoàn toàn vào các công cụ bên thứ ba để xác thực tính nguyên bản của tài liệu. Trong tương lai gần, các nhà phát triển công cụ phát hiện sẽ buộc phải thay đổi hoàn toàn cách tiếp cận. Thay vì phân tích bề nổi của văn phong, họ cần chuyển sang các phương pháp xác thực chữ ký số hoặc yêu cầu đóng dấu chìm (watermarking) ngay từ tầng phát triển của các công cụ tạo văn bản AI gốc.