Mạng xã hội Reddit vừa công bố việc áp dụng các mô hình ngôn ngữ lớn (LLM) nhằm chống lại làn sóng thư rác (spam) và các tài khoản bot tự động. Đây được xem là một động thái đầy nghịch lý khi nền tảng này phải dùng chính công nghệ AI để giải quyết những hệ lụy do AI tạo ra. Theo công bố từ Reddit, hệ thống mới giúp ngăn chặn hàng chục triệu lượt xem nội dung rác mỗi ngày, bảo vệ trải nghiệm của người dùng thực tế trên nền tảng.
Diễn biến chi tiết
Theo báo cáo từ Reddit, làn sóng nội dung rác được tạo ra bởi các công cụ AI thế hệ mới đang bùng nổ mạnh mẽ, khiến các bộ lọc truyền thống dần mất đi tác dụng. Để đối phó, mạng xã hội này đã phát triển và nâng cấp các công cụ kiểm duyệt nội dung dựa trên LLM. Reddit cho biết hệ thống hiện tại giúp chặn khoảng 23 triệu lượt xem spam và phát hiện hơn 25.000 bài viết, bình luận rác mới mỗi ngày. Nhờ những cải tiến này, tỷ lệ tiếp cận nội dung rác của người dùng đã giảm 20% trong giai đoạn từ tháng 1 đến tháng 3 so với ba tháng trước đó.
Phân tích kỹ thuật & Công nghệ
Các hệ thống lọc spam cũ thường chỉ dựa trên các từ khóa cố định hoặc tần suất đăng bài của tài khoản. Trong khi đó, các LLM thế mới được Reddit sử dụng có khả năng phân tích ngữ cảnh sâu hơn. Đại diện Reddit cho biết họ tận dụng LLM để phát hiện các mô hình hành vi giả mạo và các chiến dịch tạo nhiệt độ ảo (artificial hype) cực kỳ tinh vi mà các hệ thống cũ thường bỏ sót. Công nghệ này phân tích cấu trúc câu từ, độ tương đồng về mặt ngữ nghĩa giữa các bình luận để tìm ra các mạng lưới bot đang cố gắng thao túng thảo luận.
Ý kiến chuyên gia & Nhận định
Quyết định 'lấy độc trị độc' của Reddit nhận được nhiều sự quan tâm từ giới công nghệ. Theo TechCrunch, dù các công cụ tự động mang lại hiệu quả cao, giới chuyên gia kiểm duyệt nội dung vẫn liên tục cảnh báo rằng việc kiểm duyệt bằng AI phải luôn được kết hợp chặt chẽ với đội ngũ kiểm duyệt viên là con người để đạt kết quả tối ưu nhất và tránh các trường hợp khóa nhầm tài khoản của người dùng thật.
Tác động & Tương lai
Việc Reddit ứng dụng AI thành công mở ra một hướng đi mới cho các mạng xã hội khác như YouTube, Meta hay TikTok trong cuộc chiến chống tin giả và rác thông tin. Khả năng phát hiện nhanh nội dung AI không chỉ giúp dọn dẹp spam mà còn hỗ trợ lọc bỏ các ngôn từ kích động thù hận nhanh chóng hơn. Đối với cộng đồng người dùng Việt Nam, những thay đổi này hứa hẹn sẽ mang lại môi trường thảo luận trực tuyến trong sạch và đáng tin cậy hơn trong kỷ nguyên AI.