Các agent tìm kiếm AI hiện nay thường rơi vào tình trạng 'thiên kiến xác nhận', khi chúng chủ yếu tìm kiếm các nguồn tin củng cố cho giả thuyết ban đầu thay vì khách quan phân tích dữ liệu mới từ internet.
Diễn biến
Nghiên cứu chỉ ra rằng các hệ thống agent được thiết kế để tìm kiếm thông tin thường có xu hướng tối ưu hóa tốc độ bằng cách dựa vào kiến thức trong tham số của mô hình (parametric knowledge). Khi được giao nhiệm vụ tra cứu web, chúng thường chọn lọc các kết quả tìm kiếm khớp với dự đoán có sẵn, dẫn đến việc bỏ qua các thông tin trái chiều hoặc cập nhật hơn.
Vì sao đáng chú ý
Đối với người dùng và doanh nghiệp tại Việt Nam đang dần phụ thuộc vào AI để tra cứu thông tin chuyên môn, đây là lời cảnh báo về độ tin cậy. Việc AI không thực sự 'nghiên cứu' mà chỉ 'xác nhận' có thể dẫn đến việc lan truyền thông tin sai lệch hoặc phiến diện. Người dùng cần kiểm chứng chéo với các nguồn tin truyền thống khi xử lý các chủ đề phức tạp hoặc nhạy cảm.