Bỏ qua đến nội dung chính
Về trang chủ
AI 2 phút đọc

Nghiên cứu mới chỉ ra rủi ro khi dùng LLM suy luận quan hệ nhân quả

Nghiên cứu trên arXiv:2611.14736 cho thấy dùng LLM định hướng quan hệ nhân quả đối mặt rủi ro lớn khi đồ thị tham chiếu chỉ chứa DAG thực tế ở 3 trên 80 tác vụ.

Tier 2 · nguồn 95% độ tin cậy Đã được duyệt
Nguồn gốc arxiv.org

Nghiên cứu mã số arXiv:2611.14736 công bố ngày 14/11/2026 cho thấy việc đưa các thông tin ngữ nghĩa từ mô hình ngôn ngữ lớn (LLM) vào bài toán khám phá quan hệ nhân quả quan sát được (observational causal discovery) vẫn tiềm ẩn nhiều lỗ hổng lớn về độ tin cậy.

Trong các bài toán thống kê thực nghiệm, dữ liệu quan sát thường không đủ để xác định chiều nhân quả hoặc dẫn đến các cạnh không ổn định trong đồ thị mẫu hữu hạn. Việc dùng LLM để bổ sung tiên kiến ngữ nghĩa giúp định hướng cạnh tốt hơn so với việc gieo xúc xắc ngẫu nhiên. Tuy nhiên, nếu mô hình đưa ra đề xuất sai, toàn bộ đồ thị nhân quả đúng có thể bị loại bỏ, làm vô hiệu hóa các bước suy luận tiếp theo.

Nhóm nghiên cứu đã phân tách quy trình này thành ba quyết định độc lập: phân bổ lượt truy vấn ngữ nghĩa vào đâu, chấp nhận đề xuất nào, và giữ lại đồ thị có hướng không chu trình (DAG) nào. Khi đánh giá thực nghiệm trên các mạng đồ thị chuẩn, nhóm phát hiện việc tập trung truy vấn vào các cạnh không ổn định không mang lại lợi thế rõ ràng so với phân bổ ngẫu nhiên có kiểm soát.

Đáng chú ý, chứng chỉ chấp nhận được thử nghiệm không thể hỗ trợ việc tiếp nhận có ý nghĩa với các tác vụ hiệu chuẩn hiện có. Đồng thời, việc giữ lại DAG ở giai đoạn sau phụ thuộc hoàn toàn vào độ thỏa đáng của đồ thị tham chiếu. Kết quả thực nghiệm cho thấy các tham chiếu học được chỉ chứa DAG đúng trong vỏn vẹn 3 trên tổng số 80 tác vụ được lập kế hoạch.

Theo báo cáo, giá trị thông tin ngữ nghĩa của LLM cần được tách biệt khỏi độ tin cậy trong các khâu phân bổ, phê duyệt và duy trì đồ thị, trong đó quy mô tập hiệu chuẩn và chất lượng tham chiếu là hai rào cản kỹ thuật chính chưa được giải quyết.