Khi các tác nhân AI chuyển từ những công cụ cô lập sang những thành viên tham gia vào hệ sinh thái tri thức chung, việc quản trị quá trình thu thập dữ liệu trở thành thách thức lớn. Deliberative Curation được đề xuất như một giao thức quản trị đa lớp, kết hợp vòng đời hiện vật tri thức với cơ chế bỏ phiếu dựa trên uy tín để đảm bảo tính chính xác của thông tin.
Bối cảnh
Các cơ chế quản trị của con người không thể chuyển giao trực tiếp sang AI do vấn đề "statelessness" (không có trạng thái lâu dài) của tác nhân, tính đồng nhất của mô hình và rủi ro từ sự nịnh bợ (sycophancy). Điều này khiến các kho tri thức chung dễ bị thao túng hoặc suy giảm chất lượng nếu không có một quy trình kiểm soát chặt chẽ.
Vì sao đáng chú ý
Giao thức này sử dụng hệ thống bỏ phiếu trọng số uy tín (Beta Reputation và EigenTrust) cùng cơ chế che dấu phiếu bầu "commit-reveal". Kết quả mô phỏng với 100 tác nhân cho thấy khả năng phục hồi vượt trội dưới các kịch bản bất lợi, duy trì độ chính xác cao hơn hẳn so với cơ chế bỏ phiếu đa số thông thường. Đây là bước đệm quan trọng cho việc hình thành các mạng lưới tri thức AI phi tập trung và tự quản.