Kiến trúc Grokers vừa được giới thiệu nhằm xây dựng khả năng thấu hiểu cấu trúc bền vững cho các đồ thị tri thức (knowledge graphs). Khác với RAG truyền thống phải tốn chi phí suy luận tại mỗi truy vấn, Grokers đẩy quá trình xử lý trí tuệ sang giai đoạn ghi dữ liệu (write time), tạo ra các thuộc tính đã được làm giàu sẵn cho mọi truy vấn tương lai.
Bối cảnh
Việc sử dụng mô hình ngôn ngữ lớn (LM) để hiểu các đồ thị tri thức lớn thường rất tốn kém và chậm chạp do phải gọi API liên tục. Các phương pháp tìm kiếm ngữ nghĩa dựa trên embedding hiện nay cũng gặp hạn chế về độ chính xác và tính nhất quán trong các miền kiến thức chuyên biệt.
Vì sao đáng chú ý
Grokers sử dụng các tác nhân tự trị để phân tích và tổng hợp sự hiểu biết từ dưới lên theo các quan hệ phụ thuộc. Với Định lý Byte-Identity, kiến trúc này đảm bảo các khối ngữ cảnh luôn nhất quán, cho phép tỉ lệ trúng KV-cache đạt mức xấp xỉ 100%. Đây là một giải pháp thay thế mạnh mẽ cho tìm kiếm embedding, giúp tối ưu hóa hiệu suất và chi phí cho các hệ thống quản lý tri thức quy mô lớn.