Nghiên cứu "Intelligence as Managed Autonomy" vừa được công bố trên arXiv giới thiệu mô hình SMARt (Self-Managing Multi-tier Autonomous Reasoning with Regulated/Revoked transitions), một khung làm việc bốn lớp nhằm giải quyết thách thức quản trị sự tự chủ của các hệ thống AI agent.
Diễn biến
Thay vì coi các thất bại của AI (như ảo giác hoặc hành động vô lý) chỉ là do giới hạn của mô hình, các tác giả lập luận rằng lỗ hổng nằm ở sự tự chủ không giới hạn. Mô hình SMARt phân cấp sự tự chủ thành bốn trạng thái: Ổn định (Stable), Siêu nhận thức (Meta-cognitive), Được hỗ trợ (Assisted) và Được điều chỉnh (Regulated).
Hệ thống sử dụng các bộ kích hoạt (trigger) và lý thuyết mạng Petri để xác định thời điểm agent cần tăng cấp xử lý lỗi, hạn chế đầu ra không hợp lệ và đảm bảo khả năng quản trị. Cơ chế này cho phép agent tự động phát hiện sự "trôi dạt tri thức" (epistemic drift), tạm dừng suy luận và cuối cùng là bàn giao quyền kiểm soát cho con người hoặc hệ thống giám sát khi cần thiết.
Vì sao đáng chú ý
Khi các AI agent bắt đầu được triển khai rộng rãi trong y tế, robot và môi trường tương tác người-máy, việc "buông bỏ quyền kiểm soát" (surrender control) khi không chắc chắn là cực kỳ quan trọng để đảm bảo an toàn.
Đối với các nhóm phát triển agentic AI tại Việt Nam, khung lý thuyết này cung cấp một hướng đi để xây dựng các hệ thống tin cậy hơn, thay vì chỉ tập trung vào việc cải thiện độ chính xác của LLM. Khả năng mở rộng phạm vi hoạt động của agent một cách an toàn theo thời gian thông qua các trigger thích ứng là một điểm mạnh cho các ứng dụng thực tế lâu dài.