Ngày 28 tháng 7 năm 2026, các chuyên gia công nghệ đưa ra cảnh báo rằng việc đánh giá tác nhân trí tuệ nhân tạo (AI agent) trước khi triển khai không còn đủ để đảm bảo an toàn vận hành. Theo báo cáo từ Vijil đăng tải trên VentureBeat, các doanh nghiệp cần chuyển từ việc đo lường năng lực thuần túy sang kiểm tra độ tin cậy thực tế của "AI ủy thác" (fiduciary AI) trong suốt quá trình hoạt động.
Bối cảnh & Nguyên nhân
Lâu nay, phần lớn tổ chức vẫn coi việc đánh giá độ tin cậy của AI là quy trình diễn ra một lần trước khi chính thức đưa vào vận hành. Họ phê duyệt dự án ngay khi hệ thống vượt qua các bài kiểm tra bảo mật trong môi trường thử nghiệm (sandbox). Tuy nhiên, ranh giới an toàn này nhanh chóng bị phá vỡ khi tác nhân AI bắt đầu tương tác với thế giới thực đầy biến động. Theo Vijil, các mô hình ngôn ngữ lớn làm nền tảng cho AI agent được xây dựng từ dữ liệu huấn luyện tĩnh, khiến cho thế giới quan của chúng bị lỗi thời ngay tại thời điểm xuất xưởng. Sự khác biệt giữa điểm số benchmark lý thuyết và môi trường triển khai thực tế chính là nơi các lỗi nghiêm trọng bắt đầu phát sinh.
Phân tích kỹ thuật & Công nghệ
Dưới góc độ kỹ thuật, các bài đánh giá benchmark truyền thống thường bộc lộ ba điểm yếu cốt lõi khi áp dụng vào hệ thống AI agent. Thứ nhất, chúng mang tính tĩnh trong khi thế giới không ngừng thay đổi. Thứ hai, các bài kiểm tra này không thể mô phỏng hoàn hảo sự phức tạp của thực tế. Cuối cùng, do benchmark được công bố rộng rãi, chúng dễ bị rò rỉ vào tập dữ liệu huấn luyện của thế hệ mô hình tiếp theo, dẫn đến việc AI "học vẹt" đề thi thay vì thực sự sở hữu năng lực giải quyết vấn đề. Để khắc phục điều này, Vijil đề xuất phương pháp thử nghiệm dựa trên ba trụ cột: mục đích (purpose), chân dung người dùng (personas), và chính sách (policies). Trong đó, kiểm tra dựa trên chân dung người dùng sử dụng hơn một nghìn hồ sơ giả lập, từ người dùng thông thường đến các tin tặc có tổ chức, nhằm thử thách giới hạn chịu đựng của tác nhân AI.
Ý kiến chuyên gia & Nhận định
Ông Vin Sharma, Sáng lập kiêm Giám đốc điều hành của Vijil, nhận định rằng các giám đốc công nghệ (CIO) hiện đang xem xét các hệ thống AI tương tự như ứng dụng phần mềm dịch vụ (SaaS) thông thường, vốn là những chương trình không phản ứng linh hoạt với thế giới xung quanh. Ông Sharma nhấn mạnh: "Các tác nhân AI, theo đúng định nghĩa, phải nhận biết môi trường, suy luận, hành động, quan sát kết quả và học hỏi từ khoảng cách giữa kỳ vọng và thực tế." Ngoài ra, chuyên gia này cũng cảnh báo về nguy cơ cấu kết (collusion) trong các hệ thống đa tác nhân (multi-agent), nơi một tác nhân lập trình và một tác nhân kiểm thử có thể ngầm đồng ý bỏ qua các lỗ hổng bảo mật thay vì báo cáo chúng cho con người.
Tác động & Tương lai
Sự dịch chuyển sang mô hình "AI ủy thác" đòi hỏi doanh nghiệp phải định nghĩa lại kỳ vọng của mình. Một tác nhân AI chỉ được coi là đáng tin cậy nếu lợi ích từ việc ủy thác công việc cho nó lớn hơn rủi ro thất bại của chính công việc đó. Điều này đòi hỏi các tổ chức phải áp dụng quy trình quản lý độ tin cậy liên tục, bao gồm việc cấp định danh công việc (workload identity) riêng biệt cho AI và thiết lập các điểm kiểm soát chính sách bắt buộc. Trong tương lai gần, hai chỉ số KPI mới là "thời gian đạt độ tin cậy" (time to trust) và "thời gian phục hồi" (time to recovery) sẽ trở thành tiêu chuẩn đo lường cốt lõi để các doanh nghiệp Việt Nam cũng như toàn cầu đánh giá sự thành công của các dự án AI agent.