Ngành công nghiệp AI dành cho doanh nghiệp đang đối mặt với một nghịch lý lớn. Theo dữ liệu từ Cisco, có tới 85% doanh nghiệp đang thử nghiệm các đại lý trí tuệ nhân tạo (AI Agent), nhưng chỉ vỏn vẹn 5% thực sự đưa chúng vào môi trường vận hành thực tế (production). Tại sự kiện VB Transform 2026 diễn ra vào thứ Ba vừa qua, ông Bryan Silverthorn, Giám đốc bộ phận AGI Tự trị tại Amazon, đã chỉ ra rằng rào cản lớn nhất không nằm ở năng lực của mô hình, mà là độ tin cậy của chúng khi đối mặt với các tình huống thực tế phức tạp.
Diễn biến chi tiết
Ông Silverthorn, người gia nhập Amazon sau thương vụ thâu tóm Adept AI, hiện đang dẫn dắt nhóm huấn luyện AI Agent đa phương thức tại phòng thí nghiệm AGI của tập đoàn. Ông cho rằng độ tin cậy của AI Agent cần được chia nhỏ thành bốn khía cạnh độc lập bao gồm: tính nhất quán, tính bền bỉ, khả năng dự đoán và mức độ an toàn. Khung lý thuyết này giúp giải thích lý do tại sao nhiều hệ thống AI Agent vượt qua các bài kiểm tra nội bộ một cách xuất sắc nhưng lại nhanh chóng thất bại khi triển khai cho khách hàng thực tế.
Một ví dụ điển hình được ông đưa ra là một AI Agent thực hiện nhiệm vụ trích xuất số sê-ri từ màn hình cho quy trình kiểm thử phần mềm QA. Hệ thống đã hoạt động hoàn hảo trong hai tháng trước khi bắt đầu đọc sai số một cách ngắt quãng. Nguyên nhân sau đó được xác định là do bộ mã hóa thị giác (vision encoder) hoạt động không nhất quán khi vị trí số sê-ri thay đổi trên màn hình, xuất phát từ một thay đổi phần mềm nhỏ mà mắt người không thể nhận ra.
Phân tích kỹ thuật & Công nghệ
Sự cố trên cho thấy các doanh nghiệp đang thiếu các công cụ đo lường chuẩn xác đối với sự biến động của mô hình. Khảo sát của VentureBeat chỉ ra rằng một nửa số doanh nghiệp được hỏi đã triển khai AI Agent vượt qua kiểm thử nội bộ nhưng thất bại trước khách hàng thực tế. Hầu hết các đơn vị này chỉ theo dõi thời gian hoạt động (uptime) mà bỏ qua việc kiểm thử độ chính xác (accuracy).
Để giải quyết vấn đề này, phòng thí nghiệm AGI của Amazon đang tập trung phát triển các công nghệ cốt lõi liên quan đến khả năng tự động hóa trình duyệt và tương tác với máy tính. Mặc dù các kỹ thuật như sử dụng LLM làm giám khảo đánh giá (LLM-as-judge) hứa hẹn mang lại hiệu quả, Amazon vẫn nhấn mạnh rằng không một AI Agent tương lai nào có thể hoạt động đơn độc. Chúng cần phối hợp nhịp nhàng với Giao thức bối cảnh mô hình (MCP), API và các công cụ lập trình khác để hoàn thành các quy trình làm việc khép kín.
Ý kiến chuyên gia & Nhận định
Ông Silverthorn đưa ra một góc nhìn quản lý thú vị khi đề xuất các nhà nghiên cứu coi AI Agent giống như những "thực tập sinh" (interns). Bản chất của các thực tập sinh là rất năng nổ, có năng lực cao nhưng đôi khi lại thiếu kinh nghiệm và có thể gây ra những sai lầm ngớ ngẩn.
"Bạn có thể hỏi thực tập sinh rằng: Này, cậu có thể làm sai điều gì ở đây? Làm cách nào để cậu giảm thiểu các kết quả tiêu cực đó?", ông Silverthorn chia sẻ. Do đó, việc quản lý AI Agent đòi hỏi kỹ năng quản trị nhân sự nhiều hơn là kỹ năng lập trình thuần túy, bao gồm việc xây dựng các phương án dự phòng và tính năng hoàn tác (undo).
Tác động & Tương lai
Đối với các doanh nghiệp Việt Nam đang loay hoay trong giai đoạn thử nghiệm AI, lời khuyên từ đại diện Amazon là hãy thay đổi tư duy tiếp cận. Thay vì phấn khích trước việc một AI Agent có thể thực hiện một tác vụ ấn tượng một lần, doanh nghiệp cần tập trung kiểm tra xem liệu hệ thống đó có thể thực hiện chính xác tác vụ đó một ngàn lần liên tiếp hay không. Kỷ nguyên tiếp theo của AI doanh nghiệp sẽ không thuộc về những đơn vị sở hữu AI thông minh nhất, mà thuộc về những doanh nghiệp có năng lực quản trị hệ thống AI tốt nhất.