Các mô hình ngôn ngữ lớn (LLM) đang ngày càng được triển khai rộng rãi để tự động giải quyết các tác vụ trong thế giới thực nhờ khả năng gọi hàm (function-calling). Tuy nhiên, một mô hình LLM gọi sai hàm có thể dẫn đến những hậu quả nghiêm trọng và không thể đảo ngược, chẳng hạn như chuyển tiền nhầm hoặc xóa sạch dữ liệu người dùng. Nhằm giải quyết rủi ro này, nhóm nghiên cứu Machine Learning của Apple vừa công bố phương pháp định lượng độ bất định (Uncertainty Quantification - UQ) để đánh giá độ tin cậy của mô hình trước khi thực thi lệnh.
Diễn biến chi tiết
Theo tài liệu nghiên cứu công bố bởi Apple Machine Learning Research vào giữa tháng 7 năm 2026, việc trang bị cho LLM khả năng sử dụng công cụ (tool-use) thông qua cơ chế gọi hàm là một bước tiến quan trọng. Dẫu vậy, các hệ thống tự động hiện nay thường thiếu cơ chế tự đánh giá xem quyết định gọi hàm đó có chính xác hay không. Apple đề xuất rằng việc định lượng mức độ tự tin của LLM trước khi chạy bất kỳ hàm nào là yếu tố sống còn để đảm bảo an toàn hệ thống. Phương pháp mới này sẽ hoạt động như một màng lọc bảo vệ, ngăn chặn các hành động tự động có thể gây hại khi mô hình rơi vào trạng thái "mơ hồ" hoặc không chắc chắn về kết quả.
Phân tích kỹ thuật & Công nghệ
Giải pháp của Apple tập trung vào việc áp dụng các kỹ thuật Định lượng độ bất định (UQ) trực tiếp vào luồng xử lý function-calling của LLM. Thay vì chỉ nhận kết quả đầu ra là tên hàm và các tham số đi kèm, hệ thống sẽ tính toán một điểm số tin cậy (confidence score). Nếu điểm số này nằm dưới ngưỡng an toàn thiết lập sẵn, hệ thống sẽ tạm dừng thực thi và yêu cầu xác nhận từ người dùng hoặc chuyển sang quy trình xử lý dự phòng. Điều này đòi hỏi việc tinh chỉnh cách mô hình ước lượng phân phối xác suất của các token trong quá trình tạo mã gọi hàm, giúp phân biệt rõ giữa trường hợp mô hình thực sự "biết" và trường hợp mô hình đang "đoán mò".
Ý kiến chuyên gia & Nhận định
Các chuyên gia bảo mật nhận định nghiên cứu của Apple đã đánh trúng một trong những điểm yếu lớn nhất của các tác vụ tự trị (autonomous agents). Khi LLM được tích hợp sâu vào hệ điều hành hoặc các ứng dụng tài chính, ranh giới giữa tiện ích và thảm họa bảo mật là rất mong manh. Việc xây dựng một bộ khung toán học để đo lường sự không chắc chắn sẽ giúp các nhà phát triển tự tin hơn khi đưa AI agent vào vận hành thực tế, giảm thiểu đáng kể chi phí rủi ro vận hành.
Tác động & Tương lai
Nghiên cứu này mở ra hướng đi mới cho việc thiết kế các hệ thống AI an toàn hơn, đặc biệt là trên các thiết bị cá nhân vốn đòi hỏi tính riêng tư và độ tin cậy tuyệt đối như iPhone hay Mac. Đối với cộng đồng phát triển AI tại Việt Nam và quốc tế, việc ứng dụng UQ vào function-calling sẽ là tiêu chuẩn bắt buộc trong tương lai gần đối với mọi ứng dụng AI có khả năng can thiệp vào dữ liệu hoặc tài sản của người dùng.