Hugging Face vừa hợp tác cùng NVIDIA phát hành một tập dữ liệu mã nguồn mở chứa kết quả quét bảo mật của 67.453 kỹ năng (skills) trên nền tảng ClawHub. Đây là nỗ lực quan trọng nhằm đánh giá an toàn hệ thống trong bối cảnh các tác nhân AI (agent) tự trị ngày càng phổ biến.
Diễn biến
Theo công bố từ tài khoản X của dự án, công cụ NVIDIA SkillSpector đã gắn cờ cảnh báo rủi ro vận hành (agentic risk) đối với một nửa số kỹ năng được khảo sát. Tuy nhiên, tỷ lệ phát hiện mã độc thực tế (malicious) lại cực kỳ thấp, chỉ chiếm vỏn vẹn 0,31% trong tổng số hơn 67.000 kỹ năng trên ClawHub.
Điểm đáng quan ngại nhất từ nghiên cứu này là sự thiếu đồng bộ giữa các giải pháp bảo mật hiện nay. Báo cáo chỉ ra rằng không có bất kỳ hai công cụ quét bảo mật nào đạt tỷ lệ đồng thuận vượt quá 8,5% khi đánh giá cùng một loại rủi ro trên tập dữ liệu này. Điều này đặt ra dấu hỏi lớn về tính chuẩn hóa của các bộ công cụ kiểm thử AI.
Vì sao đáng chú ý
Đối với cộng đồng phát triển AI tại Việt Nam, kết quả này cho thấy việc quá phụ thuộc vào một công cụ quét bảo mật tự động đơn lẻ có thể dẫn đến những đánh giá sai lệch. Các rủi ro từ tác nhân AI (agentic risk) hiện vẫn là một khái niệm mơ hồ và chưa có thước đo chuẩn mực thống nhất giữa các ông lớn công nghệ.
Việc Hugging Face và NVIDIA mở nguồn tập dữ liệu này sẽ giúp các nhà phát triển độc lập có thêm cơ sở dữ liệu thực tế để huấn luyện và tối ưu hóa các mô hình đánh giá bảo mật riêng, thay vì tin tưởng hoàn toàn vào các giải pháp thương mại đóng kín hiện nay.