Viện An toàn AI (AISI) mới đây đã quyết định phát hành công khai các bộ công cụ đánh giá (evals), tập dữ liệu và mô hình thử nghiệm của mình trên nền tảng Hugging Face. Động thái này giúp các nhà nghiên cứu trên toàn thế giới có thể dễ dàng kiểm tra, tái lập kết quả và cùng nhau phát triển các giải pháp bảo mật AI hiệu quả hơn.
Bối cảnh
Trước đây, phần lớn các hoạt động đánh giá an toàn và kiểm định mô hình AI thường được tiến hành một cách khép kín trong nội bộ các tập đoàn công nghệ lớn hoặc các cơ quan chính phủ. Theo nhận định từ người đứng đầu Hugging Face, ông Clement Delangue, việc đảm bảo an toàn cho công nghệ trí tuệ nhân tạo không thể được thực hiện một cách bí mật. Quyết định mở cửa kho tài nguyên của AISI trên Hugging Face đánh dấu một hướng đi mới hướng tới sự minh bạch và hợp tác đa bên trong lĩnh vực này.
Vì sao đáng chú ý
Động thái này mang lại nhiều giá trị thiết thực cho cộng đồng nghiên cứu và phát triển công nghệ, đặc biệt là các kỹ sư AI tại Việt Nam. Thay vì phải tự xây dựng các bộ khung đánh giá từ con số không, các nhà phát triển trong nước giờ đây có thể tận dụng trực tiếp những tiêu chuẩn đo lường tiên tiến nhất từ AISI. Việc tiếp cận miễn phí các tập dữ liệu thử nghiệm này giúp giảm thiểu đáng kể chi phí vận hành, đồng thời chuẩn hóa quy trình kiểm định an toàn cho các ứng dụng AI trước khi thương mại hóa rộng rãi.