Hugging Face vừa ra mắt tính năng lọc kết quả đánh giá theo số lượng tham số (parameter range) trên Dataset Leaderboard, giải quyết nhu cầu tìm kiếm các mô hình ngôn ngữ phù hợp với giới hạn phần cứng cụ thể.
Diễn biến
Người dùng hiện có thể lọc các kết quả benchmark để tìm ra model tốt nhất trong một phân khúc kích thước nhất định. Ví dụ, bạn có thể nhanh chóng tìm thấy model hàng đầu có kích thước dưới 32 tỷ tham số (32B) trên bảng xếp hạng SWE-bench. Đây là tính năng được cộng đồng nhà phát triển mong đợi từ lâu để so sánh công bằng giữa các model cùng hạng cân.
Vì sao đáng chú ý
Đối với các kỹ sư AI tại Việt Nam, việc lựa chọn model không chỉ dựa trên độ chính xác mà còn phải cân đối với tài nguyên GPU hiện có. Tính năng này giúp tiết kiệm thời gian thử nghiệm bằng cách khoanh vùng ngay lập tức các mô hình có thể chạy được trên hạ tầng local hoặc cloud với mức VRAM giới hạn.