Một nhà phát triển độc lập vừa công bố việc port các mô hình SAM (Segment Anything Model) của Meta sang framework MLX, tối ưu hóa riêng cho chip Apple Silicon. Kết quả ban đầu cho thấy tốc độ inference tăng 1.25 lần so với các phương pháp thông thường khi chạy mô hình sam2.1-small.
Diễn biến
Dự án hiện đã có mã nguồn mở trên GitHub (sam2-mlx) và mô hình được chia sẻ trên Hugging Face. Theo tác giả, phiên bản hiện tại sử dụng định dạng fp32, nhưng các bản quantized (nén mô hình) sẽ sớm được phát hành để giảm dung lượng và tăng tốc độ hơn nữa. MLX là framework mảng (array framework) chuyên biệt của Apple giúp tận dụng tối đa sức mạnh của Unified Memory trên chip dòng M.
Vì sao đáng chú ý
Việc tối ưu hóa các mô hình thị giác máy tính như SAM trên Apple Silicon giúp các nhà phát triển tại Việt Nam có thể xử lý hình ảnh/video chất lượng cao ngay trên laptop cá nhân mà không cần server GPU đắt đỏ. Với mức tăng 25% hiệu suất, các ứng dụng thực tế ảo hoặc chỉnh sửa video thời gian thực sẽ trở nên mượt mà hơn đáng kể trên hệ sinh thái macOS.