llama.cpp ra mắt Model Router: Thay thế hoàn toàn Ollama cho việc chuyển đổi mô hình
Bản cập nhật mới của llama.cpp tích hợp sẵn bộ điều hướng mô hình (Model Router), cho phép chuyển đổi tức thì giữa các mô hình trên đĩa mà không cần khởi động lại server.
Nguồn x.com