Bỏ qua đến nội dung chính
Về trang chủ
AI tools-ai 1 phút đọc

Hugging Face bắt tay Dell thúc đẩy AI nội bộ (On-prem) giải cứu cơn khát GPU

CEO Hugging Face tin rằng AI chạy trên hạ tầng nội bộ (local/on-prem) dựa trên mã nguồn mở sẽ là lời giải cho tình trạng thiếu hụt GPU và chi phí API đắt đỏ.

Tier 1 · nguồn 99% độ tin cậy Đã được duyệt
Nguồn gốc x.com

CEO Clement Delangue của Hugging Face vừa khẳng định xu hướng AI chạy tại chỗ (on-premise) và cục bộ (local) sẽ trở thành câu trả lời then chốt cho tình trạng khan hiếm GPU trong năm nay. Hugging Face đang hợp tác chặt chẽ với Michael Dell và tập đoàn Dell để hiện thực hóa tầm nhìn này.

Diễn biến

Theo ông Delangue, việc triển khai AI dựa trên các mô hình mã nguồn mở của Hugging Face ngay trên hạ tầng của doanh nghiệp không chỉ rẻ hơn mà còn nhanh và an toàn hơn so với việc phụ thuộc hoàn toàn vào Cloud API. Sự hợp tác với Dell giúp tối ưu hóa phần cứng cho các mô hình này, cho phép doanh nghiệp tận dụng tối đa hiệu năng GPU hiện có mà không cần chờ đợi hạ tầng đám mây.

Vì sao đáng chú ý

Tại Việt Nam, nhiều doanh nghiệp và startup đang gặp rào cản về chi phí API và tính bảo mật dữ liệu khi sử dụng các dịch vụ AI nước ngoài. Giải pháp AI nội bộ kết hợp giữa phần cứng Dell và thư viện Hugging Face mở ra cơ hội cho các tổ chức tự chủ về công nghệ, tối ưu hóa chi phí vận hành và bảo vệ dữ liệu nhạy cảm — những yếu tố sống còn trong chuyển đổi số hiện nay.