Vercel AI Gateway Mở Rộng Hỗ Trợ: DeepSeek V4 Pro & Flash Nay Đã Có Mặt Qua Azure! 🚀
Vercel AI Gateway, một nền tảng quan trọng giúp các nhà phát triển quản lý và triển khai mô hình AI hiệu quả, vừa công bố một bước tiến đáng chú ý. Kể từ nay, các mô hình DeepSeek V4 Pro và DeepSeek V4 Flash mạnh mẽ đã có thể được truy cập thông qua Azure, bổ sung vào danh sách các nhà cung cấp hiện có. Điều này mang lại lợi ích kép: tăng cường độ tin cậy và mở rộng sự linh hoạt cho các dự án AI.
#### 🛡️ Tăng Cường Khả Năng Dự Phòng: Không Lo Gián Đoạn!
Một trong những điểm nổi bật nhất của tích hợp này là khả năng định tuyến yêu cầu qua Azure như một lộ trình dự phòng bổ sung. Nếu một nhà cung cấp gặp sự cố, AI Gateway sẽ tự động chuyển đổi sang các nhà cung cấp còn lại mà không yêu cầu bất kỳ thay đổi mã nào. Điều này đảm bảo ứng dụng của bạn luôn hoạt động trơn tru, giảm thiểu rủi ro gián đoạn dịch vụ – một yếu tố then chốt trong thế giới AI tốc độ cao.
#### 💡 Linh Hoạt Trong Lựa Chọn Nhà Cung Cấp
Đối với các nhà phát triển muốn ưu tiên Azure, AI Gateway cung cấp tùy chọn order trong cài đặt nhà cung cấp. Bạn có thể dễ dàng thiết lập Azure làm ưu tiên hàng đầu, trong khi vẫn giữ các nhà cung cấp khác làm phương án dự phòng. Sự linh hoạt này cho phép tối ưu hóa hiệu suất và chi phí dựa trên yêu cầu cụ thể của dự án. Ví dụ, bạn có thể cấu hình như sau trong AI SDK:
json { "deepseek/deepseek-v4-pro": { "order": ["azure", "..." ] }, "deepseek/deepseek-v4-flash": { "order": ["azure", "..." ] } }
#### 🔑 Tích Hợp Khóa API Hiện Có (BYOK)
Vercel cũng nhấn mạnh sự tiện lợi khi cho phép các nhà phát triển sử dụng khóa API Azure hiện có của họ. AI Gateway sẽ tự động áp dụng các khóa này cho những yêu cầu được định tuyến qua Azure, đơn giản hóa quá trình quản lý xác thực và tối ưu hóa việc sử dụng tài nguyên hiện có.
#### AI Gateway: Hơn Cả Một Cổng API Đơn Thuần
AI Gateway của Vercel không chỉ là một cổng API thông thường. Nền tảng này cung cấp một API thống nhất để gọi các mô hình, theo dõi mức sử dụng và chi phí, đồng thời cấu hình các tính năng quan trọng như thử lại (retries), dự phòng (failover) và tối ưu hóa hiệu suất. Đặc biệt, AI Gateway nổi bật với:
* Báo cáo tùy chỉnh (Custom Reporting) 📊 * Hỗ trợ Giữ Lại Dữ Liệu Bằng Không (Zero Data Retention), đảm bảo quyền riêng tư. 🔒 * Ngân sách cho khóa API (Budgets for API Keys), giúp kiểm soát chi tiêu. 💰 * Không tăng giá trên giá nhà cung cấp và không thu phí nền tảng trên suy luận, kể cả với các yêu cầu Bring Your Own Key (BYOK). Đây là một điểm cộng lớn, giúp các nhà phát triển tối ưu hóa chi phí.
Khám Phá Thêm và Bắt Đầu Ngay! ✨
Với những cải tiến này, Vercel AI Gateway tiếp tục khẳng định vị thế là công cụ không thể thiếu cho các nhà phát triển AI. Để tìm hiểu thêm về AI Gateway, xem bảng xếp hạng mô hình hoặc thử nghiệm DeepSeek V4 Pro trong sân chơi mô hình của họ, hãy truy cập các liên kết dưới đây.
* Tìm hiểu thêm về AI Gateway * Xem bảng xếp hạng mô hình AI Gateway * Thử nghiệm DeepSeek V4 Pro trong playground
Nguồn: Vercel Changelog