Vercel vừa tích hợp hai mô hình AI chuyên dụng mới vào nền tảng AI Gateway của mình, đồng thời bổ sung tính năng phân loại nhà cung cấp dịch vụ tự động theo chi phí và hiệu năng. Đây là nỗ lực của Vercel nhằm mang lại nhiều lựa chọn linh hoạt hơn cho các nhà phát triển xây dựng ứng dụng AI thế hệ mới.
Diễn biến
Cụ thể, theo thông báo từ Vercel, mô hình thử nghiệm Grok Build 0.1 của xAI hiện đã khả dụng với định danh xai/grok-build-0.1. Đây là mô hình được tối ưu hóa cho tác vụ lập trình tự chủ (agentic coding) và không cho phép tùy chỉnh mức độ suy luận. Song song đó, Gemini 3.5 Flash của Google cũng được đưa lên hệ thống, nâng cao hiệu năng thực thi song song và tư duy logic.
Bên cạnh việc bổ sung mô hình, Vercel cũng giới thiệu tính năng phân loại nhà cung cấp (providers) theo các tiêu chí thực tế như chi phí, độ trễ thời gian nhận token đầu tiên (TTFT) hoặc băng thông (TPS). Hệ thống sẽ tự động tính toán thứ tự ưu tiên tại thời điểm gửi yêu cầu (request time), giúp các kỹ sư tối ưu hóa tài nguyên mà không cần sửa đổi mã nguồn khi có biến động giá hoặc hiệu năng từ phía đối tác.
Vì sao đáng chú ý
Đối với cộng đồng phát triển AI tại Việt Nam, các công cụ này giúp giảm bớt rào cản quản lý hạ tầng đa mô hình (multi-model). Khả năng tự động lọc nhà cung cấp theo tiêu chuẩn bảo mật dữ liệu kết hợp sắp xếp theo chi phí thấp nhất sẽ giúp các dự án tối ưu hóa ngân sách vận hành đáng kể khi triển khai sản phẩm ở quy mô lớn.