Cổng AI Vercel (Vercel AI Gateway) vừa có một nâng cấp đáng chú ý, giới thiệu tính năng "quy tắc định tuyến" (routing rules) hoàn toàn mới, hứa hẹn thay đổi cách các nhóm phát triển quản lý và tương tác với các mô hình AI của họ. 🚀
Quy Tắc Định Tuyến Là Gì? 🤔
Về cơ bản, các quy tắc định tuyến hoạt động như một "bức tường lửa" thông minh, cho phép bạn kiểm soát chặt chẽ những mô hình AI nào mà nhóm của bạn có thể sử dụng. Điểm đặc biệt là các quy tắc này được áp dụng ngay tại cấp độ cổng (gateway level) thay vì phải nhúng vào từng dòng mã ứng dụng. Điều này loại bỏ hoàn toàn sự phụ thuộc vào việc thay đổi mã nguồn mỗi khi bạn cần điều chỉnh mô hình AI. Thật tiện lợi phải không? ✨
Lợi Ích "Vàng" Cho Nhà Phát Triển 💪
Nếu một mô hình AI quan trọng bạn đang dùng bỗng nhiên ngừng hoạt động hoặc bị khai tử, trước đây bạn sẽ phải vội vã chỉnh sửa mã nguồn và triển khai lại ứng dụng – một quy trình tốn thời gian và dễ gây lỗi. Với quy tắc định tuyến, bạn chỉ cần thiết lập một quy tắc duy nhất qua Vercel CLI, và mọi yêu cầu sẽ được chuyển hướng ngay lập tức, đảm bảo luồng công việc không bị gián đoạn. Đây chính là giải pháp mà nhiều nhà phát triển đã mong đợi!
Hai Loại Quy Tắc "Quyền Năng" 🛠️
Vercel giới thiệu hai loại quy tắc chính, mỗi loại phục vụ một mục đích riêng biệt:
1. Quy tắc Uỷ quyền (Rewrite) * Công dụng: Cho phép một yêu cầu gửi đến mô hình nguồn được phục vụ bởi một mô hình đích khác một cách minh bạch. * Khi nào nên dùng? * Khi mô hình chính không khả dụng, giúp duy trì hoạt động liên tục. * Chuyển đổi khỏi một mô hình đã lỗi thời hoặc bị khai tử. * Chuẩn hóa việc sử dụng một mô hình cụ thể. * Định tuyến yêu cầu từ một mô hình đắt đỏ sang một mô hình có chi phí thấp hơn.
2. Quy tắc Từ chối (Deny) * Công dụng: Chặn các yêu cầu đến một mô hình cụ thể. * Khi nào nên dùng? * Đảm bảo nhóm của bạn chỉ sử dụng các mô hình đã được phê duyệt nội bộ. * Ngăn chặn việc sử dụng các mô hình không mong muốn hoặc chưa được kiểm định. * Cách hoạt động: Khi một yêu cầu được gửi đến mô hình bị chặn, Cổng AI Vercel sẽ trả về lỗi 403 Forbidden. 🚫
Tương Thích Hoàn Hảo Với Các Cấu Hình Hiện Có 🤝
Điều quan trọng là các quy tắc định tuyến chỉ thay đổi mô hình nào phục vụ yêu cầu. Tất cả các cấu hình khác bạn đã thiết lập vẫn được áp dụng đầy đủ cho mô hình đích, bao gồm:
* Ở cấp độ yêu cầu (Request-level): BYOK, cơ chế dự phòng mô hình (model fallbacks), sắp xếp và lọc nhà cung cấp, tùy chọn nhà cung cấp. * Ở cấp độ nhóm (Team-level): Không lưu trữ dữ liệu (Zero Data Retention - ZDR), danh sách nhà cung cấp được phép (provider allowlist).
Tương Lai Hứa Hẹn (Hiện đang Beta) 📚
Hiện tại, tính năng quy tắc định tuyến đang trong giai đoạn thử nghiệm beta. Để tìm hiểu chi tiết hơn, hãy truy cập tài liệu chính thức của Vercel về quy tắc định tuyến tại đây.