Vercel, cái tên quen thuộc trong giới phát triển web, vừa gây chú ý khi trình làng eve – một khung làm việc (framework) mã nguồn mở được thiết kế để thay đổi cách chúng ta xây dựng, vận hành và mở rộng các tác nhân AI (AI agents). Theo Vercel, eve ra đời nhằm giải quyết vấn đề cốt lõi mà các nhà phát triển tác nhân đang phải đối mặt: sự phức tạp của việc thiết lập hạ tầng, khiến họ phải mất quá nhiều thời gian cho "cái cách nó hoạt động" thay vì "cái nó làm được". 💡
eve là gì và tại sao chúng ta cần nó? 🌍
Tương tự như cách Next.js định hình lại phát triển web, eve muốn làm điều tương tự cho kỷ nguyên tác nhân AI. Vercel cho rằng, hiện tại, việc xây dựng tác nhân AI vẫn còn rất thủ công, mỗi dự án lại tự tay "lắp ráp" những phần giống nhau mà không có sự tái sử dụng hiệu quả. eve được xây dựng dựa trên triết lý "sẵn sàng cho sản xuất" (production-ready) ngay từ đầu, loại bỏ gánh nặng về cơ sở hạ tầng.
Với eve, một tác nhân chỉ đơn giản là một thư mục chứa các tệp tin. Mỗi tệp tin mô tả một thành phần cụ thể của tác nhân – từ cấu hình chính (agent.ts), chỉ dẫn hệ thống (instructions.md), cho đến các công cụ và kỹ năng (post_chart.ts, revenue-definitions.md). Điều này giúp các nhà phát triển tập trung vào logic nghiệp vụ của tác nhân, thay vì phải quản lý các đoạn mã boilerplate rườm rà. 🌳
Vercel đã tự phát triển hàng trăm tác nhân nội bộ, trong đó có cả v0.app nổi tiếng. Quá trình này giúp họ nhận ra một vấn đề lớn: mỗi đội ngũ đều phải "xây đi xây lại" những phần nền tảng giống nhau cho tác nhân của mình. Mặc dù các tác nhân phục vụ các mục đích khác nhau, chúng lại có chung nhu cầu và cấu trúc cơ bản. eve chính là "hình hài" chung đó, được đúc kết thành một khung làm việc. Đây là minh chứng cho quy luật phát triển phần mềm: khi đủ người cùng làm đi làm lại một thứ theo cách khó, đó là lúc một lớp trừu tượng mới ra đời. 🛠️
Những tính năng "đỉnh cao" được tích hợp sẵn (Batteries Included) 🔋
eve tích hợp sẵn nhiều tính năng quan trọng để đảm bảo tác nhân hoạt động hiệu quả trong môi trường sản xuất:
* Thực thi bền bỉ (Durable Execution): Mỗi cuộc hội thoại với tác nhân là một quy trình làm việc bền bỉ, được checkpoint từng bước. Điều này giúp các phiên có thể tạm dừng, tồn tại qua sự cố hoặc triển khai, và tiếp tục chính xác từ nơi đã dừng lại. Tính năng này được xây dựng trên Workflow SDK mã nguồn mở. * Môi trường tính toán biệt lập (Sandboxed Compute): Mã do tác nhân tạo ra cần được coi là không đáng tin cậy. eve cung cấp một sandbox (hộp cát) riêng biệt cho mỗi tác nhân, cô lập hoàn toàn mã do tác nhân tạo ra khỏi môi trường ứng dụng chính. Điều này đảm bảo an toàn tối đa. * Phê duyệt bởi con người (Human-in-the-loop Approvals): Đối với những hành động quan trọng hoặc có rủi ro, eve cho phép cấu hình yêu cầu phê duyệt từ con người. Tác nhân sẽ tạm dừng, chờ phê duyệt mà không tiêu tốn tài nguyên tính toán. 🧑⚖️ * Kết nối bảo mật tới công cụ và dịch vụ: Các tác nhân cần tương tác với các hệ thống backend, dữ liệu và dịch vụ bên thứ ba. eve quản lý các kết nối này thông qua các tệp tin cấu hình, sử dụng Vercel Connect để xử lý OAuth và làm mới token, đảm bảo mô hình không bao giờ tiếp cận trực tiếp URL hoặc thông tin xác thực nhạy cảm. * Tác nhân đa kênh: Thay vì phải tích hợp riêng cho từng nền tảng, eve cho phép cùng một tác nhân hoạt động trên nhiều kênh (HTTP API, Slack, Discord, Teams, Telegram, GitHub, v.v.) chỉ với một tệp adapter nhỏ. 🌐 * Theo dõi và đánh giá tích hợp (Tracing & Evals): Mỗi lần chạy tác nhân đều tạo ra một "trace" chi tiết, hiển thị từng lệnh gọi mô hình và công cụ, giúp nhà phát triển dễ dàng gỡ lỗi và hiểu rõ cách tác nhân hoạt động. eve cũng tích hợp bộ công cụ đánh giá (evals) để kiểm thử tác nhân tự động, cả cục bộ và trong CI/CD. 📊
Mở rộng tác nhân từng tệp một 🧩
Mở rộng khả năng của tác nhân trong eve cũng rất đơn giản. Các công cụ (tools) là các tệp TypeScript và kỹ năng (skills) là các tệp Markdown. eve tự động phát hiện và tích hợp chúng vào tác nhân, loại bỏ sự cần thiết của mã boilerplate.
Thậm chí, eve còn cho phép tác nhân tự viết mã thông qua một shell, chạy các lệnh bash, grep, hoặc bất kỳ mã nào cần thiết để hoàn thành một tác vụ. Đối với các tác vụ phức tạp hơn, tác nhân có thể ủy quyền công việc cho các "tác nhân con" (subagents) – các thư mục nhỏ hơn với bộ hướng dẫn và công cụ riêng, giúp phân chia và quản lý tác vụ hiệu quả. 🤝
Phát triển và triển khai liền mạch 🚀
Quy trình phát triển và triển khai với eve được thiết kế để trở nên mượt mà. Nhà phát triển có thể chạy tác nhân cục bộ với một máy chủ dev server, tương tác và theo dõi hoạt động của nó thông qua giao diện terminal (TUI) hoặc HTTP API. Công cụ eve eval cho phép kiểm thử tác nhân bằng các bộ kiểm thử có điểm số, tích hợp vào CI để đảm bảo chất lượng.
Việc triển khai lên Vercel cũng rất đơn giản, vì một tác nhân eve chỉ là một dự án Vercel thông thường. Môi trường sandbox tự động chuyển sang Vercel Sandbox mà không cần thay đổi mã. Vercel thậm chí còn cung cấp tính năng triển khai tức thời và hoàn tác (instant rollback), đảm bảo sự ổn định của tác nhân trong sản xuất. ✨
Vercel đang vận hành doanh nghiệp với eve như thế nào? 🏢
Vercel hiện đang vận hành hơn một trăm tác nhân AI trong sản xuất hàng ngày, và chúng đóng vai trò thiết yếu trong hoạt động của công ty. Một số ví dụ nổi bật:
* Tác nhân phân tích dữ liệu (d0): Công cụ nội bộ được sử dụng nhiều nhất, xử lý hơn 30.000 câu hỏi mỗi tháng, cung cấp câu trả lời từ kho dữ liệu dựa trên quyền hạn của người hỏi. * Tác nhân SDR tự động (Lead Agent): Hoạt động 24/7, xử lý mọi khách hàng tiềm năng mới ngay lập tức và tự động theo dõi, với chi phí khoảng 5.000 USD/năm nhưng mang lại lợi nhuận gấp 32 lần. * Tác nhân hỗ trợ kỹ thuật (Vertex): Xử lý các yêu cầu hỗ trợ qua trung tâm trợ giúp, tài liệu và Slack, giải quyết 92% vấn đề và chuyển tiếp các trường hợp phức tạp cho đội ngũ hỗ trợ. * Tác nhân nội dung (draft0): Chạy quy trình đánh giá nội dung đầy đủ, phát hiện các vấn đề nổi bật và phân tích chủ đề trước khi nội dung đến tay đội ngũ chuyên trách. * Tác nhân định tuyến (V): Quản lý và định tuyến các tác vụ đến đúng tác nhân phù hợp trong đội ngũ hàng trăm tác nhân của Vercel, giúp toàn bộ hệ thống hoạt động như một thực thể duy nhất.
Những tác nhân này, ban đầu được xây dựng trên các ngăn xếp (stacks) riêng biệt, nay đều được hợp nhất vào một monorepo duy nhất nhờ eve, giúp đơn giản hóa việc xây dựng, giám sát và nâng cấp.
Bắt đầu ngay hôm nay! 🚀
Chỉ một năm trước, các tác nhân chỉ chiếm dưới 3% số lượt triển khai trên Vercel; con số này hiện là 29% và dự kiến sẽ đạt 50% trong thời gian tới. eve hứa hẹn sẽ là công cụ then chốt giúp các nhà phát triển đón đầu xu hướng này.
Bản xem trước công khai (public preview) của eve đã có sẵn. Các nhà phát triển có thể bắt đầu với eve chỉ trong vài phút thông qua CLI wizard. Toàn bộ tài liệu chi tiết có tại docs.eve.dev và mã nguồn mở có sẵn trên GitHub. Vercel chào đón các đóng góp và phản hồi từ cộng đồng. Vậy bạn sẽ xây dựng gì với eve?