Để giải quyết các rủi ro bảo mật khi triển khai AI agent ở quy mô doanh nghiệp, startup tài chính Brex đã phát triển và mở nguồn hóa một nền tảng nội bộ mang tên CrabTrap. Đây là một proxy HTTP/HTTPS trung gian hoạt động tại tầng vận chuyển (transport layer), cho phép chặn, phân tích và đưa ra quyết định phê duyệt hoặc từ chối mọi yêu cầu mạng từ AI agent trước khi chúng tới đích. Theo ông Pedro Franceschi, đồng sáng lập kiêm CEO của Brex, việc quản trị AI agent cần dịch chuyển từ cấp độ quyền SDK hoặc các rào cản mô hình (guardrails) sang một mặt phẳng kiểm soát mạng tập trung.
Diễn biến chi tiết
Trước khi có CrabTrap, Brex gặp nhiều khó khăn trong việc kiểm soát các AI agent sử dụng khung kiểm thử OpenClaw khi cấp cho chúng quyền truy cập API hoặc tài khoản dịch vụ thực tế. Các giải pháp bảo mật truyền thống như mã thông báo API giới hạn hoặc rào cản ngữ nghĩa tỏ ra kém hiệu quả và dễ bị vượt qua bởi các kỹ thuật tấn công tiêm mã độc (prompt injection). Do đó, Brex quyết định tự xây dựng giải pháp riêng thay vì chờ đợi thị trường. Dự án nhanh chóng thu hút sự chú ý lớn từ cộng đồng mã nguồn mở, đạt hơn 700 ngôi sao trên GitHub cùng sự quan tâm từ các nhân vật tầm cỡ như CEO Y Combinator Garry Tan.
Phân tích kỹ thuật & Công nghệ
CrabTrap hoạt động độc lập với ngôn ngữ lập trình, framework hay API bằng cách yêu cầu người dùng cấu hình biến môi trường HTTP_PROXY và HTTPS_PROXY cho agent. Hệ thống kết hợp giữa các quy tắc tĩnh xác định (deterministic static rules) và mô hình ngôn ngữ lớn làm trọng tài (LLM-as-a-judge). Trọng tài LLM này chỉ kích hoạt đối với khoảng 3% yêu cầu thuộc nhóm bất thường hoặc lạ lẫm, sử dụng các mô hình nhỏ và nhanh như Claude Haiku để giảm thiểu độ trễ. Để ngăn chặn prompt injection, CrabTrap cấu trúc lại toàn bộ yêu cầu HTTP thành định dạng JSON để lọc và xử lý các ký tự đặc biệt thay vì truyền văn bản thô vào mô hình LLM.
Ý kiến chuyên gia & Nhận định
CEO Pedro Franceschi chia sẻ rằng ranh giới giữa tính hữu dụng và độ an toàn của AI agent luôn là một bài toán đánh đổi khó khăn. Ông nhấn mạnh: "Hệ thống agentic càng mạnh mẽ thì càng nguy hiểm, ngược lại càng an toàn thì càng kém hữu dụng". Nhờ có CrabTrap đóng vai trò là lớp thực thi đáng tin cậy, nội bộ Brex đã tự tin hơn rất nhiều trong việc triển khai rộng rãi các tác vụ tự động hóa vào hoạt động kinh doanh mà không lo ngại các hậu quả nghiêm trọng từ hiện tượng ảo giác AI.
Tác động & Tương lai
Sự ra đời của CrabTrap mở ra một hướng đi mới cho cộng đồng phát triển AI toàn cầu nói chung và Việt Nam nói riêng trong việc bảo mật hệ thống agentic. Không chỉ là công cụ thực thi bảo mật, proxy này còn giúp Brex phát hiện ra lượng lớn yêu cầu rác từ agent, từ đó tối ưu hóa công cụ và tiết kiệm chi phí token. Trong tương lai, Brex kỳ vọng cộng đồng mã nguồn mở sẽ cùng đóng góp để nâng cấp các tính năng như xác thực một lần (SSO), phân quyền chi tiết (RBAC) và quy trình tự động đề xuất cập nhật chính sách dựa trên lịch sử chặn yêu cầu.