Khi mô hình Fable 5 của Anthropic bị tạm dừng sử dụng quốc tế trong gần ba tuần, nhiều doanh nghiệp quá phụ thuộc vào mô hình này đã rơi vào cảnh hỗn loạn. Tuy nhiên, tập đoàn bảo hiểm 114 tuổi Liberty Mutual đã dễ dàng chuyển hướng sang các nền tảng khác nhờ hệ thống 'AI backbone' linh hoạt được xây dựng từ 18 tháng trước. Trả lời tại sự kiện VB Impact mới đây, ông Brian Craig, Giám đốc Kiến trúc Cấp cao của Liberty Mutual, nhấn mạnh tầm quan trọng của việc không bị khóa chặt vào một nhà cung cấp hay một khung làm việc cố định trong bối cảnh công nghệ thay đổi chóng mặt.
Diễn biến chi tiết
Kiến trúc cốt lõi của Liberty Mutual hoạt động theo nguyên lý tách biệt giữa lớp kiểm soát (control plane) độc lập và lớp thực thi có thể hoán đổi. Nhờ thiết kế này, khi sự cố Fable 5 xảy ra, công ty không bị gián đoạn vận hành mà chỉ mất tối thiểu thời gian để định tuyến lại công việc sang các mô hình thay thế. Sự linh hoạt này còn được củng cố bởi chính sách thương thảo hợp đồng ngắn hạn. Thay vì ký các thỏa thuận doanh nghiệp kéo dài 5 năm như truyền thống, Liberty Mutual chủ động chuyển sang các hợp đồng 1 năm để dễ dàng đánh giá và thay đổi nhà cung cấp theo tốc độ phát triển của thị trường AI.
Phân tích kỹ thuật & Công nghệ
Hệ thống AI backbone của Liberty Mutual bao gồm khoảng 50 thành phần độc lập trải dài từ bảo mật, định danh, điều phối, giới hạn công cụ cho đến các chính sách quản lý hành vi của agent. Phía dưới backbone này, họ sử dụng Amazon Bedrock AgentCore của AWS làm môi trường chạy agent (runtime) nhờ khả năng hỗ trợ đa khung và đa mô hình. Đặc biệt, thay vì dùng một agent duy nhất gánh vác mọi việc dẫn đến quá tải ngữ cảnh, Liberty Mutual thiết kế một 'nhà máy phần mềm' gồm 6 agent phối hợp tuần tự bao gồm: Epic agent (nhận yêu cầu), Story agent (chia nhỏ công việc), Planning agent (lập kế hoạch kỹ thuật), Coding/Testing agent (lập trình và kiểm thử), Triage agent (đánh giá chất lượng) và Librarian agent (tìm kiếm ngữ cảnh kiến thức).
Ý kiến chuyên gia & Nhận định
Theo ông Brian Craig, việc chia nhỏ vai trò giúp thu hẹp cửa sổ ngữ cảnh và kiểm soát đầu ra của AI chính xác hơn rất nhiều. Thực tế triển khai ban đầu cho thấy hệ thống đã hoàn thành khối lượng công việc tương đương ba tháng chỉ trong vòng một tuần bằng cách loại bỏ hầu hết thời gian chờ đợi giữa các khâu bàn giao nhân sự. Dù vậy, ông Craig khẳng định Liberty Mutual không vận hành một quy trình tự động hoàn toàn mà duy trì nhịp độ lặp và có sự giám sát của con người. Mọi kết quả từ nhà máy phần mềm đều phải qua sự phê duyệt của kỹ sư trước khi đưa vào sản xuất.
Tác động & Tương lai
Mô hình kiến trúc đa đám mây và bất khả tri mô hình (model-agnostic) của Liberty Mutual là bài học đắt giá cho các doanh nghiệp Việt Nam đang xây dựng giải pháp AI. Việc tích hợp khả năng quan sát sâu (observability) vào backbone giúp kiểm soát chặt chẽ dữ liệu mà agent truy cập, tránh tình trạng AI hoạt động ngoài tầm kiểm soát. Trong ngành tài chính bảo hiểm đòi hỏi sự an toàn tuyệt đối, việc duy trì vai trò kiểm duyệt của con người kết hợp với nền tảng công nghệ linh hoạt chính là chìa khóa để vừa đổi mới sáng tạo vừa đảm bảo quản trị rủi ro vững chắc.