Mỗi ngày, các tổ chức đều học được những điều mà hệ thống AI của họ không bao giờ được sử dụng. Điều này bao gồm việc một chuyên gia bảo mật chỉnh sửa điều tra do AI tạo ra, một kỹ sư mạng xác định nguyên nhân gốc rễ của sự cố mất điện lặp lại, hoặc một nhóm vận hành khách hàng biết được tín hiệu nào cho thấy khả năng leo thang.
Mỗi khoảnh khắc đều chứa đựng kiến thức tổ chức quý giá. Tuy nhiên, ở hầu hết các doanh nghiệp, kiến thức đó lại biến mất vào các phiếu ghi, bảng điều khiển, chuỗi trò chuyện, báo cáo sau sự cố và trong tâm trí của các chuyên gia cá nhân. Nó có thể giúp giải quyết vấn đề trước mắt, nhưng hiếm khi trở thành một phần của hệ thống có thể tái sử dụng, giúp cải thiện các quyết định do AI thúc đẩy trong tương lai. Đó chính là thách thức tiếp theo đối với doanh nghiệp tác nhân AI (agentic enterprise).
Tương lai sẽ không chỉ được định nghĩa bởi ai có mô hình AI mạnh nhất hay nhiều tác nhân tự trị nhất. Nhiều tổ chức sẽ có quyền truy cập vào các mô hình tiên tiến tương tự. Nhiều doanh nghiệp cũng sẽ triển khai các tác nhân AI trong các lĩnh vực bảo mật, IT, kỹ thuật, dịch vụ khách hàng và vận hành kinh doanh.
Sự khác biệt thực sự sẽ nằm ở khả năng các tác nhân này có thể học hỏi từ chính tổ chức xung quanh chúng. Điều này không phải bằng cách liên tục huấn luyện lại mô hình cơ bản, mà bằng cách thu thập kinh nghiệm vận hành, chuyển đổi nó thành kiến thức thể chế và cung cấp kiến thức đó cho các tác nhân, quy trình làm việc và quyết định trong tương lai.
Doanh nghiệp tác nhân AI không chỉ là doanh nghiệp sử dụng AI. Đó là doanh nghiệp học hỏi thông qua AI.
Các Doanh nghiệp Tác nhân AI cho phép hệ thống AI học hỏi từ họ
Cuộc đối thoại về AI thường bị chi phối bởi khả năng của mô hình: cửa sổ ngữ cảnh lớn hơn, khả năng suy luận tốt hơn, suy luận nhanh hơn, sử dụng công cụ mạnh mẽ hơn và hành vi tác nhân tinh vi hơn. Những tiến bộ đó rất quan trọng. Tuy nhiên, trong môi nghiệp, một mô hình chỉ là một phần của hệ thống.
Một mô hình không tự động biết cách một tổ chức cụ thể vận hành. Nó không tự biết bước khắc phục nào đã giải quyết sự cố mất điện tháng trước, sự điều chỉnh nào của nhà phân tích đã cải thiện điều tra mối đe dọa, tín hiệu mạng nào báo trước sự gián đoạn dịch vụ, hay chính sách nội bộ nào nên ghi đè một khuyến nghị có vẻ hợp lý. Kiến thức đó thuộc về doanh nghiệp.
Để các hệ thống tác nhân cải thiện, các tổ chức cần một cách để thu thập kiến thức đó và làm cho nó có thể tái sử dụng. Trong nhiều trường hợp, điều đó không yêu cầu thay đổi bản thân mô hình. Nó yêu cầu thay đổi hệ sinh thái xung quanh mô hình: cơ sở tri thức, lớp truy xuất, lời nhắc, chính sách, hàng rào bảo vệ, logic định tuyến và quy trình làm việc định hình cách các tác nhân hoạt động.
Mô hình có thể giữ nguyên. Hệ thống học hỏi xung quanh nó trở nên thông minh hơn.
Các vòng lặp phản hồi biến mỗi kết quả thành một bài học cho tác nhân AI
Mỗi quy trình làm việc của tác nhân AI đều tạo ra tín hiệu. Một tác nhân nhận yêu cầu. Nó truy xuất ngữ cảnh, suy luận qua các hành động khả thi, gọi công cụ và tạo ra câu trả lời. Một người chấp nhận, từ chối hoặc sửa đổi câu trả lời đó. Các hệ thống hạ nguồn tiết lộ liệu hành động có hiệu quả hay không. Toàn bộ chuỗi này đều có giá trị.
Quan sát AI (AI observability) cung cấp cho các tổ chức khả năng hiển thị về những gì đã xảy ra: lời nhắc, phản hồi, đường suy luận, các lệnh gọi công cụ, nguồn dữ liệu, các bước trung gian, các chế độ lỗi và kết quả. Nếu không có khả năng hiển thị đó, các tổ chức không thể hiểu tại sao một tác nhân lại hành xử như vậy, chứ đừng nói đến việc cải thiện nó.
Tuy nhiên, chỉ quan sát thôi là chưa đủ. Cơ hội lớn hơn là biến hành vi được quan sát thành kiến thức thể chế. Một dấu vết không chỉ giúp nhà phát triển và nhà điều hành gỡ lỗi một tác nhân. Nó phải giúp doanh nghiệp hiểu tác nhân đã học được gì, con người đã sửa gì, kết quả nào xảy ra và những gì nên thay đổi trước sự kiện tương tự tiếp theo. Đó là sự chuyển đổi từ việc giám sát AI sang dạy AI.
Trong doanh nghiệp tác nhân AI, các vòng lặp phản hồi kết nối hành động với kết quả, kết quả với kiến thức và kiến thức trở lại hành động trong tương lai.
Hệ thống học hỏi trong thực tế: Bảo mật, Quan sát và Mạng lưới
Hãy xem xét một dịch vụ đang gặp phải tình trạng suy giảm hiệu suất không liên tục. Một tác nhân quan sát phát hiện độ trễ và tỷ lệ lỗi bất thường. Một tác nhân mạng xác định mất gói dữ liệu trên một đường dẫn cụ thể. Một tác nhân bảo mật nhận thấy cùng khung thời gian đó bao gồm hành vi xác thực đáng ngờ và lưu lượng truy cập bất thường từ một nguồn chưa từng thấy trước đây.
Đứng riêng lẻ, mỗi tác nhân chỉ có một cái nhìn một phần. Cùng với nhau, chúng tạo ra một bức tranh vận hành phong phú hơn.
Lần đầu tiên sự cố này xảy ra, các chuyên gia con người có thể cần can thiệp. Một kỹ sư mạng xác nhận rằng việc mất gói dữ liệu là do thay đổi định tuyến bị cấu hình sai. Một nhà phân tích bảo mật xác định rằng lưu lượng truy cập đáng ngờ không phải là một cuộc tấn công, mà là tác dụng phụ của một dịch vụ nội bộ bị định tuyến sai. Một kỹ sư SRE kết nối sự kiện mạng với sự suy giảm ứng dụng.
Giải pháp đó chứa đựng kiến thức mà tổ chức không nên phải học lại.
Một hệ thống học hỏi tác nhân AI trưởng thành sẽ thu thập các dấu vết, chỉnh sửa của con người, ngữ cảnh cấu trúc liên kết, phát hiện bảo mật, tín hiệu quan sát và các bước khắc phục cuối cùng. Nó sẽ bảo tồn mối quan hệ giữa các tín hiệu đó: mô hình độ trễ, đường dẫn mạng, hành vi nhận dạng, thay đổi định tuyến và khắc phục.
Lần tiếp theo một mô hình tương tự xuất hiện, các tác nhân sẽ không bắt đầu từ con số không. Chúng có thể truy xuất trường hợp trước đó, so sánh các điều kiện hiện tại, đề xuất đường dẫn chẩn đoán đã được chứng minh và leo thang với ngữ cảnh tốt hơn.
Mô hình nền tảng không cần phải được huấn luyện lại. Doanh nghiệp đã học hỏi.
Kiến trúc của doanh nghiệp tác nhân AI học hỏi
Một doanh nghiệp tác nhân AI định hướng học hỏi cần nhiều hơn một mô hình hoặc chatbot. Nó cần một kiến trúc có thể thu thập kinh nghiệm, biến nó thành kiến thức có thể sử dụng, kết nối kiến thức đó với ngữ cảnh vận hành và quản lý cách nó thay đổi hành vi tác nhân trong tương lai.
* Bộ nhớ (Memory): Lưu giữ những gì đã xảy ra: những gì tác nhân thấy, những gì nó đã làm, nơi con người can thiệp và những kết quả tiếp theo. * Cơ sở tri thức (Knowledge bases): Biến kinh nghiệm đó thành hướng dẫn có thể tái sử dụng, bao gồm các sổ tay hướng dẫn, ví dụ, chính sách, quy trình và bằng chứng. * Cấu trúc dữ liệu (Data fabric): Kết nối môi trường vận hành. Các tín hiệu mà tác nhân cần tồn tại trên nhật ký, số liệu, dấu vết, phiếu ghi, hệ thống định danh, công cụ bảo mật, đo từ xa mạng, nền tảng cộng tác và ứng dụng kinh doanh. Một cấu trúc dữ liệu làm cho các tín hiệu đó có thể khám phá, tương quan, được quản lý và sử dụng trong ngữ cảnh. * Quan sát AI (AI observability): Giải thích cách các tác nhân hoạt động bằng cách thu thập lời nhắc, lệnh gọi công cụ, các bước trung gian, phản hồi, phản hồi và kết quả. Khả năng hiển thị đó giúp các tổ chức hiểu nơi các tác nhân thành công, nơi chúng thất bại và những gì cần cải thiện. * Mặt phẳng điều khiển (Control plane): Quản lý cách học hỏi trở thành thay đổi: kiến thức nào được nâng cao, lời nhắc hoặc chính sách nào được cập nhật, tác nhân nào có thể sử dụng thông tin mới, những phê duyệt nào được yêu cầu và cách các thay đổi được kiểm toán.
Cùng với nhau, những khả năng này cho phép các hệ thống AI cải thiện theo thời gian một cách có kiểm soát, đáng tin cậy, giúp doanh nghiệp học hỏi từ chính hoạt động của mình.
Các tổ chức học hỏi nhanh nhất sẽ chiến thắng
Kỷ nguyên AI tiếp theo sẽ không chỉ do các mô hình đơn thuần chiến thắng. Nó sẽ được giành chiến thắng bởi các tổ chức có thể nắm bắt những gì họ học được từ mọi quy trình làm việc, chỉnh sửa của chuyên gia, sự cố, điều tra và kết quả.
Các doanh nghiệp tác nhân AI tiên tiến nhất sẽ không chỉ triển khai nhiều tác nhân hơn. Họ sẽ xây dựng các hệ thống cho phép mọi tác nhân hưởng lợi từ kiến thức tập thể của tổ chức. Điều đó có nghĩa là kết nối dữ liệu vận hành thông qua một cấu trúc dữ liệu. Điều đó có nghĩa là quan sát hành vi tác nhân đủ sâu để hiểu nó. Điều đó có nghĩa là lưu giữ kinh nghiệm trong bộ nhớ và thể chế hóa nó trong các cơ sở tri thức. Điều đó có nghĩa là sử dụng mặt phẳng điều khiển để quản lý cách học hỏi thay đổi hành vi tác nhân.
Tương lai của AI không phải là một tác nhân tự trị đơn lẻ hoạt động một mình. Đó là một hệ sinh thái gồm các tác nhân, con người, dữ liệu và kiểm soát học hỏi theo thời gian.
Các tổ chức xây dựng hệ sinh thái đó sẽ tạo ra các hệ thống AI ngày càng tốt hơn sau mỗi tương tác. Không phải vì mô hình liên tục thay đổi, mà vì chính doanh nghiệp đang trở nên thông minh hơn.
--- Bài viết gốc được đăng trên VentureBeat bởi Hao Yang, Phó Chủ tịch AI tại Splunk, một công ty của Cisco.