Trí tuệ nhân tạo tác nhân (Agentic AI) đang cách mạng hóa năng suất của các đội ngũ IT và bảo mật. Tuy nhiên, theo VentureBeat, nó cũng đang vô tình loại bỏ con đường học việc truyền thống đã tạo ra những chuyên gia giàu kinh nghiệm. Khi các tổ chức tự động hóa nhiều hơn các công việc từng do các nhà phân tích và kỹ sư cấp dưới thực hiện, họ đối mặt với một thách thức lớn: làm thế nào để đào tạo thế hệ chuyên gia tiếp theo khi AI đã đảm nhiệm công việc từng là nền tảng huấn luyện họ? 🤔
Vị trí của thế hệ nhân sự trẻ trong quá khứ
Trong hai thập kỷ qua, con đường trở thành chuyên gia SecOps, SRE hay NetOps đẳng cấp thế giới thường phải trải qua quá trình lặp đi lặp lại các công việc tưởng chừng nhàm chán như phân loại lỗi sai, tìm kiếm ngữ cảnh trên bảng điều khiển hay đọc log hệ thống giữa đêm.
Đó là công việc tẻ nhạt, nhưng chính hàng ngàn giờ tiếp xúc với các mẫu lưu lượng đã xây dựng nên trực giác vô giá cho các nhà phân tích khi đối mặt với một cuộc tấn công thực sự. Trực giác này không được dạy trong một khóa học hay ghi lại trong một cuốn sổ tay; nó được tích lũy qua kinh nghiệm, nhận dạng mẫu, thất bại và leo thang.
Giờ đây, Agentic AI đang bắt đầu tự động hóa chính những nhiệm vụ từng là nền tảng đào tạo chuyên môn đó. Điều này không phải lý do để chậm lại – vì sự tẻ nhạt gây tốn kém và gây kiệt sức. Các tổ chức nên sử dụng AI để giảm bớt công việc nặng nhọc bất cứ khi nào có thể. Tuy nhiên, khi loại bỏ vòng lặp học việc đó, chúng ta cần cung cấp cho các chuyên viên một con đường phát triển tốt hơn để thay thế.
Khi tự động hóa làm suy yếu trách nhiệm giải trình
Một khía cạnh ít được chú ý hơn là tự động hóa có thể làm suy yếu trách nhiệm giải trình. Trong các môi trường chịu quy định chặt chẽ (như SOX, PCI DSS, HIPAA hay NIS2), quá trình học việc là một phần của lớp trách nhiệm giải trình. Các kiểm toán viên phỏng vấn con người để hiểu tại sao một hệ thống lại hành động như vậy, tại sao quyết định được đưa ra là hợp lý và liệu các kiểm soát phù hợp có được áp dụng hay không – chứ không phải phỏng vấn mô hình AI.
Khi số lượng chuyên gia có thể giải thích chuỗi quyết định này giảm đi, rủi ro tiềm ẩn sẽ xuất hiện, dù hệ thống vẫn có vẻ hoạt động trơn tru. Trí nhớ tổ chức dần bị rỗng tuếch. Đây không chỉ là vấn đề công cụ, mà là vấn đề kỹ năng và thiết kế lực lượng lao động. Đối với các tổ chức đang nhanh chóng áp dụng AI tác nhân, rủi ro này gần hơn nhiều người nghĩ. 🚨
Xây dựng chuyên môn con người để quản trị AI
Khi chúng ta mất một phần lớp trách nhiệm giải trình vào tay các tác nhân AI, con người sẽ bước vào một vai trò quản trị khác. Quản trị một hệ thống Agentic AI đòi hỏi:
* Triển khai các rào cản tự động thích ứng với hành vi phi xác định của tác nhân. * Đảm bảo tác nhân hành xử phù hợp trong các điều kiện không ai lường trước. * Thiết kế tiêu chí leo thang để nắm bắt các bất thường chính xác mà không làm quá tải con người. * Triển khai các công cụ động, cảnh báo và quy trình để xem xét quyết định của máy nhằm phát hiện sai lệch, thiên vị hay lỗi suy luận.
Khả năng đánh giá và phản ứng với những trường hợp ngoại lệ này yêu cầu phán đoán được xây dựng qua nhiều năm kinh nghiệm, học cách nhận dạng mẫu mà mô hình học việc cũ từng cung cấp. Do đó, câu hỏi về lực lượng lao động và kiến trúc hệ thống giờ đây là một. Nếu chúng ta mong đợi con người quản trị các hệ thống ngày càng tự chủ, chúng ta cần những con đường phát triển có chủ đích để giúp họ quản lý quy mô và tốc độ của AI, đồng thời xây dựng trực giác và khả năng phán đoán cần thiết. 🧠
Trong kỷ nguyên AI, các nền tảng giá trị nhất sẽ không chỉ tự động hóa nhiều tác vụ nhất. Chúng sẽ giúp con người trở nên có năng lực hơn, đáng tin cậy hơn và thiết yếu hơn khi các hệ thống xung quanh họ trở nên nhanh hơn và thông minh hơn.
Trao quyền cho con người: 4 nguyên tắc thiết kế hệ thống Agentic AI
Để trao quyền cho các hệ thống Agentic AI không chỉ là một yêu cầu mang tính khái niệm, mà phải là một tập hợp các lựa chọn thiết kế được tích hợp vào cách hệ thống hoạt động. Một hệ thống Agentic AI trao quyền cho người vận hành và phát triển kỹ năng chuyên nghiệp của họ cần làm bốn điều:
1. Phơi bày quá trình lý luận và nguồn gốc dữ liệu: Mọi khuyến nghị của tác nhân phải truy vết được đến dữ liệu đã xem xét, logic đã áp dụng và nguồn gốc của các đầu vào. Người vận hành có thể thấy lý luận sẽ phát triển khả năng phán đoán khi tin cậy vào hệ thống. Người chỉ nhận được kết luận thì không.
2. Phân cấp quyền hạn theo mức độ tự tin và tác động: Các mẫu quen thuộc, rủi ro thấp có thể được xử lý tự chủ. Các tình huống mới lạ hoặc hành động có tác động lớn cần leo thang lên con người theo mặc định. Ranh giới này phải rõ ràng và có thể cấu hình bởi các nhóm chịu trách nhiệm về hậu quả.
3. Coi sự bất đồng là tín hiệu điều chỉnh: Khi một kỹ sư có kinh nghiệm ghi đè lên quyết định của tác nhân AI, họ không chỉ bất đồng. Họ đang điều chỉnh hệ thống bằng phán đoán mà mô hình chưa có: một sự phụ thuộc mong manh, một sự kỳ lạ trong môi trường, một hạn chế mà dữ liệu chưa từng thấy. Một hệ thống chỉ ghi nhận sự ghi đè mà bỏ qua lý luận đằng sau nó sẽ không học được gì từ khoảnh khắc con người biết rõ hơn.
4. Thu thập các giải pháp dưới dạng kiến thức đa miền: Cách một sự cố được giải quyết là một bài học hiếm khi chỉ nằm trong một lĩnh vực. Một sự cố SecOps có thể phơi bày một điểm yếu ITOps. Một vấn đề mạng có thể truy nguyên từ tác động kinh doanh. Khi kết nối đó chỉ tồn tại trong một ticket đóng kín, nhóm tiếp theo gặp phải sẽ phải bắt đầu lại từ đầu. Các giải pháp nên được chia sẻ qua các miền, không chết nơi chúng được lưu trữ. 🌐
Đây không phải là những phẩm chất đáng mơ ước; chúng là những khả năng sản phẩm có thể kiểm chứng. Các nhà lãnh đạo đánh giá hệ thống Agentic AI nên có thể xác định những khả năng này tồn tại ở đâu, điều gì xảy ra khi chúng thất bại và liệu kỹ năng của người vận hành có cải thiện sau khi triển khai hay không.
Lợi thế tiếp theo: Khi con người và AI cùng phát triển
Để các hệ thống AI thực tế, đáng tin cậy và hoạt động ở quy mô lớn, điểm thiết kế quan trọng là AI phải hoạt động sâu sắc cùng và trao quyền cho người vận hành. Như vậy, kỷ nguyên tác nhân AI không phải là câu chuyện thay thế con người, mà là về việc thiết kế lại các hệ thống để con người vận hành chúng với tốc độ và quy mô máy móc, đồng thời chuyên môn con người cũng phát triển song song.
Kết quả này không tự nhiên mà có. Nó chỉ xảy ra khi các nhà lãnh đạo ưu tiên phát triển chuyên viên, không coi đó là một điều thứ yếu. Để đạt được điều này, các hệ thống Agentic AI phải được thiết kế có chủ đích để phơi bày lý luận, thu thập kiến thức và đưa công việc trở lại với con người theo những cách xây dựng kỹ năng và sự nghiệp, thay vì làm xói mòn chúng.
AI sẽ tiếp tục thông minh và nhanh hơn. Khả năng học hỏi và phát triển song song của các chuyên viên sẽ quyết định liệu sự phục hồi kỹ thuật số trong thập kỷ tới có thực sự thuộc về các tổ chức, hay chỉ là sự phụ thuộc vào một nguồn chuyên môn đang dần thu hẹp. 💡