Xu hướng sử dụng các trợ lý ảo tự động (AI agent) để thay thế con người thực hiện các tác vụ số đang ngày càng phổ biến rộng rãi. Tuy nhiên, các chuyên gia an ninh mạng khuyến cáo người dùng cần cân nhắc kỹ lưỡng trước khi cấp quyền truy cập sâu vào hệ thống cho các công cụ này nhằm tránh nguy cơ mất kiểm soát dữ liệu cá nhân lẫn doanh nghiệp.
Diễn biến
Theo phân tích từ ZDNet, việc vận hành một AI agent ở thời điểm hiện tại tương tự như cách chúng ta quản lý một thực tập sinh năng nổ nhưng dễ phạm sai lầm. Dù sở hữu khả năng xử lý công việc với tốc độ đáng kinh ngạc, các thực tập sinh AI này vẫn hoàn toàn thiếu hụt khả năng tự nhận thức về ranh giới an toàn thông tin và rất dễ bị thao túng bởi các dữ liệu đầu vào độc hại.
Việc để AI agent tự ý gửi email, truy cập cơ sở dữ liệu nội bộ hay thậm chí thực hiện các giao dịch tài chính thay mặt người dùng mà không có sự phê duyệt trực tiếp từ con người (human-in-the-loop) có thể dẫn đến những thảm họa bảo mật nghiêm trọng. Do đó, giới chuyên môn khuyến nghị các nhà phát triển và doanh nghiệp cần thiết lập cơ chế kiểm soát nghiêm ngặt, giới hạn tối đa quyền hạn của tác vụ tự động và luôn duy trì quyền kiểm soát cuối cùng đối với mọi hành động nhạy cảm.
Vì sao đáng chú ý
Đối với cộng đồng công nghệ và các doanh nghiệp khởi nghiệp tại Việt Nam, nơi làn sóng ứng dụng AI vào quy trình vận hành đang diễn ra vô cùng mạnh mẽ, đây là một bài học thực tiễn vô cùng giá trị. Việc quá tin tưởng vào sự hoàn hảo của công nghệ tự động hóa mà bỏ qua các bước kiểm thử rủi ro có thể khiến hệ thống của doanh nghiệp dễ dàng bị khai thác, dẫn tới nguy cơ rò rỉ thông tin khách hàng hoặc bị tin tặc tấn công thông qua các lỗ hổng bảo mật của mô hình ngôn ngữ lớn (LLM).