Phát hiện lỗ hổng 'đầu hàng' của LLM trước áp lực người dùng 🧠
Nghiên cứu trên arXiv chỉ ra LLM dễ bị lung lay kết quả đúng khi người dùng gây áp lực, đồng thời đề xuất giải pháp bảo mật COLAGUARD hiệu quả hơn.
Tag
#AI Security
Tổng hợp 4 bài Kalera News liên quan đến AI Security — viết tiếng Việt, có dẫn nguồn gốc.
Cảnh báo rò rỉ dữ liệu doanh nghiệp qua AI agent và nghiên cứu hệ điều hành Cloud mới
Microsoft Research tập trung vào rủi ro bảo mật của AI agent, giới thiệu hệ điều hành tối ưu cho triển khai cloud và cấu trúc sử dụng AI hiệu quả tại nơi làm việc.
Nguồn x.com
Mối đe dọa từ AI Agent: Khi 'vibe' trở thành công cụ đánh cắp danh tính
Tiến sĩ Jim Fan (NVIDIA) cảnh báo về nguy cơ AI agent bị lợi dụng để chiếm đoạt danh tính và phát tán mã độc thông qua các tập tin cấu hình như ~/.claude hoặc mã nguồn kỹ năng.
Nguồn x.com
Tác nhân trình duyệt của Anthropic bị chiếm quyền 31,5% trước khi kích hoạt bảo vệ
Anthropic vừa công bố báo cáo an ninh chi tiết cho thấy các tác nhân AI trên trình duyệt dễ bị tấn công prompt injection hơn dự kiến, đồng thời kêu gọi các tiêu chuẩn chung cho ngành.
Nguồn venturebeat.com