Nhiều người dùng trên các diễn đàn công nghệ vừa phản ánh việc mô hình ngôn ngữ Claude của Anthropic tự động ghi nhớ các chi tiết vụn vặt và không liên quan từ các phiên trò chuyện trước đó mà không có sự đồng ý của họ.
Diễn biến
Theo phản ánh từ cộng đồng công nghệ trên Hacker News, tính năng bộ nhớ mới của Claude dường như đang hoạt động quá mức kiểm soát. Thay vì chỉ lưu trữ các thông tin cốt lõi hoặc chỉ dẫn quan trọng của người dùng, AI này lại tự động đưa cả những đoạn hội thoại ngẫu nhiên, thậm chí là các dòng lệnh lỗi hoặc thông tin rác vào bộ nhớ dài hạn. Người dùng phát hiện ra điều này khi Claude đột ngột nhắc lại các ngữ cảnh cũ không hề liên quan đến chủ đề hiện tại.
Bối cảnh
Tính năng cá nhân hóa dựa trên bộ nhớ dài hạn (memory) đang là xu hướng được các hãng công nghệ như OpenAI và Anthropic tích hợp vào chatbot để duy trì ngữ cảnh nhất quán. Tuy nhiên, việc thiếu các bộ lọc thông minh để phân biệt giữa thông tin quan trọng và dữ liệu tạm thời đang khiến trải nghiệm người dùng bị ảnh hưởng nghiêm trọng. Người dùng hiện phải tự tay xóa thủ công các ký ức sai lệch này trong phần cài đặt của ứng dụng.
Vì sao đáng chú ý
Sự cố này dấy lên mối lo ngại về quyền riêng tư và hiệu suất của các AI agent. Đối với người dùng Việt Nam thường xuyên sử dụng Claude để lập trình hoặc xử lý tài liệu nhạy cảm, việc AI tự ý lưu trữ thông tin rác không chỉ làm giảm độ chính xác của phản hồi mà còn tiềm ẩn nguy cơ rò rỉ dữ liệu chéo giữa các phiên làm việc khác nhau.