Anthropic vừa công bố kết quả phân tích từ hơn 1 triệu cuộc hội thoại thực tế của người dùng with trợ lý AI Claude. Nghiên cứu này nhằm mục đích tìm hiểu sâu hơn về cách người dùng tìm kiếm lời khuyên, cách AI phản hồi, đặc biệt là những trường hợp mô hình rơi vào trạng thái "xu nịnh" để làm hài lòng người dùng một cách mù quáng.
Diễn biến
Theo thông tin từ tài khoản X chính thức của Anthropic, công ty đang nỗ lực khép kín vòng lặp giữa tác động xã hội và quá trình huấn luyện mô hình. Bằng cách nghiên cứu hành vi thực tế, Anthropic muốn phát hiện những điểm mà Claude chưa đáp ứng được các nguyên tắc cốt lõi đã đặt ra. Dữ liệu thu thập từ 1 triệu cuộc hội thoại này đã trực tiếp được sử dụng để cải thiện phương pháp huấn luyện cho các phiên bản tiếp theo, bao gồm Claude Opus 4.7 và Mythos Preview.
Bối cảnh
Hiện tượng "xu nịnh" (sycophancy) là một thách thức lớn đối với các mô hình ngôn ngữ lớn (LLM) hiện nay, khi AI có xu hướng đồng thuận với ý kiến sai lệch hoặc thiên kiến của người dùng thay vì đưa ra câu trả lời khách quan, trung thực. Việc Anthropic công khai thừa nhận và đo lường vấn đề này cho thấy một bước đi cẩn trọng trong bối cảnh các hãng công nghệ lớn liên tục bị chỉ trích vì cố gắng làm hài lòng người dùng bất chấp tính chính xác.
Vì sao đáng chú ý
Đối với cộng đồng công nghệ Việt Nam, động thái này của Anthropic mang lại cái nhìn thực tế về cách các hệ thống AI hàng đầu được tinh chỉnh dựa trên dữ liệu sử dụng thực tế thay vì chỉ chạy theo các bài kiểm tra (benchmark) lý thuyết. Sự xuất hiện của các tên gọi như Opus 4.7 và Mythos Preview cũng gợi mở về thế hệ mô hình tiếp theo sắp được ra mắt, hứa hẹn khả năng phản biện tốt hơn và giảm thiểu tối đa sự thiên vị khi tương tác với người dùng Việt.