Một báo cáo mới từ Microsoft Research chỉ ra lỗ hổng lớn trong khả năng suy luận xã hội của các AI agent. Dù có thể lập trình hoặc viết lách thành thạo, các agent này lại gặp khó khăn khi phải đưa ra quyết định nhằm tối ưu hóa lợi ích thực tế cho người dùng trong các tương tác phức tạp.
Diễn biến
Nhóm nghiên cứu đã sử dụng SocialReasoning Bench để đánh giá nhiều mô hình khác nhau. Kết quả cho thấy một mô hình ổn định: các agent thực hiện câu lệnh một cách máy móc nhưng không hiểu được mục đích sâu xa về lợi ích của người dùng. Ngay cả khi được hướng dẫn rõ ràng là phải tối ưu hóa cho "user interest", các agent vẫn thường xuyên đưa ra các lựa chọn trung lập hoặc không mang lại lợi thế cạnh tranh cho chủ sở hữu.
Vì sao đáng chú ý
Khi chúng ta tiến tới kỷ nguyên "Agentic AI", nơi AI thay mặt con người đàm phán hoặc thực hiện giao dịch, khả năng suy luận xã hội là then chốt. Kết quả này nhắc nhở các nhà phát triển tại Việt Nam rằng việc tối ưu hóa prompt hay logic thực thi là chưa đủ. Chúng ta cần các cơ chế kiểm soát và căn chỉnh (alignment) tinh vi hơn để đảm bảo AI thực sự phục vụ lợi ích của con người trong các bối cảnh xã hội thực tế.