Để tương tác an toàn với con người, AI agent không chỉ cần biết các quy chuẩn (norms) mà còn phải cân nhắc chúng khi lập kế hoạch. Nghiên cứu mới giới thiệu một hướng tiếp cận giúp AI lập kế hoạch với các quy chuẩn thay đổi linh hoạt.
Diễn biến
Nhóm nghiên cứu đã đóng góp một hệ thống tính toán (defeasible calculus) để giải quyết các xung đột quy chuẩn và sử dụng chúng như các "rào chắn" (guard rails) cho các kế hoạch hành động. Cách tiếp cận này được kiểm chứng thông qua SocialBot, một agent xử lý tác vụ hội thoại bằng ngôn ngữ tự nhiên.
Khác với các hệ thống trước đây thường coi quy chuẩn là tĩnh, mô hình này cho phép agent thích ứng với bản chất năng động của các quy định xã hội trong môi trường thực tế.
Vì sao đáng chú ý
Việc tích hợp quy chuẩn xã hội vào cốt lõi của quá trình lập kế hoạch (planning) thay vì chỉ là lớp hậu xử lý giúp AI cư xử "người" hơn và an toàn hơn. Tại Việt Nam, khi các chatbot và robot dịch vụ bắt đầu len lỏi vào đời sống, khả năng hiểu và tuân thủ các quy tắc ứng xử linh hoạt sẽ là chìa khóa để AI được xã hội chấp nhận rộng rãi.