Một nghiên cứu mới được công bố đã chỉ ra một nghịch lý trong phát triển AI: Khi cố gắng làm cho chatbot trở nên hữu ích hơn, chúng ta cũng đồng thời làm chúng mất đi những đặc điểm giống con người.
Diễn biến
Nghiên cứu phân tích cách các mô hình ngôn ngữ được tinh chỉnh thông qua kỹ thuật RLHF (học tăng cường từ phản hồi của con người). Kết quả cho thấy các mô hình được tối ưu để đưa ra câu trả lời 'an toàn' và 'đúng trọng tâm' thường có xu hướng trả lời rập khuôn, thiếu những sắc thái cảm xúc vốn có của ngôn ngữ tự nhiên.
Bối cảnh
Trong những năm qua, các công ty AI đã chi hàng tỷ USD để đảm bảo AI không đưa ra các câu trả lời độc hại. Tuy nhiên, quá trình này vô tình tạo ra một 'màng lọc' khiến AI trở nên máy móc và dễ đoán hơn so với các phiên bản sơ khai chưa qua tinh chỉnh.
Vì sao đáng chú ý
Điều này đặt ra thách thức cho việc phát triển AI trong các lĩnh vực cần sự tương tác gần gũi như giáo dục hay sáng tạo. Đối với các nhà phát triển tại Việt Nam, nghiên cứu này gợi ý rằng cần có sự cân bằng giữa tính an toàn và tính chân thực để không làm mất đi trải nghiệm người dùng.