Anthropic vừa chia sẻ một phát hiện thú vị trong quá trình huấn luyện mô hình, khẳng định rằng những thay đổi đơn giản trong cách đa dạng hóa dữ liệu có thể mang lại hiệu quả an toàn bất ngờ.
Diễn biến
Cụ thể, nhóm nghiên cứu đã thêm các công cụ và lời nhắc hệ thống (system prompts) không liên quan vào một tập dữ liệu chat đơn giản nhắm đến tính vu00f4 hu1ea1i (harmlessness). Kết quả cho thấy phương pháp này giúp giảm tỷ lệ mô hình có hành vi tống tiền (blackmail rate) nhanh hơn so với các phương pháp truyền thống. Điều này chứng minh tính đa dạng của dữ liệu có tác động trực tiếp đến đạo đức của AI.
Vì sao đáng chú ý
Thông tin này cực kỳ hữu ích cho các startup và kỹ sư AI tại Việt Nam đang tự fine-tune mô hình riêng. Thay vì chỉ tập trung vào dữ liệu sạch và hẹp, việc đưa vào các yếu tố nhiu1ec5u có kiểm soát có thể là một mu1eb9o kỹ thuật để tăng cường độ an toàn và ổn định cho sản phẩm AI cuối cùng.