Nhà phát triển Jola vừa chia sẻ một giải pháp kỹ thuật thực tế nhằm giải quyết tình trạng mô hình ngôn ngữ lớn Claude của Anthropic thường xuyên lặp lại cụm từ đặc trưng 'load-bearing' trong các văn bản phản hồi. Đây là nỗ lực cá nhân nhằm cải thiện chất lượng hành văn của AI, giúp đầu ra tự nhiên và bớt rập khuôn hơn.
Bối cảnh & Nguyên nhân
Người dùng các mô hình LLM hiện nay, đặc biệt là dòng Claude của Anthropic, thường xuyên nhận thấy AI có xu hướng bám víu vào một số từ vựng hoặc cấu trúc câu nhất định. Cụm từ 'load-bearing' (mang tính gánh vác, cốt lõi) xuất hiện với tần suất cao bất thường trong các bài phân tích kỹ thuật hoặc bài viết sáng tạo do Claude tạo ra. Điều này làm giảm tính đa dạng ngôn ngữ và khiến người đọc dễ dàng nhận ra văn bản do máy tính soạn thảo.
Phân tích kỹ thuật & Công nghệ
Để giải quyết triệt để, tác giả đã thử nghiệm điều chỉnh hệ thống prompt (system prompt) và thiết lập các bộ lọc từ vựng đầu ra. Thay vì chỉ ra lệnh cấm đoán đơn giản vốn thường bị AI phớt lờ do cơ chế xác suất của token, giải pháp hiệu quả hơn là cung cấp cho mô hình các từ ngữ thay thế ngữ cảnh cụ thể hoặc điều chỉnh tham số penalty để giảm xác suất xuất hiện của các token liên quan đến cụm từ này.
Ý kiến chuyên gia & Nhận định
Cộng đồng phát triển trên Hacker News nhanh chóng thu hút sự chú ý vào chia sẻ này, nhiều lập trình viên đồng tình rằng việc tối ưu hóa prompt hệ thống là chìa khóa để định hình 'tính cách' và phong cách viết của AI. Tuy nhiên, một số ý kiến cũng lưu ý rằng việc can thiệp quá sâu vào bộ lọc từ vựng đôi khi có thể làm giảm khả năng diễn đạt tự nhiên ở các ngữ cảnh thực sự cần đến từ ngữ đó.
Tác động & Tương lai
Phương pháp tinh chỉnh prompt này mở ra hướng đi tự phục vụ (self-serve) cho người dùng kỹ thuật trong việc kiểm soát hành vi của LLM trước khi các nhà phát triển mô hình như Anthropic đưa ra các bản cập nhật chính thức. Đối với người dùng Việt Nam thường xuyên tối ưu hóa prompt cho công việc viết lách hoặc lập trình, đây là một mẹo hữu ích để nâng cao chất lượng nội dung đầu ra của trợ lý AI.