Vừa qua, cộng đồng công nghệ trên Hacker News đã xôn xao trước thông tin công cụ hỗ trợ lập trình Claude Code của Anthropic tiêu tốn tới 33.000 token đầu vào trước khi thực sự xử lý prompt của người dùng. Trong khi đó, dự án nguồn mở OpenCode chỉ tiêu tốn khoảng 7.000 token cho quy trình khởi động tương tự. Sự chênh lệch lớn này dấy lên những lo ngại về chi phí vận hành và tính tối ưu hóa của các trợ lý AI thế hệ mới.
Diễn biến chi tiết
Phát hiện này bắt nguồn từ các thử nghiệm đo lường lưu lượng dữ liệu trao đổi giữa các công cụ CLI (giao diện dòng lệnh) dành cho lập trình viên và máy chủ AI. Khi người dùng khởi chạy Claude Code, hệ thống tự động gửi đi một lượng lớn ngữ cảnh nền bao gồm cấu trúc thư mục, quy tắc hệ thống và các tệp cấu hình mặc định. Quá trình tiền xử lý quá nặng nề này khiến lượng token bị đẩy lên mức 33k ngay cả khi người dùng chưa nhập một dòng lệnh cụ thể nào. Trái lại, OpenCode thực hiện phương thức tiếp cận tinh gọn hơn, giảm thiểu tối đa dữ liệu rác được gửi đi ban đầu.
Phân tích kỹ thuật & Công nghệ
Sự khác biệt nằm ở cách thiết lập prompt hệ thống (system prompt) và cơ chế thu thập ngữ cảnh của hai công cụ. Claude Code được cho là đã tích hợp các chỉ dẫn bảo mật nghiêm ngặt, hướng dẫn chi tiết về cách tương tác với hệ thống tệp và các thư viện hỗ trợ nhằm đảm bảo tính chính xác cao. Tuy nhiên, việc nhồi nhét quá nhiều thông tin tiền đề vào context window của mô hình Claude khiến lượng token phình to. OpenCode sử dụng kiến trúc modular, chỉ kích hoạt và gửi đi các chỉ dẫn cần thiết khi có yêu cầu cụ thể từ tệp tin đang được xử lý.
Ý kiến chuyên gia & Nhận định
Nhiều nhà phát triển trên diễn đàn Hacker News bày tỏ sự không hài lòng với cách thiết lập mặc định của Anthropic. Họ cho rằng việc tiêu tốn 33.000 token đầu vào cho mỗi phiên làm việc mới là một sự lãng phí tài chính lớn, đặc biệt đối với các nhà phát triển độc lập hoặc các dự án nhỏ. Ngược lại, một số ý kiến bảo vệ Anthropic khi nhận định rằng lượng ngữ cảnh lớn giúp Claude hiểu sâu hơn về toàn bộ codebase, từ đó đưa ra các phản hồi chất lượng hơn so với các giải pháp gọn nhẹ nhưng thiếu chiều sâu.
Tác động & Tương lai
Sự việc này đặt ra bài toán tối ưu hóa chi phí cho các doanh nghiệp cung cấp dịch vụ AI agent. Độc giả và lập trình viên Việt Nam khi sử dụng các công cụ trả phí theo lượng token cần cân nhắc kỹ lưỡng cấu hình của hệ thống để tránh tình trạng hóa đơn tăng vọt ngoài tầm kiểm soát. Trong tương lai, xu hướng tối ưu hóa prompt hệ thống và nén ngữ cảnh sẽ là chìa khóa để các công cụ như Claude Code duy trì lợi thế cạnh tranh trước làn sóng nguồn mở đang phát triển mạnh mẽ.