Coinbase “Đổi Hướng” Sang Mô Hình AI Trung Quốc GLM và Kimi để Cắt Giảm Chi Phí Khủng 💸
Vào tối thứ Sáu, Giám đốc điều hành Coinbase, Brian Armstrong, đã tiết lộ qua X rằng công ty đã cải tổ quy trình làm việc kỹ thuật của mình. Theo đó, GLM 5.2 của Zhipu AI và Kimi 2.7 từ Moonshot AI (có trụ sở tại Bắc Kinh) đã được chỉ định làm mô hình mặc định cho các kỹ sư thông qua cổng LLM nội bộ của Coinbase.
Động thái chiến lược này đã giúp Coinbase cắt giảm chi phí AI gần một nửa (50%), ngay cả khi khối lượng tiêu thụ token tiếp tục tăng theo cấp số nhân. Một bước đi táo bạo giữa bối cảnh thị trường AI đầy biến động! 🤯
Áp Lực Tài Chính Lên Các Phòng Thí Nghiệm AI Phương Tây 📉
Khi chi phí cho các dịch vụ mô hình độc quyền hàng đầu của Mỹ tiếp tục tăng, các phòng thí nghiệm AI phương Tây đang phải đối mặt với một thử thách áp lực giá khắc nghiệt. Điều này tạo ra một gánh nặng lớn lên các chỉ số tăng trưởng của họ, đặc biệt khi nhiều phòng thí nghiệm đang chuẩn bị cho các đợt IPO đình đám.
Ngược lại, các mô hình mã nguồn mở của Trung Quốc lại mang đến hiệu quả chi phí cực kỳ ấn tượng:
* GLM 5.2 (Zhipu AI) có chi phí khoảng 1,40 USD cho mỗi triệu token đầu vào và 4,40 USD cho mỗi triệu token đầu ra, rẻ hơn khoảng 5 lần so với Claude Opus 4.8 của Anthropic (5 USD đầu vào / 25 USD đầu ra). Dù vậy, GLM 5.2 vẫn đạt điểm chỉ kém các nhà dẫn đầu biên giới trên Terminal-Bench 2.1 trong vòng 4 điểm. Thật đáng kinh ngạc! ✨ * Kimi 2.7 (Moonshot AI) thậm chí còn “đánh bại” các mô hình hàng đầu như GPT-5.5 và Claude với mức giá rẻ hơn tới 12 lần trên cơ sở giá mỗi token. Tiết kiệm không tưởng! 🚀
Hạ Tầng Tối Ưu Chi Phí Ba Lớp Đột Phá của Coinbase 🛠️
Đội ngũ kỹ thuật của Coinbase đã đạt được những khoản tiết kiệm đáng kể này mà không hề làm giảm năng suất của nhà phát triển hay hạn chế mức sử dụng. Họ đã triển khai một cuộc đại tu hạ tầng gồm ba lớp:
1. Định tuyến mô hình thông minh: Coinbase đã phát triển một cổng LLM tùy chỉnh và khung lập lịch. Cổng này tiền xử lý các lời nhắc và tự động định tuyến các tác vụ đến mô hình phù hợp và hiệu quả chi phí nhất. Các tác vụ tiêu chuẩn, thường xuyên sẽ mặc định sử dụng GLM 5.2 và Kimi 2.7, trong khi các kỹ sư vẫn có thể chọn các mô hình độc quyền tiên tiến cho các kịch bản lập kế hoạch và suy luận cực kỳ phức tạp. 2. Các biện pháp bộ nhớ đệm tiên tiến: Bằng cách tối ưu hóa bộ nhớ đệm ngữ cảnh, đội ngũ kỹ thuật đã nâng tỷ lệ truy cập bộ nhớ đệm từ mức chỉ 5% lên mức ấn tượng 60%, giảm đáng kể việc xử lý token dư thừa. Hiệu quả vượt trội! ✅ 3. Chính sách chịu trách nhiệm và giới hạn chi tiêu: Điều thú vị là 91% kỹ sư của Coinbase chưa bao giờ đạt đến giới hạn sử dụng ban đầu của họ. Thay vì giảm giới hạn hoặc thiết lập các cảnh báo chi tiêu xâm phạm, Coinbase đã chọn thay đổi các mô hình mặc định. Họ đã đưa ra một quy tắc kinh doanh đơn giản nhưng đầy ý nghĩa: “Bạn chi tiêu cho AI càng nhiều, chúng tôi càng kỳ vọng nhiều hơn vào tác động.” Một cách tiếp cận thông minh để quản lý chi phí! 💡
Lợi Ích Ngoài Chi Phí: Giấy phép, Quyền Riêng Tư và Bảo Mật 🔒
Ngoài yếu tố giá cả, GLM 5.2 được phân phối theo giấy phép MIT cực kỳ tự do. Điều này cho phép các doanh nghiệp như Coinbase tải xuống, sửa đổi và lưu trữ các trọng số trên các máy chủ riêng an toàn của chính họ, loại bỏ hoàn toàn rủi ro bảo mật khi gửi dữ liệu doanh nghiệp nhạy cảm đến các API bên thứ ba bên ngoài. Bảo mật là ưu tiên hàng đầu! 🛡️
Động thái này của Coinbase báo hiệu một sự dịch chuyển rộng lớn hơn: các công ty công nghệ toàn cầu đang ngày càng áp dụng định tuyến đa LLM, đón nhận các mô hình mã nguồn mở và chủ động tránh bị khóa vào một nhà cung cấp mô hình duy nhất của Mỹ khi căng thẳng địa chính trị và giá cả gia tăng. Tương lai của AI đang thay đổi mạnh mẽ! 🌍