Amazon "chưng cất" mô hình AI của Anthropic: Động thái cắt giảm chi phí đầy chiến lược trước khi thay đổi giá! 💡💰

Lo lắng về chi phí tăng cao, một số kỹ sư của Amazon được cho là đang tích cực "chưng cất" các mô hình AI của Anthropic để tạo ra các phiên bản nhỏ hơn, rẻ hơn cho mục đích sử dụng nội bộ. Theo báo cáo từ The Information 📰, nỗ lực này xuất phát từ việc đàm phán lại thỏa thuận hợp tác: bắt đầu từ năm tới, Amazon sẽ thanh toán cho các mô hình của Anthropic dựa trên số lượng token được xử lý, thay vì giờ điện toán như trước, điều này có thể đẩy chi phí lên rất cao.### Chưng cất mô hình AI là gì? 🤔Chưng cất mô hình (Model Distillation) hoạt động dựa trên nguyên tắc một mô hình nhỏ hơn, nhẹ hơn sẽ học hỏi từ đầu ra của một mô hình lớn hơn, mạnh mẽ hơn. Quá trình này giúp mô hình nhỏ đạt được hiệu suất tương tự trong các tác vụ cụ thể, nhưng với chi phí suy luận và độ trễ thấp hơn đáng kể. 🚀Những người nắm rõ vấn đề cho biết, Amazon có một số quyền nhất định để sử dụng các mô hình của Anthropic cho mục đích này, tương tự như thỏa thuận giữa Apple và Google Gemini. Mặc dù Amazon cung cấp dịch vụ chưng cất mô hình trên nền tảng đám mây AWS Bedrock của mình, các mô hình Claude của Anthropic hiện chưa được hỗ trợ tại đây; chỉ có các mô hình Nova của Amazon và Llama của Meta là khả dụng để chưng cất.### Thay đổi lớn trong cơ cấu đối tác 🤝Bắt đầu từ năm 2027, cơ cấu thanh toán giữa hai "gã khổng lồ" này sẽ thay đổi. Thay vì thuê giờ điện toán, Amazon sẽ chuyển sang mô hình định giá "trả tiền theo token". Lo ngại rằng mô hình trả tiền theo mức sử dụng này cho các mô hình Claude cao cấp sẽ làm tăng mạnh chi phí vận hành nội bộ, các đội ngũ kỹ sư của Amazon đang gấp rút xây dựng các mô hình nội bộ chuyên biệt, đã được chưng cất. 📉Mặc dù một phát ngôn viên của Amazon đã phản bác, khẳng định rằng những thay đổi từ quan hệ đối tác mở rộng sẽ không làm tăng chi phí, nhưng các đội ngũ nội bộ đã và đang khám phá các hướng đi thay thế. Điều này bao gồm việc sử dụng các mô hình của OpenAI và các mô hình Nova của riêng Amazon (như Nova 2), vốn có giá thấp hơn OpenAI và Google nhưng vẫn còn kém các mô hình hàng đầu về khả năng tuyệt đối.### Ván cược tài chính khổng lồ 💰Cuộc cạnh tranh và hợp tác trong lĩnh vực AI đã đạt đến cấp độ tài chính chưa từng có. Amazon đã đầu tư thêm tới 25 tỷ USD vào Anthropic, đồng thời cũng rót tới 50 tỷ USD vào OpenAI trong năm nay. Điều này cho thấy nhà cung cấp dịch vụ đám mây đang "đặt cược" vào các nhà sản xuất mô hình tiên phong hàng đầu, trong khi vẫn tích cực tìm cách tối ưu hóa cấu trúc chi phí nội bộ của mình. Đó là một chiến lược đa dạng hóa rủi ro và tối đa hóa hiệu quả! 🎯