Pinterest, nền tảng chia sẻ hình ảnh hàng đầu thế giới, vừa công bố một bước tiến quan trọng trong việc tối ưu hóa chi phí vận hành AI ở quy mô lớn, giúp tiết kiệm tới 90% ngân sách hạ tầng.
Bối cảnh
Với hơn 620 triệu người dùng tích cực mỗi tháng, Pinterest phải đối mặt với một bài toán kinh tế nan giải: việc sử dụng các mô hình frontier (mô hình tiên phong) đắt đỏ để xử lý hàng tỷ lượt đề xuất hình ảnh mỗi ngày không còn là một chiến lược khả thi mà đã trở thành một gánh nặng tài chính khổng lồ. CTO Pinterest, ông Matt Madrigal, nhận định rằng việc gọi API của các mô hình lớn cho mọi tương tác người dùng là một sai lầm về mặt chi phí.
Để giải quyết vấn đề này, đội ngũ kỹ thuật của Pinterest đã thực hiện một phương pháp tiếp cận táo bạo: "phẫu thuật" mô hình Qwen3-VL. Thay vì sử dụng toàn bộ cấu trúc nguyên bản, họ đã loại bỏ hoàn toàn tầng thị giác (vision layer) của mô hình này. Sau đó, các kỹ sư đã xây dựng lại lớp xử lý này bằng các vector nhúng (embeddings) độc quyền được huấn luyện dựa trên kho dữ liệu hình ảnh khổng lồ của chính Pinterest.
Vì sao đáng chú ý
Kết quả của sự thay đổi này vượt ngoài mong đợi: chi phí vận hành (inference cost) giảm tới 90%, trong khi độ chính xác của các đề xuất hình ảnh lại tăng thêm 30%. Đây là minh chứng cho thấy xu hướng "phẫu thuật mô hình" (model gutting) và tùy chỉnh theo dữ liệu đặc thù của doanh nghiệp đang trở thành chìa khóa để hiện thực hóa lợi nhuận từ AI.
Đối với cộng đồng công nghệ và các startup tại Việt Nam, câu chuyện của Pinterest mang lại một bài học đắt giá về việc không nên phụ thuộc hoàn toàn vào các mô hình "đóng gói sẵn". Việc sở hữu dữ liệu đặc thù và có năng lực tùy biến các tầng của mô hình AI sẽ là lợi thế cạnh tranh cốt lõi, giúp doanh nghiệp vừa tối ưu được bài toán kinh tế, vừa nâng cao trải nghiệm người dùng trong bối cảnh cuộc đua AI ngày càng tốn kém.