Các nhà nghiên cứu AI tại Apple vừa công bố một nghiên cứu mới tập trung vào việc xử lý các 'outlier token' (token ngoại lai có giá trị cực lớn) xuất hiện trong mô hình Diffusion Transformer (DiT) phục vụ thế hệ tạo ảnh tiếp theo. Nghiên cứu này mở ra hướng đi mới nhằm tối ưu hóa hiệu suất và chất lượng hình ảnh được tạo ra bởi các hệ thống AI tiên tiến vốn đang ngày càng phổ biến.
Diễn biến chi tiết
Hiện tượng xuất hiện một số lượng nhỏ các token có chuẩn số cực lớn (high-norm tokens) vốn đã được ghi nhận trong các mô hình Vision Transformer (ViT) truyền thống. Các token này thường thu hút sự chú ý (attention) không cân xứng từ mô hình trong khi lại chứa rất ít thông tin cục bộ hữu ích. Tuy nhiên, vai trò và tác động của chúng trong các mô hình sinh (generative models) như DiT từ trước đến nay vẫn chưa được khám phá và phân tích một cách đầy đủ. Nghiên cứu mới của Apple đã lấp đầy khoảng trống này bằng cách chỉ ra rằng hiện tượng này không chỉ tồn tại mà còn ảnh hưởng trực tiếp đến chuỗi xử lý tạo ảnh.
Phân tích kỹ thuật & Công nghệ
Nhóm nghiên cứu của Apple đã tiến hành thử nghiệm trên các đường ống xử lý Representation Autoencoder (RAE)-DiT hiện đại. Kết quả cho thấy các 'outlier token' này xuất hiện ở cả hai giai đoạn: bộ mã hóa (encoder) ViT đã qua huấn luyện trước tạo ra các biểu diễn ngoại lai, và bản thân mô hình DiT cũng tự phát triển các outlier token nội bộ trong quá trình khử nhiễu, đặc biệt là ở các tầng trung gian (intermediate layers). Việc các token này thu hút quá nhiều tài nguyên tính toán của cơ chế chú ý (attention mechanism) có thể làm giảm hiệu quả xử lý tổng thể của toàn bộ kiến trúc mạng transformer.
Ý kiến chuyên gia & Nhận định
Theo báo cáo từ nhóm nghiên cứu Machine Learning của Apple, việc nhận diện và 'chế ngự' các token dị biệt này là chìa khóa để nâng cao độ chính xác và tốc độ của các mô hình sinh ảnh thế hệ mới. Các chuyên gia độc lập nhận định rằng phát hiện này vô cùng thực tế, giúp các kỹ sư AI hiểu rõ hơn về cơ chế vận hành bên trong của mô hình DiT — vốn đang là xương sống của nhiều công cụ tạo ảnh và video AI hàng đầu hiện nay như Sora hay Stable Diffusion 3. Thay vì tăng phần cứng vô tội vạ, tối ưu hóa các token lỗi này sẽ mang lại hiệu quả trực tiếp hơn.
Tác động & Tương lai
Thành công trong việc kiểm soát các outlier token hứa hẹn sẽ giúp giảm thiểu đáng kể chi phí tính toán khi chạy các mô hình AI tạo hình ảnh và video chất lượng cao trên các thiết bị cá nhân của người dùng, bao gồm cả iPhone và Mac. Đối với cộng đồng đam mê công nghệ tại Việt Nam, các cải tiến kỹ thuật dạng này từ Apple không chỉ có ý nghĩa học thuật mà còn mở đường cho các ứng dụng AI chạy trực tiếp trên thiết bị (on-device AI) hoạt động mượt mà và tiết kiệm pin hơn trong tương lai gần.