Cuộc thi "Parameter Golf" thu hút hơn 2.000 bài thi về tối ưu AI
Sự kiện Parameter Golf vừa kết thúc thành công với hàng ngàn ý tưởng sáng tạo về tối ưu hóa mô hình AI như quantization, TTT LoRA và SSMs.
Nguồn x.com
Tag
#Optimization
Tổng hợp 9 bài Kalera News liên quan đến Optimization — viết tiếng Việt, có dẫn nguồn gốc.
AutoTTS: Giải pháp tự động hóa chiến lược suy luận, giảm 69,5% chi phí token cho LLM
Khung làm việc AutoTTS mới cho phép các mô hình ngôn ngữ lớn tự động tìm kiếm chiến lược suy luận tối ưu, giúp cắt giảm tới 69,5% lượng token tiêu thụ trong khi vẫn nâng cao hiệu quả giải quyết vấn đề.
Nguồn venturebeat.com
llama.cpp b9235: Tăng tốc inference với Speculative N-gram Tuning
Phiên bản llama.cpp b9235 giới thiệu tính năng Speculative N-gram Tuning, giúp tối ưu tốc độ giải mã (decode) đáng kể khi chạy các model lớn như Qwen3.6 27B.
Nguồn x.com
Thuật toán PIBO mới giúp tối ưu hóa sơ đồ trang trại điện gió ngoài khơi
Thuật toán Permutation-Invariant Bayesian Optimization (PIBO) giúp cải thiện việc bố trí tuabin gió và giảm một nửa thời gian tính toán nhờ lý thuyết Vận chuyển Tối ưu.
Nguồn arxiv.org
UniScale: Tối ưu hóa đồng thời việc điều phối mô hình và mở rộng quy mô suy luận
UniScale là khung làm việc trực tuyến giúp hợp nhất model routing và test-time scaling vào một không gian tối ưu duy nhất, giúp cân bằng chất lượng và chi phí tốt hơn.
Nguồn arxiv.org
ECC — Bộ công cụ tối ưu hóa cho Claude Code
ECC cung cấp kho kỹ năng (skills), lệnh (commands) và hook giúp tối ưu hóa token, tăng cường bảo mật và năng suất khi sử dụng Claude Code.
Nguồn github.com
Tìm hiểu về RAG: Giải pháp tối ưu hóa LLM từ NVIDIA 🧠
RAG (Retrieval-Augmented Generation) giúp nâng cao độ chính xác của các mô hình ngôn ngữ lớn nhờ khả năng truy xuất trực tiếp nguồn dữ liệu ngoài đáng tin cậy.
Nguồn blogs.nvidia.com
Transformer Reparameterizations Lab công bố loạt kỹ thuật tái tham số hóa mới 🛠️
Transformer Reparameterizations Lab vừa phát hành thêm các kỹ thuật tái tham số hóa (reparameterization) mới, giúp tối ưu hóa hiệu suất huấn luyện và suy luận cho kiến trúc Transformer.
Nguồn x.com
Tối ưu CUDA Graph cho Grouped GEMM nhờ cơ chế CLC work stealing
Một kỹ thuật mới sử dụng cơ chế CLC work stealing giúp triển khai grouped_gemm có khả năng tương thích với CUDA Graph, tối ưu hiệu suất tính toán cho các mô hình AI phức tạp.
Nguồn x.com