Probably Thu Hút 9 Triệu USD: Nâng Tầm Độ Tin Cậy cho AI Giữa "Cơn Bão" Ảo Giác
Các Mô hình Ngôn ngữ Lớn (LLM) ngày càng mạnh mẽ, nhưng lỗi "ảo giác" (hallucinations) vẫn là một thách thức dai dẳng khó tránh khỏi. Ngay cả những mô hình thông minh nhất cũng không thể loại bỏ hoàn toàn sai sót, và dù đã có nhiều cách để phát hiện, ngành công nghiệp AI vẫn đang tìm kiếm giải pháp tối ưu nhất. Trong bối cảnh đó, Probably – startup vừa gọi vốn thành công 9 triệu USD từ Andreessen Horowitz – đang nỗ lực xây dựng một phương pháp nghiêm ngặt hơn để khắc phục triệt để vấn đề này. 🚀
Mục Tiêu "Bất Khả Thi" Với Độ Chính Xác 99.99%
Theo Peter Elias, người sáng lập Probably, mục tiêu của công ty là ngăn chặn các lỗi "ảo giác" và sai sót thực tế cơ bản không bao giờ đến tay người dùng, nhằm đạt được độ chính xác 99.99% – một tiêu chuẩn phổ biến trong các hệ thống xác định nhưng vô cùng khó đạt được với AI. Để đạt được cấp độ chính xác này, Probably đã phải "tư duy lại" nhiều giả định cơ bản trong kỹ thuật AI.
"Bộ Giáp Cơ Khí Khoa Học Dữ liệu" và Hệ Thống Xác Thực
Sản phẩm đầu tiên của Probably là một công cụ khoa học dữ liệu, được thiết kế để đưa ra câu trả lời nhanh chóng từ các tập dữ liệu phức tạp. Mỗi kết quả đều đi kèm trích dẫn và dấu vết kiểm toán – một thực tiễn ngày càng phổ biến trong các công cụ AI hiện nay.
Tuy nhiên, để giữ cho lỗi không lọt vào các bản tóm tắt, Probably đã phát triển một hệ thống kiểm soát phức tạp mà Elias mô tả là "bộ giáp cơ khí khoa học dữ liệu" ("data science mech suit"). Các câu trả lời ban đầu của LLM sẽ được kiểm tra chéo với một hệ thống xác thực mang tính quyết định (deterministic validator). Nếu kết quả không khớp với dữ liệu gốc, chúng sẽ bị từ chối. Điều quan trọng là LLM đã được huấn luyện để tương tác với hệ thống xác thực này, tối ưu hóa toàn bộ quy trình cho các câu trả lời nhanh và chính xác. ✅
> Elias chia sẻ: "Điều chúng tôi học được khi xây dựng hệ thống này là kỹ thuật kiểm soát của bạn càng tốt, mô hình có thể càng yếu hơn. Nếu bạn có thể tinh chỉnh ngữ cảnh đủ tốt, mô hình không cần phải hoạt động quá vất vả để làm đúng. Về cơ bản, đó là một bài tập nhằm giảm thiểu sự mơ hồ."
Giảm Chi Phí và Mở Rộng Ứng Dụng 💡
Cách tiếp cận này cho phép công cụ khoa học dữ liệu của Probably chạy trên các mô hình AI nhỏ hơn đáng kể. Elias tiết lộ phiên bản hiện tại đang sử dụng một mô hình "yếu hơn bốn cấp so với các mô hình tiên tiến nhất," đồng nghĩa với việc nó có thể chạy trên phần cứng cục bộ (như máy tính để bàn thay vì trung tâm dữ liệu). Điều này giúp cắt giảm đáng kể chi phí token, vốn là một gánh nặng lớn trong việc sử dụng AI.
Đây là một ý tưởng đáng hoan nghênh trong bối cảnh chi phí token đang tăng cao và nhiều khách hàng đang đánh giá lại ngân sách AI của mình. Ý tưởng của Elias không chỉ dừng lại ở khoa học dữ liệu; công nghệ tương tự có thể mở rộng sang các lĩnh vực nhạy cảm về độ chính xác khác như kế toán hoặc dịch vụ y tế. Elias nhấn mạnh, đây là giải pháp cho "bất kỳ trường hợp sử dụng nào nhạy cảm về độ chính xác."
Góc Nhìn Phê Phán Về Các "Ông Lớn" AI 🧐
Elias cũng không ngần ngại chỉ trích các phòng thí nghiệm AI lớn hiện nay:
> "Tôi nghĩ thật thú vị khi các phòng thí nghiệm AI lớn chưa từng cố gắng làm điều này. Họ không có động lực, bởi vì họ kiếm tiền càng nhiều khi bạn phải sửa lỗi mô hình càng nhiều lần."
Lời nhận định này cho thấy một góc nhìn phê phán về động cơ kinh tế đằng sau việc các công ty lớn chưa chú trọng đủ vào việc giải quyết triệt để vấn đề độ tin cậy của AI. Probably đang đi một con đường khác, hướng tới một tương lai AI chính xác, hiệu quả và có trách nhiệm hơn. ✨