Pramaana Labs Gọi Vốn 27 Triệu USD: Dùng 'Xác Minh Hình Thức' Để "Khử Trùng" AI
Trong bối cảnh các doanh nghiệp đang chật vật biến các chương trình AI thử nghiệm thành những phần chức năng trong hoạt động kinh doanh, độ tin cậy của AI đã trở thành tâm điểm chú ý. Một startup mới, Pramaana Labs, đang đặt mục tiêu giải quyết vấn đề này bằng cách tận dụng các công cụ hình thức hóa toán học, kết hợp một trong những hệ thống đáng tin cậy nhất của khoa học máy tính với một trong những hệ thống hỗn loạn nhất.
Vào thứ Tư, Pramaana Labs đã công bố huy động thành công 27 triệu USD trong vòng hạt giống, dẫn đầu bởi Khosla Ventures, cùng sự tham gia của Accel, Boldcap, Nexus Venture Partners, Premji Invest và Unbound. 🚀
Tại Sao Cần "Xác Minh Hình Thức" Cho AI?
Pramaana sẽ tập trung vào các lĩnh vực nhạy cảm cao như luật pháp, khám phá thuốc và chuẩn bị thuế – nơi sai sót có thể gây tổn thất lớn và độ tin cậy là tối quan trọng. Việc triển khai AI trong các hệ thống này đòi hỏi khả năng bảo vệ mạnh mẽ hơn chống lại lỗi và "ảo giác" mà chúng ta hiện có. Nhưng theo đồng sáng lập và CEO của Pramaana, Ranjan Rajagopalan, đây cũng là những lĩnh vực đặc biệt phù hợp để hình thức hóa.
Ông Rajagopalan chia sẻ với TechCrunch khi mô tả các quy tắc về mã số thuế:
> "Nó giống như toán học ở chỗ bạn có rất nhiều quy tắc cần tuân thủ. Một khi bạn có một phiên bản được hệ thống hóa, quá trình suy luận trên đó sẽ trở nên xác định."
Cách Pramaana Labs Hiện Thực Hóa Điều Này
Hệ thống của Pramaana vẫn hoạt động trên một mô hình ngôn ngữ lớn (LLM) thông thường, mang lại sự linh hoạt để trả lời các câu hỏi ngôn ngữ tự nhiên và giải quyết các vấn đề phức tạp mà máy tính truyền thống không thể xử lý. Tuy nhiên, điểm khác biệt cốt lõi nằm ở một lớp xác định được đặt trên LLM đó, đảm bảo công việc của LLM được kiểm tra kỹ lưỡng. 💡
Sự kết hợp giữa công cụ LLM với xác minh xác định là một cách tiếp cận đang trở nên phổ biến, nhưng Pramaana độc đáo ở chỗ sử dụng các công cụ xác minh hình thức – dựa trên ngôn ngữ lập trình mã nguồn mở LEAN được dùng để xác minh các bằng chứng toán học.
Ông Rajagopalan cũng chỉ ra tiền lệ thực tế cho công việc này: dự án CATALA của Pháp, đã hình thức hóa phần lớn hệ thống thuế và phúc lợi của quốc gia thành mã thực thi. Điều này cho thấy khả năng ứng dụng thực tiễn của phương pháp này.
Để đảm bảo tính chính xác và phù hợp cho từng trường hợp sử dụng, Pramaana sẽ xây dựng hệ thống xác minh hình thức kiểu LEAN riêng, được giám sát chặt chẽ bởi các chuyên gia lĩnh vực:
* Luật thuế: Hợp tác với cựu ủy viên IRS Danny Werfel. * An ninh mạng và khám phá thuốc: Được giám sát bởi các giáo sư từ IIT Delhi, IIT Madras và UC Berkeley.
Tầm Nhìn "Hệ Thống Hóa" Thế Giới
Ông Rajagopalan nhấn mạnh một quan điểm mạnh mẽ:
> "Những vấn đề khó khăn nhất thế giới không phải là không thể giải quyết. Chúng chỉ chưa được hình thức hóa. Mọi lĩnh vực mà việc sai sót có thể khiến ai đó mất sức khỏe, tiền bạc hoặc tự do đều có quy tắc."
Giờ đây, những quy tắc đó chỉ cần được hệ thống hóa. ✨ Pramaana Labs đang mở ra một con đường mới để biến AI từ một công cụ mạnh mẽ nhưng đôi khi "bất trị" thành một trợ thủ đáng tin cậy tuyệt đối, đặc biệt trong các lĩnh vực có rủi ro cao.