Nghe có vẻ như một trò đùa, nhưng một nhà nghiên cứu tại Microsoft đã thực sự xây dựng một mạng lưới thần kinh hoạt động từ những con dê, cầu và dốc băng trong trình chỉnh sửa bản đồ Age of Empires II. Mục đích không phải để giải trí, mà là một lời phê bình sắc bén về các phương pháp nghiên cứu trí tuệ nhân tạo (AI) hiện nay.🤔
Nghiên cứu của ông, dựa trên phân tích 315 bài báo khoa học, đã đưa ra một kết luận đáng lo ngại: hơn một nửa số bài báo đó đã mặc định các mô hình ngôn ngữ lớn (LLM) có những đặc điểm giống con người ngay từ trước khi thí nghiệm bắt đầu. Điều này tạo ra một vòng lặp thiên vị, nơi các kết quả nghiên cứu có thể bị ảnh hưởng bởi những giả định ban đầu.
Điểm mấu chốt mà nhà nghiên cứu muốn nhấn mạnh là: nếu bạn thay thế giao diện trò chuyện phức tạp bằng những con dê lang thang và di chuyển theo thuật toán, các phép toán cơ bản không hề thay đổi. Tuy nhiên, cảm giác rằng bạn đang "nói chuyện" với một thực thể có tri giác sẽ hoàn toàn biến mất.
Điều này nhấn mạnh rằng trải nghiệm người dùng và cách chúng ta hình dung về AI có thể che lấp đi bản chất toán học thuần túy của nó, dẫn đến những ngộ nhận về "trí thông minh" thực sự của AI. 💡 Công trình này là một lời nhắc nhở quan trọng cho cộng đồng AI về sự cần thiết phải giữ thái độ hoài nghi và khách quan khi đánh giá khả năng của các hệ thống AI, đặc biệt là LLM. Đôi khi, để thấy rõ bản chất của vấn đề, chúng ta cần một góc nhìn thật sự độc đáo – như việc dùng dê để làm mạng nơ-ron vậy!
Nguồn: The Decoder