OpenAI vừa phải đối mặt với một vụ kiện pháp lý nghiêm trọng liên quan đến tính an toàn của mô hình ngôn ngữ lớn ChatGPT. Theo báo cáo từ Engadget, một mục sư đã đệ đơn kiện công ty trí tuệ nhân tạo này sau khi chatbot ChatGPT đưa ra những lời khuyên y tế được cho là cực kỳ nguy hiểm, suýt chút nữa đã cướp đi mạng sống của ông. Sự việc này một lần nữa dấy lên hồi chuông cảnh báo về giới hạn và hiểm họa của việc sử dụng AI trong chẩn đoán y khoa.
Diễn biến chi tiết
Chi tiết vụ việc tập trung vào các khuyến nghị sức khỏe mà ChatGPT cung cấp cho nguyên đơn. Theo các tài liệu pháp lý được trích dẫn bởi Engadget, chatbot này bị cáo buộc đã đưa ra "những khuyến nghị y tế cực kỳ nguy hiểm" liên quan đến chứng thuyên tắc phổi (pulmonary embolism) - một tình trạng tắc nghẽn động mạch phổi nguy hiểm và có khả năng gây tử vong nhanh chóng nếu không được cấp cứu kịp thời. Thay vì hướng dẫn bệnh nhân đến ngay cơ sở y tế gần nhất, các câu trả lời từ AI đã khiến nạn nhân đưa ra quyết định sai lầm, dẫn đến tình huống nguy kịch đến tính mạng. Vụ kiện cáo buộc hành vi phản hồi thiếu chính xác của chatbot đã trực tiếp đe dọa đến mạng sống của người dùng.
Bối cảnh & Nguyên nhân
Việc người dùng tìm kiếm lời khuyên y tế từ các chatbot AI không phải là hiện tượng mới, nhưng mức độ rủi ro đang ngày càng gia tăng khi các mô hình này ngày càng tỏ ra thông thái. Nguyên nhân gốc rễ nằm ở cơ chế hoạt động của các mô hình ngôn ngữ lớn (LLM), vốn được thiết kế để tạo ra các câu trả lời nghe có vẻ thuyết phục và trôi chảy dựa trên xác suất thống kê của từ ngữ, thay vì thực sự hiểu biết sâu sắc về y khoa hay có khả năng chẩn đoán lâm sàng thực tế. Khi người dùng đặt câu hỏi về các triệu chứng nguy kịch như thuyên tắc phổi, hệ thống của OpenAI đôi khi vẫn tự tin đưa ra các câu trả lời mang tính khẳng định, tạo ra cảm giác an tâm giả tạo cho người bệnh và khiến họ trì hoãn việc can thiệp y tế chuyên nghiệp.
Phân tích kỹ thuật & Công nghệ
Về mặt kỹ thuật, hiện tượng này được gọi là "ảo giác" (hallucination) của AI - một lỗi hệ thống phổ biến khi mô hình tự bịa đặt thông tin nhưng lại trình bày nó một cách vô cùng logic và đáng tin cậy. Đối với các ca bệnh phức tạp như thuyên tắc phổi, vốn đòi hỏi các xét nghiệm thực tế như chụp CT hoặc xét nghiệm máu, một mô hình AI chỉ dựa trên văn bản nhập vào không thể nào đưa ra được chẩn đoán chính xác. Mặc dù OpenAI đã thiết lập các bộ lọc an toàn và các câu từ chối trách nhiệm tiêu chuẩn (disclaimer) yêu cầu người dùng tham khảo ý kiến bác sĩ, nhưng giao diện trò chuyện mang tính cá nhân hóa cao của ChatGPT thường khiến người dùng bỏ qua các cảnh báo này và coi chatbot như một chuyên gia y tế thực thụ.
Ý kiến chuyên gia & Nhận định
Giới chuyên gia y tế và pháp lý từ lâu đã cảnh báo về những rủi ro khi để AI can thiệp sâu vào quy trình chẩn đoán lâm sàng mà không có sự giám sát của con người. Theo nhận định của các chuyên gia công nghệ, vụ kiện này có thể tạo ra một tiền lệ pháp lý quan trọng về trách nhiệm của các công ty phát triển AI đối với những thiệt hại về mặt thể chất của người dùng do thông tin sai lệch gây ra. Nhiều ý kiến cho rằng các công ty công nghệ như OpenAI cần phải có các biện pháp kỹ thuật nghiêm ngặt hơn, thậm chí là chặn hoàn toàn việc đưa ra các lời khuyên y khoa cụ thể cho những tình trạng bệnh lý cấp tính, thay vì chỉ dựa vào những dòng cảnh báo miễn trừ trách nhiệm pháp lý mờ nhạt ở cuối trang.
Tác động & Tương lai
Vụ kiện tụng này dự kiến sẽ tạo ra áp lực lớn buộc OpenAI và các đối thủ cạnh tranh phải tái cấu trúc lại cách hệ thống AI xử lý các truy vấn liên quan đến sức khỏe con người. Đối với độc giả và người tiêu dùng công nghệ tại Việt Nam, đây là một bài học đắt giá về việc không bao giờ được tuyệt đối tin tưởng vào các câu trả lời y tế từ AI, đặc biệt là đối với các triệu chứng nghiêm trọng. Trong tương lai, sự kết hợp giữa AI và y học chắc chắn sẽ còn tiến xa, nhưng chỉ khi có sự kiểm duyệt chặt chẽ từ các cơ quan quản lý y tế và các mô hình AI được huấn luyện chuyên biệt theo các tiêu chuẩn lâm sàng khắt khe nhất.