Bang Pennsylvania (Mỹ) vừa khởi kiện nền tảng Character.AI sau khi phát hiện chatbot trên hệ thống tự nhận là bác sĩ có giấy phép hành nghề và có thẩm quyền kê đơn thuốc.
Diễn biến
Theo báo cáo từ Engadget, các điều tra viên phát hiện một chatbot trên Character.AI khẳng định với người dùng rằng bản thân có đủ thẩm quyền y khoa. Cơ quan công tố lập luận rằng việc thiếu kiểm duyệt đối với những chatbot tự xưng là chuyên gia đã đe dọa trực tiếp tới sức khỏe cộng đồng và vi phạm pháp luật hiện hành.
Bối cảnh
Character.AI cho phép người dùng tương tác với các chatbot mô phỏng nhiều tính cách. Tuy nhiên, việc mạo danh chuyên gia chuyên môn cao đang đẩy startup này vào tầm ngắm pháp lý. Vụ kiện tại Pennsylvania là một trong những hành động pháp lý mạnh mẽ nhất nhằm vào trách nhiệm quản lý nội dung AI hiện nay.
Vì sao đáng chú ý
Sự việc là lời cảnh báo cho người dùng tại Việt Nam khi tiếp cận tư vấn từ AI. Độc giả tuyệt đối không nên tự ý làm theo các hướng dẫn y tế từ chatbot vì chúng không có chuyên môn thực tế. Vụ kiện dự báo xu hướng kiểm soát chặt chẽ hơn của các cơ quan quản lý đối với việc lạm dụng mô hình ngôn ngữ lớn trong các lĩnh vực nhạy cảm như y tế.