Một cuộc điều tra của The Verge vừa hé lộ góc khuất của việc lạm dụng AI trên mạng xã hội: những người mẫu ảo da màu được tạo ra để lấy lòng trắc ẩn của người xem nhằm bán hàng giá rẻ từ Shein.
Diễn biến
Các tài khoản này sử dụng AI để tạo ra ngoại hình, giọng nói và cả những giọt nước mắt giả tạo, tự xưng là người lao động nghèo hoặc thợ thủ công đang gặp khó khăn. Mục tiêu là dẫn dụ người xem bấm vào link TikTok Shop để mua các mặt hàng dropshipping với giá cao hơn nhiều lần giá trị thực. Thủ đoạn này không chỉ lừa dối người tiêu dùng mà còn gây hại cho những nhà sáng tạo nội dung là người da màu thật, khi họ bị công nghệ AI 'hớt tay trên' và làm xói mòn niềm tin của cộng đồng.
Vì sao đáng chú ý
Đây là lời cảnh báo đắt giá về sự tinh vi của tội phạm mạng trong thời đại Deepfake. Tại Việt Nam, khi livestream bán hàng đang trở thành ngành công nghiệp tỷ đô, các chiêu trò 'AI bán hàng' tương tự có thể sớm xuất hiện. Người dùng cần trang bị kỹ năng nhận diện hình ảnh và giọng nói AI, đồng thời cẩn trọng với những câu chuyện quá cảm động đi kèm với các đường link mua sắm không rõ nguồn gốc.