Văn phòng Công tố Quận Manhattan (New York) vừa thu giữ 12 website deepfake nhắm vào khoảng 1.200 nạn nhân, đánh dấu hành động pháp lý quy mô lớn nhất từ trước đến nay đối với các nền tảng tạo nội dung giả mạo gây hại. Động thái này diễn ra trong bối cảnh các công cụ deepfake khiêu dâm không đồng thuận đang lan rộng trên toàn cầu, nhắm vào cả người nổi tiếng, chính trị gia lẫn người dân thường.
Theo Wired, một phân tích trên 160 website deepfake cho thấy hơn 100 chính trị gia tại 22 quốc gia châu Âu đã trở thành mục tiêu của các nội dung khiêu dâm giả mạo. Gần như toàn bộ các nạn nhân trong danh sách này là phụ nữ. Dữ liệu này phản ánh xu hướng đáng lo ngại khi công nghệ hình ảnh AI bị lạm dụng để tấn công danh dự và uy tín của các nữ lãnh đạo.
Không chỉ các nhân vật công chúng, người dùng thông thường cũng đối mặt với tình trạng bóc lột hình ảnh trên không gian mạng. Trường hợp của Maddie Kowalski là một ví dụ điển hình khi hình ảnh cá nhân bị khai thác và phát tán bởi một mạng lưới người dùng ẩn danh tự xưng là cộng đồng người hâm mộ thể thao. Nạn nhân hiện đang tiến hành các biện pháp pháp lý và phản kháng để bảo vệ danh dự trước vấn nạn bạo lực kỹ thuật số ngày càng phức tạp này.