Văn phòng Luật sư Thành phố San Francisco vừa gửi thư yêu cầu Apple và Google chấm dứt việc phân phối và kiếm lợi nhuận từ 13 ứng dụng hoán đổi khuôn mặt (face-swap) sử dụng trí tuệ nhân tạo (AI). Đây là động thái pháp lý mạnh mẽ từ chính quyền địa phương nhằm ngăn chặn sự phát tán của các công cụ tạo ảnh khỏa thân giả mạo (deepfake), vốn đang gây ra nhiều hệ lụy nghiêm trọng cho cộng đồng.
Diễn biến chi tiết
Theo tài liệu từ Văn phòng Luật sư Thành phố San Francisco gửi đi trong tuần này, các nhà chức trách yêu cầu hai gã khổng lồ công nghệ phải lập tức gỡ bỏ 13 ứng dụng cụ thể khỏi các cửa hàng ứng dụng App Store và Google Play. Các ứng dụng này bị cáo buộc sử dụng thuật toán AI để lột đồ hoặc hoán đổi khuôn mặt của nạn nhân vào các hình ảnh nhạy cảm. Phần lớn nạn nhân bị nhắm mục tiêu bởi các ứng dụng này là phụ nữ và trẻ em gái tuổi vị thành niên.
Bối cảnh & Nguyên nhân
Sự bùng nổ của các công cụ tạo ảnh bằng AI thế hệ mới đã khiến việc tạo ra các bức ảnh khỏa thân giả mạo trở nên dễ dàng hơn bao giờ hết. Nhiều ứng dụng núp bóng dưới dạng công cụ chỉnh sửa ảnh hoặc hoán đổi khuôn mặt thông thường để lách qua các hàng rào kiểm duyệt của Apple và Google. Chính quyền San Francisco cho rằng cả hai tập đoàn này đang gián tiếp thu lợi nhuận từ các giao dịch mua vật phẩm hoặc đăng ký gói dịch vụ bên trong các ứng dụng độc hại này.
Phân tích kỹ thuật & Công nghệ
Các ứng dụng bị cáo buộc sử dụng công nghệ deepfake dựa trên mạng thế tử đối nghịch (GAN) hoặc mô hình khuếch tán (diffusion models) đã được tinh chỉnh. Chúng có khả năng nhận diện các đặc điểm khuôn mặt từ một bức ảnh chân dung thông thường, sau đó ghép nối và tái tạo ánh sáng, màu da để khớp với một cơ thể khỏa thân có sẵn với độ chân thực cao. Việc xử lý này diễn ra chỉ trong vài giây ngay trên thiết bị di động hoặc thông qua máy chủ đám mây của nhà phát triển.
Ý kiến chuyên gia & Nhận định
Các nhà hoạt động bảo vệ quyền riêng tư nhận định rằng các biện pháp tự kiểm duyệt hiện tại của Apple và Google là chưa đủ nghiêm ngặt. Việc để các ứng dụng này tồn tại trên các nền tảng chính thức vô tình tạo ra sự tin tưởng giả tạo cho người dùng và tiếp tay cho hành vi quấy rối trực tuyến. Giới chức pháp lý nhấn mạnh các nền tảng phân phối phải chịu trách nhiệm liên đới khi không hành động quyết liệt trước các báo cáo vi phạm.
Tác động & Tương lai
Yêu cầu này từ San Francisco có thể tạo tiền đề cho các hành động pháp lý cứng rắn hơn từ nhiều thành phố và quốc gia khác trên thế giới chống lại vấn nạn lạm dụng AI. Đối với người dùng công nghệ tại Việt Nam, sự việc này là một lời cảnh báo quan trọng về rủi ro lộ lọt hình ảnh cá nhân. Trong tương lai, Apple và Google có thể sẽ buộc phải siết chặt quy trình phê duyệt các ứng dụng có tính năng can thiệp và xử lý hình ảnh khuôn mặt.