Gã khổng lồ công nghệ Meta đang đối mặt với làn sóng chỉ trích mới sau khi các báo cáo điều tra cho thấy nhiều quảng cáo ứng dụng "lột đồ" bằng trí tuệ nhân tạo (AI nudify) trên nền tảng Instagram và Facebook có liên kết trực tiếp với một đối tác quảng cáo chính thức của hãng tại Trung Quốc. Theo thông tin từ CNET công bố, đối tác bị gọi tên là GatherOne, một trong số ít những đại lý quảng cáo được Meta ủy quyền hoạt động tại thị trường tỷ dân này. Sự việc này làm dấy lên những lo ngại sâu sắc về quy trình kiểm duyệt quảng cáo và quản lý đối tác của Meta đối với các nội dung độc hại.
Bối cảnh & Nguyên nhân
GatherOne được biết đến là một trong 11 đối tác quảng cáo chính thức của Meta tại Trung Quốc, chuyên hỗ trợ các doanh nghiệp nội địa tiếp cận tệp khách hàng quốc tế thông qua các nền tảng mạng xã hội lớn như Facebook và Instagram. Trong bối cảnh các ứng dụng AI tạo hình ảnh nhạy cảm không đồng thuận bùng nổ, việc quảng cáo cho các công cụ này xuất hiện dày đặc đã trở thành vấn nạn nhức nhối. Mặc dù Meta có chính sách nghiêm ngặt cấm các nội dung người lớn và dịch vụ deepfake khiêu dâm, các nhà phát triển ứng dụng này vẫn tìm cách tiếp cận người dùng thông qua các mạng lưới trung gian uy tín được Meta cấp phép.
Phân tích kỹ thuật & Công nghệ
Các ứng dụng "nudify" sử dụng thuật toán học máy sâu (deep learning) và mạng đối nghịch tạo sinh (GAN) để xử lý hình ảnh, tự động loại bỏ lớp quần áo trên ảnh chụp của một cá nhân và thay thế bằng cơ thể khỏa thân giả lập. Về mặt phân phối quảng cáo, việc liên kết với một đối tác chính thức như GatherOne cho phép các chiến dịch quảng cáo vượt qua các bộ lọc tự động của Meta dễ dàng hơn. Thông thường, các tài khoản quảng cáo được quản lý bởi đối tác được ủy quyền (authorized partners) sẽ có điểm uy tín (trust score) cao hơn trong hệ thống phân phối của Meta, giúp giảm tần suất bị kiểm duyệt thủ công và tăng khả năng tiếp cận người dùng mục tiêu mà không bị chặn ngay lập tức.
Ý kiến chuyên gia & Nhận định
Theo báo cáo từ CNET, sự xuất hiện của các quảng cáo này cho thấy lỗ hổng lớn trong cơ chế hậu kiểm và giám sát chuỗi cung ứng quảng cáo của Meta. Nhiều chuyên gia an toàn mạng nhận định rằng việc Meta phụ thuộc vào các đại lý bên thứ ba để kiểm duyệt nội dung tại các thị trường nước ngoài như Trung Quốc đang tạo ra những vùng xám pháp lý và đạo đức. Các chuyên gia nhấn mạnh rằng việc để các ứng dụng tạo ảnh khỏa thân giả mạo tiếp cận hàng triệu người dùng, đặc biệt là đối tượng vị thành niên, có thể gây ra những hậu quả khôn lường về tâm lý và an ninh mạng.
Tác động & Tương lai
Vụ việc lần này đặt Meta vào thế khó trong việc thắt chặt quản lý các đối tác quảng cáo chiến lược tại khu vực châu Á. Nếu không nhanh chóng đưa ra các biện pháp xử lý triệt để đối với GatherOne và siết chặt quy trình rà soát, Meta có thể phải đối mặt với các cuộc điều tra pháp lý từ cơ quan quản lý tại Mỹ và châu Âu liên quan đến bảo vệ người dùng và ngăn chặn nội dung lạm dụng tình dục phi đồng thuận. Đây cũng là hồi chuông cảnh tỉnh cho các nền tảng mạng xã hội trong việc kiểm soát sự bành trướng của các công cụ AI tạo sinh độc hại được phân phối dưới dạng thương mại hóa.