Nhà nghiên cứu bảo mật Bill Swearingen vừa chính thức trình diễn dự án 'noRecognition' tại hội nghị Def Con ở Las Vegas, giới thiệu các mẫu hoa văn đối nghịch (adversarial patterns) được thiết kế đặc biệt nhằm vô hiệu hóa khả năng nhận diện của camera giám sát thông minh. Bằng cách in các mẫu hoa văn này lên quần áo hoặc phương tiện, người dùng có thể 'tàng hình' trước các thuật toán tự động nhận diện khuôn mặt và biển số xe phổ biến hiện nay. Đây là một nỗ lực nhằm bảo vệ quyền riêng tư cá nhân trước làn sóng giám sát bằng AI đang ngày càng lan rộng tại các đô thị lớn.
Bối cảnh & Nguyên nhân
Ý tưởng của dự án xuất phát từ sự lo ngại của Swearingen về tình trạng lạm dụng camera giám sát công cộng tại Mỹ, nơi các thiết bị này liên tục theo dõi người dân mà không có sự đồng ý. Theo báo cáo từ TechCrunch, Swearingen chia sẻ rằng bản thân ông từng cảm thấy bất an khi muốn tham gia một cuộc biểu tình ôn hòa nhưng lo sợ các hệ thống camera AI có thể nhận diện và theo dõi hành trình của mình. Thực tế, nhiều lỗi nhận diện của camera đọc biển số tự động đã dẫn đến việc cảnh sát bắt giữ nhầm những người vô tội. Nhận thấy các giải pháp bảo vệ quyền riêng tư hiện nay như kính chống nhận diện khuôn mặt hoạt động kém hiệu quả, ông quyết định tự phát triển một công cụ mạnh mẽ và thực tế hơn cho cộng đồng.
Phân tích kỹ thuật & Công nghệ
Hệ thống đứng sau noRecognition thực chất là một mô hình học tăng cường (reinforcement learning) được huấn luyện để tự động tối ưu hóa các nét vẽ. Swearingen đã chạy thử nghiệm hơn 31 triệu lần trong suốt một năm qua để dạy cho mô hình của mình 'cách vẽ' các họa tiết có khả năng gây nhiễu thuật toán. Mỗi khi một mẫu thử bị thuật toán camera phát hiện, hệ thống AI của ông lại ghi nhận lỗi và tự động điều chỉnh để cho ra đời những hoa văn phức tạp hơn ở lần thử tiếp theo. Kết quả là mô hình đã tạo ra những mẫu hoa văn đối nghịch có khả năng đánh lừa đồng thời cả 11 thuật toán nhận diện mã nguồn mở phổ biến hiện nay. Các thuật toán bị khuất phục bao gồm cả phần mềm chạy trên máy đọc biển số Flock, camera gắn người Axon và hệ thống nhận diện của Clearview AI.
Ý kiến chuyên gia & Nhận định
Trong buổi thử nghiệm thực tế đầu tiên tại Def Con, Swearingen cùng kênh truyền thông Donut Media đã bọc chiếc xe Toyota Yaris đời 2009 bằng lớp decal in hoa văn mới nhất. Kết quả thực nghiệm cho thấy chiếc xe hoàn toàn vô hiệu hóa được khả năng phát hiện của camera giám sát Flock chuyên dụng, dù phần bánh xe vẫn là một thách thức kỹ thuật nhỏ. Swearingen nhấn mạnh rằng các hoa văn này không che khuất ống kính hay chặn camera ghi hình vật lý, mà chỉ 'làm nhiễu loạn khả năng phân loại đối tượng của AI'. Điều này giúp người dùng tránh được việc kích hoạt các cảnh báo theo dõi tự động của hệ thống hành pháp, đưa họ trở lại trạng thái ẩn danh trong đám đông.
Tác động & Tương lai
Dự án noRecognition hiện đang kêu gọi vốn cộng đồng thông qua Kickstarter để sản xuất các trang phục thương mại như áo thun và áo nỉ hoodie mang hoa văn đối nghịch này. Để ngăn chặn các nhà sản xuất camera cập nhật bản vá nhằm vô hiệu hóa kỹ thuật của mình, Swearingen cho biết ông sẽ giữ kín các mẫu hoa văn mạnh nhất và không công bố chúng lên Internet. Trong tương lai, mô hình học máy của ông sẽ tiếp tục chạy liên tục để sản xuất ra các biến thể hoa văn mới mỗi phút, đảm bảo luôn đi trước một bước so với các bản cập nhật phần mềm của các hãng camera giám sát.