Các nhà nghiên cứu Israel đã tìm ra những gương mặt "vạn năng" có thể vượt qua hệ thống nhận diện và giả mạo danh tính người khác với xác suất thành công cao.
Theo Vice, các nhà nghiên cứu của Trường khoa học máy tính Blavatnik và Trường kỹ thuật điện ở Tel Aviv (Israel) vừa công bố nghiên cứu về quá trình tìm ra 9 gương mặt "vạn năng" có thể đóng giả thành công 40% gương mặt khác trong kho dữ liệu gương mặt (LFW) có sẵn của Đại học Massachusetts (Mỹ).
Nhóm nghiên cứu thử nghiệm trên ba hệ thống nhận diện gương mặt là Dlib, FaceNet và SphereFace vì chúng có khả năng phát hiện các đặc điểm tinh vi trên mặt người, khác với các hệ thống bình thường vốn chỉ nhìn thấy màu da hoặc hiệu ứng ánh sáng trên bức ảnh.
Họ dùng hệ thống StyleGAN của Nvidia tạo ra các gương mặt giả, sau đó dùng một thuật toán tiến hóa cùng mạng nơ-ron để tối ưu hóa và dự đoán khả năng thành công của các gương mặt. Họ lặp lại nhiều lần những bước như vậy đến khi tìm ra những gương mặt có khả năng đánh lừa hệ thống với xác suất cao nhất.
Gương mặt của đàn ông châu Á và đàn ông cao tuổi da trắng dễ bị hệ thống AI nhầm lẫn
Tuy nhiên, nhóm nghiên cứu cũng nhận ra hạn chế trong tập dữ liệu mà họ sử dụng. Kho ảnh LFW có rất ít ảnh trẻ em, trẻ sơ sinh, người trên 80 tuổi và cả phụ nữ. Ảnh của những người dân tộc thiểu số cũng không nhiều. Dù ý tưởng về các gương mặt vạn năng có khả năng đánh lừa hệ thống nhận diện là rất thú vị, nhưng các nhà nghiên cứu nhấn mạnh kết quả vẫn chưa hoàn thiện vì tập dữ liệu của họ thiếu sự đa dạng.
Trưởng nhóm nghiên cứu Ron Shmelkin khuyên mọi người nên cảnh giác với những cuộc tấn công nhắm vào hệ thống nhận diện gương mặt. Nhóm nghiên cứu còn dự đoán các gương mặt "vạn năng" có thể được dựng lại bằng công nghệ deepfake để vượt qua hệ thống xác định thực thể sống - vốn được dùng để kiểm tra tính chân thật của các mẫu sinh trắc học.
Dù nghiên cứu chỉ diễn ra trên ảnh chụp chứ chưa áp dụng vào đời thực, phát hiện của nhóm nhà nghiên cứu Israel vẫn là lời cảnh báo về những bất cập và sai lệch của hệ thống nhận diện gương mặt hiện nay. Trước đây, họ cũng dùng phương pháp tương tự để tạo ra dấu vân tay "vạn năng" có thể bẻ khóa mọi hệ thống. Việc cơ quan thực thi pháp luật tiếp tục sử dụng những hệ thống như vậy sẽ làm gia tăng nhiều vụ bắt giữ oan sai.
Theo Vice, các nhà nghiên cứu của Trường khoa học máy tính Blavatnik và Trường kỹ thuật điện ở Tel Aviv (Israel) vừa công bố nghiên cứu về quá trình tìm ra 9 gương mặt "vạn năng" có thể đóng giả thành công 40% gương mặt khác trong kho dữ liệu gương mặt (LFW) có sẵn của Đại học Massachusetts (Mỹ).
Nhóm nghiên cứu thử nghiệm trên ba hệ thống nhận diện gương mặt là Dlib, FaceNet và SphereFace vì chúng có khả năng phát hiện các đặc điểm tinh vi trên mặt người, khác với các hệ thống bình thường vốn chỉ nhìn thấy màu da hoặc hiệu ứng ánh sáng trên bức ảnh.
Họ dùng hệ thống StyleGAN của Nvidia tạo ra các gương mặt giả, sau đó dùng một thuật toán tiến hóa cùng mạng nơ-ron để tối ưu hóa và dự đoán khả năng thành công của các gương mặt. Họ lặp lại nhiều lần những bước như vậy đến khi tìm ra những gương mặt có khả năng đánh lừa hệ thống với xác suất cao nhất.
Gương mặt của đàn ông châu Á và đàn ông cao tuổi da trắng dễ bị hệ thống AI nhầm lẫn
Tuy nhiên, nhóm nghiên cứu cũng nhận ra hạn chế trong tập dữ liệu mà họ sử dụng. Kho ảnh LFW có rất ít ảnh trẻ em, trẻ sơ sinh, người trên 80 tuổi và cả phụ nữ. Ảnh của những người dân tộc thiểu số cũng không nhiều. Dù ý tưởng về các gương mặt vạn năng có khả năng đánh lừa hệ thống nhận diện là rất thú vị, nhưng các nhà nghiên cứu nhấn mạnh kết quả vẫn chưa hoàn thiện vì tập dữ liệu của họ thiếu sự đa dạng.
Trưởng nhóm nghiên cứu Ron Shmelkin khuyên mọi người nên cảnh giác với những cuộc tấn công nhắm vào hệ thống nhận diện gương mặt. Nhóm nghiên cứu còn dự đoán các gương mặt "vạn năng" có thể được dựng lại bằng công nghệ deepfake để vượt qua hệ thống xác định thực thể sống - vốn được dùng để kiểm tra tính chân thật của các mẫu sinh trắc học.
Dù nghiên cứu chỉ diễn ra trên ảnh chụp chứ chưa áp dụng vào đời thực, phát hiện của nhóm nhà nghiên cứu Israel vẫn là lời cảnh báo về những bất cập và sai lệch của hệ thống nhận diện gương mặt hiện nay. Trước đây, họ cũng dùng phương pháp tương tự để tạo ra dấu vân tay "vạn năng" có thể bẻ khóa mọi hệ thống. Việc cơ quan thực thi pháp luật tiếp tục sử dụng những hệ thống như vậy sẽ làm gia tăng nhiều vụ bắt giữ oan sai.
Theo Thanh Niên
