AI đoán tội phạm qua khuôn mặt là những mô hình máy học được huấn luyện để phân loại ảnh chân dung thành "có tội" và "không có tội", với tuyên bố rằng khuôn mặt chứa tín hiệu về khả năng phạm tội. Hai trường hợp được nhắc nhiều nhất là một bài đăng trên kho tiền ấn phẩm arXiv năm 2016 và thông cáo của một trường đại học ở Mỹ năm 2020. Cả hai đều bị giới nghiên cứu phản bác mạnh, và trường hợp thứ hai không được xuất bản.
Lý do không nằm ở chỗ thuật toán kém. Mô hình có thể đạt độ chính xác cao trên tập dữ liệu của chính nó. Vấn đề là nó học được thứ khác hẳn điều người làm tuyên bố, và câu hỏi đặt ra đã lặp lại đúng sai lầm của Lombroso hơn một thế kỷ trước. Bài này giải thích bằng ngôn ngữ dễ hiểu ba lỗi lớn — dữ liệu, nhãn và tỷ lệ nền — để bạn tự đánh giá khi gặp những tuyên bố tương tự.
Hai nghiên cứu đã nói gì
Năm 2016, hai tác giả ở một trường đại học tại Thượng Hải đăng lên arXiv bài nghiên cứu dùng gần hai nghìn ảnh chân dung nam giới. Một phần là ảnh của người đã bị kết án, phần còn lại là ảnh người khác lấy từ nguồn trên mạng. Họ báo cáo mô hình phân loại đúng gần chín mươi phần trăm, và mô tả vài đặc điểm như độ cong của môi, khoảng cách giữa hai khoé mắt trong mà họ cho là khác nhau giữa hai nhóm.
Năm 2020, một trường đại học ở bang Pennsylvania ra thông cáo nói nhóm nghiên cứu của trường đã xây dựng mô hình dự đoán được một người có phải là tội phạm hay không chỉ từ ảnh khuôn mặt, với độ chính xác khoảng tám mươi phần trăm và "không có thiên lệch chủng tộc". Bài được cho là sắp in trong một tuyển tập của một nhà xuất bản khoa học lớn.
Phản ứng đến rất nhanh. Với bài năm 2016, ba nhà nghiên cứu về máy học và tâm lý khuôn mặt viết bài phân tích dài năm 2017, đặt tên khéo là "bộ áo mới của nhân tướng học". Với bài năm 2020, hơn một nghìn nhà nghiên cứu, kỹ sư và học giả ký thư ngỏ gửi nhà xuất bản đề nghị không in. Nhà xuất bản cho biết bài đã bị từ chối, và trường đại học gỡ thông cáo.
Lỗi thứ nhất: mô hình học cách chụp ảnh, không học con người
Hai nhóm ảnh đến từ hai nguồn khác nhau. Ảnh người bị kết án thường là ảnh hồ sơ: chụp thẳng, nền trơn, ánh sáng phẳng, nét mặt nghiêm. Ảnh nhóm còn lại lấy từ mạng: có thể đã chọn lọc, cười, chỉnh sửa. Mô hình học sâu rất giỏi phát hiện những khác biệt nhỏ như vậy.
Nét mặt khác, không phải khuôn mặt khác. Nhóm phản biện năm 2017 chỉ ra rằng các đặc điểm được nêu, như độ cong của môi, rất có thể phản ánh việc người trong ảnh đang cười hay không. Tác giả phản hồi rằng ảnh đều thuộc kiểu ảnh căn cước, nhưng câu hỏi về cách chọn mẫu vẫn không được trả lời thoả đáng.
Độ chính xác cao là dấu hiệu đáng ngờ. Nếu khuôn mặt chỉ chứa tín hiệu yếu về hành vi, một mô hình đạt gần chín mươi phần trăm gần như chắc chắn đang bắt được thứ khác, tức là một khác biệt kỹ thuật giữa hai bộ ảnh.
Kiểm tra trên dữ liệu cùng nguồn. Mô hình được đánh giá trên phần dữ liệu tách ra từ chính tập đó, nên cùng mang những khác biệt về nguồn ảnh. Muốn biết nó học gì thật, phải thử trên ảnh hai nhóm được chụp theo cùng một cách.
Lỗi thứ hai: nhãn "tội phạm" không phải là sự thật sinh học
Mọi mô hình học có giám sát chỉ học được điều mà nhãn dữ liệu nói. Ở đây nhãn là "đã bị kết án". Mà việc một người bị kết án phụ thuộc vào rất nhiều yếu tố ngoài hành vi: nơi họ sống có bị tuần tra nhiều không, họ có tiền thuê luật sư không, loại tội nào hay bị phát hiện. Người phạm tội tài chính, tham nhũng ít khi xuất hiện trong ảnh hồ sơ hơn người phạm tội đường phố.
Vì thế, kể cả khi mô hình học được điều gì đó về khuôn mặt, đó là khuôn mặt của "những người mà hệ thống tư pháp đã bắt và kết án", chứ không phải khuôn mặt của "người có xu hướng phạm tội". Mô hình khi đó sẽ tái tạo và khuếch đại mọi thiên lệch của hệ thống tư pháp, rồi trả lại dưới dạng một con số trông khách quan.
Đây là điểm mà thư ngỏ năm 2020 nhấn mạnh: không có cách nào thu thập dữ liệu "tội phạm" trung lập để huấn luyện kiểu mô hình này, nên lời hứa "không có thiên lệch chủng tộc" không đứng vững về nguyên tắc, chứ không chỉ ở chi tiết kỹ thuật.
Lỗi thứ ba: tỷ lệ nền — vì sao 90% chính xác vẫn bắt oan rất nhiều người
Giả sử một hệ thống thật sự có độ nhạy chín mươi phần trăm và độ đặc hiệu chín mươi phần trăm, được dùng quét một trăm nghìn người, trong đó một phần trăm có hành vi phạm tội. Đây là ví dụ giả định để thấy phép tính, không phải số liệu thật.
| Nhóm | Số người | Hệ thống gắn nhãn "nguy cơ" | Hệ thống bỏ qua |
|---|---|---|---|
| Có hành vi phạm tội | 1.000 | 900 (đúng) | 100 (sót) |
| Không phạm tội | 99.000 | 9.900 (oan) | 89.100 (đúng) |
| Tổng | 100.000 | 10.800 | 89.200 |
Trong 10.800 người bị gắn nhãn, chỉ 900 người thật sự có hành vi phạm tội; hơn chín trên mười người bị gắn nhãn là vô tội. Khi hành vi cần tìm hiếm trong dân số, ngay cả một hệ thống rất tốt cũng tạo ra số người bị nghi oan lớn hơn nhiều so với số người tìm đúng. Mà các mô hình đoán tội qua mặt còn chưa chứng minh được mình tốt.
Người bị gắn nhãn oan gần như không có cách nào chứng minh mình "không có khuôn mặt tội phạm". Đó là khác biệt chí mạng so với việc bị nghi vì một hành vi cụ thể, vốn còn có thể đối chất bằng bằng chứng.
Vì sao giới nghiên cứu phản ứng mạnh như vậy
Một số người hỏi: nếu là nghiên cứu sai thì cứ để phản biện, cần gì phản đối việc xuất bản? Câu trả lời của nhiều nhà khoa học ký thư ngỏ là: một bài báo trong tuyển tập uy tín sẽ được trích dẫn như bằng chứng rằng "khoa học đã chứng minh có khuôn mặt tội phạm", và có thể được dùng để biện minh cho các sản phẩm giám sát. Khi đó, sửa sai sẽ khó hơn rất nhiều so với ngăn trước.
Lịch sử đã cho họ lý do để lo. Thuyết của Lombroso bị bác bỏ trong khoa học từ đầu thế kỷ 20, nhưng hệ quả xã hội của nó kéo dài nhiều thập kỷ. Một mô hình AI có thể được nhân bản và bán đi khắp thế giới trong vài tháng, và rất khó thu hồi.
Cũng cần công bằng: phản đối loại nghiên cứu này không có nghĩa là cấm nghiên cứu khuôn mặt bằng máy. Nhiều nhà nghiên cứu dùng AI để hiểu vì sao con người hình thành định kiến về khuôn mặt — một câu hỏi hợp lệ, vì nó nghiên cứu người nhìn chứ không kết luận về người được nhìn. Hướng này có danh mục riêng về khoa học ấn tượng đầu tiên trên trang.
Nếu bạn là người làm sản phẩm hoặc sinh viên ngành dữ liệu
Ở Việt Nam ngày càng nhiều sinh viên công nghệ và kỹ sư dữ liệu làm đồ án, sản phẩm có xử lý ảnh khuôn mặt. Câu chuyện các mô hình "đoán tội phạm" là một bài tập đạo đức nghề nghiệp đáng làm trước khi bắt tay vào việc. Câu hỏi đầu tiên không phải "mô hình đạt bao nhiêu phần trăm" mà là "câu hỏi mình đặt ra có ý nghĩa không, và nếu mô hình chạy tốt thì ai sẽ bị ảnh hưởng".
Một vài nguyên tắc mà nhiều nhóm nghiên cứu đã đúc kết: không xây mô hình suy đoán phẩm chất, hành vi, khuynh hướng của người từ khuôn mặt; khi thu thập ảnh, xin sự đồng ý rõ ràng và tuân thủ quy định bảo vệ dữ liệu cá nhân hiện hành; đánh giá độ chính xác theo từng nhóm người chứ không chỉ con số chung; ghi rõ giới hạn của mô hình trong tài liệu đi kèm. Đây không phải những yêu cầu cầu toàn, mà là bài học trả giá bằng các dự án bị rút lại.
Nếu đồ án của bạn cần dữ liệu khuôn mặt, hãy che hoặc xoá thông tin định danh đi kèm, không dùng ảnh thu thập từ mạng xã hội khi chưa có căn cứ hợp lệ, và không đưa ảnh người khác vào các công cụ AI công cộng để thử nghiệm.
Khi gặp một tuyên bố "AI nhận ra người nguy hiểm qua ảnh"
Dù là bài báo, quảng cáo phần mềm an ninh hay một bài đăng lan truyền, bạn có thể đánh giá theo các bước sau:
- Hỏi ảnh của mỗi nhóm lấy từ đâu và có được chụp theo cùng một cách không. Nếu không, mô hình rất có thể chỉ học khác biệt về nguồn ảnh.
- Hỏi nhãn được định nghĩa thế nào. "Bị kết án", "bị bắt", "bị nghi" đều là quyết định của con người, mang sẵn thiên lệch.
- Tìm xem có ai độc lập kiểm tra lại trên dữ liệu khác chưa. Kết quả chỉ chạy được trên dữ liệu của chính tác giả là chưa đáng tin.
- Làm phép tính tỷ lệ nền như bảng trên với một tình huống thật bạn hình dung được, ví dụ một khu chung cư hay một công ty.
- Hỏi người bị gắn nhãn có cách nào phản bác không, và hậu quả với họ là gì.
- Nếu phải tải ảnh khuôn mặt của bạn hoặc người khác lên để thử, hãy nhớ đây là dữ liệu sinh trắc nhạy cảm; che hoặc không cung cấp thông tin cá nhân đi kèm, và cân nhắc kỹ trước khi đưa ảnh người khác lên mà chưa được họ đồng ý.
Sau sáu bước này, phần lớn các tuyên bố kiểu "nhìn mặt biết tội" sẽ lộ ra đúng bản chất: nhân tướng học khoác áo thuật toán.
Câu hỏi thường gặp
Có phải mọi nghiên cứu AI về khuôn mặt đều có vấn đề không?
Không. Nhận diện khuôn mặt để xác minh danh tính, nghiên cứu cách người xem hình thành ấn tượng, hỗ trợ phát hiện một số hội chứng y khoa có biểu hiện trên khuôn mặt dưới sự giám sát của bác sĩ là các hướng khác. Vấn đề nằm ở việc đoán tính cách, đạo đức, hành vi từ khuôn mặt.
Nếu dùng ảnh chụp giống hệt nhau cho cả hai nhóm thì mô hình có đúng không?
Kiểm soát được cách chụp sẽ loại bỏ một lỗi lớn, nhưng nhãn "bị kết án" vẫn mang thiên lệch của hệ thống tư pháp, và lỗi tỷ lệ nền vẫn còn. Ngoài ra chưa có bằng chứng đáng tin rằng khuôn mặt chứa tín hiệu đủ mạnh để dự đoán hành vi phạm tội.
Độ nhạy và độ đặc hiệu là gì?
Độ nhạy là tỷ lệ người thật sự thuộc nhóm cần tìm được hệ thống phát hiện đúng. Độ đặc hiệu là tỷ lệ người không thuộc nhóm đó được hệ thống bỏ qua đúng. Một hệ thống có thể cao cả hai mà vẫn bắt oan nhiều người nếu nhóm cần tìm rất hiếm.
Ở Việt Nam có nên lo về loại công nghệ này không?
Người dùng phổ thông nên biết để không tin các quảng cáo "AI nhận diện người xấu qua khuôn mặt" và các app tự xưng đoán được tính cách. Ở mức tổ chức, việc thu thập và xử lý dữ liệu sinh trắc phải tuân theo quy định về bảo vệ dữ liệu cá nhân hiện hành.
Vì sao bài năm 2016 vẫn còn trên arXiv?
arXiv là kho tiền ấn phẩm, nơi tác giả tự đăng bài trước hoặc không qua bình duyệt, nên một bài có mặt ở đó không có nghĩa là đã được giới khoa học chấp nhận. Người đọc cần xem thêm các phản biện và việc bài có được đăng ở tạp chí có bình duyệt hay không.