Magazine High tech

Un réseau neuronal apprend à reconnaître les criminels par leurs visages

Publié le 25 novembre 2016 par _nicolas @BranchezVous

Minority Report

Un réseau neuronal apprend à reconnaître les criminels par leurs visages

De récents efforts visant à identifier des criminels selon leurs caractéristiques faciales soulèvent d'importantes questions éthiques sur l'utilisation de l'intelligence artificielle.

Vers la fin du 19 e siècle, le criminologue italien Cesare Lombroso a mis au point une théorie voulant que la nature criminelle d'un individu soit une classe héréditaire pouvant être distinguée par l'apparence physique. Lombroso était convaincu qu'il était possible d'identifier les personnes à risque de délinquance par la présence de traits semblables à des singes, comme la forme du crâne, le front incliné, des oreilles de taille inhabituelle, et diverses asymétries du visage.

Cette théorie a par la suite été discréditée de manière virulente par le criminologue anglais Charles Goring, après que celui-ci ait analysé statistiquement les données liées aux anomalies physiques auprès de criminels et de non-criminels. Il conclut que la méthode de Lombroso ne pouvait expliquer la criminalité que très marginalement, et que les différences statistiques des deux catégories d'individus étaient insignifiantes.

Ce débat ressurgit à nouveau dans la communauté scientifique cette semaine, alors que des chercheurs de l'Université Jiao-Tong de Shanghai ont déposé une étude s'appuyant sur cette même théorie. Les chercheurs Xiaolin Wu et Xi Zhang ont ainsi mis au point un réseau neuronal conçu pour analyser "la courbure des lèvres, la distance du coin interne de l'œil, et ce que l'on surnomme l'angle du nez et de la bouche" de visages afin d'identifier la nature criminelle d'une personne.

L'algorithme a été en mesure de reconnaître avec succès des criminels 89% du temps, simplement en évaluant leurs yeux, nez et bouches sur un ensemble de photos d'identité.

Intitulée Automated Inference on Criminality using Face Images, l'étude en question, qui doit toujours être évaluée par des pairs, décrit comment l'équipe a entraîné un algorithme à analyser une collection de photos d'identité d'hommes âgés de 18 à 55 ans.

Une banque de 1 856 photos d'hommes, dont la moitié était des criminels ayant été condamnés ou des suspects recherchés par le ministère de la sécurité publique, a ainsi été employée dans le cadre de cette expérience. Tous les portraits présentaient des hommes bien rasés, avec aucun signe distinctif, et sans expression faciale particulière (visage neutre).

Après avoir été alimenté de 90% de ces images (avec, pour chaque photo, l'information concernant la nature criminelle de la personne concernée), l'algorithme a ensuite tenté d'évaluer le reste des images - 186 photos - pour identifier qui en étaient les criminels. Selon les chercheurs, leur système a été en mesure de reconnaître avec succès les criminels du lot 89% du temps, simplement en évaluant leurs yeux, nez et bouches.

"Ces résultats très cohérents sont la preuve de la validité de l'inférence automatisée induite par le visage sur la criminalité, en dépit de la controverse historique entourant le sujet", affirment Wu et Zhang.

Ils ont tracé la variance des données de visages criminels et non-criminels dans un espace à paramètre simplifié. La nécessité de ce processus expliquerait pourquoi les différences physiques ont toujours été si difficiles à observer.

Selon leurs analyses, alors que l'ensemble des données est concentrique, les données des visages de criminels démontrent une variance beaucoup plus importante. "En d'autres mots, les visages du public respectant la loi partagent une plus grande ressemblance entre eux que les visages de criminels, ou les criminels ont un degré plus élevé de différence dans l'apparence de leur visage que les gens normaux."

Cette observation peut aussi expliquer pourquoi certains types de tests statistiques ne permettent pas de distinguer ces catégories de personnes. Lorsque Wu et Zhang combinent les visages de criminels et de non-criminels pour créer un visage moyen par catégorie, les deux semblent identiques.

Selon MIT Technology Review, le résultat de cette étude, bien qu'inquiétant, n'est pas tout à fait inattendu. En 2011, des psychologues de l'Université Cornell sont parvenus à assembler un groupe de personnes ayant la capacité de repérer efficacement des criminels en voyant leur visage dans un groupe de photos d'individus mixtes.

Une nouvelle ère d'anthropométrie

L'avancement technologique liée à l'intelligence artificielle annonce une nouvelle ère d'anthropométrie, qu'elle soit du domaine judiciaire ou autre.

Au début du mois, des chercheurs américains ont révélé comment ils avaient entraîné un système à apprentissage profond pour juger si une personne était digne de confiance simplement en analysant la photo de son visage. Plus les machines deviendront performante, plus on pourra les exploiter afin de tirer des conclusions sur notre comportement, nos mouvements, etc.

"L'utilisation d'un système comme celui-ci, basé sur l'apparence plutôt que sur le comportement, pourrait conduire à une politique axée sur l'eugénisme."

Sans surprise, les travaux de Wu et Zhang ont été rapidement contestés dans les médias suite à leur publication.

"C'est un exemple de recherche dirigée par des statistiques sans aucun fondement théorique", a affirmé Prof McVie, directrice du centre de recherche Applied Quantitative Methods Network, à la BBC. "Quelle serait la raison pour laquelle le visage de quelqu'un le mènerait à devenir criminel ou non? Il n'y a aucune raison théorique permettant d'expliquer comment l'apparence de quelqu'un ferait de cette personne un criminel."

McVie s'inquiète également d'imaginer qu'un tel algorithme puisse être utilisé pour discriminer des citoyens, par exemple à l'aéroport, aux frontières, ou même pour obtenir un emploi.

"L'utilisation d'un système comme celui-ci, basé sur l'apparence plutôt que sur le comportement, pourrait conduire à une politique axée sur l'eugénisme", ajoute-t-elle.

Interrogé sur le sujet par The Telegraph, Richard Tynan, technologue chez Privacy International a souligné que cette étude partageait les mêmes fondements que la théorie discréditée de Lombroso.

"En fait, le problème est beaucoup plus profond, car il peut être impossible de savoir pourquoi une machine a tiré certaines conclusions à votre sujet", croit-il. "Cela démontre les corrélations arbitraires et absurdes que les algorithmes, l'intelligence artificielle et l'apprentissage machine peuvent trouver dans des ensembles de données minuscules. Ce n'est pas la faute de ces technologies, mais plutôt une preuve des dangers d'appliquer des systèmes complexes dans des contextes inappropriés."


Vous pourriez être intéressé par :

Retour à La Une de Logo Paperblog

Ces articles peuvent vous intéresser :

A propos de l’auteur


_nicolas 159485 partages Voir son profil
Voir son blog

l'auteur n'a pas encore renseigné son compte

Magazine